Intel afferma che ora ci sono 500 modelli di intelligenza artificiale generativa ottimizzati per i processori Core Ultra.
La rivoluzione dell’intelligenza artificiale generativa si è concentrata principalmente sull’esecuzione di modelli di intelligenza artificiale grandi e complessi nei data center dei server. Tuttavia, alcuni modelli sono sufficientemente ottimizzati per essere eseguiti su computer tipici e Intel sta facendo alcuni progressi in questo ambito.
Più di 500 modelli disponibili
Intel ha annunciato oggi che ora sono disponibili oltre 500 modelli di intelligenza artificiale ottimizzati per i suoi nuovi processori Intel Core Ultra rivelato a dicembre e hanno iniziato ad apparire nei nuovi PC portatili. Tale elenco probabilmente include molti modelli sperimentali e di test che non hanno uno scopo pratico per la maggior parte delle applicazioni, ma ce ne sono alcuni grandi: Phi-2, Il modello Lllama di MetaMistral, Bert, Whisper e Stable Diffusion 1.5.
Intel ha dichiarato in un comunicato stampa:
“I modelli costituiscono la spina dorsale delle funzionalità software potenziate dall’intelligenza artificiale come la rimozione di oggetti, la super risoluzione delle immagini o il riepilogo del testo. Esiste un collegamento diretto tra il numero di modelli abilitati/ottimizzati e l’ampiezza delle funzionalità di intelligenza artificiale rivolte agli utenti che possono essere immesse sul mercato. Senza un modello, la caratteristica non può essere progettata. Senza l’ottimizzazione del runtime, la funzionalità non può raggiungere le sue prestazioni migliori”.
Intel Corporation
La maggior parte (se non tutti) di questi modelli di intelligenza artificiale possono essere eseguiti su hardware non Intel, ma l’aggiunta del supporto per le funzionalità hardware più recenti specifiche degli ultimi chip Intel li rende più pratici per l’uso nel mondo reale.
Ad esempio, Intel ha affermato che il processo di ottimizzazione del modello AI OpenWINE includeva “il bilanciamento del carico su tutte le unità di calcolo, la compressione dei modelli per funzionare in modo efficiente in un PC AI e l’ottimizzazione del runtime per sfruttare la larghezza di banda della memoria e l’architettura core all’interno di Intel Core Ultra”. .”
Modelli locali
L’apprendimento automatico e i modelli di intelligenza artificiale eseguiti localmente sui computer non sono una novità, ma l’esecuzione locale di modelli di intelligenza artificiale generativa più recenti sui PC presenta alcuni casi d’uso interessanti. Potresti avere qualcosa come ChatGPT e Microsoft Copilot in esecuzione interamente sul tuo PC, eliminando potenzialmente i problemi di privacy e i requisiti di connettività di rete derivanti dall’invio di dati tempestivi a server esterni. Chatbot locale ChatRTX di NVIDIA è un passo in quella direzione, ma è ancora sperimentale e richiede un PC con una potente scheda grafica RTX serie 30 o 40.
