Meta e Qualcomm, due giganti del settore tecnologico, hanno unito le forze per ottimizzare l’esecuzione dei modelli di linguaggio di grandi dimensioni Llama 2 direttamente sui dispositivi, riducendo la dipendenza dai servizi cloud. Questa innovazione permette di eseguire modelli di intelligenza artificiale generativa come Llama 2 su smartphone, PC, visori VR/AR e veicoli, offrendo agli utenti esperienze più private, affidabili e personalizzate, e allo stesso tempo risparmiando sui costi del cloud.
Un futuro tecnologico promettente grazie all’intelligenza artificiale di Llama 2
L’intelligenza artificiale on-device può funzionare perfettamente anche in modalità aereo. Questa partnership mira a rendere disponibili implementazioni di IA basate su Llama 2, permettendo agli sviluppatori di creare applicazioni innovative di intelligenza artificiale. Clienti, partner e sviluppatori potranno sfruttare il potere di queste esperienze di IA per costruire assistenti virtuali intelligenti, strumenti di produttività, piattaforme di creazione di contenuti e applicazioni di intrattenimento.
Durga Malladi, vicepresidente senior e direttore generale della tecnologia, pianificazione e soluzioni edge presso Qualcomm Technologies, ha espresso il suo sostegno all’approccio di Meta all’IA aperta e responsabile. Malladi ha sottolineato l’impegno dell’azienda a guidare l’innovazione e a facilitare lo sviluppo dell’IA per sviluppatori di tutte le dimensioni, prevedendo che l’IA generativa funzionerà senza problemi sia sul cloud che sui dispositivi edge come smartphone, laptop, veicoli e dispositivi IoT.
La collaborazione tra Meta e Qualcomm Technologies si basa su una lunga storia di innovazione tecnologica per offrire esperienze di dispositivi premium. Questa partnership include sforzi congiunti di ricerca e ingegneria del prodotto volti a sostenere l’ecosistema Llama. La leadership di Qualcomm Technologies nell’IA on-device la posiziona in modo unico per supportare Llama, data la sua ampia presenza ai margini, alimentando miliardi di smartphone, veicoli, visori XR, occhiali, PC e dispositivi IoT con soluzioni hardware e software di IA leader nel settore.
Previsto per essere disponibile a partire dal 2024, Qualcomm Technologies prevede di offrire implementazioni di IA basate su Llama 2 su dispositivi alimentati da Snapdragon. Gli sviluppatori possono iniziare oggi ottimizzando le loro applicazioni per l’IA on-device utilizzando il Qualcomm AI Stack, un set dedicato di strumenti che consente un elaborazione dell’IA più efficiente su Snapdragon. Questa tecnologia rivoluzionaria rende possibile l’IA on-device anche in dispositivi piccoli, sottili e leggeri.
