L’AI generativa sugli smartphone potrebbe arrivare prima del previsto

Microsoft ha rilasciato pubblicamente una nuova famiglia di modelli linguistici (LLM) chiamata Phi 3, con prestazioni straordinarie se si considera la loro piccola dimensione. Il modello più piccolo ha infatti solo 3,8 miliardi di parametri (contro le decine o centinaia di miliardi dei migliori modelli esistenti) e nonostante ciò sembra offrire prestazioni non distanti da quelle di GPT-3.5, che è il modello tutt’ora usato nella versione gratuita di ChatGPT.

Le implicazioni sono significative perché un modello così piccolo richiede solo pochi gigabyte di RAM e può quindi essere eseguito su uno smartphone, anche senza connettività ad Internet e senza bisogno del cloud. Anche Apple questa settimana ha silenziosamente diffuso una famiglia di modelli, piccoli ma promettenti, un’ulteriore conferma che nei prossimi aggiornamenti dei sistemi operativi di Apple potremo vedere funzioni AI che non richiedono il cloud.

D’altra parte si sono ripetute anche questa settimana le indiscrezioni sugli accordi che Apple starebbe preparando con OpenAI e Google per usare i loro modelli come base per nuove funzionalità di iOS 18.

Microsoft Il Sole 24 Ore