La seconda scissione di OpenAI: nasce Safe Superintelligence

Ilya Sutskever ha già fondato una nuova azienda, un mese dopo aver lasciato il ruolo di direttore scientifico a OpenAI. Si dice che il motivo stia nei disaccordi con i dirigenti di OpenAI che tendono a dare priorità alla messa in commercio di prodotti piuttosto che alla sicurezza dei modelli di intelligenza artificiale.

La nuova azienda si chiama Safe Superintelligence (SSI) e il nome dice già tutto: si focalizzerà sulla creazione di intelligenze artificiali mettendo al primo posto la sicurezza e l’allineamento con i valori e gli obiettivi degli esseri umani, pur restando una società “for profit”.

Nel 2021 c’era stata un’altra scissione di OpenAI, e per lo stesso motivo: in quel caso il capo della ricerca Dario Amodei aveva lasciato il ruolo per fondare Anthropic, che oggi è forse il principale competitor di OpenAI. In Anthropic l’incarnazione dell’attenzione alla sicurezza è stata una tecnica chiamata Constitutional AI, cioè una specie di costituzione che i modelli dovrebbero auspicabilmente rispettare.

Startmag