Anthropic ha fatto degli importanti passi avanti nel capire cosa c’è dentro una rete neurale generativa

Negli ultimi due anni si è consolidata la locuzione “AI generativa” per riferirsi ai nuovi modelli che alimentano strumenti come ChatGPT. Alla base di tutto c’è comunque sempre una struttura complessa, la rete neurale, costituita da un insieme di (miliardi di) “neuroni” collegati tra loro. Questa struttura funziona estremamente bene ma non si sa esattamente perché: le reti neurali sono quasi sempre trattate come delle scatole nere, indecifrabili dagli umani.

Anthropic ha pubblicato dei nuovi risultati di ricerca in cui è riuscita ad associare alcuni specifici insiemi di “neuroni” a dei concetti ben precisi: ad esempio ha scoperto che alterando alcuni pesi si riesce a rendere un chatbot fissato con un concetto.

Da pochi giorni Anthropic ha reso pubblico un chatbot chiamato Golden Gate che ha una tendenza ad inserire il famoso ponte di San Francisco in qualsiasi conversazione. È un esperimento senza uno scopo concreto (anche se genera risposte esilaranti), se non dimostrare che la comprensione dei modelli linguistici si sta forse facendo più concreta.

Anthropic Wired.com DDay