Come si deve comportare un’AI: ora anche OpenAI ha le sue leggi della robotica

OpenAI ha pubblicato una bozza di un documento, intitolato “Model Spec”, che definisce i principi che l’azienda ritiene un modello di intelligenza artificiale dovrebbe seguire, in modo simile a quanto la concorrente Anthropic fa con quella che chiama una “costituzione”.

Questi principi ricordano vagamente le leggi della robotica di Isaac Asimov, che avevano l’obiettivo di tenere sotto controllo dei robot autonomi con la capacità di creare del male agli esseri umani.

I principi si dividono in tre componenti:

• Gli obiettivi, ad esempio assicurarsi che i modelli aiutino le persone e siano di beneficio per l’umanità.
• Le regole, cioè che i modelli rispettino la catena di comando, la legge e la privacy.
• I comportamenti di base, ad esempio chiedere maggiori informazioni se necessario, assumere le migliori intenzioni, mostrarsi incerti quando necessario.

Queste regole saranno usate da OpenAI durante il processo di allineamento dei modelli, che consiste nella raccolta di feedback umano per guidare le risposte dei modelli.

VentureBeat OpenAI