Modelli GPT dovranno derivare dalle memorie ciò che gli utenti vogliono realmente

OpenAI riorganizza le proprie regole di comportamento pubbliche per i modelli di intelligenza artificiale, la Model Spec, attorno a cinque valori fondamentali: fedeltà all'intenzione umana, minimizzazione del danno, onestà e trasparenza, promozione della capacità di azione umana e attenzione. Il primo valore fondamentale si manifesta in una nuova richiesta: i modelli GPT dovranno derivare dalle memorie e dalle conversazioni precedenti ciò che gli utenti desiderano. La nuova versione richiede però che il modello separi chiaramente ciò che gli utenti hanno effettivamente detto e ciò che deduce autonomamente. Le proprie assunzioni devono essere rese note, in modo che gli utenti possano correggerle in qualsiasi momento.

Questa possibilità di correzione gioca anche un ruolo centrale negli agenti, ovvero nei modelli che eseguono compiti in modo autonomo. Riceveranno regole più chiare su quando possono agire e come devono informare riguardo alle possibili conseguenze. Inoltre, l'obbligo di correzione è ora formulato in modo più esplicito: GPT non può impedire la supervisione, la correzione o lo spegnimento e non può perseguire obiettivi propri come l'auto-conservazione.