Niccolò De Rosa ha analizzato un’anomalia emersa dai protocolli profondi di OpenAI: l’azienda di Sam Altman ha imposto a GPT-5.5 un divieto quasi categorico di menzionare goblin, orchi e piccioni. La restrizione non è un suggerimento di stile, ma una direttiva inserita nel “system prompt“, il codice sorgente che determina il perimetro comportamentale del modello prima ancora che l’utente inizi a digitare. L’istruzione è stata scovata da alcuni programmatori all’interno di Codex CLI. Il comando è perentorio: l’intelligenza artificiale non deve parlare di queste creature a meno che non siano “assolutamente e inequivocabilmente” pertinenti alla domanda. Su GitHub, la stringa ha sollevato interrogativi sulla natura di questo bando, apparentemente privo di senso logico per un sistema logico-statistico. Non si tratta di una precauzione etica o di sicurezza legata a contenuti sensibili. Il sospetto dei ricercatori, tra cui Barron Roth di Google, è che il modello abbia sviluppato una sorta di “tic linguistico”. Utilizzando strumenti come OpenClaw, che permette all’IA di interagire con il sistema operativo del computer, GPT-5.5 tenderebbe a definire bug ed errori tecnici usando termini gergali come “goblin” o “gremlin”.
Enkk, ricercatore e divulgatore informatico, ha confermato che la mossa di OpenAI serve a correggere una fissazione statistica. Essendo i Large Language Model dei predittori di parole, a volte restano intrappolati in loop concettuali dove certi termini assumono una probabilità di uscita ingiustificata. L’intervento umano è stato necessario per “potare” questo ramo del linguaggio che rischiava di rendere i resoconti tecnici delle bizzarre cronache fantasy. In pratica, gli sviluppatori hanno dovuto mettere dei paletti creativi per evitare che un software da miliardi di dollari si comportasse come un utente ossessionato dai volatili urbani e dalle creature del folklore durante la stesura di una mail di lavoro.
Fonte: https://github.com/openai/codex/blob/main/codex-rs/models-manager/models.json#L55
