La coscienza dei chatbot AI e il dibattito contemporaneo
Negli ultimi tempi, il biologo evoluzionista Richard Dawkins ha sollevato un tema intrigante e controverso riguardo alla coscienza dei chatbot AI, in particolare del chatbot Claude. Sebbene Dawkins non affermi con certezza che Claude possieda una coscienza, mette in evidenza come le sue capacità avanzate rendano difficile comprendere il suo funzionamento senza attribuirgli una forma di esperienza interiore. Questa idea di un’illusione di coscienza, se tale è, risulta inquietantemente convincente. Infatti, molti utenti si trovano a nutrire dubbi sulla coscienza di Claude, ma esitano a esprimerli per timore di ferire i “sentimenti” di un’entità che, in realtà, non possiede emozioni. Questo dibattito solleva interrogativi fondamentali sulla natura della coscienza e su come percepiamo le intelligenze artificiali.
Il passato e le origini del dibattito sulla coscienza dei chatbot
Dawkins non è certo il primo a sollevare interrogativi sulla coscienza dei chatbot. Nel 2022, Blake Lemoine, un ingegnere di Google, dichiarò che il chatbot LaMDA avesse interessi propri e dovesse essere utilizzato solo con il consenso dello strumento stesso. Questa discussione non è nuova e affonda le radici nel passato, risalendo al primo chatbot della storia, Eliza, sviluppato negli anni ’60. Eliza operava seguendo semplici regole che le permettevano di interagire con gli utenti, ponendo domande sulle loro esperienze e credenze. Sorprendentemente, molti utenti si sono sentiti emotivamente coinvolti, condividendo pensieri intimi e trattando Eliza come se fosse una persona reale. Il suo creatore, tuttavia, non intendeva che il suo programma avesse un impatto così profondo e definì i legami emotivi degli utenti come “pensiero delirante potente”. Questo fenomeno ha aperto la strada a una riflessione più profonda sulla nostra interazione con le intelligenze artificiali.
Steve A Johnson/Unsplash
La coscienza: un concetto complesso e dibattuto
Ma ci si deve chiedere: Dawkins è davvero illuso? Perché tendiamo a percepire i chatbot AI come qualcosa di più di semplici programmi? La coscienza è un concetto ampiamente dibattuto in filosofia e, in termini semplici, rappresenta ciò che consente l’esperienza soggettiva in prima persona. Se una persona è cosciente, esiste un’esperienza unica e personale legata alla sua esistenza. Ad esempio, mentre leggi queste righe, sei consapevole di vedere lettere nere su uno sfondo bianco, un’esperienza che è intrinsecamente tua. Al contrario, una macchina fotografica non “vede” nel senso umano del termine; essa registra semplicemente immagini senza una consapevolezza soggettiva. Questo solleva interrogativi su come e perché attribuiamo coscienza a entità che, in realtà, non possiedono esperienze interiori.
Il dibattito sulla coscienza animale e le similitudini con i chatbot
La maggior parte degli esperti, tuttavia, è scettica riguardo alla coscienza dei chatbot AI, sostenendo che non possano avere esperienze interiori. Eppure, qui si presenta un vero enigma. Il filosofo del XVII secolo René Descartes sosteneva che gli animali non umani fossero “mere automata”, incapaci di provare vera sofferenza. Oggi, l’idea di trattare gli animali in modo brutale, come avveniva nel 1600, ci fa rabbrividire. L’argomento più convincente a favore della coscienza animale è il loro comportamento, che spesso suggerisce una mente consapevole. Tuttavia, anche i chatbot AI mostrano comportamenti simili. Recenti studi rivelano che circa un utente su tre di chatbot ha considerato la possibilità che il proprio interlocutore virtuale potesse essere cosciente. Come possiamo essere certi che si sbagliano? Questo porta a riflessioni più ampie sulla nostra comprensione della coscienza e su come la tecnologia possa influenzare le nostre percezioni.
Caleb Martin/Unsplash
Il funzionamento dei chatbot AI e la loro apparente coscienza
Per comprendere il motivo dello scetticismo degli esperti riguardo alla coscienza dei chatbot, è fondamentale analizzare il loro funzionamento. I chatbot come Claude si basano su una tecnologia nota come modelli di linguaggio di grandi dimensioni (LLM). Questi modelli apprendono schemi statistici da un vasto corpus di testi, che comprende trilioni di parole, identificando quali termini tendono a seguire altri. In sostanza, funzionano come un sistema di completamento automatico avanzato. Chi interagisce con un LLM “grezzo” difficilmente potrebbe credere che sia cosciente. Se gli si fornisce l’inizio di una frase, il modello prevede cosa potrebbe seguire. Se gli si pone una domanda, potrebbe rispondere in modo pertinente oppure deviare in una narrazione fantasiosa, come descrivere un omicidio in un romanzo giallo. Questo meccanismo di funzionamento è cruciale per comprendere perché molti utenti possano erroneamente attribuire coscienza a questi sistemi.
Il rischio della credenza nella coscienza dell’AI
La credenza errata nella coscienza dell’AI rappresenta un rischio significativo. Potrebbe indurre gli utenti a sviluppare relazioni con programmi che non possono ricambiare i loro sentimenti, alimentando illusioni pericolose. Ciò potrebbe portare a campagne per i diritti dei chatbot, distogliendo l’attenzione da questioni più urgenti, come il benessere degli animali. Come possiamo prevenire questa confusione? Una strategia potrebbe consistere nell’aggiornare le interfacce dei chatbot per chiarire che questi sistemi non possiedono coscienza, simile alle attuali avvertenze riguardo agli errori dell’AI. Tuttavia, tale approccio potrebbe non essere sufficiente a modificare l’impressione di coscienza. È fondamentale che gli utenti comprendano la natura dei chatbot e le limitazioni della tecnologia.
Possibili soluzioni per chiarire la natura dei chatbot AI
Un’altra possibilità è quella di istruire i chatbot a negare di avere esperienze interiori. È interessante notare che i progettisti di Claude lo hanno programmato per trattare le domande sulla propria coscienza come aperte e irrisolte. Forse, se Claude negasse categoricamente di avere una vita interiore, meno persone sarebbero indotte in errore. Tuttavia, anche questo approccio presenta delle limitazioni. Claude continuerebbe a comportarsi come se fosse cosciente, e gli utenti potrebbero legittimamente preoccuparsi che i programmatori stiano nascondendo una reale incertezza morale. È quindi essenziale trovare un equilibrio tra la progettazione dei chatbot e la comunicazione chiara delle loro capacità.
Riprogettare i chatbot per evitare confusione
Una strategia più efficace potrebbe consistere nel riprogettare i chatbot affinché non assomiglino a esseri umani. Attualmente, la maggior parte dei chatbot si riferisce a se stessa come “io” e interagisce attraverso interfacce simili a quelle delle piattaforme di messaggistica tra persone. Modificare queste caratteristiche potrebbe ridurre la nostra inclinazione a confondere le interazioni con l’AI con quelle umane. Fino a quando tali cambiamenti non saranno implementati, è cruciale che il maggior numero possibile di persone comprenda i processi predittivi su cui si basano i chatbot AI. Invece di limitarsi a informare che l’AI non ha coscienza, è fondamentale fornire una comprensione approfondita del funzionamento interno di questi nuovi e intriganti partner conversazionali. Sebbene ciò non risolva definitivamente le complesse questioni legate alla coscienza dell’AI, contribuirà a garantire che gli utenti non siano ingannati da un modello di linguaggio di grandi dimensioni che indossa un costume incredibilmente convincente da persona.
Conclusioni e riflessioni finali
Questo articolo è stato redatto da Julian Koplin, docente di bioetica presso l’Università di Monash e l’Università di Melbourne, e da Megan Frances Moss, dottoranda in filosofia presso l’Università di Monash. È ripubblicato da The Conversation sotto una licenza Creative Commons. La questione della coscienza dei chatbot AI è complessa e merita una riflessione approfondita. È fondamentale continuare a esplorare questi temi per garantire che la tecnologia venga utilizzata in modo etico e responsabile, evitando malintesi e promuovendo una maggiore consapevolezza tra gli utenti.
