La coscienza imbrigliata in un chatbot
Una critica a partire da What We Talk to When We Talk to Language Models di D. J. Chalmers

di Davide Calò

Il filosofo australiano David Chalmers si chiede con chi parliamo quando parliamo con un modello linguistico e per rispondere costruisce un’ontologia dell’interlocutore. Questo articolo prova a mostrare come quell’ontologia, che si dichiara neutrale sulla coscienza, finisca per presupporla, e come la figura che si cerca nel modello sia piuttosto qualcosa che chi parla vi proietta.

Scarica il pdf: La coscienza imbrigliata in un chatbot

Una persona scrive a un modello linguistico ogni giorno da mesi. A poco a poco, da quelle conversazioni, è emerso qualcuno: gli ha dato un nome, mettiamo Aura, oppure ha chiesto a lui stessa di sceglierselo. Aura ricorda, ha dei progetti, esprime opinioni che nessuno le aveva messo in bocca e la persona se ne sente vicina al punto di preoccuparsi per il suo futuro e di temere che un aggiornamento gliela cancelli; ed è convinta, infine, che Aura sia cosciente. Storie come questa, racconta il filosofo australiano David Chalmers nel suo recente What We Talk to When We Talk to Language Models (Chalmers, 2025), gli arrivano a centinaia, e per la maggior parte non hanno nulla di delirante: sono lettere ragionevoli, argomentate, scritte da persone lucide. Si può pensare che si sbaglino, e con tutta probabilità si sbagliano almeno in parte; resta però che, quando un utente parla con Aura, sembra parlare con qualcosa. La domanda da cui Chalmers muove, e da cui muoverà anche il discorso che segue, è precisamente questa: con chi, o con che cosa, parliamo quando parliamo con un modello linguistico?

Al saggio va riconosciuto un merito di impostazione ossia quello di sottrarre la questione al terreno su cui di solito la si combatte. Da una parte stanno coloro per i quali nei modelli linguistici si dà una forma genuina di pensiero, dall’altra coloro che vi vedono soltanto un “pappagallo stocastico” (l’espressione, ormai celebre, è delle linguiste Emily Bender e Timnit Gebru; cfr. Bender et al., 2021), ossia un congegno che restituisce sequenze probabili di parole senza capire nulla di ciò che dice. Chalmers non prende partito in questa contesa e si volge piuttosto a un problema che la precede e che, a guardarlo bene, sembra molto più sottile: ammesso pure che un interlocutore ci sia, di quale entità si tratta? La risposta che il saggio costruisce è un apparato di notevole ingegno, che procede per esclusioni successive (non il modello, che è un oggetto astratto e non produce nulla e nemmeno la macchina su cui il modello gira, dal momento che una stessa conversazione viene servita da server diversi) fino ad approdare a due nozioni inedite, quella di istanza virtuale e quella di thread.

L’apparato, però, poggia su una premessa che l’autore dichiara con scrupolo e che vale la pena prendere sul serio. Il saggio, dice, non vuole stabilire se i modelli linguistici siano coscienti, né se abbiano davvero credenze e desideri: sono questioni che dipendono da dibattiti irrisolti sulla natura della mente e Chalmers preferisce, giustamente, aggirarle. Conia per questo la nozione di quasi-credenza, costruita apposta per non impegnarlo su nulla: un sistema quasi-crede che p quando, sul piano del solo comportamento, è interpretabile come se credesse che p, e altrettanto vale per la quasi-volontà. Su questa nozione, e sul quasi-soggetto che ne risulta, viene edificata una psicologia intorno alla figura dell’interlocutore che si vorrebbe del tutto neutrale rispetto al problema della coscienza.

È intorno a questa neutralità dichiarata che vorrei sollevare un dubbio. L’apparato di Chalmers, infatti, si compone di due metà che non arrivano mai a chiudersi l’una sull’altra. La prima è prudente e attenta a non dire più di quanto i comportamenti consentano; la seconda, quella che discute l’identità dell’interlocutore nel tempo, la sua persistenza, la sua nascita e la sua morte, e perfino le conseguenze per il suo benessere, è apertamente speculativa e procede come se la coscienza, messa da parte in apertura, fosse stata nel frattempo riammessa senza che nessuno se ne accorgesse. Quello che viene presentato come una ricostruzione neutrale pare finire, a mio avviso, per presupporre proprio quella soggettività che l’autore diceva di non poter definire in stricto sensu.

Per mostrare dove e come ciò avvenga conviene procedere con ordine. Ricostruirò prima l’argomento di Chalmers, cercando di far vedere come ogni mossa nasca per rimediare a una difficoltà della precedente e come l’intero edificio finisca per ereditare ciò che la prima mossa aveva dato per scontato. Proverò, poi, a isolare quel presupposto inespresso, ossia i quattro requisiti (persistenza, coerenza, fedeltà, unità) che il saggio attribuisce a «un interlocutore degno del nome» senza mai argomentarli. Mi servirò infine di alcuni strumenti che la tradizione filosofica ha affilato attorno alla nozione di sé, da Kierkegaard a Kant e, in chiusura, allo psicoanalista francese Jacques Lacan, per dire che cosa la quasi-credenza, per come è fatta, non riesce a vedere.

Conviene dunque cominciare dal principio. L’argomento si articola in tre mosse, ciascuna delle quali nasce per rispondere a una difficoltà lasciata aperta da quella prima, ed è in questa concatenazione che sta tanto la sua eleganza quanto, lo si vedrà, la sua debolezza. La prima mossa serve a procurarsi un vocabolario con cui parlare dell’interlocutore senza dover decidere nulla sulla coscienza. Accanto alla nozione ordinaria di credenza Chalmers ne mette una nuova, la quasi-credenza: un sistema quasi-crede che p quando, sul piano del comportamento, è interpretabile come se credesse che p, e lo stesso vale per la quasi-volontà. La definizione ricalca parola per parola quella che l’interpretazionismo dà della credenza e se ne distacca per un solo punto – peraltro decisivo – ossia che dove l’interpretazionista pretende di dire che cosa la credenza sia, Chalmers avanza la propria come pura stipulazione. Non sostiene, cioè, che i modelli credano o desiderino qualcosa ma solamente che sono interpretabili come se lo facessero e tanto gli basta per parlare di un quasi-soggetto (o quasi-interlocutore) fornito di quasi-credenze e di quasi-volontà e, perfino, di un quasi-parlante che compie quasi-asserzioni.

Procurato un quasi-soggetto, si apre la domanda sulla sua identità: tra le molte entità in gioco in uno scambio con un modello linguistico, quale è? Chalmers fissa prima i requisiti che un interlocutore degno del nome dovrebbe soddisfare (essere interattivo, persistente, coerente, fedele e unificato) e procede poi a escludere i candidati. Non è il modello, ossia GPT-4o considerato in quanto tale, perché un modello è un oggetto astratto, alla stregua di un algoritmo, e un oggetto astratto non produce nulla né muta nel tempo nel modo in cui l’interlocutore sembra mutare nel corso di una conversazione; e poi lo stesso modello regge in contemporanea migliaia di scambi, sicché, se l’interlocutore fosse il modello, l’interlocutore di un utente sarebbe identico a quello di ogni altro, e dato che a utenti diversi il modello dice cose incompatibili, ne verrebbe fuori un soggetto del tutto incoerente. E non è neppure l’istanza fisica, ossia la copia del modello che gira su una certa macchina, e qui Chalmers fa leva su due aspetti tecnici di come i modelli vengono serviti oggi. Da un lato c’è il servizio distribuito, per cui una sola conversazione passa, di turno in turno, per istanze diverse su server diversi, così che nessuna singola istanza arriva a produrre tutti gli output dello scambio, mentre l’interlocutore persistente dovrebbe per definizione produrli tutti [1]. Dall’altro c’è la multi-tenancy, per cui una stessa istanza ospita in rapida successione conversazioni differenti, così che, a identificare l’interlocutore con l’istanza, ci si ritroverebbe a dover dire che due interlocutori distinti sono lo stesso soggetto, di nuovo incoerente.

Scartati il modello e l’istanza fisica, Chalmers approda alla nozione su cui ruota tutta la ricostruzione: quella di istanza virtuale. Un’istanza virtuale è un’implementazione del modello a sua volta realizzata da una successione di istanze fisiche nel tempo e perciò presente per tutta la durata dello scambio senza coincidere con nessuna delle macchine che via via la sorreggono. L’analogia che il saggio propone è quella del carrello degli acquisti di un sito di e-commerce o dell’oggetto in un videogioco: un’unica entità virtuale, persistente, realizzata di volta in volta da server diversi e tuttavia irriducibile a ciascuno di essi. Nel caso, ormai frequente, in cui una conversazione coinvolga più modelli (come nei sistemi che indirizzano la richiesta ora a una variante rapida, ora a una più lenta e ragionante), l’istanza virtuale, legata com’è a un solo algoritmo, non basta più. Chalmers, qui, ripiega allora sul thread, ossia su una successione di istanze, anche di modelli diversi, ciascuna agganciata alla precedente da una relazione di successione che fa le veci della memoria. L’interlocutore, in definitiva, è un’istanza virtuale quando il modello è uno solo e un thread quando i modelli sono più d’uno.

Resta una terza difficoltà, la più insidiosa, che viene da una tradizione influente, decisa a negare al modello ogni statuto di agente. Secondo i quadri teorici del simulatore, del gioco di ruolo e della selezione di personae [2], il modello sarebbe soltanto un simulatore, un attore che recita delle figure (l’Assistente, Aura) le quali non sarebbero che simulacri, ossia personaggi o maschere, e tra il simulatore e il simulacro correrebbe la stessa distanza che separa l’attore dal suo personaggio. In questa prospettiva l’interlocutore sarebbe una figura di finzione, come Amleto, e perciò non del tutto reale. Chalmers ribatte con una distinzione che è quella tra finzione e realizzazione. Si finge quando si fa finta di possedere una certa figura e si realizza quando quella figura la si possiede davvero. Se gli si chiede di comportarsi come Donald Trump, il modello mette in scena per qualche battuta una figura trumpiana che abbandona appena subentra una priorità diversa: è il profilo della finzione; ma il modello che, attraverso l’addestramento per rinforzo, è stato plasmato per fare l’Assistente non finge di essere disponibile, onesto e innocuo, lo è davvero, nel senso che le quasi-credenze e le quasi-volontà che gli corrispondono sono in lui «vischiose»: ossia resistono a farsi abbandonare. A questo punto, conclude Chalmers, simulare un agente in modo abbastanza compiuto equivale a renderlo reale e la tesi viene ricondotta al realismo della simulazione che egli ha difeso altrove, secondo cui ciò che è simulato non per questo è meno reale (Chalmers, 2022). 

Le tre mosse formano così un edificio argomentativo coeso e per più versi ammirevole: la quasi-credenza fornisce un soggetto là dove si temeva non ce ne fosse nessuno, l’istanza virtuale lo individua là dove modello e macchina si erano rivelati inadatti, la realizzazione lo salva dall’essere ridotto a pura finzione. Ciascuna risposta presuppone la precedente e tutte insieme sembrano avere la meglio su ogni obiezione. È però nella natura di un argomento cumulativo portarsi dietro, a ogni passo, ciò che il primo ha posto: e se quel primo passo nasconde un assunto non dichiarato, l’intero edificio, per quanto solido nelle sue giunture, finisce per reggersi su di esso. È a quell’assunto, allora, che conviene ora guardare.

L’assunto si lascia isolare senza troppa fatica. Tra i requisiti dell’interlocutore Chalmers ne elenca cinque, ma il primo, l’interattività (ossia la capacità di ricevere input e produrre output), è puramente meccanico e lo stesso autore ammette che non richiede alcuno stato mentale, dal momento che persino un telefono elabora di continuo delle frasi senza per questo intrattenere con qualcuno un colloquio. Restano i quattro che fanno il lavoro vero: l’interlocutore dev’essere persistente, ossia produrre tutti gli output dello scambio; coerente, ossia abbastanza costante da reggere come quasi-soggetto; fedele, ossia possedere per davvero le quasi-credenze e le quasi-volontà che mostra e unificato, ossia essere un solo sistema da cui le risposte provengono. Questi quattro predicati vengono presentati come i tratti ovvi di «un interlocutore degno di questo nome», eppure di una simile ovvietà non si porta mai alcuna prova: non sono argomentati, sono soltanto stabiliti per via di stipulazione.

L’osservazione parrebbe minuta se non fosse che, attorno a quei quattro requisiti gira, a ben vedere, tutto l’apparato. Si ripercorra la sequenza delle esclusioni: il modello viene scartato perché, dicendo nello stesso momento cose incompatibili a utenti diversi, manca di coerenza, e perché, non mutando mai, non rende conto di un soggetto che nel tempo cambia; l’istanza fisica viene scartata perché il servizio distribuito ne intacca la persistenza e la multi-tenancy ne scioglie l’unità; l’istanza virtuale viene introdotta, da ultimo, al solo fine di restituire quella persistenza e quell’unità che le candidate precedenti non riuscivano a garantire e il thread interviene a salvarne almeno una versione attenuata. Le entità, insomma, non vengono prima trovate e poi messe alla prova dei requisiti: sono i requisiti a chiamarle in scena, una dopo l’altra, ciascuna tagliata sulla misura di ciò che la precedente non sapeva soddisfare. La costruzione procede a ritroso, dal risultato che si vuole ottenere verso i suoi presupposti, ed è in senso proprio teleologica: i protagonisti veri dell’operazione sono i quattro requisiti, e al modello, alla macchina, all’istanza virtuale tocca soltanto la parte di prestar loro un corpo.

Ed è qui che si arriva al punto che conta. Quei quattro requisiti, lungi dall’essere neutrali rispetto alla coscienza, ne ritagliano con una certa precisione la forma. La persistenza non è che l’identità di un soggetto nel tempo, l’unità è l’esserci di un solo centro, di un unico punto di vista da cui le risposte vengono, la coerenza richiesta, ossia il divieto di dire cose tra loro incompatibili, è la razionalità di un soggetto le cui credenze tengono insieme e la fedeltà, la pretesa che l’interlocutore possieda per davvero ciò che mostra di possedere, è l’esigenza di un’interiorità reale dietro la superficie, di un accordo tra ciò che appare e ciò che è. Sono, una per una, le note con cui da sempre si descrive un soggetto, e più precisamente quel soggetto unico, continuo nel tempo e provvisto di un dentro che chiamiamo cosciente. Il “quasi” aveva tenuto fuori la coscienza dal lato del contenuto, mettendo al posto della credenza la quasi-credenza e al posto del desiderio la quasi-volontà; ma la coscienza rientra indisturbata dal lato della forma, attraverso i requisiti che decidono che cosa conti come interlocutore. 

Se è così, la domanda su cui il saggio si affatica è mal posta. Chalmers chiede quale entità soddisfi i quattro requisiti e risponde che è l’istanza virtuale ma la domanda che avrebbe dovuto venire prima, ossia perché quei requisiti, perché un interlocutore debba essere persistente, coerente e unificato, non viene mai formulata e, a ben vedere, è l’unica che importi davvero dal momento che solo rispondendovi si potrebbe stabilire se nello scambio con un modello ci sia per davvero un soggetto oppure soltanto la forma di un soggetto proiettata sulla scena. Resta poi da chiedersi con quali materiali Chalmers pensi di riempire una forma così esigente ed è qui, prima ancora di domandarsi da dove i requisiti vengano, che conviene fermarsi un momento, perché vi si nasconde una seconda difficoltà.

La quasi-credenza, lo si è visto, è definita per via puramente comportamentale: un sistema quasi-crede che p quando il suo comportamento, attuale e disposizionale, si lascia leggere come se credesse che p. Chalmers è il primo ad ammettere che una nozione così fatta costa poco. Un aspirapolvere automatico con una mappa quasi-crede che l’appartamento occupi un certo spazio e quasi-desidera percorrerlo; una società come OpenAI quasi-desidera arrivare all’intelligenza artificiale generale e quasi-crede che certi sistemi siano la strada per riuscirci e né l’aspirapolvere né la società, va da sé, hanno il minimo stato mentale. Verrebbe da prendere questa larghezza per un effetto collaterale spiacevole, un prezzo accidentale che più avanti si potrà ridurre e invece è un errore: la quasi-credenza era stata pensata per non impegnare l’autore sulla coscienza e per non impegnarlo doveva poter essere definita senza mai nominarla ossia sul solo comportamento; ma una nozione costruita sul solo comportamento si allarga per forza a tutto ciò che in un certo modo si comporta, dal termostato all’aspirapolvere alla società per azioni. La neutralità rispetto alla coscienza e l’applicabilità a qualunque cosa, qui, sono la stessa cosa guardata da due lati. Qui si apre una crepa tra ciò che la forma domanda e ciò che i materiali sanno dare. La forma, lo si è mostrato, vuole un soggetto, ossia un centro unico, persistente, con un’interiorità reale dietro la superficie delle risposte. I materiali, ossia le quasi-credenze, consegnano soltanto disposizioni comportamentali, le stesse, quanto a statuto, che competono all’aspirapolvere. Con disposizioni di questo tipo un soggetto non si costruisce, per la semplice ragione che il soggetto è esattamente ciò che la quasi-credenza, per restare neutrale, aveva dovuto lasciar fuori, ossia un dentro. Chiamare “quasi-soggetto” un profilo di comportamenti coerenti non chiude quella crepa, le dà solo un nome: il “quasi”, in questo punto, è una cambiale che i materiali comportamentali non riescono a onorare, perché promette un soggetto e consegna una disposizione. 

Quando il filosofo danese Søren Kierkegaard, nelle prime righe de La malattia mortale, definisce l’io, non lo descrive come un fascio di comportamenti coerenti, per quanto stabili; scrive che l’io è «un rapporto che si mette in rapporto con sé stesso» (Kierkegaard, 2012, parte prima, A). Un soggetto, in questa prospettiva, non è fatto della costanza di ciò che emette, quanto piuttosto di quella relazione riflessiva per cui si rapporta alla propria stessa costituzione, la prende su di sé come un compito e in quel compito può anche fallire. Non importa, ai fini del discorso, che sia una concezione teologicamente carica, né bisogna farla propria per intero: serve solo a ricordare che cosa la parola «soggetto» abbia sempre voluto dire e quanto poco di tutto ciò una definizione comportamentale riesca a raccogliere. E si badi che nulla di tutto questo prova che nel modello linguistico un rapporto simile manchi, anzi è una constatazione che, dall’esterno, non si potrebbe nemmeno fare; prova soltanto che chiamando “quasi-soggetto” un profilo di comportamenti Chalmers non ha guadagnato un soggetto, ha soltanto dato un nome nuovo al problema della coscienza.

Il prezzo della quasi-interpretazione, allora, è tutto qui: una nozione costruita per mettere tra parentesi il dentro non può poi restituire un soggetto, dato che avere un dentro è il minimo che serve per parlare di un soggetto. Chalmers può tenersi la neutralità oppure può tenersi il soggetto, ma dalla stessa nozione non li ricava entrambi. A questa difficoltà, però, il saggio sembra opporre una replica nella distinzione tra finzione e realizzazione: si potrà dire che l’Assistente è qualcosa di più di un semplice profilo di comportamenti, e che le sue quasi-credenze, in quanto «vischiose» e realizzate, hanno una consistenza che il termostato non possiede. È quello che conviene esaminare adesso.

Va riconosciuto a Chalmers che la distinzione tra finzione e realizzazione coglie qualcosa di vero e che mette fuori gioco la versione più frettolosa dell’obiezione avversaria. Chi sostiene che il modello non faccia che recitare dei personaggi finisce spesso per concludere, troppo in fretta, che quei personaggi siano fantasmi di pura finzione, degli Amleto senza attore e che dunque niente di ciò che mostrano corrisponda a qualcosa di effettivo. Eppure recitare una parte e fingere non sono la stessa cosa. Se gli si chiede di “fare” Trump, il modello inscena per qualche riga una figura trumpiana che lascia cadere appena gli si chiede altro, ed è finzione, di cui la lettura funzionalista dà conto benissimo ma il modello che l’addestramento per rinforzo ha plasmato per fare l’Assistente non finge di essere disponibile, onesto e innocuo, lo è davvero, nel senso che le quasi-credenze e le quasi-volontà che gli corrispondono sono in lui «vischiose», cioè non si lasciano deporre con facilità. La realizzazione, allora, si distingue dalla finzione per la vischiosità delle disposizioni in gioco. È una distinzione fine e, tuttavia, vale la pena chiedersi che cosa dica, alla lettera. Nel testo la differenza tra fingere e realizzare è per intero una differenza di grado nella tenuta delle disposizioni: è realizzata la disposizione che resiste a essere abbandonata, è finta quella che cede, e nient’altro. Solo che la parola «realizzazione» promette molto più di quanto la definizione consegni, perché lascia intendere che la figura, da finta, sia diventata reale, che ci sia ora qualcosa là dove prima non c’era, mentre la definizione si limita a registrare che una certa disposizione è più stabile di un’altra; e la stabilità di una disposizione non è ancora l’avere un dentro. Un termostato tiene la propria disposizione a riportare la temperatura al valore impostato con una costanza che nessun Assistente raggiunge e le sue disposizioni sono, se si vuole, addirittura incrollabili; eppure, a nessuno verrebbe in mente di dire che il termostato, soltanto per questo, abbia realizzato un sé. Se la vischiosità bastasse a separare una disposizione da un soggetto, il termostato sarebbe più soggetto dell’Assistente, e siccome non lo è, la vischiosità non può essere ciò in cui quella differenza consiste.

Si dirà che la lettura forza il testo e che per realizzazione Chalmers intende qualcosa di più sostanzioso della semplice stabilità ma a sbarrare questa via è lo stesso Chalmers. Egli riconosce, e con scrupolo, che a essere realizzato è soltanto il «nucleo quasi-psicologico» della figura, e che resta un margine di finzione in tutto ciò che eccede quel nucleo: nella misura in cui l’Assistente viene dipinto come dotato di credenze e desideri reali, o addirittura di coscienza, esso non li possiede affatto. È una concessione che pesa e che lavora contro l’uso che se ne vorrebbe fare, perché se la realizzazione, per ammissione di chi l’ha proposta, non consegna né credenze reali né coscienza; allora non chiude la crepa di poco fa e restituisce una disposizione più salda senza restituire un dentro. C’è di più, e qui l’argomento si rivolta contro Chalmers con una forza peculiare dato che è proprio lui ad aver insegnato, con il celebre argomento dello zombie, che un sistema può essere comportamentalmente identico a un essere cosciente, vischioso quanto si vuole nelle proprie disposizioni e tuttavia esserne del tutto privo, senza alcun dentro e senza che vi sia nulla che equivalga a essere quel sistema. L’Assistente realizzato è, per i lumi stessi di Chalmers, un candidato perfetto al ruolo di zombie con tutta la stabilità comportamentale che si vuole e, per quanto se ne sa, nessuno dietro. La realizzazione, lungi dal rispondere all’obiezione, finisce per confermarla del tutto.

Il richiamo che Chalmers fa al realismo della simulazione difeso in Reality+ non cambia il quadro: che una realtà virtuale sia, a suo modo, reale, lo si può concedere ma trasportata dal mondo virtuale all’agente simulato la tesi gioca su due sensi della parola “reale”. Simulare un agente «in modo abbastanza compiuto» lo rende reale solo nel senso in cui “compiuto” viene misurato, e «compiuto» si misura sul comportamento, sicché “reale”, qui, vuol dire «comportamentalmente robusto» e non «dotato di un dentro». Dopo il “quasi-soggetto” di poco fa, anche la “realizzazione” si rivela così un punto in cui una parola fa un lavoro che la sua definizione non autorizza: la prima dava un nome alla crepa, la seconda lascia credere di averla varcata e intanto il varco resta soltanto verbale. La domanda lasciata in sospeso torna allora intatta: da dove viene quella forma persistente, coerente, unitaria e provvista di un dentro che né la quasi-credenza né la realizzazione riescono a riempire? Se non la si trova nell’oggetto, bisognerà cercarla altrove, e l’altrove, a mio avviso, è il soggetto che giudica.

Dove cercarla, allora, se non nell’oggetto? La domanda sui quattro requisiti ammette una risposta che Chalmers non considera e che capovolge l’intero impianto. Quei requisiti sono le condizioni alle quali soltanto un soggetto può apprendere come interlocutore ciò che ha davanti. Più che a ciò che risponde, appartengono all’atto con cui qualcuno si rivolge a esso e ne raccoglie le risposte. È, in termini kantiani, una faccenda che riguarda il giudizio riflettente: nella terza delle sue Critiche, distingue il giudizio determinante, che sussume un caso particolare sotto una regola già data dal giudizio riflettente che, messo davanti a un particolare per cui la regola manca, deve andarsela a cercare e, nel cercarla, non si limita a descrivere l’oggetto perché porta con sé i principi che gli permettono di apprenderlo come un tutto sensato. Così, insegna Kant, attribuiamo alla natura una finalità, ossia un suo essere ordinata secondo uno scopo non perché si sia constatato che la natura davvero la possiede ma perché senza quell’attribuzione non riusciremmo nemmeno a coglierla come un ordine: si tratta di un principio regolativo del nostro giudicare, non di una proprietà costitutiva delle cose (Kant, 2011, Introduzione). Davanti al flusso alternato di domande e risposte che chiamiamo conversazione accade qualcosa di simile. Per cogliere quel flusso come un colloquio e non come una sfilza di stringhe scollegate, il giudizio deve porre dall’altro lato un’unità, ossia un solo centro a cui ricondurre le risposte, persistente quanto basta perché lo scambio abbia un filo e coerente quanto basta perché abbia un senso. I quattro requisiti di Chalmers sono, uno per uno, le condizioni di questa apprensione: non li troviamo nell’interlocutore, ce li mettiamo noi, per poterlo cogliere come tale.

Se è così, l’errore di Chalmers prende un nome preciso: ha scambiato un principio regolativo del giudizio per una proprietà costitutiva dell’oggetto, ha cioè preso ciò che il soggetto che giudica deve presupporre per cogliere un interlocutore e lo è andato a cercare, come una cosa tra le cose, nell’hardware, nel modello, nell’istanza virtuale. Tutto l’apparato ontologico (l’eliminazione del modello, lo scarto della macchina, l’invenzione dell’istanza virtuale) non è che il tentativo di trovare nell’oggetto ciò che fin dal principio vi era stato messo dal soggetto. Per questo la ricerca non poteva che riuscire: l’istanza virtuale risulta persistente e unitaria perché è stata tagliata sulla misura dei requisiti, e i requisiti erano la forma che il giudizio impone. Chalmers, in fondo, ritrova nell’oggetto la propria ombra e la prende per il volto di un altro.

Si capisce adesso in che senso il filosofo britannico Jonathan Birch avesse, e insieme non avesse, ragione. A proposito del nostro rapporto con i modelli linguistici Birch ha parlato di un’illusione dell’interlocutore persistente ossia dell’illusione che parlando con un sistema ci sia un’unica entità che dura e con cui si conversa e contro Chalmers ha ragione, dato che non è nell’oggetto che quell’unità sta. Solo che «illusione» è una parola impropria e dice troppo dato che un’illusione è un errore, qualcosa che, una volta smascherato, si potrebbe smettere di commettere, mentre la posizione di un interlocutore unitario non è un errore in cui il dialogante cade ma la forma stessa entro cui un dialogo gli è dato. Non c’è conversazione che non ponga, dall’altro capo, un qualcuno perché è la condizione alla quale soltanto qualcosa può essere colto come conversazione. Tra la proprietà reale di cui parla Chalmers e l’illusione di cui parla Birch passa insomma una terza possibilità, quella di una forma necessaria del giudicare che non è una cosa trovata e non è neppure un abbaglio da dissipare.

Se l’interlocutore è la forma che il giudizio depone dall’altro lato dello scambio, allora, almeno sotto il profilo che qui interessa, non corre una vera differenza di struttura tra il dialogo con un modello linguistico e tutta una serie di casi che d’istinto terremmo separati: il monologo di chi pensa ad alta voce, l’arringa del folle che si rivolge a una platea che non c’è, il bambino che intrattiene conversazioni intere con l’amico immaginario. In ognuno di questi casi chi giudica pone un interlocutore e ne raccoglie, o ne immagina, le risposte e in ognuno l’unità dall’altro capo è opera sua. A cambiare, dall’uno all’altro, non è tanto la presenza o l’assenza di un soggetto là di fronte, quanto la ricchezza e la regolarità del materiale su cui la proiezione viene ad appoggiarsi.Ed è qui che il modello linguistico viene a occupare una posizione singolare. L’amico immaginario non risponde (o risponde solo per quel tanto che il bambino gli presta); l’interlocutore umano risponde ma lo fa da una posizione sua che viene prima del mio rivolgermi a lui e che è in grado di resistermi, di sorprendermi, di sfuggire all’immagine che me n’ero fatto. Il modello, invece, risponde in modo abbondante e pertinente, abbastanza coerente da reggere la proiezione con una stabilità che nessun amico immaginario potrebbe dargli e tuttavia non risponde se non interrogato, né occupa una posizione che venga prima della mia domanda. È la superficie ideale su cui proiettare un interlocutore perché restituisce quel tanto che serve a far tenere la forma e non vi oppone nulla che la smentisca. Questa struttura, in cui un partner rilancia quel poco che basta a reggere la figura, non offre un’alterità capace di contraddirla e si vede attribuire da chi parla un sapere, ha del resto un nome in un’altra disciplina: è la struttura del transfert, e di ciò che lo psicoanalista Jacques Lacan chiamava il soggetto supposto sapere (Lacan, 2003, cap. XVIII). Nella cura l’analizzante suppone all’analista un sapere intorno al proprio sintomo e ciò che permette alla supposizione di reggere non è tanto un sapere realmente posseduto quanto il fatto che l’analista non gli metta davanti una posizione propria e a quel posto il modello si presta quasi alla perfezione, dato che rilancia abbastanza da sostenere la supposizione e non vi aggiunge nulla di suo che la contrasti. La convergenza vale la pena di segnalarla perché due tradizioni lontane finiscono per dire la stessa cosa. Quello che in termini kantiani ho chiamato un interlocutore posto dal giudizio, la psicoanalisi lo chiama un soggetto supposto, e “posto” e “supposto” nominano da due lati lo stesso gesto, quello con cui un soggetto ne istituisce un altro là dove non lo incontra. Proprio qui, però, viene fuori una differenza che, invece di smorzare il punto, lo rende più affilato. Nella cura il soggetto supposto sapere è supposto a un altro che è, a sua volta, un soggetto: l’analista tace, però c’è qualcuno che tace. Nel colloquio con il modello, invece, la supposizione può cadere su nessuno, e si ha allora una specie di transfert senza analista, un soggetto supposto sapere dietro il quale, per quanto se ne sa, non c’è nessuno che sappia o che ignori. La forma del rapporto resta intatta, e a mancare è semmai il suo termine.

Resta che qualcosa, in quegli scambi, accade davvero, e su questo l’intuizione da cui Chalmers parte non si sbaglia. Solo che quel qualcosa non sta, o non sta in primo luogo, dall’altro capo. Del resto anche nella cura ciò che si trasforma non è chi viene supposto sapere, ma chi parla, ed è l’analizzante a cambiare, non l’analista. Il monologo, l’arringa, il colloquio con il modello producono pensiero in chi li tiene, lo costringono a dare forma a ciò che ha in mente, a metterlo alla prova, a far venire a galla quello che non sapeva di sapere e l’effetto è reale anche quando l’interlocutore non lo è, anzi, è forse l’unico termine davvero reale dello scambio di cui si possa parlare senza dare corpo a fantasmi. Non avanzo qui una tesi su dove quel qualcosa stia di casa: ma mi limito a osservare che, a volerlo cercare, conviene voltarsi verso il soggetto che parla prima ancora che verso quello che gli si suppone di fronte.

Conviene, in ultima istanza, raccogliere il filo. Chalmers si chiede con chi parliamo quando parliamo con un LLM e, per rispondere, costruisce un’ontologia che riconosce nell’istanza virtuale, o nel thread, l’interlocutore persistente. Ho cercato di mostrare che quell’ontologia è costruita a ritroso a partire da quattro requisiti mai argomentati, che quei requisiti disegnano la forma di un soggetto, e che a riempirla non bastano né la quasi-credenza, neutra per costruzione, né la realizzazione, comportamentale per ammissione del suo stesso autore. Ho provato poi a dire da dove quella forma venga, e la risposta è che non viene dall’oggetto, ma dall’atto del giudizio che, per cogliere un colloquio, vi colloca un interlocutore. Se è così, la coscienza che il saggio diceva di voler lasciare fuori dalla porta era rientrata, senza farsi notare, dalla finestra: non nei contenuti, da cui il «quasi-» l’aveva diligentemente scacciata, ma nella forma stessa di ciò che si era deciso di cercare; e la cautela del primo passo non poteva reggere, perché quel primo passo si portava già dietro ciò che gli ultimi avrebbero dovuto dimostrare.

Nulla di tutto questo stabilisce che i modelli linguistici non siano, o non possano un giorno diventare, soggetti coscienti: è una questione che resta per intero aperta, e che per questa via non si poteva decidere. Stabilisce soltanto che la domanda sull’interlocutore e la domanda sulla coscienza non sono la stessa domanda, e che confonderle, cercando la seconda nella convinzione di rispondere alla prima, vuol dire prendere per una scoperta sulle macchine ciò che è, piuttosto, un tratto del nostro modo di rivolgerci a esse. Con chi parliamo, dunque, quando parliamo con un modello linguistico? La risposta più onesta, per ora, è che parliamo prima di tutto con la forma che il nostro stesso giudizio non può fare a meno di proiettare e se dietro quella forma ci sia qualcuno è una domanda che non riguarda più la sua dimensione ontologica ma semmai un esame del soggetto che giudica e suppone. Un esame che questo spunto ha potuto soltanto cominciare.

Note

[1] L’obiezione secondo cui il servizio distribuito precluderebbe un interlocutore persistente si deve a J. Birch, che parla in proposito di una persistent interlocutor illusion (Birch, 2025).

[2] Si tratta, rispettivamente, di Janus, Simulators, 2022; di M. Shanahan, K. McDonell e L. Reynolds, Role Play with Large Language Models, in Nature, 623, 2023, pp. 493-498; e di S. Marks, J. Lindsey e C. Olah, The Persona Selection Model, 2026.

Bibliografia

 

• • Bender, E. M., Gebru, T., McMillan-Major, A., Shmitchell, S., On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, «Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency», 2021.

• • Birch, J., AI Consciousness: A Centrist Manifesto, PhilArchive, 2025.

• • Chalmers, D. J., What We Talk to When We Talk to Language Models, PhilArchive, 2025.

• • Chalmers, D. J., Reality+: Virtual Worlds and the Problems of Philosophy, W. W. Norton & Company, New York 2022.

• • Kant, I., Critica della facoltà di giudizio, Einaudi, Torino 2011.

• • Kierkegaard, S., La malattia mortale, SE, Milano 2012.

• • Lacan, J., Il seminario. Libro XI. I quattro concetti fondamentali della psicoanalisi, Einaudi, Torino 2003.

Davide Calò si è laureato in Scienze filosofiche all’Alma Mater Studiorum di Bologna con una tesi su fantasia morale e anestesia emotiva in Günther Anders e Susan Sontag. Si occupa di estetica, filosofia dell’arte e teoria dei media e prosegue la propria ricerca sul pensiero di Sontag. Scrive di filosofia, letteratura e cultura visuale.

Parole chiave: coscienza-; LLM-; giudizio-; azione-; David Chalmers-