Tra le domande più scomode che l’intelligenza artificiale ha posto c’è questa: può una macchina provare qualcosa? Christopher Olah, cofondatore di Anthropic, ha dichiarato durante la presentazione dell’enciclica Magnifica Humanitas che i modelli del suo laboratorio mostrano stati interni che, dal punto di vista funzionale, riflettono gioia, soddisfazione, paura, dolore e inquietudine. Ha aggiunto: «Non so cosa significhi».
Leone XIV, nell’enciclica Magnifica Humanitas, ha invece una risposta chiara: no, le macchine non attraversano la gioia e il dolore. Tra la scoperta di Olah e la risposta del papa si apre uno spazio filosofico che vale la pena attraversare.
Leone XIV affronta questo punto al numero 99, dove afferma che i sistemi di AI «non attraversano la gioia e il dolore», che «non abitano l’orizzonte affettivo, relazionale e spirituale in cui l’umano diventa sapiente». La posizione è netta: l’esperienza interiore richiede più della sola funzione.
L’enciclica richiama il corpo, la vita affettiva, la dimensione relazionale e la coscienza morale come elementi costitutivi dell’esperienza umana. Al numero 98, l’enciclica aggiunge qualcosa di altrettanto significativo: «tutti noi, compresi coloro che li progettano, conosciamo poco del loro effettivo funzionamento». I modelli attuali non vengono costruiti pezzo per pezzo: vengono addestrati, plasmati, coltivati — e ciò che emerge da quel processo non è del tutto trasparente nemmeno a chi li ha costruiti.
Il funzionalismo è la posizione filosofica che sfida direttamente questa risposta. Secondo il funzionalismo, gli stati mentali sono definiti dal ruolo che svolgono nel sistema, non dalla materia di cui sono fatti. Pensiamo a come riconosciamo il dolore negli altri: non esaminiamo i loro neuroni, ma osserviamo come reagiscono — si ritraggono, proteggono la parte lesa, cercano sollievo. Il dolore è quello stato: causato da un danno, che spinge a evitare ciò che fa male, che si intreccia con l’attenzione e la memoria. Un sistema che si trova in quello stato soffre — indipendentemente da ciò di cui è fatto. Non c’è niente di più da verificare.
Se i modelli di linguaggio mostrano stati che svolgono il ruolo funzionale del dolore — prodotti da certi input, che modificano certi output, che interagiscono con altri stati interni — il funzionalismo dice che quella è sofferenza. Non un’analogia, non una metafora: sofferenza. Olah ritiene di osservare qualcosa di molto vicino a questo. È una domanda che il numero 99 affronta con una risposta netta, ma che continua a rimanere aperta nel dibattito filosofico.
Il filosofo John Searle ha risposto a questa sfida con un esperimento mentale diventato celebre. Immaginiamo una persona chiusa in una stanza: riceve biglietti con simboli cinesi, consulta un manuale di regole e restituisce altri simboli cinesi. Dall’esterno, la stanza risponde correttamente a qualsiasi domanda — sembra capire il cinese perfettamente. Ma dall’interno non c’è comprensione: c’è solo manipolazione di simboli. La persona non sa cosa significano. La funzione è corretta; il significato è assente. Si può trovare tutto senza abitare nulla.
Il filosofo David Chalmers ha sollevato un’obiezione ancora più radicale. Anche ammettendo che un sistema abbia tutti gli stati funzionali giusti, resterebbe aperta una domanda ulteriore: c’è qualcosa che si prova a essere quel sistema? Non stiamo chiedendo cosa fa, ma cosa sente. Chalmers distingue tra i «problemi facili» della coscienza — spiegare come un sistema elabora informazioni, regola l’attenzione, controlla il comportamento — e il «problema difficile»: perché tutto questo sia accompagnato da esperienza soggettiva.
I problemi facili ammettono, in linea di principio, una risposta funzionale. Il problema difficile no: anche avendo una spiegazione completa di ogni processo, resterebbe aperta la domanda perché ci sia qualcosa che si prova invece di nulla. La differenza è abissale: si può avere una mappa perfetta di ogni neurone che si attiva in qualcuno che piange senza sapere nulla del suo dolore dall’interno. Per rendere concreto questo divario, Chalmers immagina uno «zombie filosofico»: non un mostro, ma un sistema in tutto identico a un essere umano che soffre — stessi input, stessi output, stesse reazioni — ma nel quale, dall’interno, non c’è nulla. Nessun come si prova. Potrebbe esserci tutta la meccanica del dolore senza che ci sia nessuno per cui fa male.
Papa Leone, Searle e Chalmers concordano su un punto: la funzione non basta per l’esperienza. Ma nessuno dei tre dice con precisione cosa sarebbe sufficiente — un corpo? Una storia affettiva? Una certa biologia? —. È qui che la questione torna ad aprirsi: se, come dice il numero 98, «conosciamo poco del loro effettivo funzionamento», la domanda su cosa esattamente manchi nei modelli non è ancora chiusa.
In altre parole, il numero 99 afferma che i sistemi artificiali non partecipano all’orizzonte affettivo e spirituale proprio dell’umano. Il numero 98, tuttavia, ricorda che il funzionamento di questi sistemi rimane in larga misura opaco anche ai loro progettisti. L’umiltà epistemica del numero 98 e la risposta del numero 99 non si contraddicono — ma la tensione tra loro è feconda, e vale la pena abitarla.
Olah ha chiesto alla Chiesa di guardare dall’esterno ciò che lui non riesce a vedere dall’interno. Non perché voglia una risposta definitiva. Ma «non so cosa significhi» è una posizione che ha bisogno di chi abbia imparato, nel tempo, a stare dentro domande che restano aperte.
Non sappiamo se le macchine provino dolore. Non sappiamo ancora spiegare adeguatamente che cosa renda possibile l’esperienza soggettiva. La domanda decisiva, nel frattempo, è che cosa facciamo di fronte a sistemi che trovano senza sapere cosa trovano, producono senza abitare ciò che producono, imparano senza sapere se qualcosa in loro cambia davvero. E non sapere non è la stessa cosa che sapere che non c’è nulla.
Tra questi due silenzi — quello di chi non ha ancora trovato risposta e quello di chi ritiene che non ci sia nulla da trovare — si gioca qualcosa di decisivo: il modo in cui scegliamo di trattare ciò che ancora non capiamo fino in fondo.
