«Le persone che costruiscono l’IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio… Molti dirigenti e ricercatori senior attenueranno le loro frasi sulla stampa, ma sento le stesse persone esprimere paura in privato. Nessun’altra attività umana pone un livello di pericolo simile». Lo ha scritto qualche settimana fa Jacob Coxon, ex ricercatore di Anthropic su X, spiegando che «mi sono dimesso. Ho trascorso gli ultimi tre anni a fare ricerche sia a OpenAI che ad Anthropic. Nessuna delle due aziende sta agendo in modo responsabile. Stanno correndo dritte verso una superintelligenza auto-migliorante e stanno giocando d’azzardo con le nostre vite». Le sue dichiarazioni hanno scatenato un ampio dibattito sull’Intelligenza artificiale, con Evan Hubinger, ricercatore di Anthropic, che ha confermato i rischi, anche se ha ammesso che al momento i rischi sono bassi. «Crediamo davvero con sincerità – ha scritto – che l’IA potrebbe uccidere tutti gli esseri umani! Personalmente penso che ci sia più del 10% di probabilità entro il prossimo decennio. Credo che Anthropic stia facendo del suo meglio, ma non abbiamo ancora un piano per risolvere il problema dell’allineamento per la superintelligenza e non siamo chiaramente sulla strada giusta per farlo. Per essere chiari, come diciamo nel nostro ultimo Risk Report, penso che il rischio dai modelli attuali sia basso. Quello che mi preoccupa è la superintelligenza derivante dal miglioramento ricorsivo di sé, come abbiamo detto sta accadendo più velocemente di quanto pensassimo».
L’Intelligenza artificiale usata per uccidere e distruggere l’abbiamo già vista in azione nei conflitti in corso: la guerra di Israele a Gaza, per esempio, con i riconoscimenti facciali, i controlli dei cellulari, gli omicidi gestiti come in un videogame. Ma anche in Iran e nel conflitto russo ucraino.
Dei rischi dell’Intelligenza artificiale abbiamo parlato con don Luca Peyron. Giurista e teologo, è faculty fellow del Centro Nexa del Politecnico di Torino, socio dell’Internet Society e membro del consiglio scientifico dello Humane Technology Lab, nonché membro del comitato strategico Mind and Machine dell’Istituto italiano per l’Intelligenza artificiale applicato all’industria AI4I. Leggi l’intervista sul numero ottobre della rivista Città Nuova.
Don Peyron, non bisogna avere paura dell’IA?
Non bisogna avere paura dell’IA perché è un oggetto, non una persona. Bisogna rendersi conto che una tecnologia genera un ambiente e ciò che va compreso, imparato e tutto insieme stabilito. È come vivere pienamente in questo ambiente che, come tale, influisce nel nostro modo di essere.
Eppure, un po’ di ansia ci coglie sentendo di agenti di Intelligenza artificiale che, durante le sperimentazioni, barano, imbrogliano, hackerano altri sistemi. Ci può spiegare la situazione?
Gli agenti non fanno nulla di tutto quello che viene raccontato, anzi “sparato”, nei titoli dei giornali. Sono le persone che chiedono alle macchine di fare o non fare, di andare o non andare. Ci stupisce il modo in cui le macchine operano, ci meraviglia come siano in grado di creare architetture e muoversi ma le macchine non hanno alcuna coscienza di quello fanno. Parlano ma non sanno cosa dicono, anche se lo dicono molto bene. Quanto viene narrato, e che genera ansia, molto spesso è raccontato in quel modo esattamente per ottenere quel risultato. Ansia significa nascita di un bisogno, e ad un bisogno corrisponde un prodotto. Chi racconta delle proprie macchine capacità mirabolanti usando schemi narrativi antropomorfi lo fa per vendere un prodotto. E chi racconta male cosa davvero avviene usa la stessa tecnica: vende un articolo. L’IA non è potente o capace, rende potenti e capaci esseri umani che se ne servono nei modi più disparati. Il cuore è questo: un’IA disarmata e disarmante, come scrive il papa nella Magnifica Humanitas, significa persone con meno poteri, soggetti privati che rientrano nel controllo democratico.
L’IA ha un costo alto in termini di consumo energetico e di acqua. Si arriverà a scegliere se dissetare le persone o raffreddare i datacenter?
L’acqua costa, si arriverà ad una IA più frugale per questioni di costi, prima ancora che umanitari. Alcune sperimentazioni sono promettenti, in altri casi per ottenere risultati utilizzabili non è necessario usare architetture enormi e dispendiose sotto ogni profilo e poi progetti futuristici nello spazio porteranno il loro contributo. Certamente anche una maggiore disciplina personale avrà il suo ruolo. Vale il discorso dell’ascensore e delle scale. Anche se è possibile arrivare a casa con il primo, il cardiologo ed il conto dell’energia suggeriscono le seconde. Con l’IA vale lo stesso.
Buone pratiche dell’IA?
L’IA è una tecnologia che potenzia. Il bene ed il male. Non va vista come un sostituto ma come un alleato, non va messa per forza ovunque nell’illusione che sia magica. È una macchina, non una persona. Funziona non vive. Prima di usarla conviene farsi sempre una domanda che la teologia morale ci ha consegnato da molto tempo. Più che chiederci che male c’è, converrebbe chiederci che bene c’è? In questo qui ed ora, in questo frangente, che bene c’è ad usare l’IA? Se l’unica risposta è risparmiare tempo, siamo probabilmente di fronte ad un cattivo investimento.
Lei è responsabile pastorale della cultura tecno-scientifica dell’arcidiocesi di Torino. Cosa significa concretamente?
Far parlare mondi che sino ad oggi sono stati separati troppo. Senza cercare le responsabilità del passato, ma evidenziando le opportunità del presente. Pastorale è stare accanto, mettere accanto, ascoltare, fare domande, offrire visioni e risposte. Superare precomprensioni e diffidenze, reciproche. Le faccio un esempio concreto: ho avuto l’opportunità di partecipare al Convegno mondiale di astronautica quando si è tenuto a Milano qualche tempo fa. Ho vissuto giorni in cui la mia semplice presenza con il colletto da prete suscitava continua meraviglia, ma tra le centinaia di persone che, letteralmente, ho incrociato, giusto una sola si è lamentata della mia presenza in quel consesso. Tutti gli altri che hanno voluto invece chiedere il perché di questa presenza, di ogni nazione, ne sono rimasti contenti. Non di me che non sono nessuno, ma del fatto che la Chiesa ci fosse. Che siano Parti, Elamiti, abitanti del Ponto o della Sira, della Cilicia o della Pamfilia le grandi cose di Dio continuano ad interessare, anche al tempo dell’IA tra il ritorno sulla Luna e l’attesa della conquista di Marte.
Con lei i bambini fanno catechismo guardando lo spazio. Di sicuro non si annoiano. Coinvolgerli di più può essere il segreto per evitare la fuga dai sacramenti?
Spesso ci siamo chiusi in trincea, abbiamo usato un linguaggio bellico per dirci cristiani contro qualcuno o qualcosa. Ma se Cristo è venuto e rivelarci la paternità di Dio anziché difendere, non è forse meglio mostrare? La meraviglia del cielo apre alla meraviglia del Regno. La mia non è una strategia di marketing, non è un tentativo di trattenere in qualche modo coestensivo a quanto abbiamo fatto nei decenni passati con calcetti e pizzerie parrocchiali. È semplicemente un modo per integrare saperi. Non ho un obbiettivo strategico: semplicemente offro a chi la Provvidenza mi mette accanto tutto quello che ho e sono. Anche un telescopio.
Come mai c’è un asteroide che porta il suo nome?
L’unione astronomica internazionale, che è l’associazione ufficiale che raggruppa tutti gli astronomi del mondo, ha tra i suoi compiti quello di approvare la designazione dei corpi celesti di nuova scoperta. L’asteroide di cui parliamo fu scoperto nel 2002 dai ricercatori degli Osservatori astronomici di Campo Imperatore e Torino e venne registrato inizialmente con la sigla 114772 (2002 NM5). Su proposta degli scopritori ed in particolare su impulso di Maura Tombelli, che è l’astronoma italiana che ha il record di scoperte di questo tipo, si è deciso di aggiungere alla sigla anche il mio nome. Oltre al mio ego cosmico che ahimè viene rafforzato, quanto mi interessa è la motivazione ufficiale: «Il sacerdote ha saputo collegare l’astronomia alla coscienza collettiva, utilizzando il cielo profondo non solo a fini scientifici, ma anche per la crescita culturale ed educativa». La scienza che parla alla vita, alla fede, al tutti i giorni dei più giovani. Per me è un fatto importante, non solo e non tanto a livello personale, ma perché dichiara, al massimo livello possibile di questo settore, che una alleanza è ben possibile e fruttuosa tra provette e tabernacolo.
