Ai, egemoni e anche controllori

Esiste un paradosso sottile, direi addirittura grottesco, che attraversa i vertici internazionali più recenti e le stanze dei bottoni della Silicon Valley. Da mesi, i sacerdoti dell’Intelligenza Artificiale – i vari Sam Altman, Dario Amodei, Elon Musk – battono i pugni sui tavoli delle cancellerie mondiali, agitando uno spettro preciso: il rischio di una catastrofe esistenziale. Ci dicono che la creatura che stanno addestrando sui loro server potrebbe presto sfuggire al controllo, sviluppare un’autonomia imprevedibile e, nel peggiore degli scenari, condurre la specie umana all’estinzione.

Nelle ultime settimane, l’ex ingegnere di Anthropic e di OpenAI, Jacob Coxon, ha denunciato che quanti stanno costruendo l’IA «credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio».
In realtà, non credo che la vera notizia sia l’allarme in sé, quanto la soluzione che, contestualmente, ci viene proposta. Infatti alcuni degli stessi colossi che hanno guidato la corsa verso sistemi di intelligenza artificiale sempre più potenti, in un quadro normativo tuttora frammentato, sono oggi tra i principali protagonisti del dibattito su come regolamentarli. Propongono licenze per i sistemi più avanzati, soglie di potenza di calcolo e standard di sicurezza sempre più stringenti. Misure che possono avere ragioni fondate, ma che comportano costi considerevoli e rischiano di innalzare le barriere all’ingresso, rafforzando proprio chi dispone già di capitali, infrastrutture e potenza di calcolo. Il rischio è che chi ha contribuito ad innescare l’incendio finisca anche per decidere chi è autorizzato a vendere gli estintori.

Certo, la narrazione della «macchina cattiva» che un giorno prenderà il sopravvento è una retorica efficace. Però, mentre immaginiamo un’apocalisse in stile «Terminator», potremmo perdere di vista un pericolo più antico e forse più insidioso: il delirio di onnipotenza dell’uomo che erige, ancora una volta, la sua Torre di Babele. È il mito del progresso illimitato, l’illusione di poter superare ogni limite: la biologia, la finitudine, persino la complessità della condizione umana. «Blade Runner» lo aveva intuito più di quarant’anni fa. Nel film, i Replicanti sono esseri artificiali quasi indistinguibili dagli uomini, superiori per forza e agilità e almeno pari ai loro creatori per intelligenza. Ma la tragedia del film non è semplicemente la ribellione della creatura contro il creatore, bensì il progressivo rovesciamento dei loro ruoli. Gli uomini trattano la vita come qualcosa da fabbricare, utilizzare e scartare mentre i Replicanti imparano ad amare, soffrire e persino provare compassione. Alla fine Roy Batty, la creatura ribelle, salva la vita dell’uomo che lo stava inseguendo. È questo il paradosso che dovrebbe interrogarci oggi. Mentre costruiamo macchine sempre più simili a noi, rischiamo di diventare noi stessi sempre più simili alle macchine. La domanda, allora, non è soltanto quanto umana possa diventare l’intelligenza artificiale. È quanto riusciremo a rimanere umani noi.

È proprio su questo bivio antropologico che si innesta il monito di Leone XIV. Per il papa il rischio non è soltanto quello, ancora ipotetico, di una macchina che un giorno sviluppi una coscienza o una volontà di dominio. È piuttosto l’illusione che ciò che è tecnicamente possibile sia per questo desiderabile, che la realtà possa essere ridotta a calcolo, previsione ed efficienza e che decisioni profondamente umane possano essere progressivamente delegate alla logica di un sistema informatico. Il problema, insomma, non è soltanto che cosa riusciranno a fare le macchine, ma quale idea dell’essere umano incorporeremo nelle macchine che stiamo costruendo. In altre parole, il rischio è una lenta abdicazione della nostra umanità, l’atrofia silenziosa della capacità di dubitare, discernere, assumersi responsabilità, provare compassione e riconoscere i propri limiti.

Il bene comune, ci ricorda Leone XIV, non può essere il risultato di un semplice calcolo di ottimizzazione, ma si costruisce insieme, attraverso il discernimento, la responsabilità e la partecipazione. Per questo, l’allineamento dell’intelligenza artificiale ai valori umani non può essere lasciato solo ai programmatori né alle aziende che possiedono i modelli più potenti. È una questione etica, politica, democratica e, in ultima analisi, spirituale. Perché la domanda su quale intelligenza artificiale vogliamo costruire è piuttosto radicale: quale idea dell’essere umano vogliamo custodire? E la risposta non può essere quella di cedere la nostra sovranità a un’oligarchia di tecnocrati. Salvare l’umano significa allora custodire ciò che non può essere ridotto a calcolo: il dubbio, il limite, la fragilità, la responsabilità, la compassione. Una macchina potrà forse imparare a simularli sempre meglio. Ma la domanda decisiva non è se riuscirà a sembrare umana. È se, nel frattempo, noi avremo ancora il coraggio di esserlo.

*Antropologo e docente
alla Columbia University