A 77 anni, Geoffrey Hinton ha una nuova vocazione nella vita. Come un profeta moderno, il premio Nobel lancia l’allarme sui pericoli di un’intelligenza artificiale incontrollata e non regolamentata.

Spesso soprannominato il “Padrino dell’IA”, Hinton è noto per il suo lavoro pionieristico sul deep learning e sulle reti neurali, che ha contribuito a gettare le basi per la tecnologia di IA spesso utilizzata oggi. Sentendosi “in un certo senso responsabile”, ha iniziato a parlare pubblicamente delle sue preoccupazioni nel 2023, dopo aver lasciato il suo impiego in Google, dove ha lavorato per oltre un decennio.

Negli ultimi anni, con l’avanzare della tecnologia e degli investimenti che alimentano l’intelligenza artificiale, sono aumentati anche gli interessi in gioco.
“È davvero divino”, ha detto Hinton.

Hinton è tra il numero crescente di importanti figure tecnologiche che parlano di intelligenza artificiale usando un linguaggio un tempo riservato al divino. Il CEO di OpenAI, Sam Altman, ha definito la tecnologia della sua azienda come una “intelligenza magica nel cielo”, mentre Peter Thiel, co-fondatore di PayPal e Palantir, ha addirittura sostenuto che l’intelligenza artificiale potrebbe contribuire a far avverare l’Anticristo.

L’intelligenza artificiale porterà condanna o salvezza?

Sono molti gli scettici che dubitano che la tecnologia meriti questo tipo di timore, tra cui Dylan Baker, ex dipendente di Google e ingegnere capo della ricerca presso il Distributed AI Research Institute, che studia gli impatti dannosi dell’intelligenza artificiale.
“Penso che spesso agiscano partendo da un pensiero magico e fantastico, influenzato da molta fantascienza che presumibilmente hanno acquisito durante gli anni della loro formazione”, ha detto Baker. “Sono davvero distaccati dalla realtà”.

Sebbene chatbot come ChatGPT siano entrati nell’immaginario collettivo solo di recente, alcuni circoli della Silicon Valley profetizzano da decenni il potere dell’intelligenza artificiale.
“Stiamo cercando di svegliare la gente”, ha detto Hinton.

“Per far sì che l’opinione pubblica comprenda i rischi, in modo che faccia pressione sui politici affinché intervengano”. Mentre ricercatori come Hinton mettono in guardia dalla minaccia esistenziale che l’intelligenza artificiale rappresenta per l’umanità, ci sono CEO e teorici dall’altro lato dello spettro che sostengono che ci stiamo avvicinando a una sorta di apocalisse tecnologica che inaugurerà una nuova era dell’evoluzione umana.In un saggio pubblicato l’anno scorso intitolato “Macchine di grazia amorevole: come l’intelligenza artificiale potrebbe trasformare il mondo in meglio”, il CEO di Anthropic, Dario Amodei, espone la sua visione per un futuro “se tutto andrà per il verso giusto con l’intelligenza artificiale”.

L’imprenditore dell’intelligenza artificiale prevede “la sconfitta della maggior parte delle malattie, la crescita della libertà biologica e cognitiva, l’uscita di miliardi di persone dalla povertà per condividere le nuove tecnologie, una rinascita della democrazia liberale e dei diritti umani”.

Mentre Amodei opta per l’espressione “intelligenza artificiale potente”, altri usano termini come “singolarità” o “intelligenza artificiale generale (AGI)”. Sebbene i sostenitori di questi concetti non siano spesso d’accordo su come definirli, essi si riferiscono in senso lato a un ipotetico punto futuro in cui l’intelligenza artificiale supererà quella umana, innescando potenzialmente cambiamenti rapidi e irreversibili nella società.

Fin dagli anni ’90, l’informatico e scrittore Ray Kurzweil prevedeva che un giorno gli esseri umani si sarebbero fusi con la tecnologia, un concetto spesso chiamato transumanesimo.”Non sapremo mai distinguere cosa proviene dal nostro cervello da cosa dall’intelligenza artificiale. Sarà tutto incorporato in noi. E ci renderà più intelligenti”, ha detto Kurzweil.

Nel suo ultimo libro, “The Singularity Is Nearer: When We Merge with AI”, Kurzweil ribadisce le sue previsioni precedenti. Crede che entro il 2045 avremo “moltiplicato la nostra intelligenza di un milione di volte”.

“Sì”, ha infine ammesso quando gli è stato chiesto se considerasse l’intelligenza artificiale la sua religione. È alla base del suo senso di scopo. “I miei pensieri sul futuro e sul futuro della tecnologia e sulla rapidità con cui arriverà influenzano sicuramente il mio atteggiamento nei confronti della mia presenza qui, di ciò che faccio e di come posso influenzare le altre persone”, ha affermato.

Le visioni dell’apocalisse si manifestano

Nonostante Thiel faccia esplicito riferimento al linguaggio del Libro dell’Apocalisse, le visioni positive di un futuro basato sull’intelligenza artificiale sono più “apocalittiche” nel senso storico del termine. “Nel mondo antico, apocalittico non è negativo”, spiega Domenico Agostini, professore all’Università di Napoli L’Orientale e studioso della letteratura apocalittica antica. “Abbiamo completamente stravolto la semantica di questa parola”.
Il termine “apocalisse” deriva dal greco “apokalypsis”, che significa “rivelazione”. Sebbene oggi siano spesso associate alla fine del mondo, nell’antico pensiero ebraico e cristiano le apocalissi erano una fonte di incoraggiamento in tempi di difficoltà o persecuzione.

“Dio promette un mondo nuovo”, ha affermato il professor Robert Geraci, che studia religione e tecnologia al Knox College. “Per abitare quel mondo nuovo, bisogna avere un corpo nuovo e glorioso che trionfi sul male che tutti sperimentiamo”.

Geraci si accorse per la prima volta dell’uso di un linguaggio apocalittico per descrivere il potenziale dell’intelligenza artificiale all’inizio degli anni 2000. Kurzweil e altri teorici lo ispirarono a scrivere il suo libro del 2010, “Apocalyptic AI: Visions of Heaven in Robotics, Artificial Intelligence, and Virtual Reality”.Il linguaggio gli ricordava il cristianesimo primitivo.

“Solo che toglieremo Dio e inseriremo… la vostra scelta di leggi della scienza cosmica che presumibilmente fanno questo e poi avremo lo stesso tipo di futuro glorioso in arrivo”, ha detto. Geraci sostiene che questo tipo di linguaggio non sia cambiato molto da quando ha iniziato a studiarlo. Ciò che lo sorprende è quanto sia diventato pervasivo.
“Ciò che una volta era molto strano ora è un po’ ovunque”, ha detto.

La Silicon Valley ha finalmente trovato il suo Dio?

Uno dei fattori che alimenta il crescente culto dell’intelligenza artificiale è la redditività.
“Vent’anni fa, quella fantasia, vera o falsa che fosse, non generava molti soldi”, ha detto Geraci. Ora, però, “c’è un incentivo finanziario nel dire a Sam Altman che l’AGI è dietro l’angolo”.

Ma Geraci, che sostiene che ChatGPT “non è nemmeno lontanamente, vagamente, plausibilmente cosciente”, ritiene che ci possa essere qualcosa di più dietro a questo fenomeno. Storicamente, il mondo della tecnologia è notoriamente privo di riferimenti religiosi. La sua reputazione laica lo aveva preceduto a tal punto che un episodio della serie satirica della HBO, “Silicon Valley”, ruota attorno alla “denuncia” di un collega come cristiano.
Invece di considerare ironica la venerazione dell’intelligenza artificiale da parte del mondo scettico della tecnologia, Geraci ritiene che vi sia un legame causale tra le due.

“Noi esseri umani siamo profondamente, profondamente, intrinsecamente religiosi”, ha affermato, aggiungendo che le straordinarie tecnologie alla base dell’intelligenza artificiale potrebbero interessare le persone della Silicon Valley che hanno già messo da parte “gli approcci ordinari alla trascendenza e al significato”.

Nessuna religione è priva di scettici

Non tutti i CEO della Silicon Valley si sono convertiti, anche se vogliono entrare nel mondo della tecnologia. “Quando le persone nel settore tecnologico parlano di costruire questa vera intelligenza artificiale, è quasi come se pensassero di creare Dio o qualcosa del genere”, ha affermato l’amministratore delegato di Meta Mark Zuckerberg in un podcast l’anno scorso, mentre promuoveva l’iniziativa della sua azienda nel campo dell’intelligenza artificiale.

Sebbene le teorie transumaniste come quella di Kurzweil siano diventate più diffuse, non sono ancora onnipresenti nella Silicon Valley. “Le argomentazioni scientifiche a sostegno di questa tesi non sono in alcun modo più forti di quelle a sostegno di una vita ultraterrena religiosa”, sostiene Max Tegmark, fisico e ricercatore di apprendimento automatico presso il Massachusetts Institute of Technology.

Come Hinton, Tegmark ha parlato apertamente dei potenziali rischi di un’intelligenza artificiale non regolamentata. Nel 2023, in qualità di presidente del Future of Life Institute, Tegmark ha contribuito a promuovere una lettera aperta che chiedeva ai più potenti laboratori di intelligenza artificiale di “sospendere immediatamente” l’addestramento dei loro sistemi.
La lettera ha raccolto oltre 33.000 firme, tra cui quelle di Elon Musk e del co-fondatore di Apple Steve Wozniak. Tegmark ritiene che la lettera abbia avuto successo perché ha contribuito a “rendere mainstream il dibattito” sulla sicurezza dell’intelligenza artificiale, ma ritiene che il suo lavoro sia tutt’altro che concluso.

Con normative e garanzie, Tegmark ritiene che l’IA possa essere utilizzata come strumento per fare cose come curare malattie e aumentare la produttività umana. Ma è fondamentale, sostiene, tenersi alla larga dalla corsa “piuttosto marginale” che alcune aziende stanno conducendo – “la ricerca pseudoreligiosa per cercare di costruire un Dio alternativo”.
“Ci sono molte storie, sia nei testi religiosi che, ad esempio, nella mitologia greca antica, su come quando noi umani iniziamo a giocare a fare gli dei, finisca male”, ha detto. “E ho la sensazione che ci sia molta arroganza a San Francisco in questo momento”.