Dall’Intelligenza Artificiale ad Apocalisse

Max Tegmark, fisico al prestigioso MIT, cerca di immaginare in che modo potrebbe verificarsi il dominio sul mondo intero attraverso tre passaggi: primo, realizzare delle Intelligenze Artificiali di livello pari all’uomo; secondo, usare queste Intelligenze Artificiali per creare una superintelligenza; terzo, lasciare che la superintelligenza prenda il controllo del mondo.

All’inizio del suo libro Life 3.0, Tegmark immagina un progetto sull’IA estremamente segreto portato avanti da quello che lui chiama l’Omega Team, il quale sviluppa un sistema IA cui viene dato il nome di Prometeo.

Prometeo, alla fine, assume il pieno controllo del pianeta: “Per la prima volta, il nostro pianeta era governato dal potere di un singolo, amplificato da un’intelligenza così vasta da poter far fiorire la vita per miliardi di anni sulla terra e in tutto l’universo, ma qual era esattamente il loro piano?”.

Lo stato totalitario perfetto

L’idea è che, in questo modo, il mondo sarebbe diventato uno stato totalitario perfetto, qualunque cosa voglia dire “perfetto” in tale contesto. Prometeo può, infatti, registrare tutte le comunicazioni elettroniche (qualcosa che i governi hanno realmente fatto per anni) e può comprenderle, divenendo quindi pienamente consapevole di ciò che le persone pensano e dicono in tutto il mondo:

Con il pretesto della lotta alla criminalità e al terrorismo, del salvataggio di persone che richiedono cure mediche urgenti, potrebbe essere richiesto a chiunque di indossare un “braccialetto di sicurezza” che unisce le funzionalità di un Apple watch con il costante aggiornamento della posizione, dello stato di salute e delle conversazioni casuali. I tentativi non autorizzati di rimuovere o disabilitare il braccialetto causerebbero l’iniezione di una tossina letale nell’avambraccio.

Tegmark intende ciò come uno scenario introduttivo immaginario e, in effetti, è tale sotto molti aspetti. Per esempio, Prometeo, essendo una macchina, non comprende le comunicazioni e non è nemmeno consapevole di ciò che le persone di tutto il mondo pensano o fanno, per il semplice motivo che non possiede una mente in grado di comprendere e acquisire consapevolezza.

Saggiamente, Tegmark non afferma che questa sia la sua visione di come sarà il futuro, ma chiede ai suoi lettori se essi ritengano che questo sia un futuro plausibile e, in caso affermativo, se lo desiderassero esattamente così. Per Tegmark il futuro appartiene ancora a noi. Ci sono, però, tre aspetti inquietanti di Prometeo che vengono subito alla mente: innanzitutto, una parte importante si sta già realizzando, ovvero l’uso di sistemi di sorveglianza basati sull’IA per il controllo sociale totale in Cina, che abbiamo descritto nel terzo capitolo. In secondo luogo, le caratteristiche di Prometeo ritornano in molte narrazioni fantascientifiche distopiche, basti pensare a film o serie tv quali Matrix, Blade Runner o Doctor Who. In terzo luogo, e questo è l’aspetto più importante, uno scenario del genere fu descritto diversi secoli fa nella Bibbia.

L’anticristo in Apocalisse

L’ultimo libro del Nuovo Testamento, scritto principalmente duemila anni fa, descrive un Homo deus futuro che incarna sia le caratteristiche dell’uomo del peccato descritto dall’apostolo Paolo, sia il Prometeo immaginato da Tegmark. Nelle visioni dei capitoli 12 e 13 di Apocalisse, mediante una rappresentazione nitida, ci viene presentata una bestia orribile con sette teste e dieci corna a cui Satana (raffigurato come un serpente ma anche come un dragone) conferisce un potere immenso e l’autorità sul mondo intero. La bestia diventa ovunque un blasfemo oggetto di adorazione, così come il diavolo che la rafforza.

Riconosciamo immediatamente più di un parallelo con la descrizione dell’uomo del peccato di cui parla II Tessalonicesi, e comprendiamo che Apocalisse mostra con immagini e metafore ciò che l’apostolo Paolo afferma nella sua epistola. La metafora, infatti, come C.S. Lewis ha tenuto a precisare, è sempre usata per significare qualcosa di reale, non di irreale. Dire “ho il cuore rotto” significa usare una metafora per descrivere un dolore reale, un’esperienza emotiva dolorosa, non qualcosa di finto.

Nel libro di Apocalisse, la bestia è usata per descrivere un’entità statuale nemica. Diversi secoli prima, il profeta Daniele aveva utilizzato l’immagine di bestie selvatiche per descrivere vari tipi di imperi e i loro leader. I primi lettori del libro di Apocalisse non ebbero difficoltà nel riconoscere un regime che agiva come una bestia, poiché vivevano sotto l’impero romano, che in qualche misura aveva già queste caratteristiche. Per loro il messaggio era forte e chiaro e chiunque prende sul serio questa lettura comprenderà che, sebbene l’immagine si riferisca a certi aspetti del regime imperiale dell’epoca, era possibile comunque un’ulteriore applicazione (anzi, molto plausibile) riferita al mondo futuro che assisterà al ritorno finale di Cristo.

Quindi, prima di relegare queste visioni nel registro delle fantasie apocalittiche, i lettori dovrebbero porre attenzione ad alcuni passi di Apocalisse per comprendere il significato delle immagini qui utilizzate:

“Poi vidi salire dal mare una bestia che aveva dieci corna e sette teste, sulle corna dieci diademi e sulle teste nomi blasfemi. La bestia che io vidi era simile a un leopardo, i suoi piedi erano come quelli dell’orso e la bocca come quella del leone. Il dragone le diede la sua potenza, il suo trono e una grande autorità. E vidi una delle sue teste come ferita a morte; ma la sua piaga mortale fu guarita; e tutta la terra, meravigliata, andò dietro alla bestia; e adorarono il dragone perché aveva dato il potere alla bestia; e adorarono la bestia dicendo: «Chi è simile alla bestia? e chi può combattere contro di lei?» E le fu data una bocca che proferiva parole arroganti e bestemmie. E le fu dato potere di agire per quarantadue mesi. Essa aprì la bocca per bestemmiare contro Dio, per bestemmiare il suo nome, il suo tabernacolo e quelli che abitano nel cielo. Le fu pure dato di far guerra ai santi e di vincerli, di avere autorità sopra ogni tribù, popolo, lingua e nazione. L’adoreranno tutti gli abitanti della terra i cui nomi non sono scritti fin dalla creazione del mondo nel libro della vita dell’Agnello che è stato immolato” (Apocalisse 13:1-8).

Notiamo subito la somiglianza fra la descrizione della bestia e quella dell’uomo del peccato di cui parla II Tessalonicesi. Vediamo anche che l’autorità mondiale di questa “bestia”, mantenuta con la violenza, ha origine dalla guarigione di una “piaga mortale” di una delle sue teste. Non sappiamo esattamente a cosa si riferisca, ma sembra essere un’imitazione degli eventi centrali della morte e risurrezione di Cristo che hanno stabilito la Sua autorità quale Messia e Figlio di Dio.

Leggiamo inoltre che, sebbene alla bestia venga concesso di “far guerra ai santi e di vincerli”, il tempo del suo potere è limitato.

Lo scenario viene reso ancor più complesso dall’apparizione di una seconda “bestia”:

“Poi vidi un’altra bestia, che saliva dalla terra, e aveva due corna simili a quelle di un agnello, ma parlava come un dragone. Essa esercitava tutto il potere della prima bestia in sua presenza, e faceva sì che tutti gli abitanti della terra adorassero la prima bestia la cui piaga mortale era stata guarita. E operava grandi prodigi sino a far scendere fuoco dal cielo sulla terra in presenza degli uomini. E seduceva gli abitanti della terra con i prodigi che le fu concesso di fare in presenza della bestia, dicendo agli abitanti della terra di erigere un’immagine della bestia che aveva ricevuto la ferita della spada ed era tornata in vita. Le fu concesso di dare uno spirito all’immagine della bestia affinché l’immagine potesse parlare e far uccidere tutti quelli che non adorassero l’immagine della bestia. Inoltre obbligò tutti, piccoli e grandi, ricchi e poveri, liberi e schiavi, a farsi mettere un marchio sulla mano destra o sulla fronte. Nessuno poteva comprare o vendere se non portava il marchio, cioè il nome della bestia o il numero che corrisponde al suo nome. Qui sta la sapienza. Chi ha intelligenza, calcoli il numero della bestia, perché è un numero d’uomo; e il suo numero è seicentosessantasei” (Apocalisse 13:11-18).

Apocalisse 13:15 ci mostra la seconda bestia che ordina la costruzione di un’immagine, a cui venne dato uno spirito della prima bestia determinando un inganno a livello mondiale che gli avrebbe garantito il pieno controllo. Tutti quelli che si rifiutano di piegarsi disconoscendo l’autorità della bestia saranno uccisi. Il controllo sociale risulterà assoluto, in quanto per avere la libertà di comprare e vendere bisognerà portare un marchio (un chip sottocutaneo o il braccialetto immaginato da Tegmark, o qualcosa di simile che determina l’accettazione sociale di un individuo). In tutto ciò scorgiamo un’analogia con il sistema di sorveglianza algoritmica cinese basato sul numero di punti sociali di cui si può disporre.

Comprendere l’idolo

A questo proposito, si potrebbe pensare all’intento dei sostenitori dell’Intelligenza Artificiale Generale (IAG) volta a creare la vita artificiale trasferendo i contenuti della mente su un supporto in silicio. Non sappiamo con certezza a quali dinamiche si riferisca il testo di Apocalisse, ma può trattarsi della creazione di una sorta di “vita” sofisticata ed impressionante, al punto da ingannare e assumere il pieno controllo del mondo. Potrebbe rappresentare una realizzazione parziale dell’IAG. Il riferimento all’immagine non dovrebbe necessariamente farci pensare agli idoli primitivi in legno e pietra. In ogni epoca della storia, gli esseri umani hanno creato e adorato idoli frutto della loro immaginazione e opera delle loro mani, sognando di dare vita a quei manufatti (come la storia della creazione del Golem dalla materia inanimata che riceviamo dalla tradizione ebraica). Forse un giorno, in un certo senso, ci riusciranno.

È importante sottolineare che gli idoli sono stati, e continuano ad essere, qualcosa verso cui le persone hanno riposto la loro fiducia, prima ancora del loro amore. Gli idoli spesso erano temuti, e “adorare” un idolo significava accettarne l’autorità superiore, “piegarsi” a essa, piuttosto che l’espressione di amore e devozione. Per tutto l’Antico Testamento fino all’esilio babilonese, il popolo d’Israele si comprometteva costantemente con le pratiche pagane delle popolazioni limitrofe, mentre i profeti, con altrettanta tenacia, ricordavano loro le conseguenze di questi compromessi. Una delle affermazioni più celebri la troviamo nel libro del profeta Isaia, a proposito dell’ingenuità dei fabbricanti di idoli che traevano i loro dei dal legno di alberi appena abbattuti:

“Ne brucia la metà nel fuoco, con l’altra metà prepara la carne, la fa arrostire, e si sazia. Poi si scalda e dice: «Ah! mi riscaldo, godo a veder questa fiamma!» Con l’avanzo si fa un dio, il suo idolo, gli si prostra davanti, lo adora, lo prega e gli dice: «Salvami, perché tu sei il mio dio!»” (Isaia 44:16, 17).

Isaia usa l’ironia per porre l’accento sull’assurdità di creare un idolo (di ferro o di legno), la cecità incredibile nel prendere del legno e usarne una parte per cucinare e il rimanente per modellare un’immagine di fronte alla quale prostrarsi. Anche i Salmi affrontano questo argomento affermando che, sebbene l’immagine abbia una forma umana, è priva di utilità poiché non può riprodurre le facoltà umane:

“Gl’idoli delle nazioni sono argento e oro, opera di mano d’uomo. Hanno bocca e non parlano; hanno occhi e non vedono; hanno orecchi e non odono e non hanno respiro alcuno nella loro bocca. Siano simili a loro quelli che li fanno, tutti quelli che in essi confidano” (Salmo 135:15-18).

Sembra chiaro che il libro di Apocalisse parli di qualcosa di molto diverso da questa idolatria grezza, descrivendo un’immagine cui viene conferita la facoltà di parlare; sembra molto più “umana” delle immagini antiche e potrebbe essere qualcosa come un robot umanoide equipaggiato con il meglio dell’IA, magari proprio con l’IAG. Il fatto che il mondo intero adori la bestia per via dell’immagine non è un elemento trascurabile: si tratta di attirare l’attenzione di tutto il mondo, ovvero qualcosa che non era mai accaduto in precedenza, eppure già oggi appare possibile con l’utilizzo di reti di comunicazione globale quali internet e la televisione.

Questo scenario fa sorgere inevitabilmente una domanda: fino a che punto Dio permetterà all’umanità di spingersi in questa direzione? Secondo il racconto biblico, il Signore intervenne nel primo progetto Homo deus in Genesi 3. Egli fece irruzione una volta a Babele, dove gli uomini, unendo le forze, tentarono di usare la loro abilità intellettuale e tecnologica per costruire una torre che doveva raggiungere il cielo (un altro sintomo dell’egoismo che alimenta l’idea dell’Homo deus). Sempre secondo la Bibbia, il Signore interverrà per porre fine alla ribellione umana. Ma è possibile che Egli non intervenga laddove ci aspettiamo che lo faccia?

Questa domanda sorge in considerazione del fatto che Apocalisse 13 pone enfasi su ciò che sarà concesso di fare alle varie bestie. Questo è in armonia con l’insegnamento teologico alla luce del quale Dio ha il controllo definitivo sugli eventi e nulla accade al di fuori della Sua volontà permissiva.  Alla prima bestia è concesso di esercitare autorità per quarantadue mesi e di muovere guerra ai credenti, avendo la meglio su di loro. Alla seconda bestia è concesso di operare segni ingannevoli e di dare vita all’immagine della bestia.

Il linguaggio ricorda quello usato in Genesi: “Dio il SIGNORE formò l’uomo dalla polvere della terra, gli soffiò nelle narici un alito vitale e l’uomo divenne un’anima vivente” (Genesi 2:7). Questo vuol dire che agli uomini sarà concesso di creare qualcosa di estremamente somigliante alla vita, se non addirittura una sorta di vita stessa? Se le cose dovessero andare in questa direzione, il pericolo è che se ci convinciamo che Dio interverrà prima che sia raggiunta questa fase, l’inganno cui andremo incontro potrebbe essere ancora maggiore.

Notiamo anche che questa immagine “vivente” è in grado di causare la morte selettiva di tutti quelli che non adorano la bestia. Questo significa che, di qualunque cosa si tratti, è in grado di riconoscere il “comportamento antisociale recidivo” (attraverso il riconoscimento facciale?), di determinare il comportamento delle persone nei confronti della bestia (sorveglianza sociale?) e decretare la loro morte. Tutti processi complessi che saranno implementati a livello globale. Si tratterebbe in questo caso di IAG a un livello tale da simulare una sorta di coscienza, o soltanto una versione più sviluppata dei sistemi di IA (non coscienti) già in uso?

Il monito di Apocalisse e il 666

Se è così, questo testo di Apocalisse rappresenta un preciso monito rivolto a tutti gli abitanti della terra, in particolare per questa generazione che vive un tumultuoso progresso tecnologico. Sarebbe un pericoloso errore, se non addirittura fatale, leggere queste pagine della Bibbia pensando di trovarsi di fronte a un coacervo di fantasie infantili. Non si tratta di questo: siamo chiamati a fronteggiare l’eventualità di una tirannia globale fin troppo reale, che ha come obiettivo il controllo sociale, uno stato di sorveglianza totalitaria simile a quello immaginato da Tegmark con Prometeo e, in maniera inquietante, piuttosto simile al sistema attualmente in vigore e in via di sviluppo in Cina. È allarmante la facilità con cui le persone sono pronte ad “adorare” questi sistemi, cioè a piegarsi e accettarne l’autorità, sacrificando la propria libertà in vista di una presunta sicurezza. In realtà, tutti noi stiamo agendo così dal momento in cui affidiamo sempre più le nostre decisioni all’IA e permettiamo che la tecnologia determini alcuni aspetti essenziali della nostra vita quotidiana.

Chiediamoci: cosa rappresenta la bestia del capitolo tredici del libro dell’Apocalisse? In senso generale, la risposta non è difficile poiché della bestia è scritto che avrà il controllo dell’economia mondiale; che farà marchiare tutti sulla mano destra o sulla fronte in modo che nessuno potrà comprare o vendere senza avere quel marchio, che è il nome della bestia o la sua trasposizione numerica (ripensiamo al braccialetto di sicurezza immaginato per Prometeo). Ma la bestia rappresenta un corpo collettivo quale un governo mondiale, uno stato che agisce in maniera bestiale, oppure un singolo individuo? Il testo presenta la bestia come un’entità individuale, anzi, un individuo umano. Apocalisse 13:8 afferma: “Chi ha intelligenza, calcoli il numero della bestia, perché è un numero d’uomo; e il suo numero è seicentosessantasei”.

Grande attenzione (forse fin troppa) è stata prestata al numero 666. Si è dato spazio a una infinita serie di speculazioni per individuare chi potesse essere questo leader, tutte piuttosto sterili. Se cerchiamo di indovinare sicuramente sbaglieremo, poiché il contesto biblico ci informa anticipatamente che “l’uomo del peccato” sarà rivelato dal potere satanico. Quando apparirà non ci sarà bisogno di tirare a indovinare.

Decodificare il valore alfabetico del numero 666, sarà una semplice analisi retrospettiva, non un puzzle complesso. Il passo, infatti, non spiega chi sia la bestia, ma, piuttosto, come è spiegato in modo esplicito, cosa sia. Come scrive Giovanni, è “un numero d’uomo” cioè la bestia è un simbolo, mentre la realtà che si muove dietro il simbolo è umana.

A questo punto, appare ragionevole pensare che sia II Tessalonicesi che Apocalisse si riferiscano al medesimo leader mondiale, guidato dal diavolo, nemico di Dio e immensamente potente, che, nel futuro, reclamerà onori divini e ingannerà il mondo con falsi prodigi, e che sarà distrutto da Cristo in occasione del Suo ritorno in potenza e gran gloria.

Apocalisse descrive quell’evento fondamentale in questi termini:

“Poi vidi il cielo aperto, ed ecco apparire un cavallo bianco. Colui che lo cavalcava si chiama Fedele e Veritiero; perché giudica e combatte con giustizia. I suoi occhi erano una fiamma di fuoco, sul suo capo vi erano molti diademi e portava scritto un nome che nessuno conosce fuorché lui. Era vestito di una veste tinta di sangue e il suo nome è la Parola di Dio. Gli eserciti che sono nel cielo lo seguivano sopra cavalli bianchi, ed erano vestiti di lino fino bianco e puro. Dalla bocca gli usciva una spada affilata per colpire le nazioni; ed egli le governerà con una verga di ferro, e pigerà il vino nel tino dell’ira ardente del Dio onnipotente. E sulla veste e sulla coscia porta scritto questo nome: RE DEI RE E SIGNORE DEI SIGNORI.

E vidi la bestia e i re della terra e i loro eserciti radunati per far guerra a colui che era sul cavallo e al suo esercito. Ma la bestia fu presa, e con lei fu preso il falso profeta che aveva fatto prodigi davanti a lei, con i quali aveva sedotto quelli che avevano preso il marchio della bestia e quelli che adoravano la sua immagine. Tutti e due furono gettati vivi nello stagno ardente di fuoco e di zolfo” (Apocalisse 19:11-16, 19, 20).

Articolo tratto da “2084”