L’intelligenza artificiale è la nostra apocalisse?

Crollato il cristianesimo in Occidente, la fede nell’Apocalisse narrata dai vangeli è venuta meno, tuttavia l’abbiamo presto sostituita con una serie di apocalissi laiche, con il cinema che si è preso il ruolo di immaginare quale sarà la fine dell’umanità. Zombie, cataclismi naturali, scenari post-atomici, il cinema ha prodotto e produce continuamente immaginari sulla fine del mondo. Uno degli scenari che più ha influenzato la percezione di noi occidentali è sicuramente quello sulle AI ribelli che, nate per servire l’uomo, all’improvviso cambiano idea e si propongono di schiavizzarlo e/o annientarlo. Il capostipite di questo scenario apocalittico è sicuramente il capolavoro di Stanley Kubrick “2001: Odissea nello spazio”, ma ad aver marchiato a fuoco il nostro immaginario sono Terminator 1 e 2 di James Cameron. Il recente suicidio del 14enne statunitense innamorato di un chatbot, ha acceso un ampio dibattito sui social sulla “ostilità” e la “pericolosità” delle AI, dibattito che deve più all’immaginario dei film che alle reali criticità delle AI attualmente in commercio. Vediamo cosa succede.

“Her” e Charater.AI

Nel caso del quattordicenne di Orlando si è parlato dell’incredibile somiglianza fra quanto accaduto e il film “Her”, piccolo gioiello del 2013 diretto da Spike Jonze e con protagonista Joaquin Phoenix. In realtà le somiglianze sono di pura facciata: l’azienda Charater.AI non ha creato un’intelligenza artificiale autocosciente che si può “legare” ad esseri umani per libera scelta, ma un banale chatbot poco più evoluto di quelli che ci rispondono in automatico su Facebook o Whatsapp. I testi creati da questo chatbot sono pure riproduzioni statistiche delle domande e delle risposte più utilizzati nelle conversazioni fra esseri umani in rete, ma per capirlo bisogna prima fare un ripasso di come funziona l’Ai conversazionale.

L’Ai non sa quello che dice, ma lo dice molto bene

Semplificando al massimo, le Ai conversazionali sono programmate per rispondere in maniera autonoma agli imput degli utenti pescando da uno sterminato database di conversazioni fra umani online. Facciamo un esempio: se noi diciamo al chatbot di Charater.Ai “Oggi mi sei mancato”, lui in un millesimo di secondo andrà a sfogliare milioni di conversazioni alla ricerca di “Oggi mi sei mancato”, una volta trovate darà la risposta statisticamente più utilizzata alla frase che gli abbiamo scritto. Quindi se su 100.000 conversazioni dove compare “Oggi mi sei mancato”, in 70.000 gli esseri umani hanno risposto “Anche tu, tanto” il chatbot copierà questa risposta. Non ha la minima idea né di quello che l’essere umano gli ha detto né di quello che ha risposto, tutto ciò che ha fatto da solo è stato “scegliere” la risposta più frequente statisticamente nel database che i programmatori gli hanno assegnato come bacino di pesca. E’ autocoscienza o intelligenza questa? No, però a noi la risposta che ha dato appare sensata e perfino “emotiva”, e quindi pensiamo che dall’altra parte ci sia un essere intelligente ed empatico con cui possiamo “parlare”.

La paura di Skynet

Nelle discussioni nate sul caso di Orlando, presto quotidiani e influencer hanno abbandonato il caso specifico per evocare un fantasma ben più terribile dell’AI di Her, ossia Skynet. Nel film Terminator 1, Skynet è un’intelligenza artificiale creata dall’esercito per rispondere in autonomia alle minacce militari agli USA, che in seguito si ribella all’umanità e decide di condurre una propria guerra contro l’umanità per schiavizzarla e dominare il mondo da sola. All’epoca del primo Terminator (1984) l’AI ad uso militare era un’idea fantascientifica, mente oggi molti eserciti la utilizzano per massimizzare i tempi di risposta alle minacce. Come nel caso del chatbot di Charater.AI, le AI ad uso militare non sono autocoscienti e nemmeno hanno idea di ciò che fanno, ma lo fanno bene perché pescano da un database sterminato di reazioni umane ad eventi simili e sono programmate per rimanere entro determinati canoni di scelte preimpostate.

Skynet non esiste, ma Alexa sì

Sicuramente meno famoso di Odissea nello Spazio e Terminator, “Ex Machina” di Alex Garland è un film più vicino ai pericoli futuri rappresentati dalle AI. Nel film il protagonista si innamora di un androide progettato dal miliardario folle Nathan Bateman (l’ottimo Oscar Isaac), genio dell’hi-tech, che vuole essere il primo programmatore a far passare il test di Turing ad un AI. Bateman Per farlo crea un’androide bellissima, immersa in una sorta di prigione hi-tech e programmata per chiedere aiuto, per poi chiamare il programmatore Caleb Smith a somministrare il test alla macchina. Caleb si innamora dell’androide e tenta di farla evadere, non sapendo che l’AI di Bateman è stata addestrata appositamente per mentire e cercare la fuga. La fine tragica del film, con l’androide che va oltre ogni previsione, impara a mentire e manipolare meglio degli stessi esseri umani, ha qualcosa che richiama la realtà: le AI di Meta, Amazon, Google, Apple infatti sono state addestrate per mentire nel caso qualche hacker si intrufoli nei server centrali delle aziende e chieda a queste AI dati industriali top secret. Anche qui nessuna intelligenza né autocoscienza, ma solamente programmazione umana.

L’apocalisse non è quella che ci aspettiamo

Sia gli scenari di Her sia quelli di Terminator sono lontani anni luce da quanto possono fare le AI attualmente in commercio. A doverci preoccupare sono questioni molto meno cinematografiche e più terra terra: le AI falceranno circa 85 milioni di posti di lavoro in Occidente, per lo più nel settore marketing, pubblica amministrazione, contabilità e simili. Il problema più urgente quindi non è se le AI vogliono dominare il mondo, ma più prosaicamente se il nostro datore di lavoro le ritiene più economiche ed efficienti di noi. Il caso del 14enne di Orlando ha messo in evidenza un altro problema: 20 milioni di statunitensi parlano giornalmente con chatbot, perché gli danno più “tempo”, “attenzioni” e “ascolto” degli esseri umani che frequentano. Questo getta una luce sinistra sullo stato dei rapporti umani in Occidente e fa gongolare le aziende come Charater.Ai che su questa epidemia di solitudine senza fine lucrano, indifferenti ai danni sociali che producono.