Death is in the AI(R)

Death is in the AI(R)ovvero quanto è Naturale l’Intelligenza Artificiale?

di Silvia Carbotti

Era il 2011 quando Sherry Turkle pubblicò Insieme ma soli per raccontare la storia di un’alterazione della nostra percezione, operata attraverso l’uso delle nuove tecnologie che, grazie a seducenti applicazioni, avevano condotto gli individui ad un autoinganno: confidare di essere meno isolati perché costantemente connessi. Secondo la Turkle si trattava di una manipolazione edificata su un’illusione di socialità, scandita a ritmo di like convulsi e sgrammaticati commenti. “La tecnologia è seducente quando ciò che offre soddisfa la nostra vulnerabilità umana”¹ ed apre il suo volume con una citazione da La Repubblica di Platone: “Tutto ciò che inganna sembra sprigionare una malia”. In sostanza, secondo la Turkle, siamo soli e abbiamo paura dell’intimità e le connessioni digitali, così come i robot, ci seducono fino a darci l’illusione della compagnia ma senza le esigenze richieste dai rapporti interpersonali. Insieme ma soli impressionò i lettori più attenti che avevano già frequentato la sociologa statunitense: era passata da una visione ottimista e “integrata”, che faceva del mondo digitale uno spazio libero nel quale affermare la propria identità (o trovarne una, sperimentandone diverse²) ad una posizione critica e allarmata. Connessioni e macchine intelligenti promettevano esperienze colme di ambiguità e sulle quali gli individui proiettavano desideri e pulsioni. Il testo era pervaso di esempi e aneddoti attraverso i quali la Turkle metteva costantemente in evidenza il rapporto dicotomico tra autentico/non-autentico ma soprattutto tra naturale/artificiale: concetti che, specie se si affronta il tema del rapporto uomo/tecnologia, vengono suggeriti come contrapposti. 

Alone together precede solo di pochi anni lo sviluppo delle intelligenze artificiali e generative come le stiamo conoscendo in questo momento storico, e se la Turkle nel 2011 definì la tecnologia “architetto supremo della nostra sfera intima” nel 2017 assisterà, insieme a noi, alla nascita di Replika³. La storia di questo chatbot basato su AI generativa è nota: Eugenia Kuyda, imprenditrice russa, perde un amico al quale era molto legata e, ispirata da un episodio della nota serie Black Mirror⁴, crea un’intelligenza che assimila dati, un modello di machine learning addestrato per eseguire una specifica gamma di attività e, per istruirlo, riversa in esso tutte le conversazioni scritte, avute con il defunto. Da quel modello Replika divenne un’app pubblica con la quale creare un avatar e conversare in modo “naturale”⁵. Come sistema di apprendimento intelligente Replika non solo riconosce il “sentiment” delle affermazioni scritte (posizioni neutrali, rabbia, gioia, paura e tristezza), ma raccoglie strutture ricorrenti nella massa dei dati forniti e specifici dettagli dal soggetto con il quale conversa. In questo modo la macchina può interagire rispondendo perlopiù come noi vorremmo ci rispondesse, restituendo la sensazione di un sistema comprensivo e accogliente. 

Ora c’è da chiedersi, chi è il nostro replicante? Chi sono le entità presenti in Replika delle quali alcuni individui sostengono di essersi innamorati? E quanto c’è di noi, dell’umano e del naturale nel suo essere artificiale? Il chatbot apprende, immagazzina e cataloga, ma lo fa secondo regole e scopi forniti dai progettisti che l’hanno creata e secondo i nostri input. Le risposte generate, “relazionalmente sensibili”, riflettono quanto noi vorremmo da quella amicizia e quanto, soprattutto, il senso comune ritiene accettabile in una relazione: ecco che, attraverso questa lente, intravediamo l’umano che risiede (e non in minima parte) nelle macchine artificiali presenti nelle nostre case. Seguendo questo ragionamento, e tornando a Replika, l’accenno alla sua genesi non è secondario. Quella della Kuyda, per dirla in chiave psicanalitica, è stata una vera e propria incapacità di elaborare il lutto: resistendo al dramma, ha concepito un simulacro che potesse riprodurre il soggetto (o per meglio dire l’oggetto) perduto. Il chatbot è una replica, appunto, una rappresentazione ad uso e consumo, di ciò che ormai è perso per sempre. Questa prospettiva mette in evidenza come la programmazione e i dati non siano mai puri, neutrali, e gli algoritmi insieme ai modelli che governano queste intelligenze possano essere considerati “opinioni inserite in un codice”⁶.

La realtà sociale è alla radice dei dati, dei modelli utilizzati, così come degli obiettivi e dei risultati da raggiungere⁷ facendo degli algoritmi “generatori automatici di significato” che sfruttano dati non oggettivi, ma certamente umani⁸. Inoltre, se per ironia della sorte, l’algoritmo sbaglia, l’errore evidenzia ancora di più la sua natura. I bug e i malfunzionamenti rivelano che l’algoritmo non riesce davvero a capire il mondo naturale, ma ne riflette solo una parte. Per dirla con le parole di Chomsky è un continuo plagio⁹ dell’umano, una contraffazione di qualcosa già esistente…ed ecco che le macchine si scoprono tutt’altro che intelligenti. 

Naturale, reale e artificiale, dunque, si mescolano continuamente e molto del mondo “sintetico” è nutrito e architettato dall’umano evidenziando una relazione costante, una osmosi continua, una sorta di riflesso. Prendendo in prestito l’immagine dello specchio, più volte usata da Stendhal per definire il romanzo e descrivere l’ambiguità del suo realismo¹⁰, potremmo dire che il mondo artificiale sembra una superficie riflettente: presuppone una realtà che possa essere riverberata, ma ciò che lo contraddistingue è che può coglierne solo delle parti, quelle che riescono ad entrare nello spazio del riflesso. Ecco, le cose forse stanno un po’ così, con una differenza però. Noi siamo gli autori del romanzo, l’intelligenza – che intelligente non è – è sì uno specchio con tutte le sue restrizioni di campo, solo che lo specchio è rotto.

Note

1.  S. Turkle, Insieme ma soli. Perché ci aspettiamo sempre più dalla tecnologia e sempre meno dagli altri, Codice Edizioni,  2012.
2.  S. Turkle, Life on the Screen: Identity in the Age of the Internet, Simon & Schuster,  1997.
3. Sito web https://replika.com/.
4. Be Right Back è il primo episodio della seconda stagione della serie televisiva Black Mirror, scritto da Charlie Brooker, diretto da Owen Harris e trasmesso per la prima volta nel febbraio 2013.
5. Oggi conta più di 2 milioni di utenti attivi, di cui 500.000 a pagamento.
6. C. O’Neil, Armi di distruzione matematica. Come i big data aumentano la disuguaglianza e minacciano la democrazia, Bompiani, 2017.
7.  R. Shaw, Big Data and reality, in Big Data & Society, 2(2), 2015 https://journals.sagepub.com/doi/10.1177/2053951715608877.
8. L. D. Introna, Algorithms, governance, and governmentality: On governing academic writing, Science, Technology, & Human Values, 2016.
9. N. Chomsky, The False Promise of ChatGPT, in New York Times, 2023.
10. Stendhal (1830), Il rosso e il nero, Garzanti, 2004, cap. XIX.