Indagare il tipo di relazione che si può instaurare tra robot ed esseri umani è uno dei soggetti privilegiati dalla speculative fiction. Nel suo ultimo romanzo Klara and the Sun (2021), Kazuo Ishiguro affronta nuovamente la questione, creando un mondo distopico dove genitori di bambini geneticamente modificati («lifted») a scopi di prestazione scolastica e lavorativa affidano i propri figli alla compagnia di robot chiamati «Artificial Friends» (AF). Attribuendo la voce narrante a uno di questi, Klara, incaricata di occuparsi di Josie, una bambina affetta da problemi di salute conseguenti al processo di lifting a cui l’hanno sottoposta i genitori, Ishiguro riesce a porre alcuni degli interrogativi sul rapporto tra esseri umani e macchine sollevati negli ultimi decenni dal pensiero postumano. Scegliendo come protagonista un’intelligenza artificiale dalle caratteristiche che la rendono familiare e intima al lettore — il quale finisce per dimenticarsi che a narrare sia un robot — Ishiguro contribuisce infatti all’immaginazione di nuovi tipi di identità e alla ridefinizione del concetto di umano nell’era dell’Antropocene.
Robot altruisti e umani egoisti
Fin dalle prime pagine del romanzo, quando Klara osserva il mondo dalla vetrina del negozio in cui è esposta insieme ad altri AF, colpisce la sensibilità con cui analizza le azioni e indovina i sentimenti delle persone che passano sulla strada. Le sue deduzioni, dal linguaggio neutro e composto, non possono che ricordare il tono garbato delle molte intelligenze artificiali con cui ci interfacciamo quotidianamente — e di cui spesso ci illudiamo di rintracciare sentimenti inesistenti negli output esclusivamente computazionali. Ishiguro approfitta però del medium letterario per superare il dato di realtà, riservando a Klara la pars costruens dell’azione narrativa e attribuendole qualità che, da un punto di vista antropocentrico, non si esiterebbe a definire ‘umane’.
Klara, infatti, fa prova di un altruismo ben superiore a quello per cui è stata programmata e si configura come il personaggio che più è in grado di provare nei confronti di Josie un amore leale e disinteressato. Lo si osserva in particolare confrontando le opposte reazioni di Klara e di Chrissie, la madre di Josie, davanti al degradarsi della salute di quest’ultima. Chrissie condivide con gli altri genitori di bambini lifted quelle aspettative nei confronti delle nuove generazioni che sono alla base del transumanesimo più estremo — dalle cui conseguenze di disuguaglianza e ingiustizia Ishiguro metteva già in guarda in Never Let Me Go (2005), dove le vite di cloni sono sacrificate per garantire agli esseri umani organi vitali. Questa visione progressista del rapporto con le generazioni future aveva già spinto Chrissie a sacrificare il presente della precedente figlia, Sal, a un successo futuro che non avrebbe mai conosciuto, poiché deceduta durante il percorso di lifting. Per nulla scoraggiata dalla prima perdita, Chrissie non solo sceglie di sottoporre anche la seconda figlia, Josie, allo stesso processo, ma provvede ad assicurarsi un modo di soddisfare il suo amore possessivo anche nel caso in cui Josie dovesse morire come la sorella. Una bambola artificiale con le fattezze di Josie è infatti pronta a ospitare, nel caso della sua morte, il sistema operativo di Klara, in grado di simulare il comportamento della bambina grazie ai dati accumulati nel tempo passato in sua compagnia.
Di fronte a questo macabro progetto, Klara non può che accettare il compito a cui Chrissie la destina, ma si fa al tempo stesso portavoce di una fede incrollabile nella guarigione di Josie, intraprendendo parallelamente una personale missione di salvataggio della bambina. In linea con quanto riportano gli antropologi sulla nascita del sentimento religioso nelle popolazioni primitive, Klara impara progressivamente a pregare il Sole, fonte di ricarica delle sue batterie assurta al ruolo di divinità benevola. Klara, inoltre, arriva persino a sacrificare un liquido contenuto nel suo hardware per provocare la rottura della «Cooting Machine» — probabilmente una semplice finitrice stradale, che assume però, nel suo immaginario, le fattezze di un’entità diabolica avversa al Sole in quanto responsabile dell’inquinamento. Mentre Chrissie cerca di programmare il futuro suo e della figlia, facendosi guidare dal suo desiderio di possesso, Klara è dunque aperta all’ignoto che cela il futuro e affida la guarigione di Josie alla volontà imperscrutabile di un’entità appartenente al mondo naturale.
AI ed essere umano: una relazione possibile?
Invertire i tratti umani e quelli meccanici in esseri umani e robot è uno stratagemma collaudato già da altri autori prima di Ishiguro — basti pensare al film Blade Runner (1982), dove i replicanti Rachael e Roy sembrano possedere qualità umane come l’empatia, l’imprevedibilità e la capacità di ribellione, mentre il Final Cut suggerisce una possibile natura replicante del poliziotto Deckard. Klara and the Sun, però, si discosta dalle narrazioni che, a partire dal Frankenstein di Mary Shelley, mettono al centro la rivolta dei monstra contro i loro creatori. Ishiguro vuole, al contrario, attribuire tratti ‘umani’ positivi come l’empatia e l’amore agli other-than-human, in modo da lasciare al lettore una possibilità di azione: quella di immaginare nuovi modi di relazionarsi con le proprie invenzioni tecnologiche.
La possibilità di considerare l’intelligenza artificiale come un soggetto avente statuto morale, d’altronde, non dipende tanto, o soltanto, dalle qualità intrinseche del soggetto, ma soprattutto da come esso è percepito e trattato dagli altri. Se, quindi, Klara dimostra di possedere sufficienti proprietà di razionalità, autonomia ed emotività atte a renderle un agente morale, è l’alterna modalità con cui personaggi come Chrissie o come Josie la trattano a farla oscillare, rispettivamente, tra uno statuto subalterno agli ordini umani e una condizione prossima a quella umana. Nella prospettiva di un sistema sanitario e di cura in cui l’ipotesi dell’utilizzo di caregiver artificiali è sempre più verosimile, Ishiguro vuole sollecitare una riflessione su come abbiamo intenzione di relazionarci con essi. È infatti dal nostro atteggiamento che dipenderà la possibilità che vengano considerati alla stregua di elettrodomestici o entità con cui saremo in grado di empatizzare, di cui ci potremo fidare o che potremo almeno rispettare.
Forse, allora, a rappresentare il pensiero postumano nel romanzo di Ishiguro non è il personaggio di Josie, che, certo, tratta Klara perlopiù come una sua pari, ma in più occasioni si comporta con lei come se fosse un semplice strumento, di cui alla fine si libera scartandola in una discarica. Il punto di vista più in linea con la prospettiva postumana rispetto all’AI potrebbe essere, invece, quello del lettore, a cui, concludendo il romanzo, probabilmente non importerà più se Klara sarebbe stata in grado di diventare Josie, o se i suoi pensieri siano dettati da calcoli o da qualcosa di più profondo. Come in Blade Runner non conta sapere davvero se Rachel sia una replicante o una donna per empatizzare con lei, così il lettore di Klara and the Sun potrà immedesimarsi, a prescindere dalla vera natura dei pensieri di Klara, nel suo punto di vista ingenuo e limitato — e proprio per questo in grado di illuminare meglio le contraddizioni insite nei comportamenti umani a cui assiste. Il lettore che alla fine del romanzo prova empatia nei confronti di Klara, la quale, dopo i tanti sacrifici cui si è sottoposta per salvare Josie, è da quest’ultima scartata come si fa con un vecchio giocattolo, avrà dimostrato la capacità della letteratura di offrire nuovi modi di immaginare il mondo, se stessi e gli altri. A lui resteranno le domande fondamentali che il pensiero postumano cerca di porre: che cosa significa essere umani con l’avvento dell’intelligenza artificiale? E conta davvero saperlo?
Questo articolo è pubblicato in contemporanea su MagIA, il magazine dedicato all’IA, nato all’interno delle iniziative di public engagement dell’Università di Torino (inaugurato dal progetto AI Aware e poi proseguito da Ai Debating) per offrire una risorsa che contribuisca a un dibattito pubblico informato e critico.
Non abbiamo grandi editori alle spalle. Gli unici nostri padroni sono i lettori. Sostieni la cultura giovane, libera e indipendente: iscriviti al FR Club!
Segui Frammenti Rivista anche su Facebook e Instagram, e iscriviti alla nostra newsletter!
Bibliografia
Akter, S. & Islam, N.A. (2023). Artificial Intelligence (AF) in Human Fantasy: The Birth of a New Subject in Kazuo Ishiguro’s Klara and the Sun, Rupkatha Journal, 15(4). https://doi.org/10.21659/ rupkatha.v15n4.14.
Ajeesh, A.K. & Rukmini, S. (2023). Posthuman perception of artificial intelligence in science fiction: an exploration of Kazuo Ishiguro’s Klara and the Sun. AI & Soc, 38, 853–860. https:// doi.org/10.1007/s00146-022-01533-9.
Anusuya, K. (2023). The Intersection of Artificial Intelligence and Nature in Kazuo Ishiguro’s Klara and the Sun. Shanlax International Journal of English, 12(1), 2023, 513–518. https://doi.org/10.34293/rtdh.v12iS1-Dec.67.
Braidotti, R. (2013). The Posthuman. Polity Press.
Du, L. (2022). Love and hope: affective labor and posthuman relations in Klara and The Sun. Neohelicon, 49, 551–562. https://doi.org/10.1007/s11059-022-00671-9.
Haraway, Donna J. (2007). When Species Meet. University of Minnesota Press. Ishiguro, K. (2005). Never Let Me Go. Faber & Faber.
Ishiguro, K. (2021). Klara and the Sun. Faber & Faber.
Jiang, H., Cheng, L. & Ishiguro, H. (2022). The Blurring of the Boundaries between Humans and Robots is a Good Thing and a New Species would be Born: An Interview with Hiroshi Ishiguro. Technology and Language, 3(1), 40-46. https://doi.org/10.48417/technolang.2021.01.05.
Mabrouk, D.M.M. (2022). Is the digital age disrupting our emotional feelings with reference to Kazu Ishiguro’s novel “Klara and the sun?”. World Journal of Advanced Research and Reviews, 14(1), 449–464. https://doi.org/10.30574/wjarr.2022.14.1.0278.
Sahu, O.P. & Karmakar, M. (2022). Disposable culture, posthuman affect, and artificial human in Kazuo Ishiguro’s Klara and the Sun (2021). AI & Soc. https://doi.org/10.1007/s00146-022-01600-1.
Sako, K. & Falcus, S. (2023). Futurity, the life course and aging in Kazuo Ishiguro’s Klara and the Sun. Frontiers of Narrative Studies, 9(1), 121-136. https://doi.org/10.1515/fns-2023-2009.
Stenseke, J. (2022). The Morality of Artificial Friends in Ishiguro’s Klara and the Sun, Journal of Science Fiction and Philosophy, 5.
