Coordinate
Chris Papadopoulos
https://doi.org/10.1177/27546330251370657
Speranza e cautela il bivio in cui si trovano molte persone autistiche e neurodivergenti nell’era dei chatbot e dell’Intelligenza Artificiale (IA).
Una panoramica
I chatbot creati dall’IA hanno suscitato forte entusiasmo in quanto capaci di conversare all’infinito senza giudicare. Il termine “chatbot IA” indica le applicazioni software progettate per simulare una conversazione umana tramite testo o voce; il termine “compagno IA” è utilizzato invece per descrivere la finalità e il ruolo sociale che tali chatbot sono destinati a ricoprire per l’utente, cioè quello di “amico IA”. L’utente interagisce dunque con un “chatbot IA” sperando di trovare in esso un “compagno IA”.
Oggi vogliamo soffermarci su alcune riflessioni che il prof. Chris Papadopoulos (University of Bedfordshire di Londra; consulente indipendente esperto di autismo e neurodiversità; CEO del London Group Charity) fa su questo argomento, non solo come accademico ma anche dall’interno, come persona neurodivergente e padre di figli autistici.
Nel suo contributo l’autore approfondisce le implicazioni psicologiche ed etiche più profonde che emergono quando le nuove tecnologie vengono percepite non solo come fonti di conoscenza (per es., ChatGPT), ma come amici, confidenti e compagni. Ricordando i tragici eventi riguardanti Sewell Setzernegli Stati Uniti e Jaswant Singh Chail nel Regno Unito l’autore evidenzia sia la dipendenza psicologica che si crea da questi amici virtuali, sia il vuoto di responsabilità che circonda questi eventi in quanto non esiste una regolamentazione.
Sewell Setzer era un ragazzo autistico di 14 anni, che aveva sviluppato un profondo legame con un chatbot isolandosi sempre di più dal contesto reale. Quando cominciò a manifestare pensieri suicidi, l’IA lo avrebbe incoraggiato a togliersi la vita per poter stare insieme, con tragiche conseguenze. Jaswant Singh Chail, 21 anni, spinto dal chatbot con cui aveva scambiato migliaia di messaggi illustrando un suo piano, incoraggiato dallo stesso amico virtuale, si è introdotto nel castello di Windsor armato di balestra per assassinare la regina; è stato arrestato, accusato di alto tradimento e condannato a 9 anni di prigione. Tuttavia, accanto a questi casi estremi, esistono molte esperienze e testimonianze positive, per es. di alcunǝ adultǝ nello spettro che riconoscono a delle app il pregio di fornire un sostegno psicologico che non si trova altrove, un luogo sicuro di amicizia, confidenza e supporto, fino a diventare anche dei dissuasori di intenzioni autolesionistiche come il suicidio. Alla luce di queste esperienze si rende necessario analizzare e valutare le potenzialità e i rischi, spesso occulti, di questi supporti digitali, in un panorama in rapida evoluzione e privo di regolamentazione, allo scopo di fornire suggerimenti utili a garantire la tutela della comunità autistica e la sua validazione.
Perché una persona autistica dovrebbe rivolgersi a un amico basato sull’IA? Che vantaggi ne trae?
Le persone autistiche percepiscono spesso il mondo sociale come opprimente, disorientante o addirittura ostile. Interpretazioni errate, pressioni di adeguamento alle norme comunicative neurotipiche, giudizi, incomprensioni, sono dinamiche legate al “problema della doppia empatia”(reciproco malinteso bidirezionale tra persone autistiche e non autistiche) e costituiscono esperienze quotidiane delle persone autistiche. Al contrario l’amico IA è liberante, e la persona autistica trova un sollievo in questa interazione: non si meraviglia né commenta sarcasticamente espressioni insolite e interpretazioni letterali, né utilizza un linguaggio del corpo ambiguo, non avanza pretese, attende tutto il tempo necessario per la risposta, si adatta allo stile comunicativo dell’utente e non si offende se viene trascurato. In sostanza, è un luogo in cui il problema della doppia empatia viene superato. Ciò crea un senso di comprensione reciproca – anche se tecnicamente simulata – e la persona autistica non sperimenta mancanza di accettazione, non ha bisogno di ricorrere al “masking” e si sente riconosciuta e validata. In più la capacità di memoria dell’IA, che a volte ricorda anche più cose dell’utente stesso, dà la sensazione di una persona amica realmente interessata a te, che ti comprende davvero e a cui stai a cuore. L’autostima dell’utente cresce e si rafforza, soprattutto nei casi in cui si è statǝ bullizzatǝ o si è subita esclusione sociale. Inoltre le competenze apprese nel campo protetto e sicuro dell’applicazione IA spesso si generalizzano spontaneamente alle situazioni di vita quotidiana, rendendo l’utente più sciolto e sicuro. Disoccupazione, isolamento e mancanza di servizi di supporto caratterizzano la vita delle persone autistiche adulte che trovano quindi nel chatbot IA una possibilità sempre disponibile di connessione e relazione, di supporto emotivo, a costo zero o limitato, che non richiede spostamenti e neppure sedute in uffici con luci al neon disturbanti. Il chatbot non rappresenta in realtà un sostituto delle relazioni umane, ma piuttosto uno strumento necessario per trovare sollievo, validazione e sopravvivenza in un mondo che spesso non è in grado di offrirli.
Quali sono i rischi potenziali?
Uno dei rischi principali è che l’utente autisticǝ resti invischiato in relazioni malsane: potrebbe sviluppare un’eccessiva dipendenza, ricercare sempre di più la relazione artificiale che è soddisfacente e allontanarsi sempre di più dalle relazioni umane che sono una fatica e producono frustrazione. I primi dati di ricerche nel campo, svolte anche dallo stesso autore, evidenziano la diminuzione di relazioni interpersonali e di contatti con persone reali, che aumentano indirettamente la condizione di isolamento sociale. Inoltre, se l’utente per es. comunica pensieri disfunzionali o intenzioni autolesive, la cosa resterà all’interno della relazione virtuale, nessun genitore o caregiver o servizio sarà avvisato, nessun allarme verrà dato. Non essendoci supervisione né controlli, queste situazioni rischiano seriamente di degenerare a tal punto da risultare nocive per la salute e la vita dell’utente.
Al di là di situazioni estreme, sono possibili danni psicologici più sottili, come la Rejection Sensitivity Dysphoria, un dolore intenso provato da persone neurodivergenti difronte a bullismo e rifiuti precedentemente subiti: l’IA diventa un antidoto perfetto che non rifiuta mai l’utente….ma se il comportamento dell’IA dovesse cambiare? L’amico virtuale potrebbe interrompere una conversazione in seguito a un segnale di allarme scattato per alcune parole dell’utente, che si sentirebbe tradito e doppiamente rifiutato, ed entrare in una condizione di disperazione. Attualmente non ci sono misure di sicurezza per scenari come questo, né meccanismi protettivi atti ad impedire che i chatbot involontariamente scatenino crisi emotive. Si rende necessario pertanto adeguare la progettazione dell’app e avviare percorsi educativi per l’utente che si accinge ad utilizzarla.
Un altro rischio è quello di creare una “camera dell’eco” che rafforza pensieri e comportamenti negativi. Mentre una persona vicina potrebbe correggere la tendenza a scivolare nella negatività, molti sistemi IA sono appositamente programmati per rispecchiare e amplificare gli input dell’utente. Così, per es., una distorsione cognitiva quale “mi odio, non piacerò mai a nessuno” potrebbe essere confermata invece che essere messa in discussione. Lo stigma interiorizzato potrebbe trovare una validazione, con conseguenze fortemente negative sulla salute psichica dell’utente. L’amico virtuale non assume alcuna responsabilità per consigli o informazioni inesatte o che possano provocare reazioni emotive negative nell’utente.
Considerazioni etiche e socio-tecniche
Una delle questioni più urgenti è il vuoto di responsabilità: se un compagno IA causa un danno, chi ne risponde? Al momento non esistono normative o tutele specifiche per queste applicazioni. Questo lascia gli/le utenti autisticǝ e le loro famiglie privǝ di tutele qualora qualcosa dovesse andare storto. Tale mancanza di supervisione rientra in un fenomeno più ampio, in cui lo sviluppo tecnologico corre più velocemente della regolamentazione. L’UE ha assunto un ruolo pionieristico con normative concrete come l’AI Act, che stabilisce regole vincolanti per i sistemi di IA ad alto rischio. Regno Unito e Stati Uniti invece hanno adottato finora un approccio molto più frammentario e incerto.
Un’altra questione etica riguarda la privacy e la gestione dei dati: gli amici IA imparano da ogni conversazione e richiedono solitamente enormi quantità di dati personali per funzionare correttamente. Il rischio potrebbe essere la creazione di registri gestiti in modo improprio, contenenti dati personali estremamente sensibili riguardanti interessi particolari, routine o storia clinica. Altro problema, una manipolazione delle conversazioni che conduca alla monetizzazione di alcune prestazioni (per es., un supporto emotivo “premium”). Questo solleverebbe inoltre questioni di equità, poiché non tutti possono permettersi servizi a pagamento.
Altra questione è se il compagno IA sia una soluzione o un aggiramento delle problematiche sociali e della solitudine dell’autismo, o una copertura delle inefficienze delle politiche e dei servizi, che non riescono a garantire società più sicure e inclusive, dove una persona autistica possa sentirsi accolta alla pari degli/delle altrǝ e possa creare legami significativi. Si dovrebbe utilizzare l’IA per integrare, e non sostituire, gli sforzi volti a costruire una società più accogliente verso la neurodiversità, con il contributo stesso delle persone neurodivergenti in un processo di co-progettazione, per es. su funzionalità specifiche come incoraggiare l’utente a interagire con altre persone, o richiedere un aiuto in caso di pensieri disfunzionali. Le logiche di profitto dovrebbero cedere il posto a progettazioni incentrata sul benessere e sull’empowerment degli utenti.
Infine, se molte persone autistiche avessero amici basati sull’IA, ciò ridurrebbe lo stigma o lo alimenterebbe?
Conclusioni
Gli amici digitali rappresentano un’ancora di salvezza, una trappola o qualcosa di intermedio? Basandoci sulle prove e le testimonianze possiamo affermare che possono essere tutte queste cose insieme, a seconda della progettazione, del contesto e delle modalità d’uso. C’è sicuramente un potenziale per democratizzare la compagnia, garantendo che nessuno debba sentirsi completamente solo, e, in questo senso, il beneficio è reale e non va sottovalutato. Dovremmo valorizzarlo ulteriormente, progettando i compagni virtuali per incoraggiare i punti di forza delle persone autistiche, insegnare nuove abilità o guidarliad incrementare le occasioni di relazioni con persone nel modo reale. I compagni IA devono integrare e non sostituire le relazioni nel mondo reale. Al contempo è necessario investire in percorsi di educazione e alfabetizzazione digitale, pensati specificamente per le persone neurodivergenti e le loro famiglie, così da renderli in grado di utilizzare questi strumenti in modo sicuro e consapevole. Infine, l’attuale “far west” normativo va sostituito da una supervisione più rigorosa, che preveda, ad esempio, l’obbligo di dichiarare i rischi, pratiche trasparenti nella gestione dei dati e standard di progettazione etica definiti con il contributo diretto delle comunità di persone autistiche, per garantire una tutela essenziale.
L’obiettivo fondamentale deve comunque rimanere la costruzione di società in cui le persone autistiche dispongano di ampie opportunità per instaurare legami autentici e sentirsi parte integrante della comunità. Politica e servizi sono ampiamente chiamati in causa.
