Limitare la memoria dei Chatbot per i più piccoli
L’avvento dell’intelligenza artificiale sta cambiando rapidamente le abitudini quotidiane, soprattutto tra i più giovani. I chatbot non vengono usati solo per cercare informazioni o svolgere compiti pratici ma sempre più spesso diventano strumenti con cui parlare di emozioni, problemi personali e momenti di difficoltà. Le ricerche più recenti mostrano che molti adolescenti e giovani adulti si rivolgono alle AI anche per ricevere conforto, consigli o semplicemente per sentirsi ascoltati. Infatti, la facilità di accesso e l’assenza di giudizio rendono questi strumenti particolarmente attrattivi, soprattutto per chi vive situazioni di isolamento o fragilità.
Questo fenomeno ci pone davanti a questioni importanti. Un chatbot può simulare empatia, ma non comprende davvero il contesto emotivo delle persone e non può sostituire relazioni umane o supporto professionale. Nonostante ciò, il rapporto “spesso quotidiano” che si crea tra uomo e macchina rischia di sviluppare un’intensità preoccupante.
Anche per questo l’Unione europea ha approvato l’AI Act, che introduce già alcuni limiti applicabili ai chatbot. Per esempio, l’articolo 50 impone obblighi di trasparenza, prevedendo che l’utente sia informato quando interagisce con un sistema di intelligenza artificiale, mentre l’articolo 5 vieta pratiche manipolative e disciplina alcuni impieghi del riconoscimento delle emozioni. Tuttavia, il regolamento europeo non copre ancora tutti gli aspetti di rischio e lascia aperte diverse zone grigie.
La questione si fa particolarmente rilevante quando i protagonisti sono i minori e gli utenti psicologicamente vulnerabili. Oggi un adolescente può passare ore a confrontarsi con un’intelligenza artificiale senza che esistano confini sul legame emotivo che si possono creare con questi strumenti. Il rischio è che la tecnologia finisca per occupare spazi sempre più personali e delicati senza che società, politica e istituzioni abbiano ancora definito limiti e responsabilità adeguate.
Definizione
I chatbot sono programmi software che sfruttano l’intelligenza artificiale per simulare una conversazione con utenti umani. La Treccani riprende la seguente definizione di Paolino Accolla in un articolo de La Repubblica ormai del 2006:
“programmi per computer in grado di «apprendere» e sviluppare una propria intelligenza, mentre dialogano con gli esseri umani. Riuscendo, almeno per qualche minuto, a spacciarsi per gente in carne e ossa. Memorizzano cioè parole e frasi di ogni conversazione, per farne uso nelle conversazioni seguenti, verificandone l’effetto e affinandone di passo in passo la correttezza. Imparando dagli errori.”
Criticità
✘ I rischi sono concreti e documentati
L’uso non regolamentato è associato a:
-
- una riduzione del pensiero critico nel 40% dei casi,
- un impoverimento delle relazioni sociali reali nel 35%,
- confusione tra realtà e finzione nel 33%
- un rischio di dipendenza nel 25%.
✘ La memoria crea dipendenza
Uno dei motivi per cui i chatbot risultano così coinvolgenti, soprattutto per i più giovani, è che ricordano tutto quello che scrivi: conversazione dopo conversazione, raccolgono informazioni, abitudini, preferenze, con il risultato di creare un’interazione sempre più personale, quasi intima.
Per molti adolescenti, questa familiarità simulata è indistinguibile da una relazione reale, con le conseguenze che ne derivano in termini di dipendenza e disorientamento.
✘ La difficoltà di verificare l’età degli utenti
Ad oggi, nonostante l’entrata in vigore dell’AI Act e la crescente attenzione verso la tutela dei minori online, manca ancora una modalità efficace e uniforme per verificare l’età degli utenti che accedono ai chatbot. Tale deficit rende ancora più complicato applicare regole diverse tra utenti minorenni e maggiorenni e limita la possibilità di predisporre tutele specifiche per i più giovani.
La criticità è stata rilevata anche dalla Commissione europea, che ha recentemente annunciato lo sviluppo di un’app per la verifica dell’età online pensata anche per i social network e gli altri servizi digitali. Tuttavia, l’effettiva applicazione di tale strumento, così come la sua capacità di garantire controlli affidabili, proporzionati e rispettosi della privacy, resta ancora da verificare.
✘ Un fenomeno ancora poco discusso
Nonostante la diffusione sempre maggiore dei chatbot, il fenomeno è ancora poco affrontato nel dibattito pubblico. Mancano campagne informative capaci di rendere cittadini, famiglie, scuole e minori consapevoli dei possibili rischi legati all’uso prolungato o non supervisionato:
-
- dipendenza emotiva,
- privacy,
- manipolazione,
- affidamento eccessivo alle risposte generate dall’intelligenza artificiale.
Le nostre proposte
✓ Rafforzare la tutela dei minori
Affidare all’Autorità per le garanzie nelle comunicazioni specifiche funzioni di regolazione, indirizzo, vigilanza e sanzione in materia di accesso e utilizzo dei chatbot da parte dei minori. In particolare, l’Autorità dovrebbe essere incaricata di:
-
- definire le modalità di verifica dell’età degli utenti che accedono ai chatbot;
- adottare linee guida specifiche sul benessere psicofisico dei minori che utilizzano chatbot;
- individuare le diverse tipologie di servizi basati su chatbot, al fine di distinguere quelli che possono comportare un maggiore coinvolgimento emotivo o relazionale per l’utente;
- stabilire misure di trasparenza e correttezza informativa, affinché gli utenti siano consapevoli della natura artificiale dell’interazione e dei possibili rischi connessi all’utilizzo del servizio;
- prevedere regole di tutela dei minori, volte a prevenire forme di manipolazione, dipendenza, esposizione a contenuti dannosi o sostituzione delle relazioni umane con interazioni artificiali;
- irrogare sanzioni amministrative pecuniarie in caso di violazione, proporzionate alla gravità dell’infrazione, con un importo minimo di 10.000 euro e fino al 2% del fatturato annuo dell’ultimo esercizio del soggetto responsabile.
✓ Limitare la memorizzazione delle conversazioni per i minorenni
Prevedere che le conversazioni dei minori con i chatbot non siano più accessibili agli utenti dopo cinque giorni e che, trascorso tale periodo, i relativi contenuti non possano essere utilizzati per alimentare la memoria del sistema o personalizzare le interazioni successive. Le aziende potrebbero comunque conservare i dati nei limiti e secondo le finalità consentite dalla normativa vigente in materia di protezione dei dati personali, ma essi non possono contribuire all’instaurazione di un rapporto tra minore e macchina.
Questa limitazione ridurrebbe il rischio che il minore costruisca nel tempo una relazione artificiale stabile con il chatbot, evitando che la memoria delle conversazioni rafforzi un senso di vicinanza emotiva o di dipendenza.
✓ Promuovere campagne di sensibilizzazione e monitorare il fenomeno
Avviare campagne informative a livello nazionale, in collaborazione con il Dipartimento per le politiche della famiglia e il Ministero dell’Istruzione, per informare cittadini, famiglie, scuole e studenti sui rischi connessi all’uso dei chatbot, soprattutto in giovane età.
Le campagne dovrebbero spiegare in modo chiaro le possibili conseguenze dell’uso eccessivo o non consapevole di questi strumenti, con particolare attenzione a:
-
- tutela della privacy,
- dipendenza emotiva,
- disinformazione,
- distinzione tra relazione umana e interazione artificiale.
