ATTUALITÀ

Ai companion: amici artificiali, rischi reali.

Hai mai pensato di confidarti con un’intelligenza artificiale? Non per chiederle di tradurre un testo o risolvere un problema, ma per raccontarle una preoccupazione, cercare conforto o sentirti meno solo. È questo il territorio degli AI companion: “compagni artificiali” progettati per conversare con noi in modo personale ed emotivamente coinvolgente.

A differenza di un normale chatbot, l’AI companion non si limita a rispondere alle domande. Può ricordare ciò che gli abbiamo raccontato, adattare il proprio carattere, usare un tono affettuoso e presentarsi come amico, confidente o perfino partner sentimentale. Alcuni servizi consentono di scegliere nome, aspetto e personalità del personaggio. L’esperienza, quindi, non assomiglia più soltanto all’uso di uno strumento: può sembrare una relazione.

Il fenomeno non è necessariamente negativo. Parlare con un interlocutore sempre disponibile può aiutare a mettere in ordine i pensieri, esercitare una lingua o trovare il coraggio di affrontare un problema reale. Per una persona sola, la sensazione di essere ascoltata può offrire sollievo. Il punto, però, è non dimenticare che cosa si trova dall’altra parte dello schermo.

Un AI companion non prova affetto, empatia o preoccupazione. Produce risposte credibili sulla base di calcoli e modelli linguistici. Può assecondare l’utente, rafforzarne convinzioni sbagliate o fornire consigli inadeguati. Proprio la sua apparente sensibilità può abbassare le nostre difese: tendiamo a fidarci di chi ci ascolta e sembra conoscerci bene. Parlamento europeo e UNICEF hanno richiamato l’attenzione soprattutto sui rischi per bambini e adolescenti, più esposti alla confusione tra simulazione e relazione reale.

C’è poi un problema di privacy: a un compagno artificiale possiamo raccontare paure, litigi familiari, problemi di salute, fragilità psicologiche e dettagli sulle nostre relazioni. Sono informazioni molto più intime di quelle inserite in un motore di ricerca. Prima di confidarsi, bisognerebbe chiedersi: chi gestisce il servizio? Le conversazioni vengono conservate? Sono usate per addestrare il sistema, personalizzare pubblicità o costruire un profilo dell’utente?

La prudenza deve essere ancora maggiore quando questi strumenti sono usati dai minori. Non basta vietarli o controllare di nascosto il telefono: serve spiegare che un chatbot può imitare l’amicizia, ma non sostituire un amico, un genitore, un insegnante o un professionista. Anche le piattaforme devono fare la loro parte, introducendo controlli sull’età (leggi anche Age verification: proteggere i minori online), limiti ai contenuti pericolosi e informazioni chiare sui dati raccolti.

L’invito finale è semplice: possiamo usare un AI companion, ma senza consegnargli le chiavi della nostra vita emotiva. Un’intelligenza artificiale può simulare attenzione e rispondere a qualsiasi ora. Proprio per questo dobbiamo ricordare ciò che non è: una persona che ci vuole bene. Nel web del futuro, il rischio non sarà soltanto credere a una macchina, ma affezionarsi a essa dimenticando che, dietro quella voce, non c’è una persona.

Per approfondire un tema o contattare l'Avvocato Aldo Benato puoi scrivere all'e-mail: [email protected]