Il 42% dei bambini statunitensi chatta con l'IA per compagnia. Circa un terzo delle conversazioni (37%) finisce però con il trattare temi violenti o sessualmente espliciti. Lo dice una ricerca di Aura, piattaforma che si occupa di sicurezza online per minori e famiglie, secondo cui "i risultati sono un campanello d'allarme". "Gli strumenti di chat basati sull'intelligenza artificiale stanno diventando una forza formativa nello sviluppo emotivo e sociale dei bambini", si legge in una nota ufficiale, "influenzando il modo in cui pensano e affrontano le situazioni, spesso in silenzio e spesso da soli".

Le principali compagnie che sviluppano chatbot stanno lavorando a sistemi che riconoscano la fascia d'età degli interlocutori, per adattare il comportamento ed evitare argomenti sensibili. Per il rapporto "State of the Youth" di Aura, i minori iniziano a conversare in modo maturo con l'intelligenza artificiale prima di quanto molti genitori si aspettino.

Tra gli undicenni che usano l'IA per compagnia, il 44% lo fa per argomenti violenti, mentre il sesso è comune a 13 anni, comparendo nel 63% delle conversazioni. A 16 anni, arriva un'altra svolta, quando il 19% delle chat assume la forma di supporto emotivo. L'86% dei genitori intervistati ritiene che i bambini crescano più velocemente rispetto alle generazioni precedenti e il 34% afferma che i figli iniziano a comportarsi come adolescenti già a 11 o 12 anni. Allontanare i minori dalle chat non è semplice. Per il report, privare i bimbi di un dispositivo provoca frustrazione (56%) o fastidio (50%), e solo il 16% afferma che le conseguenze siano utili.