L'Italia vieta l'utilizzo di dati personali al chatbot Replika con sede negli Stati Uniti
![Un utente interagisce con un'app per smartphone per personalizzare un avatar per un chatbot personale di intelligenza artificiale, noto come Replika, a San Francisco](https://d.ibtimes.it/en/full/1000904/un-utente-interagisce-con-un39app-per-smartphone-per-personalizzare-un-avatar-per-un-chatbot.jpg?w=736&f=1ced9cf3899992bf1c3366750f0b3166)
L'Agenzia italiana per la protezione dei dati ha dichiarato venerdì che sta vietando alla società di chatbot di intelligenza artificiale (AI) Replika di utilizzare i dati personali degli utenti italiani, citando i rischi per i minori e le persone emotivamente fragili.
Replika, una startup di San Francisco lanciata nel 2017, offre agli utenti avatar personalizzati che parlano e li ascoltano.
Ha aperto la strada tra gli anglofoni ed è gratuito, anche se genera circa $ 2 milioni di entrate mensili dalla vendita di funzionalità bonus come le chat vocali.
L'"amico virtuale" è commercializzato come in grado di migliorare il benessere emotivo dell'utente.
Ma l'Osservatorio italiano ha affermato che intervenendo sull'umore dell'utente "può aumentare i rischi per individui ancora in fase di sviluppo o in uno stato di fragilità emotiva".
Jen Persson, direttore del gruppo di difesa della privacy dei bambini Defend Digital Me, ha dichiarato a Reuters che gli strumenti progettati per influenzare l'umore o il benessere mentale di un bambino dovrebbero essere classificati come prodotti per la salute e dovrebbero quindi essere soggetti a rigorosi standard di sicurezza.
"Questi strumenti vengono utilizzati con i bambini senza molta supervisione o protezione da potenziali abusi", ha affermato.
I regolatori italiani hanno evidenziato l'assenza di un meccanismo di verifica dell'età, come filtri per i minori o un dispositivo di blocco se gli utenti non dichiarano esplicitamente la loro età.
Replika viola il regolamento europeo sulla privacy e tratta i dati personali illecitamente in quanto non può basarsi, nemmeno implicitamente, su un contratto che un minore non è in grado di firmare, ha affermato il watchdog.
Replika non ha risposto immediatamente a un'e-mail di Reuters che chiedeva un commento.
Robert Grosvenor, amministratore delegato della società di consulenza Alvarez & Marsal, ha affermato che è improbabile che il cane da guardia italiano sia l'unico regolatore europeo a prendere in considerazione un'azione contro società come Replika.
"Sebbene la verifica dell'età possa fornire mezzi per proteggere alcuni dei gruppi più vulnerabili, non affronta i rischi e i danni che i servizi e le soluzioni basati sull'intelligenza artificiale possono sollevare se non regolamentati, in termini di potenziale pregiudizio e discriminazione involontari", ha affermato. .
Lo sviluppatore di Replika, la società statunitense Luka Inc, deve notificare all'autorità italiana le misure adottate per implementare i suoi requisiti entro 20 giorni e potrebbe essere multato fino a 20 milioni di euro ($ 21,80 milioni), o fino al 4% del suo fatturato annuo globale, la dichiarazione disse.
© Copyright 2023 IBTimes IT. All rights reserved.