De Italiaanse privacytoezichthouder heeft een populaire AI-chatbot bevolen te stoppen met het verwerken van gegevens van Italiaanse burgers nadat het de GDPR-regels had overtreden. De ‘virtuele vriend’-app probeert de emotionele gezondheid van gebruikers te verbeteren en hen te helpen hun gedachten te begrijpen en angst te kalmeren door middel van stressbeheer, socialisatie en het zoeken naar liefde, maar lijkt niet te voldoen aan de transparantie-eisen van de wet. Het verwerkt persoonlijke gegevens van kinderen onrechtmatig omdat er geen leeftijdsverificatiemechanisme is om te voorkomen dat kinderen zich aanmelden, en de ‘antwoorden’ van de AI-bot aan gebruikers zijn als ongeschikt gemarkeerd voor jongere gebruikers. De GPDP zei dat sommige app store-recensies seksueel ongepaste inhoud hadden opgemerkt die door de bot was gegenereerd. De functies omvatten interacties met de stemming van een persoon en kunnen verhoogde risico’s met zich meebrengen voor personen die nog niet zijn opgegroeid of emotioneel kwetsbaar zijn.”