FTC start onderzoek naar bescherming van kinderen en jongeren door AI-bedrijven

Het gaat specifiek om Google-moederbedrijf Alphabet, character.ai-maker Character Technologies, Instagram, Meta Platforms, OpenAI, Snap en X.AI. De partijen zijn door de FTC gevraagd informatie te verstrekken over hun werkwijze. Centraal in het onderzoek staat de vraag hoe deze chatbots kinderen beïnvloeden en welke acties bedrijven ondernemen om negatieve effecten te beperken, het gebruik door jongeren te reguleren en te voldoen aan de Children’s Online Privacy Protection Act (COPPA).

De FTC vraagt onder meer om informatie over:

• hoe bedrijven gebruikersbetrokkenheid monetariseren;
• de verwerking van gebruikersinvoer en het genereren van antwoorden;
• de ontwikkeling en goedkeuring van chatbot-personages;
• methoden om negatieve effecten voor en na de introductie van chatbots te meten en te monitoren;
• maatregelen om negatieve gevolgen, met name voor kinderen, te verminderen;
• hoe bedrijven gebruikers en ouders informeren over functionaliteiten, doelgroep, mogelijke risico’s en dataverzameling via disclosures, reclame en andere communicatie;
• toezicht op en handhaving van bedrijfsregels en gebruikersvoorwaarden, zoals leeftijdsbeperkingen;
• het gebruik en delen van persoonsgegevens die via gesprekken met chatbots worden verzameld.

'Bescherming van kinderen online is een topprioriteit'

FTC-voorzitter Andrew N. Ferguson: "Bescherming van kinderen online is een topprioriteit voor de FTC, net als het bevorderen van innovatie in cruciale sectoren van onze economie. Terwijl AI-technologieën zich ontwikkelen, is het essentieel om na te denken over de effecten die chatbots kunnen hebben op kinderen, en tegelijkertijd ervoor te zorgen dat de Verenigde Staten hun positie als wereldleider in deze sector behouden. Het onderzoek dat we vandaag starten, helpt ons beter te begrijpen hoe AI-bedrijven hun producten ontwikkelen en welke maatregelen zij nemen om kinderen te beschermen.”