Californië versterkt bescherming kinderen tegen AI en social media

De wetten vereisen nieuwe functies en protocollen voor technologiebedrijven, met als doel de risico’s van verslaving, zelfbeschadiging, ongepaste inhoud en cyberpesten te beperken.

Gouverneur Newsom stelt: “Opkomende technologie kan inspireren en verbinden, maar zonder echte vangrails kan het onze kinderen ook uitbuiten en in gevaar brengen. We zullen niet toekijken terwijl bedrijven zonder de noodzakelijke beperkingen en verantwoording blijven opereren. De veiligheid van onze kinderen is niet te koop.”

Nieuwe maatregelen voor techbedrijven

De kern van de nieuwe wetgeving omvat:

• Verplichte leeftijdsverificatie: Providers van besturingssystemen en app-winkels moeten nu mechanismen voor leeftijdsverificatie invoeren om te voorkomen dat kinderen toegang krijgen tot gevaarlijke of ongepaste inhoud.
• Bescherming tegen AI-Chatbots: Platforms die 'companion chatbots' aanbieden, moeten protocollen opstellen om suïcidale ideatie of uitingen van zelfbeschadiging bij gebruikers te identificeren en aan te pakken. Daarnaast moeten chatbots duidelijk maken dat interacties kunstmatig zijn en is het verboden dat zij zich voordoen als zorgprofessionals.
• Waarschuwingslabels Social Media: Platforms moeten jonge gebruikers gaan voorzien van waarschuwingslabels over de schadelijke gevolgen van langdurig gebruik van sociale media.
• Strengere straffen voor deepfakes: De wet breidt de mogelijkheid tot civiele vorderingen uit, waardoor slachtoffers van non-consensuele deepfake-pornografie — inclusief minderjarigen — tot 250.000 dollar schadevergoeding kunnen eisen van derden die de verspreiding moedwillig faciliteren.
• Aansprakelijkheid AI-technologie: Ontwikkelaars, wijzigers of gebruikers van AI kunnen zich niet langer verschuilen achter de claim dat de technologie autonoom handelde om aansprakelijkheid voor schade te ontlopen.

Daarnaast is het Californische Ministerie van Onderwijs (CDE) verplicht om uiterlijk juni 2026 een modelbeleid vast te stellen ter preventie van cyberpesten dat ook buiten schooltijd plaatsvindt.

De maatregelen bouwen voort op eerdere wetgeving in Californië ter bescherming tegen social media-verslaving en versterking van privacy-eisen. Deze stap wordt gezien als cruciaal om ervoor te zorgen dat technologische innovatie en de veiligheid van kinderen hand in hand gaan.