Microsoft lanceert raamwerk voor veilige AI en jeugd
Microsoft heeft zijn nieuwe Safe Participation Framework gepresenteerd, een strategisch kader dat zich richt op het ontwerpen van veilige, privacyvriendelijke en aan de leeftijd aangepaste digitale ervaringen voor kinderen en jongeren. Volgens Mike Jackson (Chief Digital Safety Officer) en Cari Benn (Chief Privacy Officer) van Microsoft, is het raamwerk ontstaan in directe samenspraak met de AI Youth Futures Council. De centrale boodschap van deze jongerenraad: jeugd wil leren, creëren en bouwen aan een toekomst met AI, maar veiligheid, privacy en gelijke kansen moeten hierbij hand in hand gaan.
Het kader dient als leidraad voor Microsofts eigen productontwikkeling en moet tevens bijdragen aan het wereldwijde debat over opkomende wet- en regelgeving rondom digitale kinderveiligheid.
Drie pijlers onder het raamwerk
Het Safe Participation Framework rust op drie specifieke pijlers:
Safety by design (Veiligheid vanaf het ontwerp): Veiligheid moet vanaf het eerste moment in producten en functies worden ingebouwd. Microsoft bouwt hiermee voort op technologieën zoals PhotoDNA, maar past deze 'safety-by-design'-aanpak nu toe op generatieve AI. Zo zijn de beveiligingssystemen in Bing uitgebreid om de verspreiding en generatie van schadelijk materiaal (CSAM) tegen te gaan, onder meer bij het uploaden van beelden in Bing Video Creator. Daarnaast zijn recente stappen gezet om de standaardinstellingen binnen Windows Family Safety te verstrengen en vereenvoudigen.
Leeftijdsgedifferentieerde ervaringen: Omdat de behoefte van een kind mee verandert met de ontwikkeling, zet Microsoft in op leeftijdsspecifieke functies. Zo geldt voor de AI-assistent Copilot dat gebruikers verplicht moeten inloggen en dat de toegang voor kinderen onder de 13 jaar (of ouder, afhankelijk van lokale wetgeving) is afgeschermd. Tevens zet Microsoft stappen op platformniveau met de introductie van de Windows Age API. Deze functionaliteit stelt ontwikkelaars in staat om op een privacyvriendelijke manier betrouwbare leeftijdsindicaties te ontvangen, zonder onnodige persoonsgegevens te verzamelen.
Educatie en empowerment: Technologie alleen kan volgens het techconcern geen volledige veiligheid garanderen. Digitale geletterdheid is essentieel. Microsoft breidt daarom educatieve programma's uit, zoals de gids Behind the Chat: A Human Guide to Safe AI Conversations, die jongeren helpt de kansen en risico's van AI-companionship te begrijpen. Dit lesmateriaal voor ouders, docenten en jongeren wordt in het najaar verder uitgerold in Europa, Azië en Amerika.
Samenwerking met de sector en overheden
Microsoft benadrukt dat het raamwerk zal meegroeien met technologische en maatschappelijke inzichten. Het concern roept overheden, wetenschappers, AI Safety Institutes en het onderwijs op om gezamenlijk te blijven werken aan standaarden, benchmarks en evaluatiemethoden om de volgende generatie veilig met AI te laten opgroeien.
Meer over ai
Over Witold Kepinski
