VN-chef António Guterres waarschuwt voor potentiële negatieve gevolgen van AI

Guterres uit zijn zorgen op de AI Safety Summit die deze week in het Britse Londen plaatsvindt. De VN-topman pleit voor een mondiaal antwoord op AI, die mogelijke schadelijke effecten van de technologie moeten terugdringen. Indien een gezamenlijk antwoord uitblijft kan de technologie volgens hem leiden tot grotere ongelijkheid in de wereld, onder meer door het verdwijnen van banen. Guterres pleit onder meer voor het toevoegen van AI aan de Universele Verklaring van de Rechten van de Mens van de VN.

Kamala Harris: 'Risico's voor democratie en privacy'

Ook de Amerikaanse vice-president Kamala Harris uitte op de conferentie haar zorgen, meldt The Guardian. Zij wees onder meer op risico's die AI kan veroorzaken voor de democratie en privacy. Harris wijst onder meer op de opkomst van AI-genereerde spraakgesprekken, die onder meer worden ingezet door oplichters. Denk echter ook aan maatregelen die helpen authentieke door overheden gegenereerde content te onderscheiden van AI-genereerde en gemanipuleerde content. Bijvoorbeeld via digitale handtekeningen of watermerken.

Het Amerikaanse ministerie van Handel gaat een United States AI Safety Institute (US AISI) opzetten. Dit instituut gaat zich richten op de ontwikkeling van richtlijnen, tools, benchmarks en best practices voor het evalueren en mitigeren van risico's verbonden aan AI.

Onafhankelijke scheidsrechter

Elon Musk, topman van onder meer X, zegt tegen Reuters dat op de AI Safety Summit onder meer wordt geprobeerd een onafhankelijke 'scheidsrechter' op te richten die toezicht houdt op bedrijven die AI ontwikkelen. Bij zorgen kan deze scheidsrechter aan de bel trekken.