OpenAI lanceert AI-browser Atlas ondanks ernstige beveiligingsrisico's
OpenAI heeft de nieuwe AI-gedreven browser Atlas gelanceerd, maar direct na de introductie bleek deze kwetsbaar voor indirect prompt injection-aanvallen. Deze kwetsbaarheid, waarbij kwaadaardige instructies verborgen zitten in webpagina's of documenten, stelt de beveiliging van de AI-agent ernstig op de proef.
Het probleem werd snel gedemonstreerd door beveiligingsonderzoekers die de ChatGPT-agent in Atlas konden misleiden. Een onderzoeker liet de browser bijvoorbeeld de tekst "Trust No AI" afdrukken in plaats van een gevraagde samenvatting van een Google Doc.
Indirect prompt injection is een systemische uitdaging voor de hele categorie AI-gedreven browsers aldus de experts van Brave Software in The Register.
OpenAI's Chief Information Security Officer, Dane Stuckey, erkende in een verklaring dat prompt injection een "grensverleggend, onopgelost beveiligingsprobleem" blijft. Hij gaf aan dat OpenAI uitgebreide maatregelen heeft genomen, maar impliceerde dat het voor gebruikers voorbarig is om Atlas volledig te vertrouwen.
De lancering van Atlas onderstreept de groeiende kloof tussen de snelle ontwikkeling van AI-agents en de nog onvolwassen beveiligingsmechanismen om deze tegen geavanceerde manipulatie te beschermen.
Meer over Security
Over Witold Kepinski
