'Amazon waarschuwde overheid VS voor veiligheidsrisico's AI-model Fable 5'
De Amerikaanse overheid is door Amazon gewaarschuwd voor mogelijke veiligheidsrisico's van het AI-model Fable 5 van Anthropic. Het model werd vervolgens vrijdagavond uit de lucht gehaald.
Dit meldt Axios op basis van bronnen. Amazon, dat zelf een grote investeerder is in Anthropic, deelde een rapport waarin werd aangetoond dat het mogelijk was om de beveiliging van het onderliggende Mythos-model te omzeilen. Hoewel Anthropic de overheid eerder had geïnformeerd over de geplande release, leidde de waarschuwing van Amazon en andere bedrijven tot de directe sluiting.
De overheid eiste naar verluid dat Anthropic het model binnen 90 minuten offline haalde vanwege een vermeende bedreiging voor de nationale veiligheid. Later die avond werd bekendgemaakt dat Fable en Mythos onder strenge exportcontroles zouden vallen, wat betekent dat toegang voor buitenlandse partijen, inclusief bondgenoten en buitenlandse werknemers in de VS, wordt beperkt.
'Ook aanwezig in andere modellen'
De maatregelen hebben directe gevolgen voor Anthropic, waar veel medewerkers afhankelijk zijn van toegang tot de modellen. Het bedrijf benadrukte dat de vermeende kwetsbaarheid in het model relatief eenvoudig was en ook aanwezig is in andere AI-modellen.
Meer over Security
Over Wouter Hoeffnagel
