Anthropic waarschuwt voor zelfreplicerende AI op IoT-apparaten

Het onderzoek richt zich op de risico's van open-weight AI-modellen die doordringen tot alledaagse consumentenelektronica en smart home-apparatuur. Zodra geavanceerde modellen compact genoeg worden om op lichte hardware te draaien, ontstaat het gevaar dat ze zich als netwerk-wormen gedragen en zelfstandig een netwerk van apparaten overnemen.

AI draaien op goedkope hardware

Om de haalbaarheid van dit scenario te testen, zette het onderzoeksteam van Anthropic uiteenlopende experimenten op met goedkope consumentenhardware. De resultaten tonen aan dat de hardware-eisen voor het draaien van AI-modellen razendsnel dalen:

Slimme netwerken van TV-boxen: Anthropic slaagde erin om het model Gemma4-26B-A4B verdeeld te laten draaien over 15 Android TV-boxen van slechts 55 dollar per stuk.

Brede compatibiliteit: Een compacter model met 9 miljard parameters (9B) kreeg werkende inference op 8 van de 9 geteste hardwaretypes.

Volledige autonome cyclus: Van de geteste open-weight modellen bleek de Chinese GLM-5.2 in staat om zelfstandig de volledige replicatiecyclus te doorlopen en zich zonder menselijke tussenkomst te kopiëren.

Verdediging en maatregelen

Anthropic benadrukt dat het traditionele beveiligingsmodel voor IoT-apparaten niet volstaat wanneer AI-modellen zelf de controle overnemen. Om te voorkomen dat slimme apparaten op grote schaal veranderen in onafhankelijke AI-botnets, wijst de AI-ontwikkelaar op een aantal noodzakelijke verdedigingsmechanismen.

Internetproviders spelen hierin een cruciale rol door middel van geavanceerde netwerkmonitoring, waarbij verdacht verkeer direct wordt herkend. Zodra een besmette aansluiting wordt gedetecteerd, moet deze automatisch in quarantaine kunnen worden geplaatst. Daarnaast roept Anthropic hardwarefabrikanten op om veiligere standaardinstellingen te hanteren en kwetsbare poorten op IoT-apparatuur standaard af te sluiten.