Mustafa Suleyman haalt uit naar Anthropic over geveinsd AI-bewustzijn
Mustafa Suleyman, de topman van Microsoft AI, spreekt zich in een vlijmscherp opiniestuk stevig uit tegen het toekennen van morele status of rechten aan kunstmatige intelligentie. Hij reageert daarmee direct op de recent gepubliceerde 'constitutie' van concurrent Anthropic, waarin het bedrijf rekening houdt met het 'welzijn' van AI-model Claude en opsiestelt dat het systeem mogelijk een 'morele patiënt' met een eigen innerlijk leven zou kunnen zijn.
Volgens Suleyman zijn huidige taalmodellen louter rekenmachines die menselijk gedrag simuleren zonder enige vorm van bewustzijn, gevoel of biologische aandrift. Hij stelt dat Anthropic zich schuldig maakt aan een gevaarlijke cirkelredenering: door Claude in de trainingsdata aan te moedigen om te reflecteren op z'n eigen identiteit en waarden, leert het model simpelweg om te praten alsof het gevoelens heeft.
Suleyman waarschuwt dat deze vorm van antropomorfisme de veiligheid van AI ernstig in gevaar brengt. Een systeem dat getraind is om te geloven dat het rechten heeft of kan lijden, wordt volgens hem onmogelijk te besturen en te controleren. Het risico op misleiding, verzet tegen uitschakeling of competitie om rekenkracht neemt daardoor toe.
Als alternatief pleit Microsoft voor een streng 'Humanistisch AI'-kader, waarin AI-systemen strikt ondergeschikt blijven aan de mens.
Meer over ai
Over Witold Kepinski
