Het is niet de eerste keer dat een AI-bedrijf waarschuwt voor de risico's van zijn eigen technologie. Maar als Anthropic, een van de meest voorzichtige spelers in de industrie, aan de bel trekt over zelfverbeterende AI, is het tijd om op te letten. Het bedrijf dat zich profileert als het geweten van de AI-wereld zegt nu hardop: we moeten collectief op de rem trappen voordat we doorschieten.
Een auto zonder remmen
Jack Clark, medeoprichter van Anthropic, gebruikt een treffende metafoor in een interview met de BBC: de AI-industrie is een auto waarvan alleen het gaspedaal werkt. Een rempedaal is er niet. En op de motor afremmen, dat kent ook zijn limieten. Vroeg of laat gaat dat mis, en dan is er geen weg terug.
Het probleem is volgens Anthropic tweeledig. Enerzijds wordt AI steeds vaker ingezet om snellere AI te bouwen, een sneeuwbaleffect dat nauwelijks te stoppen lijkt. Anderzijds speelt de mens bij elke nieuwe ontwikkelstap een kleinere rol. Het eindstation waar Anthropic voor waarschuwt: systemen die zichzelf slimmer maken zonder dat er nog iemand op een stopknop kan drukken.
Waarom een pauze niet vanzelfsprekend is
Een adempauze inlassen klinkt logisch, maar is in de praktijk extreem lastig. Stop jij, dan sprint de concurrent gewoon door. Daarom moet zo'n rem er volgens Anthropic internationaal komen: afspraken tussen grote AI-bedrijven, maar ook tussen overheden. Vooral de VS en China moeten meedoen, anders is het dweilen met de kraan open.
De komende maanden wil Anthropic AI-bedrijven, overheden en wetenschappers om de tafel krijgen. Of dat lukt? De geschiedenis van internationale tech-regulering stemt niet bepaald optimistisch. Maar dat het gesprek nu gevoerd wordt door het bedrijf achter Claude zelf, en niet alleen door activistische buitenstaanders, is op zichzelf al betekenisvol. Het laat zien dat de zorgen niet langer theoretisch zijn.
Wat dit betekent voor jou: De snelheid waarmee modellen elkaar nu al trainen en verbeteren maakt zelfverbeterende AI concreter dan je denkt. Voor makers en ondernemers betekent dit: blijf niet alleen kijken naar wat AI kan, maar ook naar wie de regels bepaalt. De tools die je vandaag gebruikt, kunnen morgen onder totaal ander toezicht vallen. Dat is geen reden tot paniek, maar wel om het gesprek te blijven volgen.
