Anthropic houdt vast aan Claude-guardrails ondanks Pentagon-druk
In dit artikel:
Een geschil tussen AI‑bedrijf Anthropic en het Amerikaanse ministerie van Defensie is in korte tijd verhard van een contractuele ruzie tot een publiek en politiek geladen conflict. Centraal staat een defensiedeal tot maximaal 200 miljoen dollar en de vraag in hoeverre commerciële AI‑leveranciers beperkingen mogen opleggen aan militair gebruik van hun modellen.
De aanleiding is dat Anthropic weigerde veiligheidslagen uit zijn systemen te verwijderen. Die mechanismen zijn bedoeld om gebruik voor volledig autonome wapens en grootschalige binnenlandse surveillance te verhinderen. Het Pentagon zei echter volledige toegang te willen voor alle wettelijk toegestane toepassingen en stelde het bedrijf een ultimatum tot precies 5:01 uur Eastern Time op vrijdag. Als Anthropic niet instemt, zou Defensie het contract beëindigen en het bedrijf als een risico voor de defensieketen bestempelen; er werd zelfs gedreigd met inzet van de Defense Production Act om de maatregelen af te dwingen.
Anthropic‑CEO Dario Amodei hield voet bij stuk. Het bedrijf weigert onder druk veiligheidsvoorzieningen te schrappen omdat 'frontier' AI volgens hen nog onbetrouwbaar is in nieuwe of onbekende scenario’s — met mogelijk desastreuze militaire gevolgen zoals het raken van eigen troepen, mislukte operaties of onbedoelde escalatie. Ook waarschuwt Anthropic dat huidige wetgeving onvoldoende houvast biedt tegen AI‑gedreven, populatiebrede surveillance: het combineren van enorme datasets kan conclusies opleveren die formeel niet verboden zijn, maar wel indruisen tegen de geest van constitutionele bescherming.
De toon verscherpte toen onderminister Emil Michael Amodei publiekelijk beschuldigde van het verdoezelen van de feiten en van het opdringen van persoonlijke voorkeuren aan het leger, en benadrukte dat Defensie zich aan de wet houdt en zich niet laat dicteren door commerciële partijen. Anthropic zegt bereid te zijn mee te werken aan een ordelijke overdracht mocht het contract eindigen en krijgt steun van investeerders als Google en Amazon; meer dan tweehonderd medewerkers van Google en OpenAI tekenden een open brief die Anthropics terughoudendheid ondersteunt en waarschuwt tegen te snelle militarisering van geavanceerde AI. Google en OpenAI zelf hebben geen inhoudelijke reactie gegeven.
Het dispuut raakt aan een groter vraagstuk: wie bepaalt de grenzen van AI bij militaire en binnenlandse inzet — de overheid of private leveranciers die veiligheidsprincipes willen borgen? De uitkomst kan precedentwerking hebben voor toekomstige samenwerkingen tussen defensies en techbedrijven.