Het Amerikaanse ministerie van Defensie (DoD) en Anthropic, een toonaangevende AI-ontwikkelaar, zijn verwikkeld in een geschil met hoge inzet over de manier waarop kunstmatige intelligentie in militaire toepassingen kan worden gebruikt. Het kernprobleem is niet of AI zal worden ingezet, maar wie de regels bepaalt: de bedrijven die de technologie bouwen of de overheid die deze inzet.
Het conflict: grenzen aan AI-gebruik
Anthropic, geleid door CEO Dario Amodei, weigert toe te staan dat zijn AI-modellen worden gebruikt voor twee belangrijke doeleinden: massale surveillance van Amerikaanse burgers en volledig autonome wapensystemen die dodelijke beslissingen nemen zonder menselijk toezicht. Dit standpunt daagt rechtstreeks het standpunt van het Ministerie van Defensie uit, zoals verwoord door minister Pete Hegseth, dat elk “legaal gebruik” van de technologie moet worden toegestaan.
Het DoD stelt dat dit niet mag worden beperkt door het beleid van een leverancier, vooral niet als de nationale veiligheid op het spel staat. In een bot ultimatum dreigde het Pentagon Anthropic aan te merken als een “toeleveringsketenrisico” – waardoor ze feitelijk werden uitgesloten van overheidscontracten – tenzij ze vrijdag aan de afspraken zouden voldoen.
Waarom dit ertoe doet: de toekomst van geautomatiseerde oorlogsvoering
Dit geschil gaat niet alleen over één enkel contract. Het weerspiegelt een fundamentele spanning in de snelle evolutie van AI. Het Amerikaanse leger maakt al gebruik van sterk geautomatiseerde systemen, waarvan sommige tot dodelijk geweld in staat zijn. De huidige regelgeving maakt het voor AI mogelijk om doelen te selecteren en aan te vallen zonder directe menselijke tussenkomst, op voorwaarde dat hoge functionarissen dit goedkeuren. Anthropic vreest dat als zijn modellen door het leger worden gebruikt zonder voldoende waarborgen, de gevolgen catastrofaal zouden kunnen zijn.
Concreet maakt het bedrijf zich zorgen over:
- Onbetrouwbare dodelijke beslissingen: Een minder capabele AI de controle over wapens geven, kan leiden tot verkeerde identificatie van doelen, onbedoelde escalatie of onomkeerbare fouten.
- Supercharged surveillance: AI kan de schaal en effectiviteit van binnenlandse surveillance dramatisch vergroten, waardoor zorgen over privacy en burgerlijke vrijheden ontstaan.
- Gebrek aan transparantie: Militaire technologie wordt vaak geclassificeerd, wat betekent dat de volledige omvang van de autonome wapenontwikkeling verborgen kan blijven totdat deze operationeel is.
Het standpunt van het Pentagon: pragmatisme versus principes
Het DoD houdt vol dat het enige doel is om AI in te zetten voor legale doeleinden, en dat de beperkingen van Anthropic onnodig zijn. Ambtenaren beweren dat ze niet van plan zijn massale binnenlandse surveillance uit te voeren of ongecontroleerde autonome wapens in te zetten. De retoriek van minister Hegseth is echter op cultureel terrein beland, waarbij hij ‘woke AI’ bekritiseert en de noodzaak benadrukt van ‘oorlogsklare’ systemen, en niet van ‘chatbots voor een Ivy League-faculteitlounge’.
Het Pentagon heeft de bevoegdheid om naleving af te dwingen via de Defense Production Act (DPA), die de overheid in staat stelt bedrijven te dwingen in haar behoeften te voorzien. Door Anthropic tot een risico voor de toeleveringsketen te verklaren, zouden ze feitelijk op de zwarte lijst staan van toekomstig overheidswerk.
Het eindresultaat: een cruciaal beslissingspunt
De impasse vormt een moeilijke keuze voor beide partijen. Als Anthropic weigert toe te geven, riskeert het een grote inkomstenstroom te verliezen en mogelijk de levensvatbaarheid op de lange termijn te belemmeren. Als het Ministerie van Defensie verder gaat zonder Anthropic, kan het te maken krijgen met een vertraging van zes tot twaalf maanden, terwijl andere AI-ontwikkelaars hun achterstand inhalen – een aanzienlijke kwetsbaarheid in een snel evoluerend geopolitiek landschap. De uitkomst zal niet alleen de toekomst van AI in oorlogsvoering bepalen, maar ook het machtsevenwicht tussen technologiebedrijven en de Amerikaanse overheid.
