Wetgevers in de Amerikaanse Senaat bereiden wetgeving voor om de manier waarop het leger kunstmatige intelligentie gebruikt te beperken, na een spraakmakend geschil tussen Anthropic, een toonaangevende AI-ontwikkelaar, en het ministerie van Defensie. Het doel van deze maatregel is om de ethische grenzen rond autonome wapens en massasurveillance te codificeren, waardoor menselijk toezicht bij beslissingen over leven of dood wordt gewaarborgd. Dit komt nadat de regering-Trump Anthropic op de zwarte lijst had gezet omdat het weigerde onbeperkte militaire toepassing van zijn AI-modellen toe te staan, een beslissing die Anthropic nu voor de rechtbank aanvecht.
De kern van het conflict
Anthropic verzette zich publiekelijk tegen een overeenkomst met het Pentagon die het gebruik van zijn AI voor volledig autonome wapensystemen en brede binnenlandse surveillance zou hebben toegestaan. Dit standpunt staat in schril contrast met OpenAI, een concurrent die met de voorwaarden instemde. De daaropvolgende zwarte lijst van Anthropic door de regering heeft geleid tot juridische stappen en nu tot wetgevende interventie.
Het onderliggende probleem is controle: Wie beslist wanneer en hoe AI wordt gebruikt in kritieke toepassingen, vooral als er sprake is van dodelijk geweld of het verzamelen van massale gegevens? Zonder duidelijke regels zou de ontwikkeling van AI het ongecontroleerde militaire gebruik kunnen versnellen, waardoor er ernstige zorgen ontstaan over de burgerlijke vrijheden.
Tweeledige inspanningen om vangrails te plaatsen
Senator Adam Schiff (D-CA) leidt de inspanningen om een wetsvoorstel op te stellen dat juridisch beperkingen zou opleggen aan de militaire toepassingen van AI. Hij benadrukte de noodzaak van menselijke betrokkenheid bij elke beslissing met gevolgen op leven of dood, en stelde: “We willen dat soort verantwoordelijkheid over leven en dood niet aan een algoritme delegeren.”
Senator Elissa Slotkin (D-MI) heeft al de AI Guardrails Act geïntroduceerd, die het ministerie van Defensie verder zou beperken in het gebruik van AI voor massale surveillance van Amerikanen of autonome dodelijke wapens zonder menselijk toezicht. Het wetsvoorstel staat alleen uitzonderingen toe onder ‘buitengewone omstandigheden’, waarvoor kennisgeving door het Congres vereist is.
De rol van AI in oorlogsvoering: een delicaat evenwicht
Terwijl ze de nadruk leggen op menselijk toezicht, erkennen wetgevers de potentiële militaire voordelen van AI. AI kan informatie sneller verwerken dan mensen, wat een tactisch voordeel op het slagveld oplevert. Het risico op fouten, bijvoorbeeld bij het maken van onderscheid tussen burgers en strijders, blijft aanzienlijk.
Het debat draait om de vraag hoe we de snelheid en efficiëntie van AI kunnen benutten zonder de controle over beslissingen over leven of dood uit handen te geven. De voorgestelde wetgeving streeft naar dat evenwicht.
Politieke uitdagingen en volgende stappen
Het aannemen van dergelijke wetgeving zal een uitdaging zijn gezien het huidige politieke klimaat. Nu de Democraten een krappe meerderheid hebben, zal steun van beide partijen cruciaal zijn. De timing is ook ongunstig, nu de tussentijdse termijnen dichterbij komen en het momentum van de wetgeving afneemt. Wetgevers overwegen om het wetsvoorstel aan de National Defense Authorization Act (NDAA) te koppelen om de kansen op goedkeuring ervan te vergroten.
Ondanks politieke hindernissen gelooft Schiff dat er brede publieke steun is voor de beperkingen van AI. Hij erkent mogelijke weerstand van sommige collega’s die het wetsvoorstel misschien als kritiek op de regering beschouwen, maar blijft optimistisch over het verkrijgen van steun van beide partijen.
“Er bestaat onder het publiek zeker steun van beide partijen voor dit soort beperkingen,” zei Schiff.
Het conflict met Anthropic heeft kwetsbaarheden in het huidige AI-beheer blootgelegd en de drang naar juridische waarborgen versneld. Of het Congres snel kan optreden om ongecontroleerde militaire toepassing van AI te voorkomen valt nog te bezien, maar het debat onderstreept de dringende behoefte aan ethische duidelijkheid op dit snel evoluerende terrein.
