Les législateurs du Sénat américain préparent une législation visant à restreindre la manière dont l’armée utilise l’intelligence artificielle, à la suite d’un différend très médiatisé entre Anthropic, l’un des principaux développeurs d’IA, et le ministère de la Défense. Cette décision vise à codifier les limites éthiques autour des armes autonomes et de la surveillance de masse, garantissant ainsi la surveillance humaine dans les décisions de vie ou de mort. Cela survient après que l’administration Trump a mis Anthropic sur liste noire pour avoir refusé d’autoriser l’application militaire sans restriction de ses modèles d’IA, une décision qu’Anthropic conteste maintenant devant les tribunaux.
Le cœur du conflit
Anthropic a publiquement résisté à un accord du Pentagone qui aurait permis l’utilisation de son IA pour des systèmes d’armes entièrement autonomes et une large surveillance nationale. Cette position contraste fortement avec celle d’OpenAI, un concurrent qui a accepté les conditions. La mise sur liste noire ultérieure d’Anthropic par l’administration a déclenché des poursuites judiciaires et maintenant une intervention législative.
Le problème sous-jacent est celui du contrôle : Qui décide quand et comment l’IA est utilisée dans des applications critiques, en particulier celles impliquant la force meurtrière ou la collecte massive de données ? Sans règles claires, le développement de l’IA pourrait accélérer une utilisation militaire incontrôlée, soulevant de graves préoccupations en matière de libertés civiles.
Efforts bipartites pour mettre en place des garde-fous
Le sénateur Adam Schiff (Démocrate-CA) dirige les efforts visant à rédiger un projet de loi qui imposerait légalement des limites aux applications militaires de l’IA. Il a souligné la nécessité d’une implication humaine dans toute décision ayant des conséquences de vie ou de mort, déclarant : « Nous ne voulons pas déléguer ce genre de responsabilité en matière de vie ou de mort à un algorithme. »
La sénatrice Elissa Slotkin (Démocrate-MI) a déjà présenté l’AI Guardrails Act, qui restreindrait davantage le ministère de la Défense dans l’utilisation de l’IA pour la surveillance de masse des Américains ou des armes mortelles autonomes sans surveillance humaine. Le projet de loi autorise des exceptions uniquement dans des « circonstances extraordinaires », nécessitant une notification au Congrès.
Le rôle de l’IA dans la guerre : un équilibre délicat
Tout en mettant l’accent sur la surveillance humaine, les législateurs reconnaissent les avantages militaires potentiels de l’IA. L’IA peut traiter les informations plus rapidement que les humains, offrant ainsi un avantage tactique sur le champ de bataille. Cependant, le risque d’erreurs – en distinguant par exemple civils et combattants – reste important.
Le débat se concentre sur la manière d’exploiter la vitesse et l’efficacité de l’IA sans renoncer au contrôle des décisions de vie ou de mort. La législation proposée cherche à trouver cet équilibre.
Défis politiques et prochaines étapes
L’adoption d’une telle législation sera difficile compte tenu du climat politique actuel. Les démocrates détenant une faible majorité, le soutien bipartisan sera crucial. Le moment est également défavorable, alors que la mi-mandat approche et que la dynamique législative ralentit. Les législateurs envisagent de joindre le projet de loi à la National Defense Authorization Act (NDAA) pour augmenter ses chances d’adoption.
Malgré les obstacles politiques, Schiff estime qu’il existe un large soutien du public en faveur des limitations de l’IA. Il reconnaît la résistance potentielle de certains collègues qui pourraient considérer le projet de loi comme une critique de l’administration, mais reste optimiste quant à l’obtention d’un soutien bipartisan.
« Il existe certainement un soutien bipartite dans le public pour ce type de limitations », a déclaré Schiff.
Le conflit avec Anthropic a révélé les vulnérabilités de la gouvernance actuelle de l’IA et accéléré la promotion de garanties juridiques. Il reste à voir si le Congrès pourra agir rapidement pour empêcher une application militaire incontrôlée de l’IA, mais le débat souligne le besoin urgent d’une clarté éthique dans ce domaine en évolution rapide.
