Los legisladores del Senado de los Estados Unidos están preparando una legislación para restringir la forma en que el ejército utiliza la inteligencia artificial, luego de una disputa de alto perfil entre Anthropic, un desarrollador líder de inteligencia artificial, y el Departamento de Defensa. La medida tiene como objetivo codificar los límites éticos en torno a las armas autónomas y la vigilancia masiva, garantizando la supervisión humana en decisiones de vida o muerte. Esto se produce después de que la administración Trump incluyera a Anthropic en la lista negra por negarse a permitir la aplicación militar sin restricciones de sus modelos de inteligencia artificial, una decisión que Anthropic ahora está impugnando en los tribunales.
El núcleo del conflicto
Anthropic se resistió públicamente a un acuerdo con el Pentágono que habría permitido el uso de su IA para sistemas de armas totalmente autónomos y una amplia vigilancia interna. Esta postura contrasta marcadamente con OpenAI, un competidor que aceptó los términos. La posterior inclusión de Anthropic en la lista negra por parte de la administración ha provocado acciones legales y ahora, intervención legislativa.
La cuestión subyacente es el control: ¿Quién decide cuándo y cómo se utiliza la IA en aplicaciones críticas, especialmente aquellas que implican fuerza letal o recopilación masiva de datos? Sin reglas claras, el desarrollo de la IA podría acelerar el uso militar desenfrenado, generando serias preocupaciones sobre las libertades civiles.
Esfuerzos bipartidistas para establecer barandillas
El senador Adam Schiff (D-CA) está liderando el esfuerzo para redactar un proyecto de ley que impondría límites legales a las aplicaciones militares de la IA. Hizo hincapié en la necesidad de la participación humana en cualquier decisión con consecuencias de vida o muerte y afirmó: “No queremos delegar ese tipo de responsabilidad sobre la vida o la muerte a un algoritmo”.
La senadora Elissa Slotkin (D-MI) ya presentó la Ley de Barandillas de IA, que restringiría aún más el uso de IA por parte del Departamento de Defensa para la vigilancia masiva de estadounidenses o armas letales autónomas sin supervisión humana. El proyecto de ley permite excepciones sólo en “circunstancias extraordinarias”, que requieren notificación al Congreso.
El papel de la IA en la guerra: un equilibrio delicado
Si bien enfatizan la supervisión humana, los legisladores reconocen los posibles beneficios militares de la IA. La IA puede procesar información más rápido que los humanos, lo que proporciona una ventaja táctica en el campo de batalla. Sin embargo, el riesgo de cometer errores (por ejemplo, al distinguir entre civiles y combatientes) sigue siendo significativo.
El debate se centra en cómo aprovechar la velocidad y eficiencia de la IA sin renunciar al control sobre las decisiones de vida o muerte. La legislación propuesta busca lograr ese equilibrio.
Desafíos políticos y próximos pasos
Aprobar dicha legislación será un desafío dado el clima político actual. Dado que los demócratas tienen una mayoría estrecha, el apoyo bipartidista será crucial. El momento también es desfavorable, ya que se acercan las elecciones intermedias y el impulso legislativo se desacelera. Los legisladores están considerando adjuntar el proyecto de ley a la Ley de Autorización de Defensa Nacional (NDAA) para aumentar sus posibilidades de aprobación.
A pesar de los obstáculos políticos, Schiff cree que existe un amplio apoyo público a las limitaciones de la IA. Reconoce la posible resistencia de algunos colegas que pueden ver el proyecto de ley como una crítica a la administración, pero sigue siendo optimista en cuanto a conseguir el respaldo bipartidista.
“Ciertamente existe apoyo bipartidista en el público para este tipo de limitaciones”, dijo Schiff.
El conflicto con Anthropic ha expuesto las vulnerabilidades en la gobernanza actual de la IA y ha acelerado la búsqueda de salvaguardias legales. Queda por ver si el Congreso puede actuar con rapidez para impedir la aplicación militar desenfrenada de la IA, pero el debate subraya la necesidad urgente de claridad ética en este campo en rápida evolución.
