Законодатели в Сенате США готовят законопроект, который ограничит использование искусственного интеллекта военными, после громкого спора между Anthropic, ведущим разработчиком ИИ, и Министерством обороны. Этот шаг направлен на закрепление этических границ для автономного оружия и массовой слежки, обеспечивая человеческий контроль над решениями, касающимися жизни и смерти. Это произошло после того, как администрация Трампа внесла Anthropic в черный список за отказ разрешить неограниченное военное применение их ИИ-моделей, решение, которое Anthropic сейчас оспаривает в суде.
Суть Конфликта
Anthropic публично сопротивлялась сделке с Пентагоном, которая позволила бы использовать их ИИ для полностью автономных систем вооружений и широкой внутренней слежки. Эта позиция резко контрастирует с OpenAI, конкурентом, который согласился на эти условия. Последующее включение Anthropic в черный список администрацией спровоцировало судебные иски и теперь – законодательное вмешательство.
Основной вопрос – контроль: кто решает, когда и как использовать ИИ в критических приложениях, особенно тех, которые связаны со смертельным применением силы или сбором массовых данных? Без четких правил разработка ИИ может ускорить бесконтрольное военное применение, вызывая серьезные опасения по поводу гражданских свобод.
Двухпартийные Усилия по Установлению Ограничений
Сенатор Адам Шифф (D-CA) возглавляет усилия по разработке законопроекта, который юридически закрепит ограничения на военное применение ИИ. Он подчеркнул необходимость участия человека в любом решении, касающемся жизни и смерти, заявив: «Мы не хотим делегировать этот вид ответственности за жизнь и смерть алгоритму».
Сенатор Элисса Слоткин (D-MI) уже представила закон «Защитные меры для ИИ» (AI Guardrails Act), который еще больше ограничит Министерство обороны в использовании ИИ для массовой слежки за американцами или автономного смертельного оружия без человеческого надзора. Закон допускает исключения только в «чрезвычайных обстоятельствах», требуя уведомления Конгресса.
Роль ИИ в Войне: Хрупкий Баланс
Подчеркивая важность человеческого надзора, законодатели признают потенциальные военные преимущества ИИ. ИИ может обрабатывать информацию быстрее, чем человек, обеспечивая тактическое преимущество на поле боя. Однако риск ошибок – например, различение гражданских лиц и комбатантов – остается значительным.
Дебаты сосредоточены на том, как использовать скорость и эффективность ИИ, не отказываясь от контроля над решениями, касающимися жизни и смерти. Предлагаемое законодательство стремится к достижению этого баланса.
Политические Трудности и Следующие Шаги
Принятие такого закона будет сложным, учитывая текущий политический климат. Учитывая узкое большинство демократов, двухпартийная поддержка будет иметь решающее значение. Время также неблагоприятно, поскольку приближаются промежуточные выборы, и законодательная динамика замедляется. Законодатели рассматривают возможность прикрепления законопроекта к закону об авторизации национальной обороны (NDAA), чтобы повысить его шансы на принятие.
Несмотря на политические препятствия, Шифф считает, что широкая общественная поддержка существует для ограничений ИИ. Он признает возможное сопротивление со стороны некоторых коллег, которые могут рассматривать законопроект как критику в адрес администрации, но остается оптимистичным в отношении обеспечения двухпартийной поддержки.
«Безусловно, существует двухпартийная поддержка в обществе для подобных ограничений», – сказал Шифф.
Конфликт с Anthropic выявил уязвимости в текущем управлении ИИ и ускорил усилия по внедрению правовых гарантий. Остается ли Конгресс действовать быстро, чтобы предотвратить бесконтрольное военное применение ИИ, покажет время, но дебаты подчеркивают острую необходимость этической ясности в этой быстро развивающейся области.
