Будущее наступило в 2017 году
Женева. Ноябрь 2017 года. Идет цикл Конвенции ООН о определенных обычных вооружениях. Бранка Марижан ожидала еще одной скучной, теоретической дискуссии о «убийственных роботах».
Их, вероятно, еще не существует. А может быть, не будут существовать вообще.
Но она ошибалась.
В первый день в зале показали короткий фильм «Slaughterbots» (Бойни-боты). Это был отполированный питч-презентации вымышленного подрядчика. Дроны охотились на людей. Точечные удары без эмоциональных колебаний.
«Оружие само по себе не убивает людей», — сказал на экране генеральный директор. «Люди поддаются эмоциям. Оружие — нет».
В зале повисла тишина. Ледяная.
Марижан почувствовала, как из помещения вылетел воздух. Самое страшное было не в самом фильме. Ужас заключался в том, что Пентагон уже в тот момент создавал нечто похожее. Проект Maven уже был в работе.
К нему присоединился Google.
«Именно в тот момент», — сказала Марижан. «Будущее стало настоящим. Мы перестали говорить о том, “состоится ли это”, и начали рассматривать платформы, способные выбирать цели исключительно на основе данных с датчиков».
Красные линии проницаемы
Прошло десять лет. У нас нет «Терминаторов». Не совсем. Но границы размываются.
Сейчас центр притяжения — Anthropic. Стартап пытается нарисовать красные линии кровью. Они запрещают массовую слежку. Запрещают автономное выявление целей. Полное отсутствие участия человека. Никаких убийств без «живого глаза» на спусковом крючке.
Anthropic — единственный военный подрядчик по ИИ, который осмеливается устанавливать ограничения.
Но ограничения — вещь временная. История их ненавидит.
Семьдесят лет постепенного внедрения. Пентагон еще десятилетия назад, находясь в Нью-Гемпшире, видел потенциал. Теперь цепочка поражения стала быстрее. Быстрее человеческой мысли.
Anthropic понимает, что их заборы — это просто штакетник в ураган.
«Кажется, они понимают, что линии не удержатся. История подсказывает, что они уже нарушены».
Поворот к Хегсету
Январь 2026 года. Хаос.
Министр обороны Пит Хегсет хотел пересмотреть каждый контракт. Он хотел стереть серые зоны. Стандарт стал звучать как «любое законное использование». Размыто. Расширительно. Опасно.
Anthropic отказались.
В то время они были единственным игроком, имеющим доступ к засекреченным сетям. Поэтому Пентагон совершил тактический шедевр. В марте 2021 года был введен статус: «Риск для военной цепочки поставок».
Трамп объявил запрет. Всем государственным ведомствам предписали отказаться от Claude.
Отношения охладели. Затем снова потеплели. Anthropic выпустила Mythos — модель для кибербезопасности. Судебные баталии разгорались. Молчание продолжалось. Anthropic не комментировала ситуацию.
Важно ли, кто выиграл эту борьбу?
Публично наконец-то услышали термин полностью автономное оружие. Он прижился.
Но работа продолжалась. Рубикон был пересечен годами раньше. Мы просто не хотели признавать, что уже по пояс в воде.
Защита через убийство?
В основе этого хаоса лежит Директива Пентагона 3000.09. Написана в 2012 году.
В ней сказано, что человек должен быть «в цикле». Люди должны проявлять судимость.
Или это не так?
Взгляните на Phalanx CIWS (комплекс ближней защиты). Автоматическая пушка на кораблях. Она стреляет по ракетам. Время реакции — миллисекунды. Человек не может этого сделать. Система должна это делать.
Является ли это агрессией?
Эксперты утверждают, что различие здесь — лишь семантический театр.
«Если она сбивает ракету — это защита. Если она бьет по бункеру — это нападение. Но войну нельзя вестить только в оборонительном формате», — прямо сказал Сорин Адам Матей. «Это выбор, а не ограничение».
Обновление директивы 2023 года ничего не прояснило. Меморандум Байдена 2024 года все еще действует при Трампе. Но Пентагон разрушает сам себя. Управление по вопросам автономных систем (CDAO) было реструктурировано и изолировано. Теперь оно подчиняется Эмилю Майклу — техническому директору ведомства.
Структура ставит скорость выше этики.
Застывшие переговоры
Переговоры по Конвенции о обычных вооружениях (CCW) продолжаются. Медленно. С мольбами.
Малые нации хотят правил. Влиятельные державы хотят свободы.
Международного официального определения Летального автономного оружия не существует. Страны говорят друг мимо друга. Некоторые выигрывают от отсутствия vinculующего закона.
Сара Шоукер посещала эти встречи. Она наблюдала за десятилетиями переговоров.
«Думаю, все устали», — сказала она. «Десять лет. Без соглашения. Только слова».
От «Не будь злом» к Maven Smart Systems
Первым пошел Google.
Меморандум Роберта Ворка создал команду «Алгоритмической войны». ИИ для зон боевых действий. Google подписал контракт.
4000 сотрудников выступили в протест. Петиции. Забастовки. Моральный кризис в Кремниевой долине.
«Мы не можем outsourровать моральную ответственность», — говорили сотрудники.
Google вышел из проекта. Середина 2018 года.
Зазор не оставался открытым.
Amazon влетел на сцену. Microsoft последовала. Palantir полностью захватила проект. Проект Maven превратился в Maven Smart System (MSS). Он не просто находит объекты. Он отслеживает их. Анализирует их. В масштабах всего театра военных действий.
Последние сообщения связывают MSS с захватом Николаса Мадуро. С ударами по Ирану. Тысячи мертвых.
Claude подключается к разговору
Anthropic подключилась поздно. Но подключилась.
После того как в 2024 году разрешили военное использование, Claude вошла в интерфейс MSS.
Аналитики задают вопросы Claude. Спрашивают о географии. О типах целей.
Это эффективно.
Это ускоряет цикл целеуказания.
«Объем целей делает надзор невозможным по самой конструкции системы», — сказала Шоукер.
Claude помогает. Anthropic утверждает, что человек остается «в цикле». Они не позволят ИИ нажимать кнопку в одиночку.
Добро от них.
Все остальные так поступать не будут.
Вакуум заполняется
OpenAI подписала сделку, от которой отказалась Anthropic.
После того как отшили Anthropic, Пентагон подписал контракты еще с восемью компаниями:
- Microsoft
- Amazon Web Services
- Nvidia
- OpenAI
- Reflection
- Oracle
- SpaceX
Рынок голоден. Миссии компаний корректируются. «Двойное назначение» становится «военным использованием».
Шоукер работала в OpenAI. Она видела мало людей, которые волновались о рисках поддержки принятия решений. Сообщество заткнулось. Изолировалось.
Компании бросаются на возможность. Пентагон открывает дверь. Остальные идут за ним.
