Трамп переписал соглашение между Пентагоном и Кремниевой долиной Бывший главный научный сотрудник по операциям в АНБ Ви
Бывший главный научный сотрудник по операциям в АНБ Винх Нгуен и его коллега Майкл Хоровиц, ранее замглавы Пентагона по развитию сил и новым возможностям, написали для центра CFR (признан нежелательным в РФ) совместный разбор президентского меморандума NSPM-11, подписанного Трампом 5 июня. NSPM-11 — это документ о применении искусственного интеллекта в нацбезопасности США, задающий правила закупок, развёртывания и контроля над военным и разведывательным ИИ. В разборе авторы перечислили ключевые нововведения, а именно:
— агентствам предписано разрывать контракты с теми ИИ-разработчиками, кто записывает в условия поставки запреты на отдельные виды военного применения, например удары беспилотников или работу с разведкой;
— Пентагон должен обновить директиву, регулирующую применение автономного оружия, ту самую, что с 2012 года требует значимого человеческого контроля над огнём; обновлённая директива, как ожидается, сделает не обязательным полный контроль человека над применением оружия ИИ из-за новых темпов современной войны;
— ответственность за решения военного ИИ остаётся внутри военной иерархии, от президента к командиру и солдату, а гражданские регуляторные ведомства и независимые комиссии больше не участвуют в принятии решений.
Государство перезаключает отношения с разработчиками передовых моделей, забирая себе последнее слово в том, что военному ИИ дозволено, а что нет.
Нгуен описывает неудобную для Вашингтона реальность. Облачные гиганты построили вычисления, частные лаборатории построили модели, а США являются крупнейшим покупателем технологии, которую сами не спроектировали и не могут быстро заменить. Отсюда и центральное требование самого NSPM-11: ни один коммерческий поставщик не вправе отключить, ослабить или переконфигурировать развёрнутую военную систему без санкции правительства. Нгуен пишет, что происходит смена ролей. Государство перестаёт быть клиентом и становится хозяином, но автор добавляет, что закрепить этот статус по-настоящему может только Конгресс, а не указ Белого дома.
Тут стоит вспомнить юридический конфликт Пентагона с Anthropic, на фоне которого меморандум и появился. Anthropic отказалась убрать из контракта запрет на использование её модели Claude для автономного решения об убийстве человека и запрет применения её для слежки спецслужб за американскими гражданами. Пентагон в ответ внёс компанию в чёрный список ненадёжных поставщиков и начал переключаться на конкурентов. Решать, можно ли стрелять или следить с помощью ИИ, больше не имеет права инженер из Сан-Франциско. Это решает министр войны и его аппарат, а Конгресс в меморандуме упомянут вскользь, как площадка для обсуждения постфактум, но не как тот, чьё одобрение требуется заранее.
Такой подход крайне выгоден оборонным подрядчикам вроде Palantir и Anduril, у которых нет публичных красных линий по военному применению, и аппарату Пентагона, через который, по подсчётам аналитиков, идёт 98,9%(!) всех федеральных денег США на ИИ. То есть военное ведомство уже фактически монопольный покупатель американского ИИ, а NSPM-11 закрепляет за ним ещё и право единолично решать, что этому ИИ позволено. Хоровиц пишет о сломе доверия между Белым домом и Конгрессом и убеждённости администрации, что у исполнительной власти нет ограничений — это, кстати, прикладное продолжение теории унитарной исполнительной власти, на которой стоит вся юридическая конструкция второго срока Трампа.
Эффект этого меморандума мы увидим и на Украине. Американские модели уже принимают там решения о целях по частным контрактам компаний с Киевом. Украина для этих систем — испытательная площадка, на которой компании обкатывают версии, идущие потом в Пентагон. И чем выше летальность модели, отработанной на украинском фронте, тем выше её цена в следующем контракте Министерства войны. @ponomarb1