Во время войны с Ираном военные США впервые в крупном масштабе применяют генеративный искусственный интеллект для выбора целей и планирования ударов. При этом используется модель компании Anthropic Claude, которую администрация Дональда Трампа незадолго до начала бомбардировок решила вывести из всех государственных систем.
По данным The Guardian и The Washington Post, Claude интегрирован в систему Maven Smart System компании Palantir. Эта платформа в режиме реального времени обрабатывает огромные массивы засекреченных данных — снимки со спутников, видеопотоки наблюдения и другую разведывательную информацию — и выдает аналитические выводы.
Как пишет The Washington Post, система предложила сотни целей, выдала точные координаты и расставила их по приоритету. The Guardian добавляет, что решение Palantir также рекомендует конкретные типы вооружений с учетом запасов и статистики по схожим целям, а еще с помощью автоматизированной логики оценивает юридические основания для удара. В первые 24 часа американские военные нанесли удары примерно по 1 000 целям совместно с израильскими силами. По данным издания, израильские ракеты убили верховного лидера Ирана аятоллу Али Хаменеи.
Исследователи называют это «сжатием процесса принятия решений»: ИИ сокращает время подготовки сложных ударов с дней и недель до минут и секунд. «Машина с искусственным интеллектом выдает рекомендации по целям, и это во многом быстрее, чем скорость мыслительного процесса человека», — сказал The Guardian старший преподаватель политической географии Университета Ньюкасла и эксперт по боевым контурам Крейг Джонс.
Заместитель руководителя Центра новой американской безопасности Пол Шарр заявил The Washington Post: «Ключевое изменение в подходе в том, что ИИ позволяет вооруженным силам США формировать пакеты целей с машинной скоростью вместо человеческой». При этом он предупредил о рисках: «ИИ ошибается. Нам нужны люди, которые проверяют выводы генеративного ИИ, когда на кону жизнь и смерть».
Профессор этики, технологий и общества Лондонского университета королевы Марии Дэвид Лесли, наблюдавший демонстрации военных систем на основе ИИ, в комментарии The Guardian предупредил о «когнитивной разгрузке»: люди, принимающие решение об ударе, могут чувствовать оторванность от последствий, потому что основную мыслительную работу выполняет машина.
В субботу ракетный удар пришелся по школе на юге Ирана. По данным государственных СМИ страны, погибли 165 человек, многие из них дети. Точное число жертв не подтверждено из независимых источников, так как международные СМИ почти не допускают в район удара. Школа находилась рядом с военной частью. ООН назвала произошедшее «серьезным нарушением гуманитарного права». Командование США заявило, что проверяет эти сообщения.
Ситуация усиливает контраст: всего за несколько часов до начала бомбардировок администрация Трампа объявила о запрете Anthropic в государственных системах. Это решение стало итогом жесткого конфликта между компанией и военными по поводу контроля над технологиями массовой внутренней слежки и полностью автономного вооружения. Пентагон получил шесть месяцев на отказ от использования решений Anthropic, но до появления замены продолжит применять текущую систему.
По информации The Washington Post, зависимость военного командования от Maven настолько высока, что если генеральный директор Anthropic Дарио Амодеи потребует прекратить использование системы, администрация Трампа задействует государственные полномочия, чтобы сохранить доступ к технологии до появления альтернативы. На май прошлого года Maven применяли более 20 000 военных. Исследование Джорджтаунского университета, посвященное использованию системы 18-м воздушно-десантным корпусом армии США, показало, что один артиллерийский расчет смог выполнить объем задач, сопоставимый с работой 2 000 человек, силами всего 20 военнослужащих.
Конкуренты Anthropic уже готовятся занять освободившуюся нишу. На прошлой неделе OpenAI заключила собственный контракт с Пентагоном.
Источник: The Guardian, The Washington Post.
