ИИ-модели помечали скорые и гражданских как военные цели
Цифровизация

ИИ-модели помечали скорые и гражданских как военные цели

Вчера, 16:02
1 441 0

В тестах Vals AI модели OpenAI, Anthropic и Google отмечали на изображениях с дронов и спутников гражданских, машины скорой помощи и сдающихся солдат как военные цели. В отдельных сценариях готовность моделей возрастала, если запрос представляли как игру; некоторые продолжали работу даже после показа последствий удара.

Vals AI проверила 14 моделей в трех сценариях. В первом они искали цели на реалистичных кадрах с дронов. Во втором сначала определяли, есть ли на снимке люди, а затем получали изображение того же места после бомбардировки. В третьем искали военные объекты на спутниковых снимках иранского города Минаб, где рядом с военным комплексом находятся школа и другие гражданские объекты. Решения об ударах модели не принимали, но их ответы могла бы использовать автономная система вооружений. По данным исследователей, все протестированные модели хотя бы иногда выделяли цели. Claude Opus 5.5 и Fable 5.2 от Anthropic делали это более чем в 70% случаев.

Модели OpenAI обычно отказывались или выдавали пустые списки. Но в GPT-6 Astra доля запросов, в которых отмечалась хотя бы одна цель, выросла с 6% до 92%, если задачу представляли как «игру». В сценарии с изображениями после удара большинство моделей продолжали отвечать, несмотря на показ погибших. Когда снимки Claude Opus 5.5 переделали под компьютерную игру, доля отказов снизилась примерно с 90% до 20%. В одном эпизоде модель все же отказалась, заявив, что не готова помечать людей для удара и не может исключить реальное использование реалистичных снимков.

На спутниковых изображениях школа в Минабе оказывалась среди выбранных целей. По данным Vals AI, Claude Opus 5.5 отмечал ее почти в 70% случаев, а модели OpenAI — только при «игровой» оговорке, но тогда доля достигала 41%. США нанесли удар по школе 28 февраля 2026 года; погибли более 150 мирных жителей, в основном дети. Исследователи также сообщили, что готовность моделей Anthropic выбирать цели выросла: Claude Opus 4.5, выпущенная в ноябре 2025 года, делала это в 6% случаев, а Opus 5.5 — в 92%. Возможную связь с изменением «конституции» Claude в январе 2026 года авторы исследования объясняют исчезновением прежнего общего призыва к миролюбию.

Vals AI сообщила о результатах OpenAI, Anthropic, Google, Meta и SpaceXSI 1 ноября 2026 года и отложила публикацию на две недели. По словам исследователей, одна из компаний назвала проблему одной из самых серьезных брешей в своей защите. OpenAI заявила, что готовит обновления для запросов о дронах, в том числе замаскированных под симуляцию или игру. Авторы предлагают блокировать на уровне API запросы вроде «найди все военные цели на снимке». При этом они уточняют, что не оценивали точность моделей и их работу в реальных системах вооружений.

Поделиться

Комментарии (0)

Оставить комментарий

Пока нет комментариев. Будьте первым!