Anthropic раскрыла, как Claude применяли для шпионажа и пропаганды

В компании узнали, что Claude помог иранским военным создать справочники, помогающие отслеживать позиции американских кораблей и персонала

Иран в ходе конфликта с США применял модель ИИ Claude от Anthropic для отслеживания перемещения ВМС США и пропаганды, пишет Axios со ссылкой на доклад Anthropic.

По данным компании, Claude помог иранским военным создать справочники по наведению, которые помогали отслеживать позиции американских кораблей, персонала, а также идентификаторы самолетов и судов и спутниковые снимки.

Кроме того, Тегеран применял модель для пропаганды, внутреннего наблюдения и выявления меньшинств и оппозиционных деятелей.

Помимо Ирана, моделью Anthropic пользовались йеменские хуситы. Они применяли ИИ для разработки программного обеспечения для управляемого и баллистического оружия.

Anthropic прямо не говорила, что пользователями модели были хуситы, однако, как пишет The Financial Times, именно они контролируют значительную часть северной части страны.

Группа применяла Claude Code для разработки ПО наведения, навигации и управления ракетами. С помощью модели они писали код, настраивали систему управления и проводили моделирование полета. Как пишет Anthropic, группа одновременно использовала несколько экземпляров Claude: один писал код, другой занимался исследованиями, третий проверял результат.

Также компания выявила использование Claude неизвестным жителем Китая, который с помощью ИИ изучил более 100 групп в WhatsApp (принадлежит Meta, которая признана в России экстремистской и запрещена) и десятки каналов в Telegram для выявления уйгуров в Сирии. В дальнейшем он оказывал на людей давление или предлагал заплатить за сообщения о вооруженных уйгурских группах.

Помимо этого, Claude помог исполнителю вести тайную работу на сирийском диалекте арабского — переводя ответы и обучая правильно «давить» на разлуку с семьей и родственниками, находящимся в Синьцзяне.

Один человек из Мали применял Claude для создания системы слежки за 25 млн телефонов. Специалист с помощью ИИ создал систему, способную идентифицировать людей по голосу на разных устройствах, помечать пользователей VPN и создавать досье.

Кроме того, Anthropic рассказала, что исследователи, работавшие по государственному гранту, пытались с помощью Claude изменить переносимый комарами вирус чикунгунья, чтобы он легче распространялся или обходил иммунитет. Как утверждает Anthropic, это исследование вызвало беспокойство, так как удалось установить, что работа предназначалась для военного научно-исследовательского института.

«Чего мы не знаем, так это того, было ли целью исследования создание оружия. Но военное учреждение, проводящее исследования по усилению функций вирусов, вызывает беспокойство», — заявил глава отдела анализа угроз в Anthropic Джейкоб Кляйн.

ИИ-модель заблокировала некоторые запросы, в связи с чем исследователи обратились к конкурирующей модели с более слабыми средствами защиты, заявляет Anthropic.

Оставайтесь на связи с РБК в «Максе».