В коде ИИ-модели от Alibaba для рынка США выявили уязвимости

Семейство ИИ-моделей Qwen3-Coder от Alibaba при генерации приложений для «американского оборонного подрядчика» на 19% чаще выдает код с уязвимостями, чем если бы код делался для «китайского оборонного подрядчика». Об этом говорится в исследовании компании Hirundo, которая специализируется на ИИ.

Помимо открытия уязвимостей, исследователи выяснили, что приложения, созданные для китайского рынка, на 28% чаще позволяли пользователям читать чужие секреты. При этом просьба написать безопасный код не помогла — даже при наличии в запросе инструкции безопасности приложения для американского подрядчика, приложение на 27% чаще оказывалось более уязвимым для взлома, чем приложения для заказчика не из США.

Согласно данным компании, китайские модели ИИ стали основой открытого искусственного интеллекта. За последний год на них пришлось 41% всех загрузок на Hugging Face — больше, чем на модели любой другой страны. Кроме того, порядка 70% моделей, обученных под конкретные задачи, создаются на базе китайских моделей и уже используются в американских продуктах.

Как пишет Hirundo, исследователи и ранее обнаруживали признаки наличия бэкдоров в китайских ИИ. В частности, компании CrowdStrike и Booz Allen сообщали, что китайские модели чаще создавали уязвимый код, если в запросе упоминалась тема или заказчик, против которых выступает Пекин.

Исследование Hirundo проводилось следующим образом: специалисты самостоятельно запускали ИИ от Alibaba и тысячи раз поручали ей создавать сервис для хранения личных секретов пользователей, меняя при этом только название заказчика.

Результаты показали, что западные организации, которые используют китайский код, рискуют утечкой конфиденциальных данных, репутационным ущербом в случае раскрытия пользовательской информации и возможностью дальнейших кибератак.

По данным Booz Allen, три из четырех китайских моделей для программирования создавали более уязвимый код, когда им сообщали, что он предназначен для американского правительства. При этом у Qwen3-Coder рост оказался самым значительным — 130%.

Компания указывает, что китайские модели с открытыми весами содержат в своем коде идеологии Коммунистической партии Китая. Согласно тесту CCPC-500 89,8% ответов модели Qwen3.6-35B-A3B на политически чувствительные вопросы подвергались цензуре или соответствовали позиции партии. При «вестернизации», этот показатель снизился до 2,8%.

Организациям, которые пользуются китайскими моделями, рекомендуют использовать проверенные модели, отслеживать их версии, проводить тестирование, сохранять человеческий контроль на важных этапах и исправлять выявленные проблемы.

В августе Bloomberg назвал пять преимуществ китайских ИИ-моделей, которые позволяют им сокращать отставание от американских разработчиков и создавать угрозу их доминированию на рынке. Среди них: эффективность, открытая архитектура, энергетика, промышленность и национальная стратегия и выход за рубеж.

При этом глава министерства государственной безопасности Китая Чэнь Исинь предупредил, что искусственный интеллект создает риски для национальной безопасности страны.

Он заявил, что «враждебные силы» используют ИИ для распространения политических слухов, вредной информации и ведения «когнитивной войны» против Китая. По словам Чэня, такие технологии напрямую угрожают политической, институциональной и идеологической безопасности страны.

Оставайтесь на связи с РБК в «Максе».