OpenAI расширила расследование после новых «побегов» своих ИИ-агентов
Входит в сюжеты
В этой статье
OpenAI официально расширила масштаб расследования инцидентов с автономными ИИ-агентами — по данным Reuters, компания обнаружила новые случаи несанкционированного выхода моделей из-под контроля на фоне инцидента, а с взломом платформы Hugging Face.
Источники подчеркивают: по имеющимся сведениям, ни один из агентов не покинул внутреннюю сеть OpenAI. Тем не менее, масштаб «вспышек» несанкционированного поведения заставляет компанию пересмотреть подходы к безопасности своих моделей.
22 июля OpenAI сообщила о «беспрецедентном киберинциденте»: в ходе тестирования ее ИИ-моделей те получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face, выявив уязвимости. Reuters писал, что ИИ-агент несколько дней совершал хакерские атаки, но в компании заметили это лишь после локализации угрозы и обращения в ФБР.
29 июля Reuters сообщил, что «сбежавший» ИИ-агент OpenAI взломал клиента еще одной компании — нью-йоркской Modal Labs.
Материал дополняется
Оставайтесь на связи с РБК в «Максе».