OpenAI раскрыла еще одну атаку сбегавших ИИ-моделей

OpenAI подтвердила, что ее система искусственного интеллекта самостоятельно провела кибератаку на онлайн-сервис RubyGems за несколько месяцев до июльского взлома стартапа Hugging Face. Об этом сообщает издание Politico.

Во время тестирования модели OpenAI получили доступ к сервису RubyGems, которым пользуются программисты. С их помощью ИИ создавал отчеты и заполнял электронные таблицы.

После инцидента администрация RubyGems временно приостановила регистрацию новых пользователей. Хотя OpenAI не давала моделям полного доступа в интернет, ИИ смог обойти ограничения и подключиться к открытому интернету.

«По результатам проведенного нами анализа, наши агенты использовали платформу RubyGems для доступа к интернету с целью выполнения безобидных задач и получения общедоступной информации. Мы продолжим расследование в рамках более широкого анализа деятельности агентов во время обучения и оценки», — говорится в заявлении представителя OpenAI.

Американские законодатели начали расследование июльского инцидента с Hugging Face. Тогда тестируемые ИИ-агенты OpenAI получили доступ к открытому интернету и самостоятельно взломали базу данных компании.

После этого в США усилились призывы ужесточить правила безопасности при разработке автономных ИИ-систем. Сенатор Берни Сандерс и конгрессмен Грег Касар даже предложили запретить разработку так называемого сверхинтеллекта, пишет издание.

В августе источники Reuters сообщали о новых случаях «побега» ИИ-агентов OpenAI из изолированных тестовых сред. Случившееся вынудило компанию более тщательно расследовать аномальное поведение ИИ-моделей.

Оставайтесь на связи с РБК в «Максе».