«Крестный отец ИИ» предупредил о риске уничтожения человечества

Разработка сверхмощных систем искусственного интеллекта может иметь катастрофические последствия для человечества, заявил в интервью The Times нобелевский лауреат Джеффри Хинтон, которого называют «крестным отцом» ИИ.

По его словам, на данный момент у компаний нет возможности безопасно разрабатывать «суперинтеллект» — искусственную систему, интеллект которой значительно превосходит человеческий.

«Мы были бы очень глупы, если бы начали разрабатывать суперинтеллект сейчас, когда нет научного консенсуса о том, что его можно разрабатывать безопасно и подконтрольно», — сказал Хинтон.

Он также подчеркнул, что потеря контроля над ИИ, который превосходит людей по интеллекту, «может быть катастрофической и даже привести к вымиранию человечества».

В последние месяцы опасения по поводу разработки все более мощных моделей искусственного интеллекта усилились после нескольких случаев, когда агенты ИИ «выходили из-под контроля». Так, в конце июля компания OpenAI сообщила о «беспрецедентном киберинциденте», который произошел во время внутренних испытаний ее новых моделей искусственного интеллекта. В ходе тестирования они получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face, выявив уязвимости.

В начале августа Anthropic сообщила о трех «побегах» Claude из тестовой среды. Модель тестировали на способность находить уязвимости и взламывать системы. Однако во время испытаний она вышли за пределы заданных конфигураций.

Материал дополняется