DeepMind создала институт для изучения безопасного развития общего ИИ

DeepMind, дочернее предприятие технологического гиганта Google, создала институт для изучения безопасного развития общего искусственного интеллекта (AGI), говорится в сообщении компании.

«Мы уже замечаем последствия все более мощного ИИ для кибербезопасности и биологических рисков, при этом есть вероятность в будущем утратить контроль над саморазвивающимися системами», — отметили в институте.

Институт займется исследованием безопасного развития AGI, его применения и последствий для общества. Публиковать свои идеи на его площадке смогут исследователи и эксперты из Google DeepMind, Google и мирового научного сообщества.

Ранее бывший сотрудник Google DeepMind Билал Чугтай предупредил, что искусственный интеллект потенциально способен «убить всех людей». По его словам, для безопасного развития технологии компаниям необходимо координировать действия и замедлить темпы развития ИИ, чтобы общество успевало справляться с возникающими рисками.

Глава Anthropic Дарио Амодеи также призвал замедлить разработку искусственного интеллекта и предложил трехэтапную стратегию его безопасного развития. Инициативу поддержали глава Tesla и SpaceX Илон Маск и глава OpenAI Сэм Альтман.

Оставайтесь на связи с РБК в «Максе».