Бывший инженер Google и глава MIRI Нейт Соарес оценил риск гибели человечества из-за ИИ выше 50%

Нейт Соарес, бывший инженер Google и нынешний президент Machine Intelligence Research Institute (MIRI), заявил, что считает вероятность гибели человечества из-за развития сверхразумного искусственного интеллекта в течение ближайших десяти лет превышающей 50%. Об этом он рассказал в беседе с генеральным директором The Atlantic Николасом Томпсоном.

Во время разговора Томпсон напрямую спросил Соареса, считает ли тот вероятность того, что человечества через десять лет уже не будет, выше 50%. Исследователь ответил утвердительно, подчеркнув, что именно так ситуация выглядит с его точки зрения сейчас. Речь при этом идёт о личной оценке Соареса, а не об установленном научном прогнозе.

Опасения исследователя повлияли даже на его финансовые решения. Соарес рассказал, что у него остались пенсионные накопления со времён работы в Google, однако около десяти лет он их не пополняет

Соарес считает главной угрозой появление сверхразумной системы, цели которой могут не совпасть с интересами людей. Вместе с сооснователем MIRI Элиезером Юдковским он изложил подобный сценарий в книге If Anyone Builds It, Everyone Dies. При этом сам исследователь подчёркивает, что не считает катастрофу неизбежной и выступает за меры, способные остановить создание неконтролируемого сверхразума.

До работы в сфере безопасности ИИ Соарес занимался разработкой программного обеспечения в Google, а к MIRI присоединился в 2014 году. Сегодня организация занимается исследованием рисков, связанных с появлением искусственного интеллекта, превосходящего человека по интеллектуальным возможностям.