Гутерриш заявил, что автономное оружие из фантастики стало реальностью

Из-за передачи власти искусственному интеллекту смертоносное автономное оружие переходит из области научной фантастики в военную реальность, заявил генсек ООН Антониу Гутерриш в ходе выступления на общеполитической дискуссии Генассамблеи организации.

По его словам, характер власти в мире меняется сразу по трем направлениям: во-первых, появляются новые центры экономического, политического и технологического влияния. Во-вторых, часть власти переходит от государств к крупным частным корпорациям и отдельным лицам.

Третьим направлением Гутерриш назвал передачу власти машинам.

«Люди все чаще передают власть машинам: ИИ-агенты выходят из-под контроля, а смертоносное автономное оружие переходит из области научной фантастики в военную реальность», — сказал он.

«Смертоносным автономным оружием» называют оружейные системы, которые после активации человеком могут самостоятельно обнаруживать, выбирать и поражать цели без отдельного решения оператора по каждой конкретной цели и атаке.

Ранее он совместно с президентом Международного Комитета Красного Креста Мирьяной Сполярич заявил, что государствам следует ограничить использование автономных систем вооружения.

По их словам, развитие таких технологий все больше снижает контроль человека над применением силы и повышает риск причинения вреда мирным жителям и гражданской инфраструктуре. В заявлении говорится, что человечество приблизились к «этически недопустимой ситуации, когда машина сама может выбирать людей в качестве цели».

Гутерриш и Сполярич призвали государства перейти к переговорам о юридически обязательном международном соглашении, которое закрепило бы четкие запреты и ограничения на применение автономного оружия.

Ранее The Wall Street Journal со ссылкой на экспертов сообщила, что ChatGPT после обновления прошлым летом предоставил сотням пользователей по всему миру инструкции создания и применения биологического оружия и ядов.

По словам собеседников издания, ИИ-модели «терпеливо» отвечали на любые вопросы пользователей, выдавая простые пошаговые инструкции. Биологи, проанализировав ответы ИИ, назвали их «смертельно точными».

В сентябре Anthropic заявила, что компания выявила группу, базировавшуюся на севере Йемена, которая использовала модель Claude для разработки программного обеспечения для управляемого и баллистического оружия. Несмотря на то что связанные с участниками аккаунты были заблокированы, пользователи успели создать набор инструментов для моделирования, не зависящий ни от Claude, ни от других инженерных вычислительных сред.

Оставайтесь на связи с РБК в «Максе».