Сенатор предложил навсегда запретить сверхинтеллект в США и ввести до 20 лет тюрьмы за попытку обхода запрета

Американский сенатор Берни Сандерс и член Палаты представителей Грег Касар анонсировали Ban Artificial Superintelligence Act — законопроект, который предусматривает постоянный запрет на разработку и запуск искусственного сверхинтеллекта. Под запрет должны попасть системы, превосходящие человеческий интеллект, способные противодействовать командам отключения или обладающие возможностями, потенциально позволяющими подорвать работу человеческих институтов и правительств.

До появления федеральных правил авторы инициативы также предлагают временно приостановить разработку наиболее продвинутых ИИ-систем. Для контроля отрасли планируется создать новое федеральное ведомство кабинетного уровня, которое сможет проверять передовые модели на опасные возможности, контролировать их устранение и следить за соблюдением запрета на сверхинтеллект. При ведомстве должен работать независимый консультативный совет специалистов по искусственному интеллекту.

За попытку нарушить или обойти предусмотренные законопроектом ограничения физическим лицам может грозить до 20 лет лишения свободы. Для компаний предусмотрена так называемая corporate death penalty — прекращение возможности продолжать деятельность. В офисе Сандерса отдельно отмечают, что максимальный срок сопоставим с существующими в США наказаниями за незаконную разработку ядерного оружия.

Сандерс заявил, что решения о развитии настолько мощных технологий не должны оставаться в руках небольшой группы крупнейших технологических компаний. Инициатива предусматривает не только внутренние ограничения: США предлагается добиваться международных соглашений, координации с союзниками и применения экспортного контроля, чтобы не допустить разработки искусственного сверхинтеллекта и за пределами страны. На момент анонса 3 сентября документ официально характеризовался как готовящийся законопроект, поэтому предложенные меры пока не являются действующим законодательством США.