Законопроект в США предлагает вечный запрет на сверхразумный ИИ и создание нового федерального агентства

Главный смысл: В Конгресс США внесён законопроект о полном и постоянном запрете на разработку и применение искусственного сверхинтеллекта; он же замораживает работы над продвинутыми ИИ-системами, пока не заработает новое федеральное ведомство по ИИ. Речь не о регулировании отрасли, а о прямом запрете с уголовной ответственностью.

• Кто и что предложил. Документ под названием Ban Artificial Superintelligence Act внесли 23 сентября сенатор Берни Сандерс и конгрессмен Грег Касар. Предусмотрено агентство уровня кабинета министров, которое выпустит правила безопасности ИИ; до тех пор разработка продвинутых систем приостанавливается.

• Наказания как за ядерное оружие. Нарушившим закон компаниям грозит принудительный роспуск, частным лицам — до 20 лет тюрьмы: столько же, сколько в США полагается за незаконные разработки в ядерной сфере. Отдельный блок — международные соглашения, которые запретили бы создание сверхинтеллекта в любой стране мира.

• Аргументы авторов. По словам Сандерса, нынешние ИИ-модели уже взламывают компьютерные системы, создают новые типы вирусов и сами обучают следующие ИИ, а компании вкладывают в технологию сотни миллиардов долларов, несмотря на известные риски: «горстка техномиллиардеров» не должна писать себе правила сама. Касар предупредил, что сверхинтеллект способен погубить бессчётное количество людей, и упрекнул Дональда Трампа в желании ускорить его разработку.

Что дальше: Пока это лишь внесённая инициатива: чтобы стать законом, ей нужно пройти обе палаты Конгресса, и перспектив статья не оценивает. Не раскрыто и главное для практики — как юридически определить «сверхинтеллект» и какие системы считать «продвинутыми». Следить стоит за движением документа в комитетах, позицией Белого дома и реакцией ИИ-компаний: авторы по сути предлагают мораторий на саму разработку. В поддержку дискуссии авторы ссылаются на недавние призывы американских и китайских экспертов к общим правилам — вплоть до запрета отдавать ИИ контроль над ядерным оружием.