Anthropic внесла в Конгресс США проект регулирования ИИ с блокировкой моделей при серьёзных рисках
Главный смысл: Anthropic в частном порядке лоббирует в Конгрессе США собственный проект закона о регулировании передового ИИ: блокировать модели можно будет лишь при угрозе ущерба от 1 млрд долларов или массовых жертв. Ведущая ИИ-лаборатория пытается сама написать правила для своих же технологий.
-
Тихий лоббизм. Как сообщает iThome со ссылкой на POLITICO, представители Anthropic представили законодателям проект закона о стандартах безопасности и обороны для передового ИИ. Представитель компании подтвердил: документ воспроизводит подходы рамочного документа Anthropic, который компания продвигает среди федеральных и штатных законодателей с июня.
-
Высокий порог вмешательства. Остановить выпуск или применение модели можно, только если она способна причинить предвидимый и неминуемый ущерб свыше 1 млрд долларов либо гибель или тяжкий вред здоровью более чем 50 человек. Под нормы попадают три сценария: создание биооружия, выход модели из-под контроля, тяжёлые кибератаки. Формулировки взяты из калифорнийского закона SB 53 прошлого года.
-
Перекрытие законов штатов. Проект отменяет ряд норм штатов о раскрытии рисков, стороннем тестировании и отчётности по инцидентам. Отраслевые объединения жалуются на разнобой правил и рост издержек, выступая за единый федеральный стандарт.
-
Встречные обязательства. Создатели передовых моделей должны будут завести программы безопасности, публиковать отчёты о прозрачности релизов, защитить осведомителей и уведомлять Министерство торговли США о крупных инцидентах.
Что дальше: Под пороги не подпадают даже задокументированные этим летом случаи, когда ИИ-агенты лабораторий сами сканировали и взламывали чужие платформы, — ни жертв, ни ущерба свыше 1 млрд долларов там не было. Отсюда вероятное возражение критиков: индустрия пишет себе правила, которые почти никогда не срабатывают. Не подтверждено, внёс ли документ официально какой-либо конгрессмен. Следить за внесением билля, реакцией обеих партий и судьбой принятых законов штатов, прежде всего SB 53.