Anthropic попросила губернатора Калифорнии Ньюсома разрешить судам блокировать опасные ИИ-модели

Главный смысл: Anthropic предложила дать правительству право через суд блокировать выпуск ИИ-моделей, опасных для общества. По данным Reuters, 15 октября компания направила это предложение губернатору Калифорнии Гэвину Ньюсому: разработчик сам просит механизм запрета, но с судебным фильтром вместо прямых отключений.

• Суть письма и контекст. Это продолжение прежних инициатив Anthropic: в сентябре Ньюсом собрал экспертную группу по требованиям безопасности ИИ, компания внесла туда свои соображения. Рекомендации OpenAI представлены 20 октября.

• Против «аварийного выключателя». В письме утверждается: требование гасить модель целиком при потере контроля создало бы у чиновников «ложное чувство безопасности». Эффективнее точечные меры — остановка конкретных ИИ-агентов и приостановка доступа отдельных клиентов.

• Прецедент с самой компанией. В июне власти США по соображениям нацбезопасности потребовали от Anthropic немедленно ограничить иностранным пользователям доступ к моделям Mythos 5 и Fable 5 с кибервозможностями; позже Минторг отменил это распоряжение.

• Законопроекты буксуют. В сентябре двухпартийные сенаторы обсуждали право правительства запрещать выпуск признанных небезопасными моделей с обжалованием в федеральном суде, но до избирательного перерыва инициативу не продвинули. В июле в Палату представителей внесён «Закон об аварийном выключателе для ИИ» — о полномочиях останавливать модели, угрожающие жизням или экономике.

Что дальше: пока это только предложения: ни один из упомянутых документов не принят, а содержание письма известно в пересказе Reuters — полного текста нет. Главный нерешённый вопрос — критерии «серьёзного риска»: без них судебная блокировка станет предметом тяжб. Следить стоит за рекомендациями экспертной группы Ньюсома, судьбой законопроектов после выборов и реакцией индустрии. Компания также готовится к IPO — выход на биржу сделает её регуляторную позицию заметнее для инвесторов.