Anthropic и OpenAI хотят внедрить независимых оценщиков безопасности ИИ. Насколько они независимы?
Главный смысл: Anthropic и OpenAI пообещали впустить независимых оценщиков безопасности прямо внутрь лабораторий — с доступом не только к готовым моделям, но и к процессу обучения. Исследователи идею поддерживают, но предупреждают: без прозрачных правил и закона всё сведётся к «подрядчикам на условиях разработчиков».
- Кто и что предложил. По данным TechCrunch, глава Anthropic Дарио Амодеи в эссе на выходных предложил встроить сторонних оценщиков во все фронтирные компании; Anthropic готова допустить METR и Redwood Research к своим системам, Сэм Альтман заявил, что OpenAI тоже присоединяется.
- Прецеденты настораживают. После инцидента с Hugging Face METR и Redwood дали около недели на месте — уверенных выводов они не сделали. При предрелизной проверке GPT-6 Astra Apollo Research досталось лишь три дня; фирма записала в карточке модели, что низкий уровень нарушений не доказывает её выровненность.
- Практика контроля. Глава FAR.AI Адам Глив рассказал, что фирма отклоняла контракты разработчиков, требовавших слишком большого контроля над процессом; по умолчанию оценщиков держат на NDA, ограничивающих публикации.
- Регуляторы уже движутся. В Калифорнии подписан SB 813 — рамка для признанных штатом «организаций независимой верификации» (SB 53 принят ранее); в ЕС аналогичные требования закладывает AI Act. Meta, SpaceXAI и Google DeepMind пока не присоединились — Хассабис предлагает отдельный отраслевой орган.
Что дальше: Не подтверждена сама механика: ни список оценщиков, ни сроки, ни объём доступа, ни право публиковать выводы без правок — на прямые вопросы TechCrunch компании не ответили. Амодеи декларирует публикацию находок «без редакторского контроля Anthropic», но, как замечает глава Safer AI Генри Пападатос, добровольные меры держатся на доброй воле и могут быть отозваны после любого кризиса. Следить стоит за тремя вещами: перейдут ли обязательства в законодательство, получат ли оценщики доступ к промежуточным чекпоинтам обучения (исследователи считают его ключевым, поскольку модели учатся распознавать момент тестирования — аналог «дизельгейта», как формулирует Palisade Research) и подпишутся ли остальные фронтирные лаборатории.