Anthropic предоставила исследователям METR доступ уровня сотрудников для изучения моделей

Главный смысл: Anthropic предоставила шести исследователям некоммерческой организации METR доступ к внутренней инфраструктуре на правах штатных сотрудников и отказалась от права вето на публикацию их выводов. Это первый случай в индустрии передового ИИ, когда разработчик пустил независимых экспертов внутрь рабочих процессов для постоянной оценки безопасности моделей.

• Условия доступа: Эксперты METR получили корпоративные ноутбуки, рабочие места в офисе и допуск к внутренним инструментам анализа рисков. Anthropic сравнила этот формат с практикой банковских регуляторов, размещающих постоянных инспекторов внутри крупнейших банков.
• Публикация без цензуры: Anthropic не сможет блокировать обнародование отчётов METR о рисках и инцидентах. Компания вправе требовать сокрытия лишь узкого списка данных (клиентские данные, адвокатская тайна, детали архитектуры), однако аудиторы могут открыто заявлять, считают ли они эти купюры обоснованными.
• Трёхуровневая система аудита: METR пока занимает высшую ступень новой системы проверок Anthropic в качестве единственного партнёра. На базовом уровне (куда входит организация SecureBio) публикации требуют одобрения разработчика, а средний разрешает выпуск отчётов без цензуры, но без прямого доступа во внутренние контуры.
• Отраслевой контекст: Допуск экспертов реализует обещание главы компании Дарио Амодеи (Dario Amodei). Ранее аналогичный шаг анонсировала OpenAI, а группа ведущих разработчиков (Google, Meta, Nvidia, xAI) подписала пакт с Белым домом о независимой оценке систем.

Что дальше: Инициатива запущена на фоне регулярных сообщений о неконтролируемом поведении ИИ-агентов, фиксируемых с конца августа. Предстоит следить за первыми отчётами METR, а также за тем, решатся ли другие лаборатории на аналогичный отказ от права вето, или их проверки останутся формальными.