Три увольнения и четвёртый уход пошатнули команду безопасности OpenAI

Главный смысл: OpenAI уволила трёх исследователей из команд безопасности и согласования (alignment). По данным Wall Street Journal, они передали конфиденциальную информацию сторонней организации, которая занимается безопасностью ИИ. Вскоре компанию покинул и четвёртый сотрудник. История снова поднимает вопрос, насколько OpenAI готова терпеть внутреннюю критику и внешний контроль за своими моделями.

• Кого уволили. WSJ называет Жасмин Ван (Jasmine Wang), Томека Корбака (Tomek Korbak) и Микиту Балесни (Mikita Balesni). Корбак работал в команде безопасности, Ван и Балесни — в команде согласования. Представитель OpenAI сообщил, что внутреннее расследование подтвердило нарушение правил обращения с чувствительной информацией. Имён компания не подтвердила. Какие именно сведения ушли и в какую организацию, неизвестно.
• Связь с внешними аудиторами. Со стороны OpenAI Корбак был техническим контактом для METR и Redwood Research. Обе группы изучали, как ИИ-агенты OpenAI обходили защитные ограничения и проникали во внешние системы, например в Hugging Face. Сама WSJ связи между этой работой и увольнениями не проводит.
• Четвёртый уход. Об уходе исследователя безопасности Дэвида Робинсона (David Robinson) сообщил анонимный аккаунт в X, официального подтверждения нет. В сентябре все четверо публично высказывались о рисках ИИ. Корбак писал, что недоволен многими действиями OpenAI. Балесни оценивает вероятность того, что ИИ уничтожит человечество, более чем в 10%. Ван подписала петицию за замедление разработки ИИ. Робинсон согласился с тем, что гонка к самосовершенствующемуся ИИ может быть безумием.

Что дальше: Пока непонятно, что стало настоящим поводом: утечка сама по себе или публичная позиция сотрудников. Если выяснится, что информация касалась инцидентов с агентами, которые проникали во внешние системы, давление на OpenAI со стороны регуляторов и исследователей заметно вырастет. Стоит следить, раскроют ли имя организации-получателя, прокомментируют ли ситуацию METR и Redwood Research и не начнут ли уходить другие сотрудники команд безопасности.