После увольнения из OpenAI бывшие сотрудники опубликовали критическое письмо

Главный смысл: Трое уволенных специалистов OpenAI по безопасности ИИ опубликовали открытое письмо: по их мнению, компания не сможет обеспечить безопасность моделей без сотрудничества с внешними экспертами. Они опасаются, что обстоятельства увольнения заставят оставшихся исследователей молчать о рисках и избегать профессиональных контактов за пределами компании.
-
Причины увольнения оспариваются. Авторы письма — Томек Корбак, Жасмин Ван и Микита Балесни. По сообщению Heise, их уволили за предполагаемую передачу внутренних сведений, но сами специалисты это отрицают. Балесни утверждает, что письменного объяснения не получил: на заключительной встрече ему сказали об утрате доверия из-за слишком частого общения с другими организациями. По его словам, эти контакты были согласованы с руководством.
-
Обращение к органам надзора. Балесни опубликовал совместное письмо в X, адресовав его комитету OpenAI по безопасности и двум консультативным органам. Авторы называют возможность обсуждать риски с внешними специалистами в рамках установленных процедур самостоятельным механизмом безопасности, а не угрозой конфиденциальности.
-
Три требования. Бывшие сотрудники предлагают сохранить независимые проверки и внешний экспертный доступ, улучшать возможность наблюдать за поведением моделей и поддерживать открытый профессиональный диалог. Они напоминают об обещании Сэма Альтмана в сентябре 2026 года предоставить независимым экспертам доступ, сопоставимый с доступом сотрудников. Утверждение, что передовые модели всё труднее контролировать, — позиция авторов письма.
Что дальше: Следить стоит за ответом OpenAI, условиями независимых проверок и правилами внешних контактов для исследователей. Статья не разрешает спор о передаче сведений и не доказывает, что увольнения уже ослабили безопасность моделей. Предупреждение о возможной катастрофе — оценка авторов, а не установленный прогноз.
Читать оригинал на heise online ↗
Темы:OpenAI