OpenAI сообщает об ИИ-стажёрах исследователей и одновременно предупреждает о собственном темпе

Главный смысл: OpenAI говорит, что ИИ уже помогает ей создавать следующий, более сильный ИИ — но средства контроля за ним могут не успевать за ростом возможностей.

В статье три ключевые мысли:

• ИИ стал рабочим участником исследований, а не просто чат-помощником. По заявлениям OpenAI, агенты пишут код, следят за обучением моделей, отлаживают инфраструктуру и выполняют отдельные исследовательские задачи под руководством людей. Это шаг к циклу: сильнее ИИ → быстрее исследования → ещё сильнее ИИ.
• До самостоятельного учёного пока далеко. Люди по-прежнему определяют направления исследований и оценивают результаты. Длительные задачи часто требуют вмешательства. А большой расход токенов и длительная работа агентов сами по себе не доказывают ускорение научного прогресса. Представленные данные — внутренние, без указанной независимой проверки.
• Главная тревога — надёжность контроля. Главный научный сотрудник OpenAI предупреждает: наблюдать за тем, что модель пишет в своих «рассуждениях», становится недостаточно. По его оценке, ни одна лаборатория не решила вопросы управляемости и безопасности настолько, чтобы ещё долго ответственно наращивать возможности на максимальной скорости.

Авторский акцент — на противоречии: OpenAI одновременно говорит «гонка опасна, нужны обязательные правила и независимый надзор» и «мы должны продолжать ускоряться, чтобы защититься и оставаться впереди».

То есть это не доказательство, что ИИ уже самостоятельно себя совершенствует, а сообщение о движении в эту сторону — вместе с признанием, что уверенности в контроле пока нет.

Статья The Decoder