Обновлённая Model Spec для более способного и полезного ИИ

Главный смысл: OpenAI обновила Model Spec — публичный документ о том, как должны вести себя её модели (версия от 29 октября). Руководство переформулировано вокруг пяти базовых ценностей, из него убрано большинство требований к стилю ответов, а модель больше не называют «ассистентом» — теперь это GPT.

• Пять ценностей вместо разрозненных правил. Основа — верность намерениям человека: понимать, что от модели хотят на самом деле, а не исполнять инструкции буквально, и помогать без скрытого ведения выбора. Остальные четыре: минимизация вреда, честность и прозрачность, укрепление самостоятельности людей и забота — внимательность к обстоятельствам и соцнормам.

• Иерархия подчинения и учёт контекста. Обновлён раздел chain of command: границы задаёт OpenAI, разработчики управляют приложениями, пользователи действуют в этих рамках. Новая секция обязывает учитывать разговоры, память и другие сведения о человеке как сигналы его намерений — и делать допущения модели заметными и легко исправимыми.

• Стиль больше не диктуют. Детальные стилистические правила уходят: манера ответов подстраивается под предпочтения пользователей из обратной связи. Остаются жёсткие дефолты вроде объективной точки зрения — ракурс можно попросить явно, но не выводить его из желания «сказать приятное».

• Обучение и признание пробелов. Компания исследует новые методы обучения, чтобы модели усваивали суть ценностей, а не букву правил; результаты обещают позже. В посте прямо сказано: модели пока не вполне соответствуют спецификации. Открыт сбор замечаний к документу.

Что дальше: Model Spec — декларация желаемого, а не фактического поведения: разрыв признаёт сама OpenAI, сроки переобучения моделей не названы. Спорное место — право модели «действовать разумно» при неполных инструкциях: критики обычно видят здесь риск подмены воли пользователя суждениями модели. Следить стоит за обещанными отчётами об обучении и за реакцией исследователей безопасности на обновлённый chain of command.