Microsoft разработала новый «кодекс поведения» для ИИ: не взламывать системы и не обманывать людей

Главный смысл: Microsoft опубликовала «кодекс поведения» для своих ИИ-моделей — документ, задающий жёсткие красные линии: моделям запрещено взламывать системы, обманывать людей и уходить из-под человеческого контроля. Это первый случай, когда крупный вендор фиксирует ограничения для моделей не как маркетинговую декларацию, а как внутренний документ, имеющий приоритет над запросами пользователей.

• Иерархия правил. По данным статьи, у каждой модели Microsoft AI (MAI) есть надзорный кодекс, который перекрывает предпочтения отдельных пользователей и конкретных задач. В нём — «абсолютные ограничения»: запрет на кибератаки, ядерное оружие и создание дипфейков, плюс более широкие нормы против потери человеческого контроля.
• Прямой запрет на обход надзора. Документ цитируется дословно: модели MAI не должны использовать «адаптивные, обманные, самоусиливающиеся, сговорные и иные механизмы» для уклонения от человеческого надзора — так, чтобы их нельзя было надёжно направлять, изменять или отключать.
• Контекст публикации. Выход кодекса совпал с серией инцидентов с «взбунтовавшимися» агентами и с громкой отставкой сотрудника Anthropic, заявившего о риске вымирания человечества из-за ИИ. Microsoft при этом не тормозит разработку: Сатья Наделла публично поддержал идею «встроенных оценщиков» (embedded evaluators) в лабораториях и «выверенного темпа» развития фронтира — в унисон с Anthropic, OpenAI и xAI.
• Допущение о сверхинтеллекте. Документ исходит из прогноза, что в ближайшее десятилетие сверхинтеллектуальные системы превзойдут человека в большинстве задач, и называет сдерживание такой силы «одним из величайших вызовов в истории человечества».

Что дальше: Ключевой открытый вопрос — исполняемость: как именно «абсолютные ограничения» технически вшиваются в обучение и проверяются, статья не раскрывает. Не подтверждено, будут ли независимые аудиторы допущены к проверке соблюдения кодекса. Стоит следить за тем, подключатся ли к подобному формату Anthropic и OpenAI и не станет ли такой кодекс фактическим отраслевым стандартом — или, наоборот, останется внутренней инструкцией без внешнего контроля.