OpenAI, Anthropic и Google несколько недель ведут переговоры о безопасности ИИ

Главный смысл: OpenAI официально подтвердила, что уже несколько недель ведёт переговоры с Anthropic и Google DeepMind о координации по безопасности ИИ. Это беспрецедентно: прямые конкуренты публично признают совместную работу над ограничением рисков фронтирных моделей — на фоне призыва Anthropic замедлить гонку и при прямом противодействии администрации Трампа.

• Кто подтвердил. Крис Лехейн, глава глобальной политики OpenAI, заявил журналистам во вторник в Вашингтоне, что переговоры трёх компаний идут несколько недель (первой сообщила Bloomberg). Сам он в столице — работать с законодателями над темой катастрофических рисков ИИ.
• Повод — эссе Амодеи. В субботу CEO Anthropic Дарио Амодеи опубликовал текст с призывом к индустрии совместно замедлить развитие фронтирного ИИ. Его поддержали Сэм Альтман (OpenAI), Демис Хассабис (Google) и Илон Маск (SpaceXAI); Альтман пообещал, что OpenAI вслед за Anthropic впустит в компанию сторонних оценщиков безопасности.
• Антимонопольный риск. По данным статьи, Альтман и другие признают: такая координация может нарушить антимонопольное право, если её сочтут подавлением конкуренции. Амодеи предложил узкое правительственное исключение для «согласования по безопасности», но Лехейн заявил, что компаниям оно не нужно.
• Стандартный орган без государства. The Information сообщает: тройка работает над созданием отраслевого органа по стандартам ИИ — причём, по словам Альтмана, без поддержки властей США. Хассабис ещё в июле призывал США учредить такой «надзорный» орган с правом проверять самые мощные модели и координировать общее замедление.

Что дальше: Лехейн заявил о поддержке OpenAI положения законопроекта FRONTIER Act, обязывающего ведущие лаборатории допускать к себе «независимые верификационные организации» — это потенциальный путь легализации координации через Конгресс. Неподтверждёнными остаются детали переговоров и сам факт создания органа стандартов — TechCrunch запросил комментарии у всех трёх компаний, ответов на момент публикации нет. Главное противодействие — Белый дом: Трамп называет опасения по безопасности «обманом», а его советник по ИИ Дэвид Сакс — преувеличенными, аргумент один: замедление даст фору Китаю. За чем следить: судьба FRONTIER Act и не подаст ли кто-нибудь антимонопольный иск против координации лабораторий.