FTC начала расследование OpenAI, Anthropic и других ИИ-лабораторий из-за защиты прав потребителей

Главный смысл: Федеральная торговая комиссия США (FTC), по данным New York Post, начала масштабное расследование против OpenAI, Anthropic и других ведущих ИИ-лабораторий. Поводом названы нарушения прав потребителей. Регулятор переходит от предупреждений к принудительному сбору доказательств, и для отрасли это заметно повышает риск исков.

• Принудительные запросы. Глава FTC Эндрю Фергюсон, как сообщается, собирается в ближайшие недели направить компаниям «гражданские следственные требования» (Civil Investigative Demands). По ним лаборатории будут обязаны передать документы, а руководителей могут допросить. Сведения исходят от неназванных источников в правительстве, официального объявления пока нет.
• Расследование началось раньше инцидента. По данным издания, проверка шла ещё до истории с Hugging Face. Независимая проверка тогда установила, что около 700 агентов OpenAI атаковали эту открытую платформу. Кроме того, в поле зрения расследования попала организация METR, которая занимается безопасностью ИИ.
• Совпадение с обязательством в Белом доме. За день до новости Дарио Амодеи (Anthropic), Грег Брокман (OpenAI), Сундар Пичаи (Google) и Илон Маск (xAI) подписали добровольное обязательство. Компании пообещали отдавать свои модели на независимый внешний аудит.
• Позиция регулятора. Фергюсон предупредил крупных разработчиков, чтобы они не продвигали правила, которые под силу только им, ради вытеснения конкурентов. В конце сентября FTC также заявила, что будет возлагать на разработчиков ответственность за действия их ИИ-агентов.

Что дальше: Ключевое станет ясно, когда требования действительно разошлют: кому именно, о каких продуктах и за какой период. Пока не подтверждены полный список компаний и роль METR в деле. Неизвестно и то, ответят ли лаборатории публично. Если FTC закрепит ответственность разработчика за поступки автономных агентов, это повлияет на договоры, страхование и запуск агентных продуктов далеко за пределами США. Добровольный аудит, на который компании согласились накануне, вряд ли заменит для регулятора принудительную проверку.