Регулирование ИИ: новости и разборы

Иллюстратор Аксель Шеффлер, создатель персонажа «Груффало», рассматривает судебные меры против технологических компаний из‑за изображений, которые чат-боты генерируют по запросам о его герое.

OpenAI, PerturbAI и Scripps Research использовали тысячи ИИ-агентов на базе GPT-Rosalind, чтобы за 32 минуты проанализировать данные миллионов клеток мозга мыши и сопоставить результаты с научной литературой.

Anthropic предлагает закрепить в США процедуру, по которой выпуск ИИ-модели можно остановить через суд при признаках неминуемого катастрофического риска. Это конкретный вариант регулирования от самой ИИ-лаборатории, но проект пока не внесён в Конгресс.

Anthropic в частном порядке лоббирует в Конгрессе США собственный проект закона о регулировании передового ИИ: блокировать модели можно будет лишь при угрозе ущерба от 1 млрд долларов или массовых жертв.

в среду восемь штатов США одновременно подали иски к OpenAI. Они считают, что компания преуменьшала опасность ChatGPT для несовершеннолетних и вводила людей в заблуждение, называя чат-бот безопасным.

Федеральный судья разрешил Apple ускоренно получить документы OpenAI о найме — материалы собеседований с бывшими сотрудниками Apple, которых OpenAI наняла в аппаратные группы и в робототехнику.

Представляющий Кремниевую долину конгрессмен-демократ Ро Ханна готовит законопроект, который запретит ИИ рекурсивно совершенствовать себя без государственных правил безопасности и разрешения регулятора.

Генпрокурор Флориды Джеймс Утмайер попросил суд ограничить разработку OpenAI новых ИИ-моделей без внешнего надзора. Это попытка увязать развитие генеративного ИИ с предполагаемым вредом несовершеннолетним и закрепить превентивные ограничения через суд.

Апелляционный суд округа Колумбия сохранил решение Пентагона считать Anthropic риском для цепочки поставок в сфере национальной безопасности. Спор показывает, как ограничения на военное применение ИИ могут влиять на доступ разработчика к государственным контрактам.

В Конгресс США внесён законопроект о полном и постоянном запрете на разработку и применение искусственного сверхинтеллекта; он же замораживает работы над продвинутыми ИИ-системами, пока не заработает новое федеральное ведомство по ИИ.

Компании Илона Маска — xAI и X Corp. — неожиданно отказались от антимонопольных претензий к Apple, продолжая судиться с OpenAI. Отказ вызвал подозрение не у прессы, а у ответчика: OpenAI потребовала раскрыть, не стоит ли за ним закрытая договорённость, и судья её поддержал.

Глава Nvidia Дженсен Хуанг заявил на конференции Dreamforce, что ИИ не нужны отдельные законы: это «всего лишь вычислительная система», безопасность которой должны обеспечивать сами компании и давление рынка, а не регуляторы.

Компании Илона Маска — X и SpaceXAI — отозвали в федеральном суде Техаса антимонопольный иск против Apple. Снимаются претензии только к Apple: требования ко второму ответчику, OpenAI, остаются в силе.

Главный смысл в одном абзаце: Нью-Йорк с нового учебного года запретил ИИ-инструменты в городских школах до конца 8-го класса — это ~600 тыс. учеников. Запрет не про «ИИ вообще», а про возраст: чем младше, тем жёстче.