Дженсен Хуан из Nvidia отверг апокалиптические нарративы об ИИ: запугивание безответственно

Главный смысл: Дженсен Хуанг, глава Nvidia, назвал неподкреплёнными научно прогнозы о возможном уничтожении человечества ИИ в ближайшие годы и выступил против новых специальных правил для разработчиков ИИ в США. Это существенно: его позиция расходится с призывами части исследователей замедлить развитие передовых систем.

• «Нулевой риск» к 2030 году. В интервью CBS News Хуанг заявил, что вероятность «конца света» в 2030-м равна нулю, а запугивание такими сценариями безответственно. Это личная оценка, не опубликованный научный расчёт риска.

• Повод — спор о гонке за сверхинтеллектом. Бывший исследователь Anthropic Джейкоб Коксон обвинял Anthropic и OpenAI в безответственной разработке самосовершенствующегося сверхинтеллекта. Статья сообщает, что дискуссию поддержали призывы Дарио Амодеи и Сэма Альтмана осторожнее относиться к развитию передового ИИ; конкретных мер материал не называет.

• Ставка на действующие законы. По мнению Хуанга, законов США об ответственности за вред и о несанкционированном проникновении в сети достаточно, а применять нужно именно их, без отдельного регулирования ИИ. Nvidia поставляет вычислительные мощности, в том числе для моделей OpenAI, и выигрывает от спроса на чипы; поэтому у компании есть коммерческий интерес в этой дискуссии.

• Экспорт в Китай — без запрета. Хуанг считает, что технологии США прежде всего должны служить стране, но выступает против запрета продаж американских технологических продуктов Китаю: производителям чипов следует конкурировать глобально. Это позиция компании, а не решение властей.

Что дальше: Следить стоит за тем, перейдёт ли спор о рисках ИИ в конкретные законопроекты США и изменятся ли экспортные ограничения на чипы для Китая. Не подтверждено, что действующие нормы закрывают риски автономных и всё более мощных ИИ-систем: по этому вопросу нет согласия между компаниями, исследователями и регуляторами. Важнее всего будут практические требования к тестированию, кибербезопасности и ответственности поставщиков до возможного ущерба.