Vals AI протестировала Open GPT-6 Astra в Minecraft: ИИ может застревать при серьёзных сбоях

Главный смысл: Независимый оценщик Vals AI провёл 141-часовой стриминговый тест модели OpenAI GPT-6 Astra в Minecraft. Модель показала длительное планирование, но после внезапной потери накопленного прогресса застряла в чрезмерно осторожном повторяющемся поведении — это важно для оценки надёжности ИИ в длинных задачах со сбоями.

• Длительный независимый тест. По данным издания, Vals AI, а не сама OpenAI, запустила автономную игру и транслировала её на Twitch. Тест шёл 141 час, поэтому оценивалась не разовая реакция, а способность удерживать цель на длинной дистанции.

• Сложное планирование до сбоя. Astra построила полуавтоматическую ферму, получила шесть стержней ифрита, отправилась в багровый лес Нижнего мира, добыла три жемчужины Края и собрала редкие предметы в лагере. Это описывается как последовательное движение к прохождению игры.

• Потеря ресурсов изменила стратегию. Взрыв крипера уничтожил сундук с ресурсами и кровать — точку возрождения. После этого модель, как сообщает статья, на несколько часов прекратила исследование и продвижение, а вместо этого циклически выращивала картофель и повторяла правила безопасного хранения предметов.

• Избыточная настороженность. Astra начала ошибочно воспринимать зелёные объекты как угрозу, включая тростник. Авторы считают это признаком слабой стратегии восстановления после потери; это результат стороннего наблюдения, а не подтверждённая разработчиком характеристика модели.

Что дальше: Один игровой эпизод не доказывает наличие у модели эмоций или «травмы». Не подтверждено, имитировала ли она эмоциональную реакцию или её целевая функция ухудшилась после отрицательной обратной связи. Важны повторные тесты на других задачах и моделях с заранее заданными метриками: как быстро система возвращается к цели, способна ли пересмотреть план и отличает ли разумную предосторожность от бессрочного избегания риска.