Система SoL-Pi от Nvidia почти вдвое сокращает расход токенов кодинг-агентов за счёт оптимизации harness

Главный смысл: Исследователи Nvidia представили SoL-Pi — систему, которая автоматически меняет управляющую обвязку программирующего агента, а не саму модель. По их испытаниям, это сокращает расход токенов почти вдвое при близком качестве: исчезают лишние вызовы модели и повторная передача контекста.

• Масштаб поиска. Исследовательский агент анализировал работу другого агента, предлагал правки обвязки и проверял их. Он исследовал 152 направления в 535 средах: 495 задач по проблемам и исправлениям из GitHub и 40 синтетических случаев. Всего — более 3000 прогонов и 60 тысяч взаимодействий со средой.
• Что изменили. Четыре приёма объединяют последовательные действия (например, правку кода и тест), сокращают накопленный контекст, заменяют длинные ответы инструментов сводками и сжимают журналы ошибок более дешёвой моделью с проверкой сохранности важных сведений.
• Основной результат. На 51 публичной задаче EdgeBench наиболее экономный вариант израсходовал на 49% меньше токенов и набрал 93,7% результата исходной обвязки Pi. Вариант с одним приёмом превысил результат Pi на 5,3% при меньшем расходе токенов. По оценке авторов, экономия относительно Pi — 4,36–5,71 доллара за час по действующим тарифам API.
• Проверка переноса. Обвязку подбирали на GPT-5.6 Sol, а затем без изменений применили к Opus 5: сохранилось 94,3% результата Pi при сопоставимой экономии токенов. Но на 63 задачах Terminal-Bench 4 система решила 15, тогда как Pi и Codex — по 18: снижение затрат не гарантирует равного качества на другой выборке.

Что дальше: Авторы предлагают обучать обвязку на более широком наборе задач и использовать экономную версию для поиска следующей, но это пока план, а не доказанный результат. Стоит следить за независимыми проверками на новых задачах и моделях, реальной экономией с учётом кэширования и риском утраты инструкций при сокращении контекста.