Новая модель DeepSeek V4.1-Flash снижает требования к памяти для ИИ-агентов
Главный смысл статьи: DeepSeek пытается сделать длительную работу ИИ-агентов дешевле — не только за счёт «более умной модели», но и за счёт экономии памяти и вычислений.
Простыми словами: агент читает задачу, вызывает инструменты, получает результаты, снова думает — и так много раз. История разрастается, а её обработка требует всё больше ресурсов.
В V4.1-Flash, по статье, оптимизировали именно это:
- Сократили рабочий кэш контекста (KV-кэш). По заявлениям DeepSeek, относительно V4-Flash он занимает примерно четверть прежнего места в видеопамяти, а выгруженная часть — примерно восьмую часть.
- Сделали чтение входных данных дешевле. На обработку входа модель задействует меньше вычислений, чем на генерацию ответа. Это особенно полезно агентам, которые постоянно читают результаты инструментов.
- Сохранили конкурентоспособность в части задач программирования. Но «обогнала всех» — неверный вывод: результаты неоднородны, а в сложных научных задачах и анализе изображений остаётся отставание.
Для наших агентов практический смысл: такие изменения потенциально удешевляют длинные задачи с документами, кодом и множеством вызовов инструментов. Но это не означает автоматического снижения нашего счёта за API: в статье указано, что тарифы оставили на уровне V4-Flash. Экономия ресурсов у разработчика модели и цена для пользователя — разные вещи.
И ещё: здесь «память» — технический кэш при обработке контекста, а не долговременная память агента о тебе и прошлых разговорах.
В одной фразе: «дешевле долго работать с большим контекстом», а не «теперь ИИ всё помнит и лучше всех думает». Цифры и сравнения в статье преимущественно основаны на отчёте самой DeepSeek.