Amazon выпустила открытую модель Strands Decider 2B для принятия решений с локальным запуском

Главный смысл: Amazon открыла код и веса компактной ИИ-модели Strands Decider 2B, которая не генерирует текст, а принимает решения в агентных системах — и запускается локально на обычных процессорах и видеокартах. Смысл шага: часть агентных решений можно исполнять на своём железе быстрее и дешевле, чем через облачные вызовы больших моделей.

• Основа — Qwen3.5-2B с заменённой «головой»: команда Amazon Strands Agents взяла предобученную модель Qwen3.5-2B как «ствол», а языковую «голову», генерирующую текст, заменила на компактный скоринговый модуль-«указатель» — в нём чуть больше миллиона параметров. «Ствол» дообучен LoRA-адаптером ранга 16.

• Открытый код и веса: модель выложена на GitHub, веса доступны на Hugging Face; заявлена работа и на CPU, и на GPU, то есть для развёртывания не нужен специфичный ускоритель.

• Качество — по данным самой команды: на публичном бенчмарке JevBench модель показала хорошую точность и калибровку, заняв третье место среди моделей уровня 2B и опередив всех конкурентов с числом параметров строго не более 2 млрд.

• Задержка локально: медианное время принятия решения на типовом железе — 113 мс; на видеокарте NVIDIA GeForce RTX 3090 при небольших задачах — 153 мс.

Что дальше: Основной сценарий — агентные конвейеры, где решений много и нужна предсказуемая задержка: локальная модель снимает зависимость от API-лимитов и оплаты за каждый вызов. Однако данные о качестве пока опираются на один публичный бенчмарк и измерения самой Amazon — независимых проверок не было; не раскрыто и сравнение с облачными большими моделями по итоговому качеству решений. Следить стоит за тремя вещами: сторонними замерами JevBench и других тестов, появлением Strands Decider в популярных агентных фреймворках и продолжением линейки моделями большего размера — без этого останется неясным, масштабируется ли подход «скоринг вместо генерации» за пределы 2B.