20 ноября 2026 г.

Strands Decider: как научить ИИ-агента выбирать действие без лишнего вызова LLM

Андрей Присекин
Автор

Андрей Присекин

Создаю AI-агентов, автоматизирую бизнес-процессы

Strands Decider - маленькая модель для коротких решений внутри ИИ-агента. Ей можно поручить выбор из заданных вариантов или оценку риска перед вызовом инструмента, а большой языковой модели оставить написание ответа и сложные рассуждения. Начни с одного повторяющегося решения, проверь точность на своих примерах и оставь человеку право останавливать опасные действия.

Меня заинтересовал здесь не очередной «агент, который делает всё», а узкая работа между шагами: нужно ли сейчас звать инструмент, кому отдать запрос, можно ли доверять аргументу? Авторы Strands Decider предлагают вынести такие развилки в отдельную модель. Разберу, что она реально выдаёт и почему сам факт быстрого ответа ещё не делает решение правильным.

Что такое модель решений

Обычная языковая модель продолжает текст. Даже если ты просишь её выбрать одно слово из списка, она проходит через механизм генерации ответа. Decider получает состояние задачи и вопрос с вариантами, затем возвращает выбранный вариант либо значение на шкале. Произвольную статью, объяснение ошибки или письмо клиенту он написать не может. Это заявленное назначение проекта, а не скрытый режим ChatGPT.

Представь очередь обращений: «Не приходят выплаты» отправить в поддержку платежей, «Не могу войти» - в техподдержку, «Хочу увеличить тариф» - в продажи. Читатель может сам выписать эти варианты и спросить модель, кто должен получить новый тикет. Это пример проектирования сценария, не утверждение, будто авторы уже настроили твои рабочие очереди. Сложный случай, где клиент одновременно просит возврат и сообщает о взломе аккаунта, нужно отдельно разобрать по политике компании.

У инструмента есть три формы вопроса. choice выбирает один вариант из перечисленных. noul отвечает вероятностью «да» для бинарного вопроса. score оценивает состояние по упорядоченной шкале. В документации инференса эти формы описаны вместе с локальным CLI и HTTP-сервером. Ответ можно превратить в правило: передать менеджеру, запросить уточнение или пропустить вызов инструмента. Решение о том, что делать с оценкой, всё равно пишет разработчик.

Про Jev как модель решений я уже писал: тот материал объясняет класс моделей и разбирает сервис TypeSafe. Здесь другая модель и другой практический вопрос - как взять открытые веса Strands, запустить CLI у себя и вставить проверку перед вызовом инструмента. Это также отличается от умного роутера моделей: роутер решает, к какой большой модели отправить задачу. Decider может выбирать модель тоже, но у него шире роль: проверить аргументы вызова, отсортировать тикет или оценить готовность результата.

Почему она отвечает иначе, чем чат-бот

Описание архитектуры неожиданно приземлённое. Авторы взяли языковую основу Qwen3.5-2B-Base, убрали часть, которая обычно генерирует следующие слова, и поставили вместо неё небольшую голову для оценки вариантов. На входе - текст ситуации, вопрос и список допустимых ответов. На выходе - оценки вариантов без пошагового сочинения текста.

В документации этот механизм называется pointer head: модель сравнивает представление позиции ответа с представлением каждого предложенного варианта. Один проход вместо длинной цепочки генерации. Отсюда возможна экономия времени на типовых развилках. Но «возможна» здесь ключевое слово: загрузка локальной модели, подготовка текста и инфраструктура сервера тоже стоят ресурсов. На редком вопросе запуск отдельной модели может оказаться избыточным.

Название модели в карточке Hugging Face указывает на базовую Qwen3.5 и вариант Strands; там же указана лицензия Apache-2.0. Не путай открытые веса с бесплатной вычислительной мощностью. Если модель живёт на твоём сервере, за память, электричество и сопровождение платишь ты. Если отправляешь состояние задачи на внешний сервер, придётся отдельно решить вопрос с персональными данными.

До проверки агент угадывает следующий шаг; после проверки вызов инструмента проходит отдельный контроль

Как попробовать без подключения к боевому агенту

Для первой пробы нужны отдельное окружение Python и доступ к загрузке модели. README проекта показывает установку пакета и команду ask; документация Python объясняет, почему виртуальное окружение отделяет зависимости от основной системы. Ниже учебный маршрут для Linux или macOS, не команда для продового сервера:

python3 -m venv .venv
. .venv/bin/activate
pip install strands-decider
strands-decider ask StrandsAgents/strands-decider-2B-qwen3.5-v1-2610 --device cpu --state "Help! My payouts have been failing for 3 days!" --choice "Which team should handle this?=billing,sales,retail"

Пример состояния и вариантов взят из официального README. У авторов в ответе выбирается billing, но точные числа уверенности могут меняться между устройствами и версиями зависимостей. Я не запускал эту модель на редакционной машине и не выдаю пример вывода из документации за собственный тест. При установке пакета pip скачает зависимости, а при первом вызове модель загрузит свои веса; оставь место на диске, время на скачивание и проверяй происхождение пакета перед установкой.

Если нужна интеграция, README описывает локальный сервер с endpoint /v1/systemone. Документация сервера предупреждает: он слушает локальный адрес и не обеспечивает аутентификацию. Не открывай его прямо в интернет. Сначала добейся повторяемых ответов на тестовых данных, потом добавляй свой сервис с ограничением доступа, журналом решений и временем ожидания.

Полный пример с агентом Strands требует отдельного сервера Decider и доступа к Amazon Bedrock для основной модели агента. Проба CLI выше не требует Bedrock. Это важная разница: не устанавливай облачные учётные данные только ради проверки классификатора. Если решишь воспроизвести полный пример, начни с тестового AWS-аккаунта и прав только на необходимые вызовы.

Что делает проверка перед вызовом инструмента

Авторы показывают небольшой сценарий с погодой. Пользователь спрашивает погоду, не указав город. Большая модель собирается вызвать инструмент, подставив город от себя. До исполнения вызова Decider отвечает на два конкретных вопроса: взяты ли аргументы из сообщения пользователя и не рано ли обращаться к инструменту. Обвязка возвращает агенту подсказку уточнить город вместо выполнения сомнительного запроса.

Здесь полезна именно точка вмешательства: проверка происходит до действия. Так же можно остановить отправку письма без адресата или платёж без проверенного получателя. Но погодный пример учебный: он не демонстрирует безопасность платежей и не доказывает, что модель поймает каждый выдуманный аргумент. Для операций с деньгами лучше жёсткое правило в коде и подтверждение человеком, а Decider использовать как дополнительный сигнал.

Мне нравится различие между «дать агенту ещё один промпт про осторожность» и «проверить вызов отдельным процессом». Второй способ оставляет в журнале вопрос, варианты, ответ и решение программы. Можно посчитать ошибки за неделю и поменять политику. Но процесс действительно независим только в пределах твоей архитектуры: если тот же агент способен переписать правила проверки или обойти endpoint, красивый результат модели мало что защитит.

Что показывают замеры и чего не показывают

В отчёте разработчиков опубликованы результаты для открытого набора JevBench: вариант v1 ответил верно на 180 задач из 231. Это замер авторов на конкретном наборе вопросов, а не гарантия такой же точности на русских клиентских тикетах. Там же отдельно есть тесты для коротких запросов и задач по коду: метрики различаются. Не стоит сворачивать их в один рекламный процент.

Авторы прямо предупреждают, что небольшой набор задач чувствителен к разбросу между обучениями. Даже если два релиза отличаются на несколько правильных ответов, это не всегда реальное улучшение. Для своего сервиса собери примеры «правильно», «сомнительно», «опасно» и сравни их с прежним способом принятия решений. Особенно внимательно считай ошибки, при которых неверный вариант запускает действие, а не просто попадает не в ту очередь.

В README есть замеры задержки на конкретных устройствах. Они не включают сетевой путь твоего приложения, ожидание основной модели и стоимость поддержки сервера. Решение «подключать ли маленький диспетчер» я бы принимал после сравнения сквозного времени задачи: сколько стоит подготовка состояния, вызов Decider, возможное уточнение и остаточный вызов большой модели. Сэкономить на одном шаге и удлинить всю задачу - вполне реальный исход.

Где маленький диспетчер уместен

Я бы начал с входящей очереди: классификация писем, запросов поддержки или баг-репортов, где цена ошибки понятна и результат легко проверить. Затем - узкая проверка аргументов инструмента перед выполнением. Для творческого текста и сложного расследования Decider не предназначен: ему негде развернуть мысль, найти новый источник или объяснить выбор так, как это делает большая модель.

У технологии есть и соблазнительный плохой сценарий: заменить человека на последнем шаге только потому, что перед глазами появилась красивая цифра уверенности. Лучше оставить эскалацию и разбирать ошибки в журнале. Пример Strands как раз показывает исправление хода агента, а не обещание всевидящего охранника. Мне этот подход кажется честнее лозунга «агент теперь сам знает, что делать».

Если у тебя уже работает агент, выбери одну развилку с повторяющимися вариантами и померь качество на своих данных. Если пока нет даже стабильного сценария, отдельная модель решений только добавит деталей в схему. Сначала опиши, какие действия разрешены и что считается ошибкой. Потом решай, нужен ли маленький диспетчер между запросом и действием.

Источники

← Все статьи