ИИ

Агентные системы ИИ: что это и паттерны проектирования

Агентная система — это программа, в которой языковая модель работает не одним запросом, а в несколько шагов: планирует, вызывает инструменты, проверяет результат. Паттерны проектирования описывают, как соединить эти шаги.

Коротко

Агентные системы — это системы, в которых языковая модель и инструменты работают в несколько шагов. Anthropic делит их на сценарии (workflows), где путь задан кодом, и агентов (agents), где модель сама выбирает шаги. Andrew Ng выделил четыре паттерна: рефлексию, использование инструментов, планирование и совместную работу нескольких агентов.

Автор
Andrew Ng (четыре паттерна, DeepLearning.AI); Anthropic (сценарии и агенты), 2024
Уровень
301 · Продвинутый
Подходит
малый и средний бизнес, растущая компания
Время на внедрение
Один-два дня, чтобы разобрать задачу и выбрать паттерн; затем проверка на реальных случаях
Что понадобится
описание задачи: вход, ожидаемый результат и признак, по которому видно, что результат верный · набор реальных прошлых случаев с известным правильным ответом · список систем и данных, к которым системе нужен доступ · владелец, который решает, какие действия система выполняет сама

Агентные системы — это системы, где языковая модель работает не одним запросом, а в несколько шагов. Модель планирует, обращается к инструментам, проверяет промежуточный результат и исправляет его. Паттерны проектирования описывают, как соединять эти шаги.

Термин «агентный» используют в двух значениях. Узкое относит к нему только агентов, которые сами ведут задачу. Широкое включает и жёсткие сценарии с несколькими вызовами модели. Здесь термин взят в широком смысле. Так проще решить, сколько свободы дать модели.

Сценарий и агент: в чём разница

Anthropic в статье «Building effective agents» (2024) выделяет два типа систем. В сценариях (workflows) модели и инструменты связаны путями, заданными в коде. В агентах (agents) модель сама управляет своим процессом и выбором инструментов.

Практический вывод: чем больше решений принимает модель, тем меньше предсказуемость. Сценарий проще проверить и отладить. Агент гибче, но его поведение труднее предвидеть.

Главный совет Anthropic: искать самое простое решение и усложнять его только при необходимости. Агентные системы часто повышают качество ценой большей задержки и стоимости. Для многих задач хватает одного запроса к модели с поиском по данным и примерами в контексте.

Про выбор процессов под агентов, их отбор и контроль подробнее — на странице ИИ-агенты для бизнеса. Эта страница о другом. Она о том, как устроены системы.

Четыре паттерна Andrew Ng

В 2024 году Andrew Ng выпустил серию писем об агентных паттернах в рассылке The Batch. Он противопоставил обычный запрос, где модель сразу пишет итоговый ответ, и рабочий процесс, где модель планирует, ищет, пишет черновик, критикует и переписывает.

Для кода он привёл результаты на тесте HumanEval. GPT-3.5 без примеров решила 48,1% задач, GPT-4 — 67,0%. GPT-3.5 внутри агентного цикла дошла до 95,1%. Это цифры из письма об одном тесте, а не общее правило.

Четыре паттерна выглядят так.

Рефлексия (reflection). Модель проверяет собственный результат и ищет, что улучшить. Для кода цикл такой: модель пишет код, затем критикует его по точности, стилю и скорости, затем переписывает с учётом замечаний. Цикл повторяют. Ng называет паттерн относительно простым, но давшим заметный выигрыш в его проектах. Рефлексию можно усилить запуском тестов. Её поручают и двум агентам: пишет один, критикует другой.

Использование инструментов (tool use). Модель запрашивает вызов функций: поиск в сети, выполнение кода, работу с почтой. Программа выполняет вызов и возвращает результат модели как дополнительный контекст. Пример из письма: расчёт сложного процента модель делает через код, а не прикидкой в уме.

Планирование (planning). Модель сама решает, какую последовательность шагов выполнить. Для исследовательской задачи она делит цель на подтемы, собирает данные и готовит отчёт. Ng называет планирование менее зрелой технологией, чем рефлексия и инструменты. Результат трудно предсказать заранее.

Совместная работа агентов (multi-agent collaboration). Задачу делят между агентами с разными ролями, например разработчиком, менеджером продукта и тестировщиком. Каждого агента создают подсказкой с инструкциями для роли. Ng приводит доводы в пользу паттерна: модели лучше сосредоточены на одной роли, а сложная задача делится на более простые. Качество результата тоже трудно предсказать. Особенно если агенты свободно используют инструменты.

Паттерны Anthropic

Anthropic описывает похожие идеи иначе: как набор конструкций от простых к сложным. Основа — расширенная модель (augmented LLM): модель с поиском, инструментами и памятью.

  • Цепочка запросов (prompt chaining). Задача делится на последовательные шаги, каждый обрабатывает результат предыдущего. Между шагами ставят программные проверки. Подходит, когда задача чётко делится на фиксированные подзадачи. Выигрыш в точности покупают задержкой. Пример: написать текст, затем перевести.
  • Маршрутизация (routing). Модель классифицирует вход и направляет его в специализированный процесс. Пример: обращения о возврате и технические вопросы идут разными путями. Простые вопросы можно отправлять в более дешёвую модель.
  • Параллельная обработка (parallelization). Независимые подзадачи идут одновременно (sectioning). Либо одну задачу запускают несколько раз для голосования (voting). Пример голосования: несколько запросов проверяют код на уязвимости.
  • Оркестратор и исполнители (orchestrator-workers). Центральная модель делит задачу, поручает части рабочим моделям и собирает ответ. Отличие от параллельной обработки: подзадачи не заданы заранее, их определяет оркестратор по входу. Пример: правка нескольких файлов в программе.
  • Исполнитель и оценщик (evaluator-optimizer). Одна модель создаёт ответ, другая оценивает его и даёт замечания, цикл повторяется. Подходит, когда критерии оценки ясны, а итерации дают измеримый выигрыш. Пример: литературный перевод.
  • Автономный агент (autonomous agent). Начинает с команды или обсуждения с человеком, затем планирует и действует сам. На каждом шаге получает обратную связь от среды, например результат вызова инструмента. Может остановиться на контрольной точке и запросить человека. Часто задают предел числа итераций.

Для автономных агентов Anthropic называет условие: открытые задачи, где трудно или невозможно предсказать число шагов, и доверие к решениям модели. Цена — более высокие расходы и возможное накопление ошибок. Anthropic рекомендует проверять такие системы в изолированной среде и ставить ограничения.

Как два списка соотносятся

Списки описывают разные уровни. Паттерны Ng — это приёмы, которые усиливают модель. Паттерны Anthropic — это способы собрать шаги в систему. Рефлексия по сути близка к паре «исполнитель и оценщик». Совместная работа агентов близка к оркестратору с исполнителями. Это приблизительное сопоставление для этой страницы. Сами Ng и Anthropic свои списки не связывают.

Как выбрать паттерн

Выбор строится от простого к сложному.

  1. Один запрос к модели с данными и примерами. Если качество устраивает, остановитесь.
  2. Сценарий с фиксированными шагами: цепочка, маршрутизация или параллельные ветки. Подходит, когда шаги известны заранее.
  3. Рефлексия или инструменты, если ошибки связаны с качеством текста или нехваткой точных данных.
  4. Оркестратор или планирование, если подзадачи зависят от входа.
  5. Автономный агент, если число шагов предсказать нельзя и есть проверка результата.

На каждой ступени сравнивайте качество, время и стоимость с предыдущей. Если выигрыша нет, возвращайтесь на ступень ниже.

Автономные системы требуют контроля. Рискованные и необратимые действия подтверждает человек: схема описана на странице human in the loop. Если процесс ещё не описан, сначала разберите его, например методом process mining. Общую логику выбора задач для автоматизации даёт страница про автоматизацию бизнес-процессов. Применение сценариев и агентов к продажам описано в разборе ИИ в продажах.

Как применять: Агентные системы ИИ: что это и паттерны проектирования по шагам

  1. Опишите задачу и критерий успеха. Запишите вход, желаемый результат и способ проверки. Без критерия нельзя понять, помогает ли усложнение. Результат: описание задачи и проверка, которую можно повторять.
  2. Проверьте один запрос к модели. Дайте модели нужные данные и примеры в одном запросе. Измерьте результат на прошлых случаях. Результат: базовое качество, с которым сравнивают все следующие варианты.
  3. Определите, какие шаги известны заранее. Если задача делится на фиксированные подзадачи, собирайте сценарий: цепочку, маршрутизацию или параллельные ветки. Если число шагов заранее неизвестно, рассматривайте агента. Результат: решение «сценарий» или «агент».
  4. Выберите паттерн под слабое место. Ошибки в тексте исправляет рефлексия. Нехватку данных или точных расчётов закрывают инструменты. Сложную задачу делят планирование или оркестратор. Результат: один паттерн, привязанный к конкретной ошибке.
  5. Задайте границы и условия остановки. Выпишите доступные инструменты и действия. Поставьте предел числа итераций. Рискованные действия отдайте на подтверждение человеку, как описано в разборе human in the loop. Результат: перечень разрешённых действий и правила остановки.
  6. Сравните результат с базовым. Прогоните систему по тем же прошлым случаям, что и один запрос. Сравните качество, время и стоимость. Усложнение остаётся, только если выигрыш оправдывает затраты. Результат: решение оставить, упростить или отказаться.

Примеры

Описания товаров для интернет-магазина

Иллюстративный пример. Магазин готовит 300 карточек в месяц. Сценарий из двух шагов сначала пишет описание, затем проверяет его по чек-листу: длина, запрещённые слова, обязательные характеристики. Шаги известны заранее, поэтому агент не нужен. Рабочее время редактора на карточку снижается, а проверка остаётся за человеком.

Разбор обращений в службе поддержки

Иллюстративный пример. Входящие обращения делятся на вопросы о доставке, возвратах и техническую помощь. Модель классифицирует обращение и направляет его в нужный сценарий (маршрутизация). Возврат до 3 000 ₽ готовит система, а сумму выше проверяет сотрудник.

Подготовка обзора рынка для отдела маркетинга

Иллюстративный пример. Аналитик просит обзор конкурентов. Заранее неизвестно, сколько источников понадобится. Центральная модель делит задачу на поиск по каждому конкуренту, поручает его рабочим моделям и собирает ответ (оркестратор и исполнители). Аналитик проверяет ссылки и выводы.

Когда применять

Применяйте, когда одного запроса к модели не хватает: задача многошаговая, нужны данные из внешних систем, результат требует проверки или число шагов зависит от входа. Начинайте со сценария и переходите к агенту, если сценарий не справился.

Когда не применять

Не усложняйте систему, если задачу решает один запрос с данными и примерами. Не давайте агенту необратимые действия без подтверждения человека. Не берите агента для процесса с фиксированными шагами: сценарий проще и предсказуемее.

Частые ошибки

  • Сразу строят многоагентную систему, хотя не проверили один запрос к модели. Усложнение даёт задержку и расходы без измеримого выигрыша.
  • Берут агента для задачи с известными шагами. Фиксированный сценарий решил бы её надёжнее.
  • Не ставят предел числа итераций. Агент зацикливается и тратит бюджет на одной задаче.
  • Оценивают систему по нескольким удачным примерам, а не по набору реальных случаев.
  • Выдают системе широкие права доступа «на всякий случай». Ошибка затрагивает больше данных, чем требует задача.

Вопросы и ответы

Что такое агентные системы?

Это системы, в которых языковая модель работает в несколько шагов и использует инструменты. Anthropic делит их на сценарии (workflows) и агентов (agents). В сценарии модели и инструменты связаны путями, заданными в коде. В агенте модель сама управляет процессом и выбором инструментов.

Чем агентная система отличается от ИИ-агента?

Агентная система — общий термин. Он включает и сценарии с заранее заданными шагами, и агентов, которые сами выбирают шаги. ИИ-агент — частный случай: модель сама управляет своим процессом. По Anthropic, различие в том, кто определяет путь выполнения: код или модель.

Какие паттерны проектирования агентных систем есть?

Andrew Ng описал четыре паттерна: рефлексию, использование инструментов, планирование и совместную работу нескольких агентов. Anthropic выделяет паттерны сценариев: цепочку запросов, маршрутизацию, параллельную обработку, оркестратора с исполнителями и пару «исполнитель и оценщик», а также автономного агента.

Какой сценарий — пример работы агентной системы?

Пример из Anthropic: агент по программированию получает задачу, правит несколько файлов, запускает тесты и по результатам исправляет код. Число шагов заранее неизвестно, а успех проверяют тесты. Для задач с известными шагами подходит обычный сценарий без агента.

С какого паттерна начинать?

С самого простого. Anthropic советует искать простое решение и усложнять его только при необходимости. Для многих задач хватает одного запроса к модели с поиском по данным и примерами. Агентные системы часто повышают качество ценой большей задержки и стоимости.

Источники

  1. Anthropic, Building effective agents, 19 December 2024
  2. Andrew Ng, Agentic Design Patterns Part 1, The Batch, DeepLearning.AI, 20 March 2024
  3. Andrew Ng, Agentic Design Patterns Part 2: Reflection, The Batch, 27 March 2024
  4. Andrew Ng, Agentic Design Patterns Part 3: Tool Use, The Batch, 3 April 2024
  5. Andrew Ng, Agentic Design Patterns Part 4: Planning, The Batch, 10 April 2024
  6. Andrew Ng, Agentic Design Patterns Part 5: Multi-Agent Collaboration, The Batch, 17 April 2024

Обновлено 16 ноября 2026

Илья ПушинОснователь PUSHERS & COO Fintech ServiceИлья строит операционные системы для растущих компаний в медицине и финтехе. С 2021 года руководит трансграничными платежами в ARBI Exchange, лицензированном обменнике в Таиланде, включая KYC, AML и выход в новые юрисдикции.Об автореLinkedIn
Связанные фреймворки
Другие фреймворки
Хотите, чтобы «Агентные системы ИИ: что это и паттерны проектирования» работал у вас?Заказать операционный аудит