Как создать ИИ-агента: что нужно кроме промпта
Промпт и модель — меньшая часть работы. Агент становится рабочим, когда у него есть инструменты, границы полномочий, состояние, журнал и контроль стоимости. Разбираем по шагам, из чего он собран, как довести его до production и где он ломается.
9 мин чтения
Агент и чат-бот: разница в одном слове
Чат-бот отвечает. Агент действует: сам разбивает задачу на шаги, вызывает нужные функции в ваших системах, проверяет результат и доводит дело до конца. «Найди договор, посчитай остаток, оформи заявку, передай менеджеру» — это агент. «Расскажи, как оформить заявку» — это бот.
Из этого следует всё остальное. Как только система получает право что-то менять, ей нужны границы полномочий, журнал действий и способ откатить сделанное. Модель здесь — один из компонентов, а не весь продукт.
Из чего собран агент
Рабочий агент — это шесть частей. Отсутствие любой из них выглядит как «демка работает, а в бою нет».
- Модель и промпт. Задают поведение и формат рассуждения. Меняются чаще всего и стоят дешевле всего.
- Инструменты. Функции и API, через которые агент читает и меняет данные. Каждый инструмент описан так, чтобы модель поняла его без догадок: что делает, что принимает, что возвращает, что считается ошибкой.
- Состояние. Что агент помнит внутри одной задачи и между задачами. Без явного состояния он теряет контекст на середине длинного сценария.
- Политика полномочий. Что можно делать без подтверждения, что только с подтверждением человека, чего нельзя никогда. Это правила системы, а не строчка в промпте.
- Наблюдаемость. Журнал шагов, вызовов и решений: что агент видел, что вызвал, что получил. Без него любая ошибка становится неповторяемой.
- Оценка. Набор сценариев с известным правильным исходом, на котором вы проверяете каждое изменение промпта или модели.
Шесть шагов до первого рабочего агента
Порядок важнее скорости. Каждый шаг снимает конкретный класс проблем, и пропуск любого возвращает вас к нему через месяц.
- Выберите один процесс. Не «внедрим ИИ», а «обработка входящих заявок от партнёров». Узкий процесс с понятным началом и концом.
- Опишите шаги так, как их делает человек. Если этого описания нет, агент автоматизирует не процесс, а ваши догадки о нём.
- Соберите инструменты под эти шаги. Обычно их меньше, чем кажется: три-пять функций закрывают большую часть сценария.
- Зафиксируйте границы. Что агент делает молча, что показывает человеку, что не трогает никогда. Отдельно — лимит на одну задачу: по шагам, по времени, по стоимости.
- Запустите на реальных данных в режиме наблюдения. Агент предлагает действие, человек подтверждает. Так вы собираете набор для оценки и видите настоящие крайние случаи.
- Снимите подтверждение там, где агент устойчиво прав, и только там. Расширение полномочий — это отдельное решение по каждому действию, а не общий тумблер.
Где агенты ломаются в production
Демонстрация и эксплуатация отличаются не качеством модели, а тем, что в эксплуатации агент встречает повторы, отказы и злой ввод.
- Идемпотентность. Агент повторил шаг после тайм-аута — и заявка ушла дважды. Каждое действие, меняющее данные, должно быть безопасным при повторе.
- Стоимость. Цикл «подумал — вызвал — подумал» умножает токены. Без лимита на задачу и без разбивки расходов по шагам счёт растёт незаметно.
- Тихие отказы. Инструмент вернул пустой ответ, а агент продолжил рассуждать так, будто получил данные. Пустой результат должен быть явной ошибкой, а не поводом для фантазии.
- Права доступа. Агент работает от чьего-то имени. Если он видит больше, чем видит сотрудник, вы получили не автоматизацию, а утечку.
- Дрейф. Поменяли модель или промпт — поведение поехало. Без набора сценариев для оценки вы узнаете об этом от пользователей.
Как считать стоимость заранее
Стоимость агента — это не цена модели за миллион токенов, а произведение: сколько шагов на задачу, сколько токенов на шаг, сколько задач в день. Разложите сценарий по шагам и посчитайте каждый: обычно один-два шага дают большую часть расхода.
Дальше работают три рычага. Роутинг: тяжёлая модель на шаг рассуждения, лёгкая на извлечение и форматирование. Кэширование: одинаковый контекст не должен оплачиваться дважды. Сокращение контекста: агенту нужен нужный кусок документа, а не весь документ.
Когда агент не нужен
Честный ответ экономит больше денег, чем удачная архитектура. Агент не нужен, если процесс детерминированный и описывается ветвлением: там дешевле и надёжнее обычный сценарий или интеграция.
Он не нужен и тогда, когда нет источника правды. Если данные лежат в трёх местах и расходятся между собой, агент будет уверенно действовать на основании неверных данных — быстрее человека и в большем объёме.