ИИ-агенты
Системы, которые планируют, вызывают инструменты и выполняют многошаговую работу — с ограниченными правами, журналом действий и человеком в контуре там, где это важно.
- Многошаговые задачи, выполняемые в ваших существующих системах
- Каждое действие в журнале, каждый вызов инструмента ограничен явными правами
- Подтверждение человеком на всём необратимом
Интерактивное демо на этом сайте недоступно
Этот контур работает без сторонних ИИ-провайдеров. Напишите нам — покажем систему в работе лично.
Связаться с намиЧто такое агент по существу
Агент — это цикл: модель получает цель и набор инструментов, решает, какой инструмент вызвать, видит результат и решает снова — пока цель не достигнута или не исчерпан лимит. Это всё. Интересная инженерия не в цикле, а в том, что именно инструментам позволено делать и как вы узнаете, что всё сработало.
Что здесь действительно важно
Инструменты, а не доступы. Каждая возможность — типизированная функция с проверяемыми аргументами: найти_заказ(id), а не учётные данные к базе. Радиус поражения от неверного решения равен объединению выданных инструментов, поэтому это объединение остаётся маленьким и явным.
Разделение чтения и записи. Ошибиться при сборе информации дёшево. При изменении состояния — нет. Это два разных уровня прав, и большая часть агентской работы должна целиком находиться на первом.
Точки подтверждения. Всё необратимое или видимое снаружи останавливается для человека. Агент показывает, что собирается сделать и почему; человек подтверждает. Это не ограничение, которое надо обойти инженерными средствами, — это то, что делает систему пригодной к внедрению.
Лимиты. Число шагов, время выполнения и расход токенов ограничены. Зациклившийся агент — это инцидент по деньгам, и лимит превращает его в записанный в журнал сбой.
Трассировки. Каждый запуск сохраняет цель, каждое решение, каждый вызов инструмента и результат. Когда что-то идёт не так, вы читаете, что произошло, а не строите догадки.
Где агенты оправданы
- Операции через несколько систем — задача, затрагивающая CRM, биллинг и тикет-систему, где работа в основном сверочная, а правила известны, но условны.
- Разбор и обогащение входящего — классифицировать обращение, собрать тот же контекст, что собрал бы человек, приложить его и направить дальше.
- Регулярный анализ — периодическая работа, требующая данных из нескольких источников и вывода, который затем просматривается, а не исполняется вслепую.
Где не оправданы: там, где есть жёсткое требование к правильности и нет способа проверить результат. Если проверку написать нельзя — агент не должен делать эту задачу.
Что вы получаете
Описания инструментов, модель прав, хранилище трассировок, набор тестов для задач в объёме работ и развёртывание в виде кода. Плюс письменное описание того, что агенту делать запрещено, — по нашему опыту, к этому документу обращаются чаще всего.
Частые вопросы
Как вы не даёте агенту сделать что-то разрушительное?
Не выдавая ему такой возможности. Агент получает узкие типизированные инструменты, а не доступ к консоли; операции чтения отделены от операций записи; всё необратимое — платежи, внешние сообщения, удаления — идёт через подтверждение. Ограничение задаётся архитектурой, а не формулировкой промпта.
Достаточно ли агенты надёжны для продакшена?
Для ограниченных задач с проверяемым результатом — да. Для неограниченной автономии — нет, и мы так и скажем. Инженерная дисциплина здесь в том, чтобы выбирать задачи, успех которых можно проверить программно, и написать эту проверку.
Что происходит, если агент застрял?
Он останавливается и эскалирует вместе со своей трассировкой. Агент, который молча повторяет попытки, — это способ превратить маленький сбой в большой.