Как устроены наши агентные системы

Для CTO и инженеров: архитектура, инструменты, контроль качества и безопасность. Без привязки к одному вендору — всё остаётся в вашем контуре и вашем репозитории.

Обсудить архитектуру

Какая архитектура у агентной системы?

Восемь слоёв, каждый можно заменить, не ломая остальные.

Слой	Что делает	Из чего собираем
Каналы и системы	Принимает события и пишет результат обратно	Telegram, MAX, SIP-телефония, 1С (OData, HTTP-сервисы), Битрикс24, amoCRM, вебхуки
Оркестратор	Планирует задачу, раздаёт шаги, ждёт решения человека	граф состояний (LangGraph или свой движок), очереди, ретраи, бюджеты
Инструменты	Даёт агенту доступ к системам с минимальными правами	MCP-серверы, OpenAPI-схемы, dry-run для записи
Модели	Выполняет шаги, выбирает модель по сложности и цене	GigaChat, YandexGPT, открытые модели на vLLM, LoRA-дообучение
Знания	Отвечает по документам компании со ссылкой на источник	PostgreSQL + pgvector или Qdrant, гибридный поиск, реранкер
Качество	Проверяет каждый релиз на эталоне	эталонные наборы, регрессия, LLM-as-judge и проверка людьми
Наблюдаемость	Показывает каждый шаг, стоимость и задержку	OpenTelemetry, Langfuse, Grafana, алерты
Безопасность	Держит данные в контуре и людей в контуре решений	on-premise или облако РФ, маскирование ПДн, Vault, RBAC

Почему MCP, а не прямые интеграции в промпте?

Каждый доступ агента оформлен отдельным MCP-сервером со схемой и правами. Так видно, что агент может сделать, а что нет, и любой вызов попадает в журнал. Запись в учётные системы сначала идёт «вхолостую»: человек видит, что изменится, и подтверждает.

Как не зависеть от одного поставщика моделей?

Маршрутизатор знает про несколько моделей и выбирает по уверенности и цене. Если провайдер недоступен или подорожал, задачи уходят на резерв без переписывания системы. Массовые типовые задачи со временем забирает своя модель — подробнее на странице оцифровка процесса и своя модель.

Как проверяется качество?

Как код: тестами. Перед запуском собираем эталон — набор реальных задач с правильными ответами. Любая правка промпта, смена модели или дообучение прогоняется по эталону, и релиз не выходит, если точность упала ниже порога. В работе часть ответов выборочно проверяют люди, найденные ошибки пополняют эталон.

Что получает ваша команда?

Репозиторий с кодом агентов, MCP-серверами, эталонами и инфраструктурой как кодом, CI/CD, документацию и runbook на случай сбоев. Команда проходит обучение и может развивать систему без нас.

Хотите обсудить архитектуру под ваш контур — оставьте заявку, разберём вместе с вашим CTO.

Частые вопросы

Какие модели вы используете?

Под задачу: GigaChat и YandexGPT, когда данные должны оставаться в России; зарубежные модели там, где это допустимо; открытые модели Qwen, Llama, DeepSeek на своём сервере для массовых типовых задач.

Можно ли развернуть всё у нас?

Да. Оркестратор, база знаний, своя модель и трассировка разворачиваются на ваших серверах или в российском облаке. Внешние модели можно не использовать совсем.

Как вы контролируете качество ответов?

Эталонным набором задач с правильными ответами. Любое изменение промпта или модели прогоняется по нему перед релизом, плюс выборочная проверка людьми в работе.

Кому принадлежит код?

Вам. Код, промпты, эталоны и инфраструктура лежат в вашем репозитории, есть документация и инструкции на случай сбоев.

Обсудим архитектуру

Опишите ваш контур и задачу. Разберём вместе с вашим CTO, что и где развернуть.

РазборБесплатно. Смотрю процесс и данные, говорю, где ИИ даст эффект, а где не нужен.
Карта решенийПроцессы по эффекту и сложности, план пилота и метрики.
Пилот 4–6 недельРаботает на реальном процессе, эффект меряем до и после.

Телефон: +7 926 065-77-93Почта: askerov.russ@gmail.com