Архитектура ИИ-агента изнутри: промт, память, инструменты и локальный ИИ-агент

Архитектура ИИ-агента — это не «нейросеть в чате», а конструкция из четырёх слоёв: модель, промт, память и инструменты. Понимать её полезно даже тем, кто не пишет код: станет ясно, почему один агент уверенно ведёт клиента к сделке, а другой путается на втором вопросе, и когда вам действительно нужен локальный ИИ-агент на своём железе, а когда это дорогая игрушка.

Я собирал агентов и на конструкторах, и руками. Разложу устройство по слоям и покажу, где на самом деле прячутся 80 % качества.

Архитектура ИИ-агента: четыре слоя

• Модель (LLM) — «мозг», который понимает текст и генерирует ответы. Сама по себе она ничего не знает о вашем бизнесе.
• Промт — должностная инструкция: роль, тон, правила, запреты, сценарий диалога.
• Память и база знаний (RAG) — откуда агент берёт факты: цены, условия, наличие. Плюс история конкретного диалога, чтобы не переспрашивать имя на пятом сообщении.
• Инструменты — действия во внешнем мире: записать лид в CRM, поставить задачу менеджеру, отправить вебхук, набрать номер.

Качество агента почти всегда упирается не в модель, а в два средних слоя. Слабый промт и пустая база знаний превращают самую сильную LLM в болтливого стажёра.

Промт для ИИ-агента: как писать

Структура рабочего промта

Хороший промт для ИИ-агента похож на регламент для нового сотрудника и состоит из пяти блоков: роль («ты — менеджер шоурума керамогранита»), задача («квалифицировать клиента и назначить замер»), правила («цены — только из базы знаний, на вы, ответ до 400 символов»), запреты («не обещать скидок, не обсуждать конкурентов») и порядок действий («сначала выясни город и объём, потом называй сроки»).

Типичные ошибки

Первая — пихать в промт весь прайс: цены живут в базе знаний, промт — про поведение. Вторая — противоречивые указания («будь краток» и тут же «подробно рассказывай о преимуществах»): модель выберет что-то одно в случайный момент. Третья — нет инструкции на случай «не знаю»: без неё агент сочиняет. Формулировка «если ответа нет в базе — извинись и передай диалог менеджеру» экономит больше нервов, чем любые ухищрения.

Как проверять промт

Меняйте по одному блоку за раз и гоняйте один и тот же набор из 20–30 тестовых вопросов. Если поменяли три вещи сразу и стало лучше — вы не знаете, что именно сработало, и не сможете повторить успех.

Локальный ИИ-агент или облако

Локальный ИИ-агент — это модель, развёрнутая на вашем сервере: данные не покидают контур, нет платы за токены. Звучит привлекательно, но у медали есть цена. Открытая модель уровня 70B параметров требует GPU-сервер, который стоит как годовая подписка на облачный сервис для целого отдела, плюс инженер для поддержки.

Практическое правило: локальный агент оправдан, когда регулятор или служба безопасности прямо запрещает внешние API. Во всех остальных случаях быстрее и дешевле облако — или готовый сервис, если задача типовая. Как собрать агента вообще без кода, я разбирал в статье про создание ИИ-агента без программирования.

Сервер для ИИ-агента: что считать

Если всё же разворачиваете своё, сервер для ИИ-агента подбирается от модели: квантованная модель 7–8B живёт на GPU с 16–24 ГБ видеопамяти и тянет небольшой поток диалогов, для моделей 70B+ нужны карты уровня 80 ГБ или связка из нескольких. Считайте не цену железа, а стоимость владения: электричество, резервирование, обновления моделей и зарплата человека, который всё это чинит в субботу вечером.

Команда ИИ-агентов: когда одного мало

На потоке от тысячи диалогов в месяц одну «должность» часто делят между несколькими агентами: один квалифицирует новых клиентов, второй отвечает на вопросы поддержки, третий реактивирует старую базу. Команда ИИ-агентов с разными промтами работает точнее одного «универсала», потому что у каждого короткая и непротиворечивая инструкция. В «Нейропродажнике» такая схема доступна из коробки: тариф «Бизнес» включает 3 ИИ-агента, «Профи» — 10, и все диалоги сходятся в одну ленту, где менеджер видит полную историю клиента.