Пять ступеней по порядку: что такое инструмент, когда его вызывать, что можно и нельзя, как читать журнал и как проверить ответ. Это разбор агента простыми словами, без замены новостей.
Все дорожки — /put.
Зачем это в работе. Нужно отличать «модель дописала текст» от «модель попросила программу что-то сделать». Без этого различия нельзя ни ограничить риск, ни проверить, откуда взялся факт.
Инструмент — готовое действие снаружи модели: поиск в словаре, чтение файла, запуск кода. Модель сама файлы с диска не открывает. Она пишет запрос вида «вызови вот это с такими словами», а отдельная программа выполняет его и возвращает результат.
Без инструментов остаётся обычный чат: только текст туда и обратно. С инструментом появляются шаги: сначала действие, потом ответ по результату. В новостях это часто называют tool-use — использование инструментов.
Инструмент делает одно понятное дело. Не «стань умнее», а «найди карточку», «прочитай файл», «запусти проверку». Чем яснее граница, тем проще потом решить, что можно и что нельзя. Соседнее отличие: модель продолжает текст; инструмент меняет мир снаружи текста и возвращает след.
Хороший инструмент возвращает проверяемый результат: текст карточки, содержимое файла, код выхода команды. Плохой «инструмент» — расплывчатая просьба вроде «разберись сам», после которой нечего сверить.
Имя инструмента лучше держать узким и честным: search_slovar, read_notes_file. Широкое имя вроде do_anything прячет границу и мешает правам. Если за одним именем спрятано пять разных действий, журнал перестаёт быть читаемым.
Перед тем как давать агенту новый инструмент, запиши одним предложением: что он принимает, что возвращает, и что ему запрещено. Если это предложение не получается, инструменту ещё рано жить в проде.
Подробный пример. «Найди в словаре слово RAG» — вызов инструмента поиска. Модель не должна выдумывать карточку заранее. Она ждёт текст, который вернул поиск, и только потом пересказывает. Если в следе нет вызова, а ответ «как из словаря» — это уже не инструмент, а обычное продолжение текста.
Где обычно ошибаются. 1) Считают любую уверенную фразу результатом инструмента. 2) Делают один «супер-инструмент на всё» без понятной границы. 3) Не сохраняют результат вызова и потом не могут сверить пересказ.
Как поймать это быстро. Открой журнал раньше ответа. Нет вызова — нет права ссылаться на файл или словарь. Есть запрет — ответ не должен делать вид, будто действие всё-таки прошло.
Инструмент. Готовое действие снаружи модели: поиск, файл или код.
Вызов инструмента. Запрос модели: какую программу запустить и с какими словами.
Результат инструмента. То, что программа вернула обратно в текст для модели.
Обычный чат. Только текст без права что-то запускать.
Tool-use. То же самое по-английски: модель пользуется инструментами.
Граница действия. Понятное одно дело, которое инструмент умеет и не умеет.
След вызова. Запись, что вызвали и что вернули.
Проверяемый результат. Текст или данные, которые можно открыть и сверить.
Зачем это в работе. Лишний вызов тратит время и расширяет доступ. Пропущенный вызов подсовывает ответ «по памяти», когда надо было сначала найти карточку или файл.
Модель смотрит на вопрос и решает: хватит текста в запросе или нужен инструмент. Если ответ уже лежит в инструкции и найденных кусках — можно ответить сразу. Если нужен свежий факт из словаря или файла — сначала вызов.
Хороший агент не вызывает инструмент «на всякий случай». Плохой, наоборот, отвечает по памяти, когда надо было сначала найти опору. После результата модель снова решает: хватит этого или нужен ещё один шаг. Так получается цепочка: вопрос → вызов → результат → ответ. Иногда короче: вопрос → ответ.
Соседнее отличие от прошлых ступеней: RAG часто подставляет куски заранее одним поиском; агент может решать о вызове по ходу, когда видит промежуточный результат. Это гибко, но требует журнала и прав.
Практический критерий: если факт должен быть сверяемым и его нет в текущем тексте запроса — нужен вызов. Если ты только что дал определение в том же чате — новый поиск чаще лишний.
Ещё один сигнал к вызову — слова «найди», «открой», «по словарю», «по файлу». Если модель отвечает сразу, хотя задача явно про внешний источник, это кандидат на ошибку решения. Тогда в инструкции полезно закрепить: при просьбе про словарь сначала вызови поиск.
Подробный пример. «Перескажи карточку OpenShell своими словами» — сначала поиск в словаре, потом пересказ. «Что такое токен» сразу после прочитанной ступени про токены — можно ответить без нового вызова, опираясь на текст, который уже в разговоре. Разница в том, есть ли опора уже под рукой.
Где обычно ошибаются. 1) Вызывают поиск после каждого короткого уточнения без нужды. 2) Не вызывают поиск, когда просят «по словарю», и выдают общий пересказ. 3) Строят длинную цепочку вызовов без остановки и потом не могут понять, какой шаг испортил ответ.
Как поймать это быстро. Открой журнал раньше ответа. Нет вызова — нет права ссылаться на файл или словарь. Есть запрет — ответ не должен делать вид, будто действие всё-таки прошло.
Решение о вызове. Выбор модели: ответить сразу или сначала запустить инструмент.
Ответ сразу. Хватает текста, который уже лежит в запросе.
Лишний вызов. Запуск инструмента без нужды: тратит время и расширяет доступ.
Цепочка шагов. Вопрос, вызов, результат и только потом ответ человеку.
Свежий факт. То, чего нет в текущем тексте и что надо взять инструментом.
Пересказ по карточке. Сначала найти карточку, потом объяснить её словами.
Опора под рукой. Текст, который уже есть в запросе и не требует нового вызова.
Остановка цепочки. Решение, что данных достаточно для ответа.
Зачем это в работе. Полезный агент без границ быстро получает доступ, который ты не готов проверять каждый раз. Права делают риск конечным и понятным.
Права — короткий список разрешений и запретов. Можно искать в словаре. Нельзя открывать чужие файлы. Нельзя читать пароли. Эти правила держит не «совесть модели», а программа снаружи, которая пропускает или останавливает вызов.
Секреты агенту не показывают. Если нужен доступ к сервису, пароль хранит отдельное хранилище, а агент видит только результат действия. Так секрет не попадает в текст, который модель может потом повторить.
Чем уже права в начале, тем спокойнее пробовать. Потом смотрят журнал и решают, что добавить. Расширять проще, чем потом отбирать лишнее. Соседнее отличие: инструкция «пожалуйста, не трогай секреты» — просьба; право, которое блокирует вызов снаружи, — механизм.
Права пишут предметно: какие папки, какие инструменты, какие действия. Формула «будь осторожен» почти ничего не запрещает на уровне выполнения.
Отдельно решают, может ли агент писать и удалять или только читать. Для учёбы и сводок чаще начинают с чтения. Запись и удаление добавляют позже, когда журнал уже привычен и правила проверены на реальных попытках зайти «не туда».
Подробный пример. Правило «можно читать только папку notes». Запрос на файл из другой папки останавливают до чтения. В журнале видно запрет. Модель может объяснить, что доступа нет, но не должна делать вид, будто файл всё-таки открыли.
Где обычно ошибаются. 1) Кладут запреты только в промпт и не ставят внешнюю блокировку. 2) Дают широкие права «на время отладки» и забывают сузить. 3) Путают «агент не видит пароль» с «пароль лежит в том же файле, который ему можно читать».
Как поймать это быстро. Открой журнал раньше ответа. Нет вызова — нет права ссылаться на файл или словарь. Есть запрет — ответ не должен делать вид, будто действие всё-таки прошло.
Права. Список того, что агенту разрешено и что запрещено.
Запрет. Действие, которое программа остановит, даже если модель его попросила.
Секрет. Пароль или ключ, который агенту не кладут в текст.
Хранилище секретов. Отдельное место для паролей; агент видит только результат.
Узкие права. Маленький список разрешений на старте.
Программа снаружи. То, что реально пускает или блокирует вызов.
Предметное правило. Запрет с конкретной папкой, инструментом или действием.
Просьба в промпте. Текст «не делай X» без принудительной блокировки.
Зачем это в работе. Без журнала остаётся обещание «я ничего лишнего не трогал». Со журналом виден след: что просили, что разрешили, что вернули.
Журнал — запись каждого важного шага: какой инструмент просили, с какими словами, разрешили или запретили, что вернули. Это не рассказ модели о себе. Это лог программы, которая выполняла вызовы.
Смотри три вещи. Что хотели сделать. Что реально сделали. Что остановили правилом. Если в журнале пусто, а ответ ссылается на «прочитанный файл», это сигнал: либо вызова не было, либо журнал не пишут.
Журнал читают спокойно, как чек в магазине. Не чтобы поймать «злую» модель, а чтобы понять цепочку и поправить права или формулировку вопроса. Соседнее отличие: ответ человеку — пересказ; журнал — первичная хроника действий.
Полезный минимум полей: время, имя инструмента, аргументы без секретов, решение allow/deny, короткое резюме результата или ошибки. Без этого трудно повторить разбор завтра.
Если вызовов несколько, читай журнал сверху вниз как сюжет. Часто ломается не последний шаг, а второй: пустой поиск, после которого модель пошла выдумывать. Увидев пустой результат, ты уже знаешь, что чинить источник или запрос поиска, а не финальный стиль.
Подробный пример. Строка: поиск по словарю «OpenShell» — разрешено — найдена одна карточка. Следующая строка: чтение чужого файла — запрещено правилом о папке notes. По этим двум строкам уже видно, на что опирался ответ и чего агент не видел.
Где обычно ошибаются. 1) Верят финальному абзацу сильнее, чем строке журнала. 2) Пишут журнал без аргументов вызова и потом не понимают, что именно искали. 3) Не отличают «запрещено» от «инструмент вернул пусто».
Как поймать это быстро. Открой журнал раньше ответа. Нет вызова — нет права ссылаться на файл или словарь. Есть запрет — ответ не должен делать вид, будто действие всё-таки прошло.
Журнал. Запись вызовов: что просили, что разрешили, что вернули.
Разрешено. Вызов прошёл и оставил след с результатом.
Запрещено. Вызов остановили правилом до выполнения.
Пустой журнал. Нет следа действий; ответу про «прочитанный файл» нельзя верить.
Цепочка в журнале. Порядок шагов от вопроса до ответа.
Чек. Спокойный разбор записей, а не охота на «злую» модель.
Allow/deny. Решение журнала: пропустить вызов или остановить.
Аргументы вызова. Слова и пути, с которыми инструмент просили запустить.
Зачем это в работе. Гладкий текст не должен подменять источник. Проверка делает агента полезным: ты быстрее получаешь черновик и сам решаешь, можно ли на него опираться.
Проверка — последний шаг после ответа. Открой то, на что ссылается агент: карточку словаря, абзац сводки, файл из журнала. Сравни смысл. Если ссылки нет — попроси указать кусок или повтори поиск сам.
Сверяй факты и запреты. Имя и формулировка должны совпасть с источником. Если журнал показал запрет, а ответ делает вид, что файл прочитали — верь журналу. Уверенный тон здесь ни при чём.
Проверка не отменяет агента. Со временем она становится короче, потому что ты уже знаешь, где он обычно промахивается: дописка деталей, пропуск «не найдено», путаница похожих терминов. Соседнее отличие: журнал проверяет действия; сверка с источником проверяет содержание ответа.
Повторяемый мини-ритуал: 1) открыть журнал, 2) открыть источник, 3) отметить одну фразу, которой нет в источнике. Если такая фраза есть — править ответ или повторять с более жёстким «только по найденному».
Для сайта это особенно прямолинейно: ответ про термин сверяешь со словарём, ответ про выпуск — со страницей сводки. Если сверка занимает дольше пары минут, скорее всего, агент не дал ссылку или взял слишком общий кусок. Сначала чинят опору, потом формулировки.
Подробный пример. Агент пересказал карточку RAG. Ты открыл /slovar, сверил блоки «что это / зачем / не путать» и поправил одну фразу, где он обобщил лишнее. Журнал при этом показывает, что карточка действительно искалась — значит, править нужно пересказ, а не права доступа.
Где обычно ошибаются. 1) Проверяют только стиль и «понятность», но не источник. 2) Игнорируют расхождение журнала и ответа. 3) После первой удачной проверки перестают смотреть совсем и пропускают дописки.
Как поймать это быстро. Открой журнал раньше ответа. Нет вызова — нет права ссылаться на файл или словарь. Есть запрет — ответ не должен делать вид, будто действие всё-таки прошло.
Проверка. Сверка готового ответа с источником после работы агента.
Источник. Карточка, абзац или файл, на который можно ткнуть пальцем.
Ссылка в ответе. Указание, что именно открыть для сверки.
Верь журналу. Если лог и ответ расходятся, опорной считают запись лога.
Черновик. Текст агента до твоей проверки, а не финальная истина.
Уверенный тон. Гладкая речь; сама по себе она источник не заменяет.
Дописка. Фраза, которой нет в источнике и в результате инструмента.
Мини-ритуал. Короткий повторяемый порядок сверки журнала и источника.