Короткие дорожки по порядку. Новые сверху в списке. Старые не затираем: открываешь нужную и читаешь ступени. Новости и словарь остаются архивом.
Зачем это в работе. Без этой ступени ты ждёшь от чата памяти человека и удивляешься счёту. Модель считает текст кусками: от числа кусков зависят цена запроса, обрезка длинного диалога и то, почему вчерашний разговор сам не всплывает.
Модель — программа, которая по уже написанному тексту угадывает следующий кусок. Она не достаёт готовый ответ из шкатулки. Ставит кусок, его добавляют к тексту, снова просят следующий. Так собирается фраза. Это продолжение текста, а не поиск правды в интернете.
Кусок, которым она считает, называют токеном (token). Токен — не всегда целое слово: короткое слово может быть одним токеном, длинное или редкое — несколькими. Человек видит смысл фразы целиком. Модель сначала видит набор кусочков и только по ним выбирает продолжение.
Сама модель чат не помнит. В новый запрос программа заново кладёт прошлые реплики, если они ещё влезают в лимит. Если их не положили или обрезали с начала, для модели этого разговора не было. Чем больше токенов во входе и в ответе, тем обычно дороже запрос.
Окно контекста — сколько токенов модель может увидеть за один раз: инструкция, история, найденные куски и место под ответ. Это не «память навсегда», а вместимость текущего запроса. Соседнее понятие — долгое хранилище заметок снаружи: оно живёт в файлах и поиске, а не внутри модели.
В работе это сразу даёт два рычага. Короткий запрос с нужной репликой дешевле и стабильнее, чем длинная история «на всякий случай». Если важный факт должен жить дольше одного чата, его кладут в заметку и достают поиском, а не надеются, что модель «сама вспомнит через неделю».
Подробный пример. Ты пишешь: «Вчера мы решили брать только свои сводки». Потом спрашиваешь: «Напомни, что решили». Если программа снова положила ту реплику в запрос — модель ответит. Если начался новый чат без неё — для модели решения не было, даже если ты его помнишь. Проверка простая: открой текст запроса или историю и посмотри, есть ли там вчерашняя фраза. Если фразы нет — сначала верни её в запрос или в заметку, и только потом спорь с ответом.
Где обычно ошибаются. 1) Думают, что модель «помнит аккаунт», и не проверяют, попала ли нужная реплика в текущий запрос. 2) Кладут огромный файл целиком и удивляются обрезке или цене: сначала нужен поиск по кускам. 3) Путают токен со словом и не понимают, почему короткий вопрос «весит» иначе, чем кажется.
Как поймать это быстро. Сравни три вещи: что было в запросе, что ответили, и есть ли внешний источник. Если источника нет, а тон уверенный — сначала добавь опору, а не продолжай спор про стиль.
Модель. Программа, которая по тексту угадывает следующий кусок.
Токен. Кусок текста, которым считают длину и продолжают фразу.
Продолжение. Ответ собирается кусок за куском, а не берётся готовым списком.
Окно контекста. Сколько токенов модель видит за один запрос.
Длинный запрос. Текст из многих токенов; его обычно дороже обработать.
Память чата. У модели её нет: прошлое нужно снова положить в запрос.
Обрезка. Когда старые реплики выкидывают, чтобы влезло новое.
Смысл целиком. То, что видит человек; модель сначала видит кусочки.
Зачем это в работе. Иначе гладкий абзац принимают за проверенный факт. Уверенный тон — стиль речи, а не доказательство. В работе нужен ответ, который можно сверить с источником или с тем, что ты сам положил в запрос.
В запрос обычно кладут три слоя. Инструкция говорит, как отвечать и чего не делать. Примеры показывают образец удачного ответа. Вопрос — конкретная задача сейчас. Модель продолжает весь этот текст целиком, а не «читает мысли» отдельно от него.
Без отдельного инструмента модель не ищет правду в интернете и не открывает твои файлы. Она дописывает то, что уже лежит перед ней. Если факта в этом тексте нет, она всё равно может сочинить правдоподобную фразу. Это ограничение механизма, а не «злой умысел».
Ровная речь без слов «возможно» ничего не доказывает. Сверка — ты сравниваешь ответ с местом, которому доверяешь: словарём сайта, своей сводкой, файлом. Соседнее понятие из прошлой ступени: токены объясняют цену и объём; эта ступень объясняет, почему объём сам по себе не даёт истину.
Чем точнее инструкция и вопрос, тем меньше места для выдумки. «Объясни термин простыми словами и укажи, чего в тексте нет» полезнее, чем «расскажи всё про ИИ». Примеры в запросе выравнивают форму: длину, тон, запрет на жаргон без пояснения.
Отдельно полезен запрет на догадку: «если в тексте нет факта — так и скажи». Без этой фразы модель часто заполняет дыру гладким продолжением. С этой фразой пустота становится видимой, и ты понимаешь, что нужно добавить источник, а не править стиль.
Подробный пример. Просишь: «Объясни слово RAG своими словами». Потом открываешь то же слово в словаре сайта. Если в ответе есть деталь, которой нет в карточке, верной считай карточку. Попроси ответить ещё раз только по тексту карточки и сравни оба абзаца: где опора, а где дописка.
Где обычно ошибаются. 1) Спорят с моделью «на ощущениях», вместо того чтобы ткнуть в абзац-источник. 2) Дают расплывчатый вопрос и получают уверенный, но пустой обзор. 3) Путают инструкцию с фактами: тон «будь краток» не заменяет данные, которых в запросе нет.
Как поймать это быстро. Сравни три вещи: что было в запросе, что ответили, и есть ли внешний источник. Если источника нет, а тон уверенный — сначала добавь опору, а не продолжай спор про стиль.
Инструкция. Текст в начале: что сделать и каким тоном отвечать.
Пример в запросе. Короткий образец удачного ответа.
Вопрос. Конкретная задача, ради которой написан запрос.
Продолжение текста. Ответ — следующий кусок после всего, что уже лежит в запросе.
Уверенный тон. Гладкая речь без сомнений; правду сама не доказывает.
Сверка. Сравнение ответа с известным источником.
Выдумка. Правдоподобная фраза без опоры в данном тексте.
Уточнение вопроса. Более узкая формулировка, которая сужает место для выдумки.
Зачем это в работе. Ответ по твоим сводкам и заметкам можно открыть и проверить. Без поиска модель опирается на общую память обучения и не показывает, откуда взяла фразу. В работе нужна ссылка на абзац, а не вера в тон.
Сначала программа ищет в твоих документах куски, похожие на вопрос: заметки, сводки, файлы. На этом шаге модель ещё не отвечает — она даже не видит найденное, пока его не положат в запрос. Поиск выбирает, что вообще показать.
Потом найденные куски кладут в запрос и просят ответить по ним. Такой приём называют RAG (retrieval-augmented generation): сначала поиск по своим документам, потом ответ только по найденным кускам. Модель опирается на твой текст, а не на «всё сразу из обучения».
Если рядом с ответом есть ссылка на абзац, ты открываешь его и видишь опору. Нет ссылки или абзац не про то — ответу не стоит верить целиком. Соседнее отличие: обычный чат продолжает только то, что уже в диалоге; RAG сначала достаёт куски снаружи и только потом продолжает.
Плохой поиск нельзя вылечить фразой «отвечай увереннее». Если куски не те, чинят нарезку, запрос и отбор. Подробный разбор этих шагов — на дорожке поиска по заметкам. Здесь важно правило: сначала опора, потом текст.
В ежедневной работе RAG нужен там, где ответ должен ссылаться на твою сводку, правило или словарь. Если вопрос общий и источника у тебя нет, это снова обычное продолжение текста. Смешивать режимы вредно: то просишь «по моим файлам», то принимаешь фразу без абзаца.
Подробный пример. Берёшь одну вечернюю сводку и спрашиваешь: «Что там сказали про журнал действий агента? Укажи абзац». Открываешь указанное место. Если в ответе есть деталь, которой в абзаце нет, это уже не опора на документ, а дописка. Просишь повторить строго по абзацу.
Где обычно ошибаются. 1) Сваливают всю папку в один запрос вместо поиска по кускам. 2) Радуются гладкому ответу без ссылки на абзац. 3) Ругают «тупую модель», когда на самом деле поиск подал не те отрывки.
Как поймать это быстро. Сравни три вещи: что было в запросе, что ответили, и есть ли внешний источник. Если источника нет, а тон уверенный — сначала добавь опору, а не продолжай спор про стиль.
RAG. Сначала ищут куски твоих файлов, потом модель отвечает только по ним.
Кусок документа. Короткий отрывок, который поиск отдаёт как опору.
Поиск. Шаг до ответа: какие места в файлах показывать.
Своя сводка. Текст у тебя на сайте или в файлах, не общая память модели.
Ссылка на абзац. Указание, какой кусок открыть и сверить.
Проверка источника. Ты читаешь абзац и сравниваешь его с ответом.
Опора. Найденный текст, на который ответ имеет право ссылаться.
Дописка. Фраза в ответе, которой не было в найденных кусках.
Зачем это в работе. Новости про агентов читаются просто: это не «более умная модель», а модель, которой разрешили сделать действие. В работе важно видеть шаги: что вызвали, что вернули, что ответили. Иначе остаётся магия одного абзаца.
Агент — модель плюс право вызвать инструмент. Инструмент делает то, чего модель сама не умеет: найти термин, открыть файл, запустить код. Модель решает, какой инструмент вызвать и с какими словами. Выполняет вызов уже другая программа.
Она сама выбирает, когда инструмент нужен. Иногда отвечает сразу из текста запроса. Иногда сначала ищет, смотрит результат и только потом пишет ответ. Каждый вызов — отдельный шаг в цепочке. Без права на инструмент это снова обычный чат.
С правом появляется риск: открыть не тот файл или запустить не ту команду. Поэтому следующая ступень — не «дать ещё инструментов», а ограничить их и писать журнал. Соседнее отличие от RAG: RAG подставляет куски в запрос до ответа; агент по ходу дела сам решает, какой инструмент вызвать.
Подробный разбор вызова, прав, журнала и проверки — на дорожке про инструмент. Здесь достаточно рабочего правила: агент = текст + действия, и действия должны быть видны.
В сводках и новостях слово «агент» часто рядом с обвязкой, навыками и контролем. Читать это проще так: сначала есть действие, потом его границы, потом след в журнале. Если в тексте новости нет действия снаружи модели — это скорее чат или RAG, даже если тон «агентный».
Подробный пример. Просьба «найди в словаре термин OpenShell и перескажи» — два шага. Сначала инструмент поиска возвращает карточку. Потом модель пишет ответ своими словами только по этой карточке. Если поиска в следе нет, а ответ «как будто из словаря» — это уже подозрительно.
Где обычно ошибаются. 1) Называют агентом любой чат с умным тоном. 2) Дают сразу много инструментов без списка «можно / нельзя». 3) Смотрят только финальный текст и не проверяют, был ли вызов и что он вернул.
Как поймать это быстро. Сравни три вещи: что было в запросе, что ответили, и есть ли внешний источник. Если источника нет, а тон уверенный — сначала добавь опору, а не продолжай спор про стиль.
Агент. Модель, которой разрешили вызвать инструмент, а не только дописывать текст.
Инструмент. Готовое действие: поиск, чтение файла или запуск кода.
Вызов. Момент, когда модель просит инструмент что-то сделать.
Шаг. Одно действие по очереди: сначала поиск, потом ответ.
Поиск в словаре. Инструмент находит карточку, а не выдумывает определение.
Пересказ. Ответ своими словами по тому, что инструмент уже вернул.
Цепочка. Вопрос, вызовы, результаты и финальный текст.
Обычный чат. Только текст без права запускать действия.
Зачем это в работе. Полезный агент без контроля быстро становится агентом, которому можно слишком много. В работе нужны три опоры вместе: что разрешено, что реально сделали, и совпал ли ответ с источником.
Контроль — это права, журнал и проверка. Права говорят, что агенту можно. Журнал записывает, что он реально сделал. Проверка сверяет готовый ответ с источником, а не с уверенным тоном. Одно без другого слабо: одни запреты в тексте инструкции без журнала легко обойти на словах.
Пароли и ключи агенту не отдают. Если нужен закрытый сервис, доступ держит отдельная программа, а агент видит только результат. Так секрет не оказывается внутри текста, который модель читает и может потом повторить. Это устройство безопасной схемы, а не «недоверие на всякий случай».
Правило вроде «не открывай чужие файлы» не должно только висеть в инструкции. Нужна запись, сработало ли оно: какой файл просили и что запретили. Тогда ты видишь след действия, а не обещание модели. Соседнее отличие: ступень «агент» даёт возможность действовать; контроль задаёт границы и проверяемый след.
Начинают с узких прав, смотрят журнал, потом осторожно расширяют. Расширять проще, чем забирать лишнее, которое уже успели открыть. Проверка ответа остаётся за тобой: журнал показывает шаги, источник показывает факты.
Контроль не мешает скорости, если ритуал короткий: глянул журнал, открыл один источник, отметил одну сомнительную фразу. Долгая проверка нужна в начале. Когда одни и те же промахи повторяются, ты уже знаешь, куда смотреть в первую очередь.
Подробный пример. Правило: читать можно только папку notes. Агент просит файл из другой папки. Программа снаружи останавливает вызов и пишет в журнал: запрещено правилом о папке. В ответе не должно быть вида, будто файл всё-таки прочитали. Если ответ так делает — верь журналу.
Где обычно ошибаются. 1) Кладут запреты только в текст инструкции и считают, что этого достаточно. 2) Отдают агенту секреты «временно» и потом не могут понять, где они засветились. 3) Не читают журнал и спорят с финальным абзацем вместо сверки шагов.
Как поймать это быстро. Сравни три вещи: что было в запросе, что ответили, и есть ли внешний источник. Если источника нет, а тон уверенный — сначала добавь опору, а не продолжай спор про стиль.
Права. Список того, что агенту разрешено и что запрещено.
Журнал. Запись действий: что вызвали, что разрешили, что остановили.
Проверка. Сверка готового ответа с источником после работы агента.
Пароль. Секрет, который агенту не показывают и не кладут в текст.
Правило. Короткий запрет или разрешение, например не открывать чужие файлы.
Сработавшее правило. Запись в журнале, какое правило остановило или разрешило действие.
Узкие права. Маленький список разрешений на старте.
Программа снаружи. То, что реально пускает или блокирует вызов.