дорожки · копятся, старые не затираем

Дорожка

Короткие дорожки по порядку. Новые сверху в списке. Старые не затираем: открываешь нужную и читаешь ступени. Новости и словарь остаются архивом.

Все дорожки

новая · 18.11.2026 Как ужать векторы поиска в 4–32 раза: int8, двоичные векторы и пересчёт кандидатов сколько памяти занимает векторный индекс и как распределены числа внутри векторов — мёртвые координаты и сдвиг от нуля; int8 — 256 ступенек на число, калибровка отрезка и почему обрезка выбросов вредит; двоичные векторы — знак числа, расстояние Хэмминга, асимметричный вариант и ничьи; двухшаговый поиск — грубо по битам, точно по кандидатам, сколько кандидатов нужно; укороченные векторы, PCA и обучение матрёшкой, сломанные пороги после сжатия — всё с запусками на наборе SciFact раньше · 17.11.2026 Как не набить ответ повторами: разнообразие выдачи, MMR и один кусок на документ откуда в выдаче повторы — точные копии, почти-копии и куски с перекрытием — и почему похожесть ещё не дубль; как устроен MMR — жадный выбор «близость к вопросу минус похожесть на уже взятое», разбор по шагам; цена разнообразия на чистой базе — nDCG@10 и recall@10 при разных lam; повторы от нарезки на куски — группировка «один кусок на статью» против порога и MMR; где разнообразие ломается — логиты пересортировщика против косинуса и похожие правильные ответы — всё с запусками на наборе SciFact раньше · 16.11.2026 Как помочь поиску, когда вопрос и ответ написаны разными словами: расширение запроса и псевдообратная связь словарный разрыв — сколько правильных статей теряет BM25 и почему; псевдообратная связь RM3 — второй поиск со словами из первых найденных документов; честный подбор настроек на обучающих вопросах, дрейф запроса и почему число документов почти не важно при весе exp(оценка); сдвиг вектора вопроса по Роккио — хуже первая десятка, но глубже список; расширение как поставщик кандидатов для пересортировки и переписывание запроса моделью (multi-query, HyDE, query2doc) — всё с запусками на наборе SciFact раньше · 15.11.2026 Как второй шаг поиска ставит лучших наверх: пересортировка перекрёстным кодировщиком двухэтапный поиск и чем перекрёстный кодировщик отличается от двойного; что модель видит на входе ([CLS] вопрос [SEP] текст), почему её оценка — логит, а не вероятность, и почему она не проверяет факты; сколько стоит пересортировка — время от числа и длины кандидатов; как мерить пользу — nDCG@10, потолок recall@N первого поиска и глубина пересортировки; где она ломается — обрезка длинных текстов, английская модель на русском, порог «ответа нет» — всё с запусками настоящих моделей MiniLM на наборе SciFact раньше · 14.11.2026 Как искать и по точным словам, и по смыслу: BM25 и гибридный поиск обратный индекс и вес редкого слова (IDF); формула BM25 — насыщение k1 и поправка на длину b, почему набивка ключевыми словами почти не помогает; где поиск по словам сильнее векторов (коды, имена) и где слабее (пересказы); как склеить два списка — нормировка min-max и z-оценки, вес alpha, обратный ранг RRF (k = 60); где гибрид ломается — русские окончания и стемминг, «ответа нет», глубина списков — всё с запусками в numpy раньше · 13.11.2026 Как найти ближайшие векторы среди миллионов: приближённый поиск соседей почему точный перебор упирается в объём и как мерить приближённый поиск долей найденных соседей (recall@10); ячейки IVF и параметр nprobe — почему последние проценты самые дорогие; поиск по графу соседей и устройство HNSW (M, ef, этажи, обратные рёбра); сжатие PQ в 8–16 байт и точный пересчёт кандидатов; где индекс ломается — фильтры по метаданным, новые темы, удаления, неверная мера близости — всё с запусками в numpy раньше · 12.11.2026 Как учат модели поиска по смыслу: контрастное обучение и негативы зачем отдельно учить модель эмбеддингов на парах «вопрос — нужный текст» и чем двойной кодировщик отличается от перекрёстного; потеря InfoNCE и негативы внутри пакета; температура и почему она решает, на какие ошибки смотрит обучение (CLIP, scale=20 в sentence-transformers); размер пакета и трудные негативы — когда помогают и когда вредят; где ломается — ложные негативы, дубли в пакете, префиксы query/passage, короткие пути — всё с запусками в numpy раньше · 11.11.2026 Как убирают повторы из обучающих текстов: поиск почти-дублей зачем чистить корпус от повторов и почему точного хеша мало; шинглы и сходство Жаккара; подписи MinHash и их точность; полосы LSH и S-образная кривая — как найти пары, не сравнивая всех со всеми (настройки FineWeb 14 × 8); где дедупликация ломается — цепочки, общие шаблоны, утечка проверочных вопросов, пересказы — всё с запусками на Python и numpy раньше · 10.11.2026 Как не дать сети заучить примеры: отсев нейронов при обучении что такое переобучение и как отсев (dropout) снижает ошибку на новых данных; маска, поправка 1/(1-p) и два режима — обучение и проверка; где отсев стоит в трансформере и почему при большом корпусе его выключают; отсев как оценка неуверенности (Monte Carlo dropout) и соседи — затухание весов, ранняя остановка, сглаживание меток; где обычно ошибаются — забытый model.eval(), двойная поправка, сдвиг разброса перед нормализацией по пакету — всё с запусками в numpy раньше · 09.11.2026 Как уместить обучение в память: пересчёт активаций вместо хранения куда уходит память при обучении и почему активации растут с пакетом и длиной; как устроен пересчёт активаций (gradient checkpointing) и почему градиенты те же самые; где ставить контрольные точки и откуда правило корня из n; избирательный пересчёт, внимание без матрицы вероятностей и выгрузка; где обычно ошибаются — другая маска dropout при пересчёте, двойное обновление статистик, ловушка use_reentrant, ожидание ускорения — всё с запусками в numpy раньше · 08.11.2026 Как дообучить большую модель, не трогая все веса: низкоранговая адаптация зачем не учить все веса и сколько памяти экономит адаптер LoRA; как устроена добавка W + BA и почему B стартует нулями; как выбирать ранг r, масштаб alpha/r и матрицы для адаптера; слияние с базой, несколько адаптеров на одной базе, QLoRA и адаптеры Houlsby; где обычно ошибаются — мало ранга, забытый масштаб, не подключённый адаптер, забывание — всё с запусками в numpy раньше · 07.11.2026 Скользящее среднее весов: зачем оценивать «теневую» копию, а не шумные веса обучения почему живые веса прыгают от пакета к пакету и чем помогает EMA; как устроены коэффициент β и период полураспада; чем EMA отличается от спада скорости обучения и от SWA; когда начинать усреднение и зачем поправка смещения; где обычно ошибаются — слишком большой β, забытый чекпоинт, сырая EMA слишком рано — всё с запусками в numpy раньше · 06.11.2026 Как менять шаг обучения по ходу тренировки: разгон, спад и где ломается расписание зачем менять скорость обучения, а не держать её постоянной; как устроен разогрев и почему без него большой шаг разносит сеть; чем отличаются косинусный, линейный и ступенчатый спад и что такое пол скорости; как расписание связано с размером пакета и правилом LR∝B; как по кривой потери отличить спайки, «мёртвый» прогресс и слишком быстрый спад — всё с запусками в numpy раньше · 05.11.2026 Сколько примеров на один шаг: размер пакета, накопление градиентов и критический пакет почему градиент по пакету — шумная оценка и как шум падает с ростом пакета; как накапливать градиенты по микропакетам и не потерять нормировку по токенам; как вместе с пакетом менять скорость обучения и где это правило ломается; что такое шумовой масштаб и критический размер пакета; почему языковые модели считают пакет в токенах и чем опасна пакетная нормализация — всё с запусками в numpy раньше · 04.11.2026 С чего начинается обучение: начальные веса, разрушение симметрии и масштаб остаточного потока почему начальный размах весов решает, дойдёт ли сигнал через 50 слоёв, и откуда формулы Ксавье и Хе; зачем веса случайные, а не одинаковые; почему остаточный поток растёт с глубиной и как его держит поправка 1/√(2N); какой должна быть потеря на первом шаге и какие ошибки она ловит; что осталось от старта в обученной GPT-2 и что такое μP — всё с запусками в numpy раньше · 03.11.2026 Выходной слой языковой модели: от вектора к логитам, связанные веса и логит-линза как последний вектор превращается в оценки для каждого токена словаря и почему эта матрица такая большая, зачем вход и выход делят одну таблицу, почему логиты большого словаря не влезают в память при обучении и как считают потерю по кускам, что делают z-потеря и мягкий кэп, как читать промежуточные слои логит-линзой — всё на настоящей GPT-2 small раньше · 02.11.2026 Полносвязный блок трансформера: что он делает, функции активации и SwiGLU что делает полносвязный блок и почему в нём две трети параметров слоя, чем ReLU, GELU и SiLU отличаются и откуда берутся мёртвые нейроны, как устроен гейтированный блок SwiGLU и почему его ширина 8/3 от размера модели, как блок работает памятью «ключ — значение» и сколько он стоит в вычислениях на коротком и длинном контексте раньше · 01.11.2026 Почему глубокий трансформер вообще учится: остаточные связи и нормализация почему сигнал гаснет или взрывается через полсотни слоёв и как масштаб весов это держит, как остаточная связь даёт градиенту прямую дорогу и чем за это платит, чем LayerNorm отличается от RMSNorm и почему в языковых моделях не BatchNorm, где ставить нормализацию — до блока или после, и как выбросы в активациях и рост логитов внимания ломают квантование и обучение раньше · 31.10.2026 Как обучение делят между многими видеокартами: параллелизм данных, ZeRO, тензорный и конвейерный почему копии модели на разных видеокартах дают тот же градиент и где это ломается при неравных кусках, как кольцевой all-reduce складывает градиенты и сколько гигабайт гоняет за шаг, как ZeRO и FSDP делят состояние оптимизатора, градиенты и веса, как тензорный параллелизм режет матрицы по столбцам и строкам, откуда пузырь конвейера и как всё сочетают в 3D-параллелизм раньше · 30.10.2026 Как обучение экономит память и время: числа bf16, fp8 и смешанная точность как устроено число с плавающей точкой и чем fp32, fp16, bf16 и fp8 отличаются по диапазону и точности, почему вес в чистом bf16 перестаёт учиться и зачем главная копия в fp32, откуда 16 байт на параметр при обучении с Adam, как масштабирование потери спасает мелкие градиенты в fp16 и как работает динамический множитель, почему суммы, softmax, нормализацию и потерю считают в fp32, как устроено обучение в fp8 с множителями на тензор и на блок раньше · 29.10.2026 Как шаг обучения выбирает направление и длину: импульс, Adam, AdamW и расписание почему простой градиентный спуск ползёт по «оврагу» и разлетается при шаге чуть выше предела, как импульс складывает устойчивое направление, как Adam делит шаг на оценку величины градиента и зачем поправка смещения, сколько памяти съедает состояние оптимизатора, чем уменьшение весов в AdamW отличается от штрафа L2, как устроены разогрев, косинус и WSD, как обрезка градиента и откат к контрольной точке спасают от всплесков потери раньше · 28.10.2026 Сколько параметров и сколько данных: законы масштабирования как выглядит степенной закон потери и почему прогноз без неустранимой потери врёт, как считать бюджет обучения по формуле 6·N·D и переводить его в часы ускорителей, что показала Chinchilla и откуда правило около 20 токенов на параметр, почему маленькие модели сознательно учат намного дольше оптимума ради дешёвой работы и где упираются данные, почему потеря не равна умениям и откуда берутся «внезапные» способности раньше · 27.10.2026 Как большая модель учит маленькую: дистилляция знаний почему вероятности учителя несут больше, чем готовый текст, и что такое тёмное знание, как устроена потеря дистилляции с температурой и зачем множитель T², чем прямая KL отличается от обратной и почему слабый ученик либо размазывается, либо теряет варианты, чем обучение на текстах учителя отличается от дистилляции по политике ученика и что такое смещение экспозиции, как фильтр верных решений сдвигает данные к лёгким задачам, разрыв в размере, разные словари и условия использования раньше · 26.10.2026 Как модель учат предпочитать хороший ответ: пары сравнений, модель награды, RLHF и DPO зачем после обучения на образцах модель учат на парах «лучше — хуже», как из сравнений по правилу Брэдли–Терри получается модель награды и почему её число имеет смысл только в сравнении, как обучение с подкреплением держат на поводке KL и что такое переоптимизация награды, как DPO обходится без модели награды и что такое неявная награда, почему модель учится длине и поддакиванию вместо пользы раньше · 25.10.2026 Как модель учится угадывать следующий токен: функция потерь, перплексия и шаг обучения что именно минимизирует модель и почему это минус логарифм вероятности верного токена, что такое перплексия и почему её нельзя сравнивать между токенизаторами, как градиент и шаг обучения двигают веса и почему слишком большой шаг разносит обучение, как по обучающей и проверочной потере отличить обучение от зубрёжки, и как не сломать потерю при дообучении сдвигом на один токен и маской вопроса раньше · 24.10.2026 Откуда модель знает порядок слов: позиционное кодирование и вращения RoPE почему вниманию без подсказки всё равно, в каком порядке слова, как позиции добавляли таблицей и синусоидами, как устроены вращения RoPE и почему в оценке остаётся только расстояние, почему модель ломается за длиной обучения и как контекст удлиняют сжатием позиций, сменой основания и YaRN, как прочитать rope_theta и rope_scaling в config.json и проверить длинный контекст раньше · 23.10.2026 Почему у модели сотни миллиардов параметров, а работает малая часть: смесь экспертов где в модели живут параметры и что такое эксперт, как маршрутизатор выбирает экспертов для каждого токена, почему нагрузку приходится выравнивать и что такое ёмкость эксперта, сколько на самом деле стоят память, скорость и пересылки, чему эксперты учатся на деле и как читать названия вроде 235B-A22B раньше · 22.10.2026 Как модель пишет несколько токенов за один шаг: спекулятивное декодирование почему проверить несколько токенов почти так же дёшево, как написать один, как черновая модель предлагает, а большая проверяет за один проход и даёт тот же текст, правило принятия при случайном выборе, сколько это ускоряет и когда выигрыш пропадает, и черновики без отдельной модели: поиск в запросе, Medusa, EAGLE раньше · 21.10.2026 Как модель смотрит на уже написанное: внимание и кэш ключей как каждый токен выбирает, на какие слова смотреть (запрос, ключ, значение), зачем маска и несколько голов, почему кэш ключей и значений делает каждый следующий токен дешевле, сколько памяти он съедает и как сервер обслуживает тысячи разговоров непрерывными пакетами раньше · 20.10.2026 Как модель вызывает функции: от описания инструмента до результата что на самом деле происходит, когда модель «зовёт функцию», как описать инструмент и схему аргументов, как устроен цикл из нескольких шагов и стоп-кран, как ловить неверные аргументы, сбои и опасные действия и что такое MCP раньше · 19.10.2026 Как модель режет текст на токены и почему русский считается иначе что такое токен и словарь, как его строят склейкой частых пар (BPE), почему один смысл на русском, в цифрах и в коде стоит по-разному, где нарезка ломает буквы, числа и служебные метки и как правильно считать токены в своём коде раньше · 18.10.2026 Как большая модель помещается в ноутбук: сжатие весов почему модель не влезает в память и от чего зависит скорость, что делает с числами квантование, как читать GGUF, Q4_K_M, GPTQ и AWQ, как выбрать разрядность под своё железо и как проверить, что сжатие не сломало твою задачу раньше · 17.10.2026 Когда модели нужно «подумать» перед ответом и как этим управлять что такое черновик рассуждения, сколько он стоит и ручка усилия, где рассуждение окупается, как писать задание для такой модели, как замерить выигрыш и почему черновику нельзя верить на слово раньше · 16.10.2026 Как резать длинный документ на куски, чтобы поиск находил нужное почему целый файл плохо, размер и запас (overlap), где резать, метаданные куска, как проверить нарезку раньше · 15.10.2026 Когда хватит подсказки и поиска, а когда нужно дообучение чем подсказка, поиск по файлам и дообучение отличаются, где у каждого потолок, как устроено дообучение на практике, как выбрать путь по чек-листу раньше · 14.10.2026 Как текст превращается в числа для поиска по смыслу что такое эмбеддинг, как считают близость, чем это не языковая модель и не поиск по словам, где ломается, как проверить на своих заметках раньше · 13.10.2026 Почему модель уверенно выдумывает факты откуда берутся выдумки (галлюцинации), какие они бывают, как заставить модель отвечать по источнику, как разрешить ей «не знаю» и как ловить выдумки кодом до человека раньше · 12.10.2026 Как модель понимает картинки как изображение превращается в токены, чем зрительный кодировщик отличается от языковой модели, почему она плохо считает и читает мелкий текст, как работать со сканами и скриншотами раньше · 11.10.2026 Как защитить модель от чужих команд в тексте откуда берутся подложенные инструкции, почему модель им верит, разделение данных и команд, ограничение прав и проверка перед действием раньше · 10.10.2026 Сколько стоит и как быстро отвечает модель из чего складывается цена запроса, откуда берётся задержка, кэш одинакового начала, выбор модели под задачу, пакетная обработка и лимиты раньше · 09.10.2026 Как удержать длинный разговор в окне контекста что происходит при обрезке, порядок слоёв в запросе, сжатие истории, внешняя память вместо длинного чата, проверка что важное ещё на месте раньше · 08.10.2026 Как проверить, что модель справляется с задачей Проверочный набор, доля верных и таблица ошибок, модель-судья, разброс результатов, прогон при каждом изменении раньше · 07.10.2026 Как получить от модели ответ строго по форме Почему ломается разбор, схема ответа, ограниченный выбор токенов, проверка и повтор, схема под смысл раньше · 06.10.2026 Как модель выбирает следующее слово Вероятности, жадный выбор и выборка, температура, отсечение хвоста, настройки в работе раньше Как агент пользуется инструментом Инструмент, когда вызывать, права, журнал, проверка ответа раньше Как устроен поиск по своим заметкам Кусок текста, смысл, слова и смысл вместе, пересортировка, ответ по найденному эта страница Пять ступеней с нуля Модель и токен, как отвечает, поиск по документам, агент, контроль

Пять ступеней с нуля

1 Модель и токен

Зачем это в работе. Без этой ступени ты ждёшь от чата памяти человека и удивляешься счёту. Модель считает текст кусками: от числа кусков зависят цена запроса, обрезка длинного диалога и то, почему вчерашний разговор сам не всплывает.

Модель — программа, которая по уже написанному тексту угадывает следующий кусок. Она не достаёт готовый ответ из шкатулки. Ставит кусок, его добавляют к тексту, снова просят следующий. Так собирается фраза. Это продолжение текста, а не поиск правды в интернете.

Кусок, которым она считает, называют токеном (token). Токен — не всегда целое слово: короткое слово может быть одним токеном, длинное или редкое — несколькими. Человек видит смысл фразы целиком. Модель сначала видит набор кусочков и только по ним выбирает продолжение.

Сама модель чат не помнит. В новый запрос программа заново кладёт прошлые реплики, если они ещё влезают в лимит. Если их не положили или обрезали с начала, для модели этого разговора не было. Чем больше токенов во входе и в ответе, тем обычно дороже запрос.

Окно контекста — сколько токенов модель может увидеть за один раз: инструкция, история, найденные куски и место под ответ. Это не «память навсегда», а вместимость текущего запроса. Соседнее понятие — долгое хранилище заметок снаружи: оно живёт в файлах и поиске, а не внутри модели.

В работе это сразу даёт два рычага. Короткий запрос с нужной репликой дешевле и стабильнее, чем длинная история «на всякий случай». Если важный факт должен жить дольше одного чата, его кладут в заметку и достают поиском, а не надеются, что модель «сама вспомнит через неделю».

Подробный пример. Ты пишешь: «Вчера мы решили брать только свои сводки». Потом спрашиваешь: «Напомни, что решили». Если программа снова положила ту реплику в запрос — модель ответит. Если начался новый чат без неё — для модели решения не было, даже если ты его помнишь. Проверка простая: открой текст запроса или историю и посмотри, есть ли там вчерашняя фраза. Если фразы нет — сначала верни её в запрос или в заметку, и только потом спорь с ответом.

Где обычно ошибаются. 1) Думают, что модель «помнит аккаунт», и не проверяют, попала ли нужная реплика в текущий запрос. 2) Кладут огромный файл целиком и удивляются обрезке или цене: сначала нужен поиск по кускам. 3) Путают токен со словом и не понимают, почему короткий вопрос «весит» иначе, чем кажется.

Как поймать это быстро. Сравни три вещи: что было в запросе, что ответили, и есть ли внешний источник. Если источника нет, а тон уверенный — сначала добавь опору, а не продолжай спор про стиль.

Модель. Программа, которая по тексту угадывает следующий кусок.

Токен. Кусок текста, которым считают длину и продолжают фразу.

Продолжение. Ответ собирается кусок за куском, а не берётся готовым списком.

Окно контекста. Сколько токенов модель видит за один запрос.

Длинный запрос. Текст из многих токенов; его обычно дороже обработать.

Память чата. У модели её нет: прошлое нужно снова положить в запрос.

Обрезка. Когда старые реплики выкидывают, чтобы влезло новое.

Смысл целиком. То, что видит человек; модель сначала видит кусочки.

2 Как она отвечает

Зачем это в работе. Иначе гладкий абзац принимают за проверенный факт. Уверенный тон — стиль речи, а не доказательство. В работе нужен ответ, который можно сверить с источником или с тем, что ты сам положил в запрос.

В запрос обычно кладут три слоя. Инструкция говорит, как отвечать и чего не делать. Примеры показывают образец удачного ответа. Вопрос — конкретная задача сейчас. Модель продолжает весь этот текст целиком, а не «читает мысли» отдельно от него.

Без отдельного инструмента модель не ищет правду в интернете и не открывает твои файлы. Она дописывает то, что уже лежит перед ней. Если факта в этом тексте нет, она всё равно может сочинить правдоподобную фразу. Это ограничение механизма, а не «злой умысел».

Ровная речь без слов «возможно» ничего не доказывает. Сверка — ты сравниваешь ответ с местом, которому доверяешь: словарём сайта, своей сводкой, файлом. Соседнее понятие из прошлой ступени: токены объясняют цену и объём; эта ступень объясняет, почему объём сам по себе не даёт истину.

Чем точнее инструкция и вопрос, тем меньше места для выдумки. «Объясни термин простыми словами и укажи, чего в тексте нет» полезнее, чем «расскажи всё про ИИ». Примеры в запросе выравнивают форму: длину, тон, запрет на жаргон без пояснения.

Отдельно полезен запрет на догадку: «если в тексте нет факта — так и скажи». Без этой фразы модель часто заполняет дыру гладким продолжением. С этой фразой пустота становится видимой, и ты понимаешь, что нужно добавить источник, а не править стиль.

Подробный пример. Просишь: «Объясни слово RAG своими словами». Потом открываешь то же слово в словаре сайта. Если в ответе есть деталь, которой нет в карточке, верной считай карточку. Попроси ответить ещё раз только по тексту карточки и сравни оба абзаца: где опора, а где дописка.

Где обычно ошибаются. 1) Спорят с моделью «на ощущениях», вместо того чтобы ткнуть в абзац-источник. 2) Дают расплывчатый вопрос и получают уверенный, но пустой обзор. 3) Путают инструкцию с фактами: тон «будь краток» не заменяет данные, которых в запросе нет.

Как поймать это быстро. Сравни три вещи: что было в запросе, что ответили, и есть ли внешний источник. Если источника нет, а тон уверенный — сначала добавь опору, а не продолжай спор про стиль.

Инструкция. Текст в начале: что сделать и каким тоном отвечать.

Пример в запросе. Короткий образец удачного ответа.

Вопрос. Конкретная задача, ради которой написан запрос.

Продолжение текста. Ответ — следующий кусок после всего, что уже лежит в запросе.

Уверенный тон. Гладкая речь без сомнений; правду сама не доказывает.

Сверка. Сравнение ответа с известным источником.

Выдумка. Правдоподобная фраза без опоры в данном тексте.

Уточнение вопроса. Более узкая формулировка, которая сужает место для выдумки.

3 Поиск по своим документам (RAG)

Зачем это в работе. Ответ по твоим сводкам и заметкам можно открыть и проверить. Без поиска модель опирается на общую память обучения и не показывает, откуда взяла фразу. В работе нужна ссылка на абзац, а не вера в тон.

Сначала программа ищет в твоих документах куски, похожие на вопрос: заметки, сводки, файлы. На этом шаге модель ещё не отвечает — она даже не видит найденное, пока его не положат в запрос. Поиск выбирает, что вообще показать.

Потом найденные куски кладут в запрос и просят ответить по ним. Такой приём называют RAG (retrieval-augmented generation): сначала поиск по своим документам, потом ответ только по найденным кускам. Модель опирается на твой текст, а не на «всё сразу из обучения».

Если рядом с ответом есть ссылка на абзац, ты открываешь его и видишь опору. Нет ссылки или абзац не про то — ответу не стоит верить целиком. Соседнее отличие: обычный чат продолжает только то, что уже в диалоге; RAG сначала достаёт куски снаружи и только потом продолжает.

Плохой поиск нельзя вылечить фразой «отвечай увереннее». Если куски не те, чинят нарезку, запрос и отбор. Подробный разбор этих шагов — на дорожке поиска по заметкам. Здесь важно правило: сначала опора, потом текст.

В ежедневной работе RAG нужен там, где ответ должен ссылаться на твою сводку, правило или словарь. Если вопрос общий и источника у тебя нет, это снова обычное продолжение текста. Смешивать режимы вредно: то просишь «по моим файлам», то принимаешь фразу без абзаца.

Подробный пример. Берёшь одну вечернюю сводку и спрашиваешь: «Что там сказали про журнал действий агента? Укажи абзац». Открываешь указанное место. Если в ответе есть деталь, которой в абзаце нет, это уже не опора на документ, а дописка. Просишь повторить строго по абзацу.

Где обычно ошибаются. 1) Сваливают всю папку в один запрос вместо поиска по кускам. 2) Радуются гладкому ответу без ссылки на абзац. 3) Ругают «тупую модель», когда на самом деле поиск подал не те отрывки.

Как поймать это быстро. Сравни три вещи: что было в запросе, что ответили, и есть ли внешний источник. Если источника нет, а тон уверенный — сначала добавь опору, а не продолжай спор про стиль.

RAG. Сначала ищут куски твоих файлов, потом модель отвечает только по ним.

Кусок документа. Короткий отрывок, который поиск отдаёт как опору.

Поиск. Шаг до ответа: какие места в файлах показывать.

Своя сводка. Текст у тебя на сайте или в файлах, не общая память модели.

Ссылка на абзац. Указание, какой кусок открыть и сверить.

Проверка источника. Ты читаешь абзац и сравниваешь его с ответом.

Опора. Найденный текст, на который ответ имеет право ссылаться.

Дописка. Фраза в ответе, которой не было в найденных кусках.

4 Агент

Зачем это в работе. Новости про агентов читаются просто: это не «более умная модель», а модель, которой разрешили сделать действие. В работе важно видеть шаги: что вызвали, что вернули, что ответили. Иначе остаётся магия одного абзаца.

Агент — модель плюс право вызвать инструмент. Инструмент делает то, чего модель сама не умеет: найти термин, открыть файл, запустить код. Модель решает, какой инструмент вызвать и с какими словами. Выполняет вызов уже другая программа.

Она сама выбирает, когда инструмент нужен. Иногда отвечает сразу из текста запроса. Иногда сначала ищет, смотрит результат и только потом пишет ответ. Каждый вызов — отдельный шаг в цепочке. Без права на инструмент это снова обычный чат.

С правом появляется риск: открыть не тот файл или запустить не ту команду. Поэтому следующая ступень — не «дать ещё инструментов», а ограничить их и писать журнал. Соседнее отличие от RAG: RAG подставляет куски в запрос до ответа; агент по ходу дела сам решает, какой инструмент вызвать.

Подробный разбор вызова, прав, журнала и проверки — на дорожке про инструмент. Здесь достаточно рабочего правила: агент = текст + действия, и действия должны быть видны.

В сводках и новостях слово «агент» часто рядом с обвязкой, навыками и контролем. Читать это проще так: сначала есть действие, потом его границы, потом след в журнале. Если в тексте новости нет действия снаружи модели — это скорее чат или RAG, даже если тон «агентный».

Подробный пример. Просьба «найди в словаре термин OpenShell и перескажи» — два шага. Сначала инструмент поиска возвращает карточку. Потом модель пишет ответ своими словами только по этой карточке. Если поиска в следе нет, а ответ «как будто из словаря» — это уже подозрительно.

Где обычно ошибаются. 1) Называют агентом любой чат с умным тоном. 2) Дают сразу много инструментов без списка «можно / нельзя». 3) Смотрят только финальный текст и не проверяют, был ли вызов и что он вернул.

Как поймать это быстро. Сравни три вещи: что было в запросе, что ответили, и есть ли внешний источник. Если источника нет, а тон уверенный — сначала добавь опору, а не продолжай спор про стиль.

Агент. Модель, которой разрешили вызвать инструмент, а не только дописывать текст.

Инструмент. Готовое действие: поиск, чтение файла или запуск кода.

Вызов. Момент, когда модель просит инструмент что-то сделать.

Шаг. Одно действие по очереди: сначала поиск, потом ответ.

Поиск в словаре. Инструмент находит карточку, а не выдумывает определение.

Пересказ. Ответ своими словами по тому, что инструмент уже вернул.

Цепочка. Вопрос, вызовы, результаты и финальный текст.

Обычный чат. Только текст без права запускать действия.

5 Контроль

Зачем это в работе. Полезный агент без контроля быстро становится агентом, которому можно слишком много. В работе нужны три опоры вместе: что разрешено, что реально сделали, и совпал ли ответ с источником.

Контроль — это права, журнал и проверка. Права говорят, что агенту можно. Журнал записывает, что он реально сделал. Проверка сверяет готовый ответ с источником, а не с уверенным тоном. Одно без другого слабо: одни запреты в тексте инструкции без журнала легко обойти на словах.

Пароли и ключи агенту не отдают. Если нужен закрытый сервис, доступ держит отдельная программа, а агент видит только результат. Так секрет не оказывается внутри текста, который модель читает и может потом повторить. Это устройство безопасной схемы, а не «недоверие на всякий случай».

Правило вроде «не открывай чужие файлы» не должно только висеть в инструкции. Нужна запись, сработало ли оно: какой файл просили и что запретили. Тогда ты видишь след действия, а не обещание модели. Соседнее отличие: ступень «агент» даёт возможность действовать; контроль задаёт границы и проверяемый след.

Начинают с узких прав, смотрят журнал, потом осторожно расширяют. Расширять проще, чем забирать лишнее, которое уже успели открыть. Проверка ответа остаётся за тобой: журнал показывает шаги, источник показывает факты.

Контроль не мешает скорости, если ритуал короткий: глянул журнал, открыл один источник, отметил одну сомнительную фразу. Долгая проверка нужна в начале. Когда одни и те же промахи повторяются, ты уже знаешь, куда смотреть в первую очередь.

Подробный пример. Правило: читать можно только папку notes. Агент просит файл из другой папки. Программа снаружи останавливает вызов и пишет в журнал: запрещено правилом о папке. В ответе не должно быть вида, будто файл всё-таки прочитали. Если ответ так делает — верь журналу.

Где обычно ошибаются. 1) Кладут запреты только в текст инструкции и считают, что этого достаточно. 2) Отдают агенту секреты «временно» и потом не могут понять, где они засветились. 3) Не читают журнал и спорят с финальным абзацем вместо сверки шагов.

Как поймать это быстро. Сравни три вещи: что было в запросе, что ответили, и есть ли внешний источник. Если источника нет, а тон уверенный — сначала добавь опору, а не продолжай спор про стиль.

Права. Список того, что агенту разрешено и что запрещено.

Журнал. Запись действий: что вызвали, что разрешили, что остановили.

Проверка. Сверка готового ответа с источником после работы агента.

Пароль. Секрет, который агенту не показывают и не кладут в текст.

Правило. Короткий запрет или разрешение, например не открывать чужие файлы.

Сработавшее правило. Запись в журнале, какое правило остановило или разрешило действие.

Узкие права. Маленький список разрешений на старте.

Программа снаружи. То, что реально пускает или блокирует вызов.

Словарь целиком — /slovar, новости — /novosti.