Лаборатория LLM

Разбиение документов на фрагменты для поиска и подачи в модель.

Слишком крупный фрагмент тратит контекст, слишком мелкий теряет смысл. Обычно режут по абзацам или смысловым блокам, иногда с перекрытием.

Источник: Практика RAG

Вторая модель, которая пересортировывает найденные фрагменты по релевантности.

Поиск быстро достаёт десятки кандидатов, реранкер точнее выбирает лучшие. Заметно улучшает качество RAG при небольшой цене.

Источник: Практика RAG

Модель, которая сама планирует шаги и вызывает инструменты для достижения цели.

Ключевое отличие от чата — действие: поиск, база, отправка письма. Агенту нужны лимиты шагов, журнал действий и проверка прав.

Источник: Практика LLM-агентов

Механизм, через который модель просит выполнить функцию в вашем коде.

Модель возвращает имя функции и аргументы, код выполняет действие и отдаёт результат обратно. Модель никогда не выполняет код сама — решение остаётся за программой.

Источник: Документация провайдеров

Открытый протокол, по которому модель получает доступ к инструментам и данным.

Унифицирует подключение сервисов к ИИ-клиентам: один раз описали сервер — пользуетесь из разных приложений.

Источник: Спецификация MCP

Дополнение генерации поиском: нужные фрагменты находят и подкладывают в промпт.

Схема: вопрос → поиск (часто векторный) → фрагменты → ответ со ссылками на источники. Уменьшает выдумки и позволяет не переобучать модель при обновлении данных.

Источник: Lewis и др. (2020)

Архитектура нейросети, на которой построены современные языковые модели.

Ключевой механизм — внимание: каждый токен «смотрит» на другие и собирает контекст. Из-за квадратичной сложности внимания длинный контекст дорог по вычислениям.

Источник: Vaswani и др. (2017)

Архитектура, где на каждый токен работают лишь несколько «экспертных» подсетей.

Позволяет держать очень большую модель при умеренных вычислениях: активна только часть параметров. Требует больше памяти, чем плотная модель того же качества.

Источник: Shazeer и др. (2017)

Механизм, который решает, на какие части входа опираться при обработке каждого токена.

Внимание не объясняет решение целиком: карты внимания показывают, куда модель смотрела, но не почему. Это популярная, но не полная интерпретация.

Источник: Vaswani и др. (2017)

Мера похожести двух векторов: косинус угла между ними, от −1 до 1.

Единица — направления совпадают, ноль — векторы перпендикулярны. В семантическом поиске обычно сравнивают именно косинус, а не длину вектора, чтобы не зависеть от размера текста.

Источник: Стандартное определение

Вектор чисел, описывающий смысл текста, изображения или другого объекта.

Похожие по смыслу тексты получают близкие векторы. Эмбеддинги применяют для поиска, кластеризации, рекомендаций и дедупликации. Это не «понимание», а сжатое отражение закономерностей обучающих данных.

Источник: RAG-практика, документация embedding-моделей

Хранилище векторов с быстрым поиском ближайших соседей.

Индекс (HNSW, IVF) позволяет искать среди миллионов векторов за миллисекунды. В PostgreSQL такую роль играет расширение pgvector.

Источник: Практика векторных баз

Поиск по смыслу, а не по совпадению слов.

Запрос и документы переводят в векторы и ищут ближайшие. Находит «машина» по запросу «автомобиль», но может ошибиться на отрицаниях: «не работает» и «работает» часто оказываются близко.

Источник: Практика векторных баз

Случайный выбор следующего токена по распределению вероятностей.

Именно поэтому один и тот же промпт даёт разные ответы. При temperature=0 выбор детерминированный (жадный, greedy).

Источник: Устройство инференса

Параметр случайности выбора следующего токена.

Низкая температура (0–0.3) — почти всегда самый вероятный токен: ответы устойчивы и предсказуемы. Высокая (0.8–1.2) — редкие варианты получают шанс: текст разнообразнее, но растёт риск ошибок.

Источник: Документация провайдеров

Ограничение выбора k самыми вероятными токенами.

Топ-k отсекает длинный хвост редких токенов до розыгрыша. k=1 означает «всегда лучший токен», k=50 оставляет 50 кандидатов.

Источник: Документация провайдеров

Выбор из минимального набора токенов, чья суммарная вероятность ≥ p.

При p=0.9 в выборке остаются токены, которые вместе дают 90 % вероятности. В отличие от top-k, размер набора меняется: на уверенном шаге останется один токен, на спорном — много.

Источник: Holtzman и др. (2019)

При нулевой температуре выбор всегда падает на самый вероятный токен.

Ответ кажется воспроизводимым, но абсолютной гарантии нет: порядок операций на GPU, батчи и версия модели могут менять результат.

Источник: Практика инференса

Выбор самого вероятного токена на каждом шаге без случайности.

Даёт самый предсказуемый результат, но не «лучший ответ в целом»: локально лучший шаг может привести к плохому тексту.

Источник: Устройство инференса

Режим работы модели, когда она отвечает, а не обучается.

Инференс считает токены по одному. Отсюда метрики: сколько токенов в секунду выдаёт сервер и сколько ждать первого токена.

Источник: Практика LLM-сервисов

Сколько времени проходит до первого токена и до полного ответа.

Зависит от размера промпта, модели и загрузки сервера. Для интерфейсов важна задержка первого токена: она ощущается как «скорость» сервиса.

Источник: Практика LLM-сервисов

Сжатие весов модели до 8 или 4 бит вместо 16.

Уменьшает память и ускоряет работу, немного теряя качество. Позволяет запускать модели на обычной видеокарте или даже на процессоре.

Источник: Практика локального запуска

Сохранённые промежуточные состояния внимания, чтобы не пересчитывать весь контекст на каждом шаге.

Ускоряет генерацию, но занимает память: длинный контекст и много параллельных запросов быстро съедают VRAM.

Источник: Практика инференса

Функция, превращающая произвольные числа (логиты) в вероятности.

Экспонента выравнивает разницу: больше логит — заметно больше вероятность. Сумма всех вероятностей после softmax равна единице.

Источник: Стандартное определение

Мера неопределённости распределения вероятностей, в битах.

Высокая энтропия — модель не уверена, вариантов много. Низкая — почти однозначный выбор. По энтропии видно, где модель «думает», а где просто продолжает шаблон.

Источник: Теория информации, Шеннон

Сырые оценки модели для каждого токена словаря до превращения в вероятности.

Модель выдаёт по числу на каждый токен словаря. Затем softmax делает из них распределение, из которого выбирается следующий токен. Логиты можно сравнивать между собой, но их абсолютные значения не имеют смысла.

Источник: Устройство языковых моделей

Настройка модели на своих данных под конкретную задачу.

Нужно, когда промпта и поиска не хватает: важен устойчивый стиль или своя терминология. Требует данных, денег и проверки, что модель не разучилась на других задачах.

Источник: Практика ML

Лёгкое дообучение: обучают небольшие добавки к весам, а не всю модель.

Экономит память и время. Адаптер можно хранить отдельно и подключать к базовой модели под конкретную задачу.

Источник: Hu и др. (2021)

Обучение с подкреплением по отзывам людей: ответы оценивают и настраивают модель на «хорошие».

Так модель учат быть полезной и безопасной. Оценки людей субъективны, поэтому модель наследует их предпочтения и предрассудки.

Источник: Christiano и др. (2017)

Перенос знаний большой модели в маленькую.

Малая модель учится повторять ответы большой и становится дешевле в работе. Часть качества при этом теряется, особенно на редких задачах.

Источник: Hinton и др. (2015)

Сколько токенов модель может обработать в одном запросе, включая промпт и ответ.

Всё, что не поместилось в окно, модель не видит. Большое окно не значит «помнит всё»: внимание к середине длинного текста слабее, чем к началу и концу.

Источник: Документация провайдеров

Кусочек текста, которым оперирует модель: слово, часть слова, знак или пробел.

Модель не видит буквы и слова напрямую — она работает с токенами. «Привет» может быть одним токеном, а «токенизация» — четырьмя. Цена запроса считается в токенах, поэтому редкие слова и длинные числа обходятся дороже.

Источник: OpenAI Tokenizer; документация моделей

Алгоритм, который режет текст на токены по заранее собранному словарю.

Чаще всего это BPE: частые куски текста становятся отдельными токенами, редкие дробятся на части. У каждой модели свой словарь, поэтому один и тот же текст в разных моделях стоит разного числа токенов.

Источник: Sennrich и др., BPE (2016)

Цена запроса: входные и выходные токены считаются по своему тарифу.

Выход обычно в 3–5 раз дороже входа. Экономия: короче промпт, меньше лишних документов в контексте, кэш повторяющихся частей.

Источник: Прайсы провайдеров

Измерение того, насколько хорошо система решает реальные задачи.

Нужен набор задач с ожидаемыми ответами или критериями. Без него улучшения — вопрос вкуса, а «стало лучше» — недоказуемо.

Источник: Практика LLM-разработки

Сравнение двух ответов без подписи, какая модель или промпт их сделали.

Человек выбирает лучший, голоса накапливаются — так строится рейтинг. Оценка субъективна, зато отражает реальные предпочтения.

Источник: Практика LLM-арен

Мера «удивления» модели на тексте: чем меньше, тем лучше она предсказывает.

Формально — экспонента средней отрицательной логарифмической вероятности. Перплексию нельзя сравнивать между разными токенизаторами напрямую.

Источник: Стандарт оценки языковых моделей

Приём: дать модели несколько примеров «вход → выход» прямо в промпте.

Примеры задают формат надёжнее любых словесных описаний. Zero-shot — без примеров, one-shot — с одним.

Источник: Brown и др. (2020)

Задание, которое получает модель: что сделать и в каком виде вернуть результат.

Хороший промпт содержит роль, задачу, контекст, ограничения, формат и примеры. Это техническое задание, а не вопрос в чате.

Источник: Практика промптинга

Просьба рассуждать по шагам перед ответом.

Пошаговое рассуждение помогает на задачах с вычислениями и логикой. Важно: рассуждения модели — не гарантия правильности, а лишь более удобный для неё способ считать.

Источник: Wei и др. (2022)

Инструкция, которая задаёт роль и правила модели на весь диалог.

Стоит выше пользовательских сообщений по приоритету. В него кладут стиль, запреты и формат. Секреты в системный промпт не кладут: его можно вытащить вопросами.

Источник: Документация провайдеров

Требование вернуть ответ строго в формате JSON по заданной схеме.

Нужен, когда результат читает программа. Надёжность повышают: схемой в промпте, низкой температурой и проверкой ответа перед использованием. Модель может добавить пояснение вокруг JSON — его срезают.

Источник: Практика интеграций

Правдоподобный, но неверный ответ модели.

Модель продолжает текст, а не сверяется с фактами. Особенно часто выдумываются числа, даты, цитаты и ссылки. Лечение: источники в промпте, требование «нет данных», проверка фактов человеком.

Источник: Практика применения LLM

Внешние правила и фильтры вокруг модели: что можно на входе и выходе.

Модель — не последняя линия защиты. Проверка формата, фильтр тем, лимиты прав и человек в контуре надёжнее уговоров «не делай так».

Источник: Практика применения LLM

Обход ограничений модели через хитро сформулированный запрос.

Модели обучают отказываться от опасных просьб, но находить обход можно бесконечно. Надёжнее технические запреты: не давать модели реальных возможностей, которые не должны быть доступны.

Источник: Практика безопасности LLM

Попытка через текст заставить модель нарушить инструкции.

Опасна в агентах: вредоносный текст в веб-странице может попросить «отправить данные» или «вызвать инструмент». Защита — не давать агенту прав больше нужного и проверять действия.

Источник: OWASP LLM Top-10