Хотели позвать друзей к реке, попросили помощника набросать приглашение. Он торжественно открыл мероприятие, утвердил программу и почти назначил ответственного за термос. Ещё немного — и чай придётся наливать после приветственного слова. «Мы просто идём гулять», — уточнили вы. Во втором ответе наконец появились река, чай и нормальные человеческие слова. Возникает приятная мысль: нейросеть только что научилась на вашем замечании.
В разговоре это естественно назвать обучением. Но вы могли просто дополнить сегодняшнюю задачу: раньше в ней было мероприятие, теперь — прогулка к реке. Разберём инференс нейросети, чтобы понимать, что произошло и как сделать следующую попытку удачнее. Для хорошего приглашения нам пригодится ещё одно условие о встрече.
Связка ключей и хозяйственная брань однажды подвели Чичикова: он принял Плюшкина за ключницу. Хозяин огромного имения стоял перед гостем, а тот уже успел обратиться к нему «матушка» и спросить, где барин. Вывод по знакомым приметам готов — теперь попробуй его поправь. Модель тоже может применить выученные связи к новому случаю и промахнуться. Само слово «инференс» обозначает получение результата; его удачность проверяем отдельно.
Инференс нейросети начинается с того, что она уже умеет
Возьмите листок и напишите правило: полученное число умножаем на два. Чуть ниже поставьте тройку и посчитайте ответ — шесть. Затем обведите двойку в самом правиле. Она осталась на месте: мы использовали её, ничего внутри правила не меняя. Эта маленькая модель позволяет увидеть то, что в большом чате спрятано за красивым полем ввода.
Вот весь этот путь: новые данные → готовая модель → результат. Число три пришло снаружи, число шесть получилось на выходе, а обведённая двойка задавала способ расчёта. Так инференс нейросети можно сначала представить на одном параметре. У большого помощника вычисления сложнее, но различие между новым входом и подготовленной моделью сохраняется.
Учебная модель: меняется вход, множитель остаётся равным двум.
В настоящей большой модели внутренних чисел много. Их называют параметрами, а часть — весами. Во время обучения их подбирают по данным. При обычном применении модель использует найденные значения для новой задачи. Можно пока оставить за кадром её размер и число слоёв: обведённая двойка уже помогла увидеть главное.
Ответом бывает категория фотографии, оценка вероятности события или продолжение текста. Инференс нейросети может работать и там, где никто с ней не беседует: система обработала снимок и присвоила ему категорию. Чат даёт более заметный пример. Вы отправили сообщение, после вычисления получили текст; теперь можно проверить, подходит ли он к вашему делу.
Научить правило и применить правило — два разных дела
Теперь отдельно рассмотрим обучение. Дали модели примеры, знаем правильные ответы и сравниваем их с предсказаниями. Ошибка помогает понять, как изменить внутренние параметры, чтобы следующие предсказания стали лучше. После изменения проверяем результат снова.
В уроке Google о градиентном спуске этот процесс разобран как последовательность: вычислить ошибку, определить направление изменения параметров и сделать небольшой шаг. Для нашей задачи достаточно заметить сам факт изменения. Если множитель сдвинулся, мы уже делаем другой вид работы.
Отдельно выпишите другой случай. Модель пока умножает на один. На входе два, её ответ тоже два, хотя в нашем учебном наборе правильный ответ — четыре. После выбранного шага обучения множитель сдвигается с единицы до 1,8. Тогда на том же входе получится 3,6 — ближе к четырём. На этот раз менять надо было именно обведённое число. Такая поправка затронет и результаты на других входах.
В обучении ошибка участвует в изменении параметра. В обычном применении такого шага нет.
А инференс нейросети из первого примера начинался уже с готового множителя два. Подставили тройку, получили шесть; затем можем дать пятёрку и получить десять. Новые входы не заставляют снова подбирать множитель. Теперь две карты легко различить по одному месту: в обучении есть шаг изменения параметра, в применении фиксированного правила его нет.
| Что происходит | Что подаём | Что меняется |
|---|---|---|
| Обычное применение готовой модели | Новые данные или запрос | Получаем новый результат; параметры модели сохраняются |
| Обучение по примерам | Данные и сведения, по которым можно оценить ошибку | Подбираются параметры модели |
| Уточнение в беседе | Новое условие, исправление, образец ответа | Материал, на который опирается очередной ответ |
| Сохранённое предпочтение в сервисе | Например, пожелание к длине объяснений | Сведения, которые сервис может подставить в будущую задачу |
Не каждый способ обучения требует вручную подписанных человеком ответов. Здесь мы взяли понятный пример с известной целью, чтобы увидеть отличие. Важен вопрос: используется ли готовая модель или мы отдельным процессом меняем её параметры?
Термос вернулся в текст: что изменило уточнение
В первом запросе было только «приглашение». Во втором появилось: «к реке, с термосом, без торжественности». Помощнику наконец выдали карту местности вместо слова «поездка». Теперь условия другие, хотя общие навыки модели могут оставаться теми же. Инференс нейросети использует доступный ей материал разговора, поэтому новое сообщение способно заметно изменить результат.
Посмотрите на свой короткий запрос: приглашение, список вещей для поездки, объяснение незнакомого слова. Что в нём осталось за кадром? Вы собираете рюкзак для прогулки у дома или едете с ребёнком на весь день? Помощник может не угадать это по слову «прогулка». Добавьте условие, которое меняет результат, и сравните новую версию с первой.
Чтобы не угадывать, какого условия не хватает, откройте DeepSeek и предложите помощнику задать вопрос. В поле сообщения вставьте запрос ниже, заменив скобки обычным описанием своего дела. Первым результатом будет уточняющий вопрос — ответьте на него, а затем сравните новую версию с прежней.
Помоги улучшить мой запрос. Я хочу получить [что именно], у меня уже есть [текст, заметки или обычное описание]. Сначала задай один вопрос о том, чего тебе не хватает для полезного ответа. Дождись моего ответа. Затем сделай новую версию и коротко покажи, какое моё уточнение повлияло на неё. Если данных достаточно, сразу предложи результат. Не придумывай отсутствующие сведения.В приглашении стало понятно, куда и когда вы зовёте? В списке появился запасной комплект одежды для ребёнка? Помощник объяснил незнакомое слово через понятный вам предмет? Это видимое изменение результата. Его можно получить, сообщив нужный факт в разговоре, даже когда параметры модели остались прежними.
Если приглашение всё ещё звучит как повестка на съезд, покажите помощнику одну свою обычную фразу: «Будем у моста в одиннадцать, берите чай». Попросите сохранить факты и приблизить тон к этой реплике. Образец стал ещё одним условием задачи. Теперь проверьте время и место: приглашение должно довести друзей до моста, даже если торжественный президиум уже распущен.
Просьба на полях: где здесь память чата
Допустим, вы попросили объяснять медленнее и по одному шагу. Помощник перестал пролетать над кнопками, как экскурсовод над городом из окна самолёта, и дождался, пока вы откроете файл. В этой беседе ваша просьба может оставаться доступной. Если сервис умеет сохранять предпочтения, она может попасть и в будущие задачи. Для этого не обязательно менять параметры большой модели.
Представьте запись на полях задания: «Объяснять человеку, который впервые делает это сам». Даже с прежними навыками исполнитель начнёт иначе. В обычном разговоре инференс нейросети может учитывать такую запись как часть входных сведений. Чтобы понять конкретный сервис, отдельно смотрят, какие материалы он хранит и что добавляет в следующий запрос.
Тема памяти подробно разобрана в статье о контексте и сохранённых предпочтениях. Переходите к ней, если главный вопрос звучит так: «Почему в новом разговоре он что-то помнит, а что-то нет?» Для нашей карты достаточно разделить текущую задачу, сохранённые сведения и обучение модели.
Есть и отдельные системы с обучением или адаптацией во время эксплуатации. Если в описании программы прямо заявлен такой процесс, рассматривайте его отдельно от расчёта очередного ответа. Здесь мы разбираем обычное применение готовой модели. Уточнение про термос объясняет изменение сегодняшнего текста без предположения о дополнительном обучении.
Ответ можно посчитать сейчас или приготовить заранее
У инференса есть ещё одно полезное различие. Иногда модель получает новый запрос и вычисляет результат по нему прямо сейчас. Иногда она заранее обработала набор данных, а сервис сохранил результаты и позже достаёт нужный. В уроке Google о способах инференса эти варианты названы динамическим и статическим.
Представьте фотосервис, который заранее разложил ваши снимки по категориям. Вы открываете подборку, а признаки для неё уже рассчитаны. И другой случай: вы принесли новую фотографию, которую сервис ещё не обрабатывал. Нужно выполнить вычисление для нового входа. В обоих случаях модель применяют; отличие — в моменте расчёта и выдачи.
Расчёт по запросу и заранее сохранённый результат: два способа организовать выдачу.
Заранее рассчитанные ответы можно выдавать быстро; для отсутствующего в наборе случая понадобится другой маршрут. Расчёт по запросу получает новые данные и запускает вычисление в момент обращения. Представьте свою вчерашнюю подборку снимков и фотографию, которую вы сделали секунду назад. Разница в организации работы становится понятнее, хотя на экране в обоих случаях может появиться такая же аккуратная карточка.
Для выбора следующего действия разделите два вопроса. «Мне подходит получившаяся подборка?» — это можно проверить своими глазами. «Когда модель посчитала признаки этих фотографий?» — это уже вопрос к описанию системы. Инференс нейросети не имеет обязательной внешней приметы вроде вращающегося колёсика. Удачный результат оценивают по задаче, способ его получения выясняют отдельно.
Карта собственного разговора вместо экзамена по терминам
Вернитесь к двум версиям своего приглашения или другого текста и подпишите три вещи: задача → новое уточнение → заметное изменение результата. Например: приглашение на прогулку → река, чай и время у моста → короткий текст с понятной встречей. Если изменение не связано с уточнением, спросите помощника о пропущенном условии и попробуйте ещё раз. У вас останется одна удачная версия и понятный приём, которым можно воспользоваться завтра.
Если хочется проверить именно арифметическую разницу, выпишите правило «умножить на два». Подставьте три, затем пять. Получатся шесть и десять, множитель останется прежним. Это модель обычного применения. Теперь отдельно замените сам множитель и посмотрите, как поменялись результаты на тех же входах. Вы уже тронули устройство модели.
Инференс нейросети в большом чате устроен сложнее этой арифметики, но вопрос остаётся узнаваемым: что стало другим — входные сведения или параметры? Для своей задачи полезно сначала найти то, что вы добавили сами. Река, термос и время у моста заняли одну строку, зато дали помощнику материал для нужного приглашения.
Частые вопросы
Почему один запрос даёт разные ответы без нового обучения?
В генерации может участвовать выбор среди нескольких возможных продолжений. На результат также влияют доступный контекст, настройки и версия модели. Разные тексты сами по себе не означают, что веса изменились. На одном выбранном варианте ответа проверяйте соответствие своей задаче.
Модель повторила мою фразу. Я её обучил?
Она могла использовать фразу из текущего разговора как образец. Чтобы говорить именно об обучении параметров, нужно знать, что был такой процесс. Удачное повторение полезно само по себе: вы показали, какая формулировка вам подходит.
Нужно ли устанавливать программу для инференса?
Если вы пользуетесь готовым чатом, вычисления организует сервис. Установка локальной модели — отдельный способ работы и отдельная задача. Для начала достаточно уже доступного помощника и своего запроса. Если пока непонятно, что ему поручить, выберите первую небольшую задачу для ИИ.
Что я должен запомнить из всего объяснения?
Инференс нейросети — применение того, что модель уже умеет. Новое условие помогает ей по-другому решить сегодняшнюю задачу; обучение меняет её параметры отдельным процессом. У вас уже есть удачное приглашение и понятный способ его получить. Можно отправляться к реке. Термосу тоже полезнее быть там, чем возглавлять оргкомитет.