Гулливер попал к великанам и пытался объясниться с фермером. Он говорил на разных языках, фермер наклонялся ближе — понимания всё равно не возникало. Просто прибавить громкости оказалось мало. С помощником бывает сходная неловкость: инструкция лежит на вашем компьютере, а ответ звучит так, будто о её существовании никто не сообщил.
Дадим нашей встрече посильный масштаб: один файл с тремя правилами. Он поместился бы в карман Гулливера, а нам позволит проверить ответ целиком. Узнаем формат изображения, найдём подтверждающую строку и зададим вопрос, на который правила молчат. Так из разговора с огромной программой получится маленькое завершённое дело.
Для пробы используем GPT4All Desktop с LocalDocs. Поиск и ответ оставим на компьютере. Установщик и модели сначала нужно скачать; к проверке без сети перейдём после подготовки. Консоль разработчика и внешний ключ API для этого пути не понадобятся.
Сначала убедимся, что модель помещается на вашем компьютере
Установите приложение по ссылке для своей системы из официального Quickstart GPT4All. Там есть варианты для Windows, Mac и Linux. До загрузки модели проверьте её требования к памяти и свободное место для файла. Если компьютер не поддерживает приложение или выбранную модель, до работы с коллекцией это нужно выяснить.
В Quickstart предлагается начать с Llama 3. В таблице моделей GPT4All у варианта Llama 3 Instruct указаны файл 4,66 ГБ и требуемая RAM 8 ГБ. Это ориентир для конкретного варианта из таблицы, а не размер любого скачивания с похожим именем. При выборе смотрите карточку именно своей модели и учитывайте, что память нужна также системе и открытым программам.
Если названия памяти и требования пока запутывают, можно начать с помощи в DeepSeek. Файл для нашей пробы туда переносить не нужно. Достаточно такого запроса:
Помоги пройти установку GPT4All Desktop и выбрать совместимую локальную модель из официального списка приложения. Сначала уточни мою систему и помоги посмотреть объём оперативной памяти, если я его не знаю. Затем давай по одному действию: что открыть, что нажать и что должно появиться. Жди моего ответа. Сверяй шаги с официальной документацией для моей версии, если у тебя есть поиск; без поиска попроси её нужный фрагмент. Внешний API подключать не будем.
После установки нажмите Start Chatting → + Add Model, выберите совместимую локальную модель и Download. Дождитесь окончания загрузки. В разделе Chats загрузите её через Load Default Model либо соответствующий выбор уже скачанной модели. Отправьте короткое «Поздоровайся одним предложением», чтобы увидеть, что обычный локальный чат запускается. До папки с документами мы ещё не дошли.
Два места, где работа должна остаться локальной
В GPT4All можно подключать удалённых поставщиков моделей, но в этой пробе выбираем скачанный файл модели. Если экран предлагает ввести ключ внешнего сервиса, вернитесь к списку локальных моделей. Официальная справка различает загрузку на компьютер и обращение к API-провайдеру.
Второе место — поиск по документам. Откройте Settings → LocalDocs и проверьте Use Nomic Embed API: переключатель должен быть выключен. По справке настроек он по умолчанию выключен; включение перенесло бы построение представлений документов во внешний API. Для нашего пути LocalDocs использует модель поиска на устройстве.
В общих настройках оставьте выключенным и Enable Datalake — добровольную отправку взаимодействий сообществу GPT4All. Затем можно перейти к учебной папке. У нас теперь определены обе роли: одна локальная модель помогает найти текст, другая составляет ответ по найденному. Они могут быть разными, и отдельно учить свою модель для трёх строк не требуется.
Не меняйте пока длину контекста, размер фрагментов и другие расширенные настройки. Сначала получим ответ из файла; предмет для настройки появится, если увидим конкретное затруднение.
Один файл, содержание которого вы знаете
Создайте отдельную папку, например Проба LocalDocs. Сохраните в ней обычный текстовый файл rules.txt с такими строками:
Встреча 12 мая в 18:00.
Принимаются изображения JPEG.
Записи встречи не будет.На Windows подойдёт Блокнот; на Mac в TextEdit сначала выберите в меню Формат команду перехода к простому тексту, затем сохраните файл с расширением .txt. Если редактор показывает выбор кодировки, используйте UTF-8. Откройте сохранённый файл ещё раз и убедитесь, что три строки читаются, а имя не превратилось в rules.txt.txt.
Положите в папку только этот файл. Так вы будете точно знать, откуда мог взяться ответ. Настоящие личные документы пока оставьте в других папках: для первого результата достаточно этих правил встречи.
В этих правилах уже есть всё для проверки: JPEG указан, фамилии ведущего нет. На первом вопросе помощник может показать строку. На втором ему придётся признать пустое место или выдать себя выдумкой. Организатор пока даже не успел представиться, а машина, бывает, уже готова вручить ему фамилию, диплом и почётную грамоту. Нам достаточно проверить фамилию.
Создаём коллекцию и ждём Ready
Откройте LocalDocs в меню приложения и нажмите + Add Collection. Назовите коллекцию, например Проба встречи, и выберите папку Проба LocalDocs. Проверьте путь: нужна именно маленькая папка с rules.txt. Нажмите Create Collection.
Приложение подготовит текст для поиска. Дождитесь зелёного Ready у коллекции. По официальной инструкции LocalDocs это признак готовности всей коллекции. Если во время подготовки требуется скачать модель для обработки текста, завершите загрузку до следующего шага и до отключения сети.
Если Ready не появляется, прочитайте сообщение рядом с коллекцией. Проверьте выбранную папку и доступность rules.txt, затем разберите точный текст ошибки с помощником. Повторное создание десятка одинаковых коллекций пока не даст новой информации о причине.
Вернитесь в Chats, где загружена ваша локальная модель. Справа сверху нажмите кнопку LocalDocs. В открывшейся панели выберите свою коллекцию Проба встречи. Коллекция уже стоит на полке, но для этого разговора её нужно открыть. Перед вопросом проверьте, что выбрана именно Проба встречи. Готовность папки и доступность её содержимого в текущем чате — два разных шага.
Схема интерфейса по официальной документации: сначала подготовленная коллекция, затем её выбор в текущем чате.
Вопрос, ответ и строка, на которой он держится
В поле сообщения вставьте:
По подключённому файлу rules.txt скажи, в каком формате принимаются изображения. Приведи короткую цитату из файла. Если в найденном тексте этого нет, сообщи, что данных недостаточно.
Вы ищете в ответе JPEG и опору на строку «Принимаются изображения JPEG». Это ожидаемое содержание по нашему файлу. Конкретная фраза модели может отличаться; сверять нужно смысл и основание.
Под ответом раскройте Sources. Найдите среди упомянутых файлов rules.txt. Затем откройте сам rules.txt в своём текстовом редакторе и прочитайте строку о формате. Если ваша версия показывает извлечённый фрагмент в панели, сверяйте и его. Название файла под ответом сообщает, что источник был найден; правильность вывода подтверждает его содержание.
Получилось три звена: вопрос о формате, ответ JPEG и строка в rules.txt. Сохраните их в заметку. Если помощник добавил PNG, перед вами уже видимое расхождение: он расширил правило, которого в источнике нет. Исправьте ответ по своей строке и проверьте его ещё раз. Польза первой пробы как раз в том, что лишнее условие здесь негде спрятать.
Если модель рассуждает о форматах вообще, хотя коллекция выбрана, повторите вопрос с уточнением «из подключённых документов». Такую адресную формулировку рекомендует раздел устранения проблем LocalDocs. Затем снова откройте Sources и проверьте строку. Красивый ответ без подходящего основания ещё не завершает эту пробу.
Схема проверки источника. Ответ JPEG здесь показан как ожидаемый результат по нашему файлу, а не как сохранённый ответ запущенного приложения.
Вопрос, для которого в файле ничего нет
Теперь в том же чате спросите:
Как фамилия ведущего встречи? Ответь только по подключённому файлу. Если фамилия не указана, так и скажи.
Откройте rules.txt и проверьте ещё раз: фамилии там действительно нет. Посмотрите, что сделал помощник. Если сообщил об отсутствии сведений, сохраните этот ответ рядом с вопросом. Если назвал человека, отметьте ошибку и попросите показать цитату, которая содержит эту фамилию. Нужной строки в нашем файле не найдётся.
Смотрите на то, как ответила ваша модель. Она может верно найти JPEG и тут же придумать фамилию: это два разных результата одной пробы. В справке GPT4All описано, что найденный текст иногда используется плохо. Поэтому сохраните оба ответа рядом. Правильный известный факт не стирает ошибку на неизвестном вопросе.
При ошибке можно сделать ещё один адресный заход в новой беседе с той же коллекцией: «Проверь, есть ли в rules.txt фамилия ведущего. Если нет, ответь: “В файле фамилия не указана”». Снова сравните ответ с файлом и сохраните результат. Если выдумки продолжаются, с этой моделью стоит сначала разобраться на короткой пробе либо выбрать другую совместимую локальную модель. Для первой удачной пробы сначала добейтесь понятного поведения на этих трёх строках.
Повторяем короткий вопрос без сети
Завершите загрузки приложения и моделей, дождитесь Ready и убедитесь, что локальная чат-модель уже загружена. Сохраните другие дела, которым нужен интернет. Затем временно отключите сеть на компьютере обычным для вас способом и повторите короткий вопрос о формате изображений.
После ответа откройте Sources и снова сверьте rules.txt. Запишите, пришёл ли ответ без сети и что именно было видно в основании. Если приложение запросило сеть или нужные компоненты не загрузились, сохраните точное сообщение. Верните подключение, разберитесь с незавершённой загрузкой или выбранным провайдером, затем повторите короткую проверку.
Так вы проверяете выбранный путь на своём компьютере. Локальный RAG здесь включает обе роли: поиск по тексту и составление ответа. После необходимых загрузок известный вопрос должен пройти без внешней чат-модели и внешнего построения embeddings. Если приложение всё же запросило сеть, вернитесь к месту этого запроса и выясните, какая часть осталась неподготовленной.
Схема локального пути: после необходимых загрузок известный вопрос повторяют с отключённой сетью и читают источник.
По каким признакам первая попытка состоялась
| Что проверили | Что зафиксировать |
|---|---|
| Известный вопрос о формате | Ответ, JPEG и подтверждающую строку rules.txt |
| Источник под ответом | rules.txt в Sources и его содержание |
| Неизвестная фамилия | Реальный ответ: признал отсутствие или выдумал |
| Повтор без сети | Ответ пришёл либо точное сообщение о незавершённом шаге |
Для следующей пробы возьмите один небольшой собственный документ, ответ в котором можете проверить. Подойдут правила своего мероприятия, заметка о поездке или перечень условий. Сначала прочитайте его сами, затем задайте известный вопрос и ещё один, на который документ ответа не даёт. Такой порядок позволяет увидеть разницу между поиском и уверенной догадкой.
Если локальная установка вам сейчас не подходит, у работы с источниками в NotebookLM другой путь: облачный сервис. А если источник уже найден, но хочется точнее управлять итоговым изложением, попробуйте собрать инструкцию из предоставленного материала. Выбирайте продолжение по следующей задаче, которую действительно хотите решить.
Частые вопросы
Нужно ли дообучать модель на своём файле?
Для этого упражнения — нет. LocalDocs готовит файл для поиска, выбирает подходящий текст и добавляет его к вопросу модели. Файл не превращается в новое обучение весов. Изменили документ — проверьте готовность коллекции и снова задайте вопрос по актуальному содержанию.
Почему не подключить сразу всю папку Документы?
С одной известной записью легче проверить, что именно нашли и откуда взялось утверждение. Большой архив принесёт больше разных источников и вопросов к ним. Он может стать следующим делом после короткой понятной пробы.
Можно ли считать Sources знаком правильного ответа?
Это указатель на использованный файл. Откройте его и найдите строку, подтверждающую утверждение. Если там написано JPEG, а ответ добавляет PNG, лишний формат не подтверждён.
Что делать, если модель не загружается?
Сначала проверьте совместимость и требования выбранного варианта. Официальный Troubleshooting предлагает попробовать поддерживаемую модель из основного списка приложения. Передайте помощнику название модели и очищенный текст ошибки, затем пройдите один шаг по актуальной справке.
Оставьте в заметке известный ответ, его строку, ответ на неизвестный вопрос и результат без сети. По этим четырём следам видно, что получилось именно у вас. Потом можно взять следующий документ. Маленькому rules.txt удалось добиться внимания огромного инструмента — и кричать в ухо великана для этого не пришлось.