Локальный ИИ без интернета: что подготовить и как проверить

Что может работать без интернета

Локально установленная программа может отвечать с помощью скачанной модели. У LM Studio разработчик отдельно описывает автономную работу чата, обработки документов и локального сервера. Поиск и загрузка новых моделей, загрузка движков и проверка обновлений требуют соединения. Поэтому наличия значка программы на рабочем столе недостаточно: подготовить нужно и данные модели, и компоненты запуска.

Это относится к проверяемым локальным функциям. Подключённый облачный помощник, веб-поиск или внешний инструмент могут иметь свои зависимости. Сначала определите задачу, которую собираетесь выполнять без сети: обычный чат, чтение документа или доступ к модели с другого компьютера.

Что подготовить, пока интернет доступен

1. Зафиксируйте модель и программу. Запишите версию приложения, точное имя файла или идентификатор модели, квантование и нужный контекст. Не подменяйте одну модель другой в середине проверки.
2. Загрузите модель и движок. В LM Studio движки поставляются отдельными пакетами; их поиск и загрузка используют сеть. Загрузите выбранную модель хотя бы один раз, чтобы обнаружить недостающие компоненты до отключения интернета.
3. Выполните рабочую пробу. Отправьте обычный вопрос и откройте типичный документ. Если используете поиск по документам, распознавание сканов или отдельный клиент, проверьте и эти компоненты. Конкретные зависимости зависят от вашей связки программ.
4. Сохраните файлы на самом компьютере. Ссылка на файл в облачном хранилище не заменяет доступную локальную копию. Откройте документ из выбранной папки. Место под библиотеку и дополнительные копии можно посчитать по инструкции о бюджете SSD.

Для Ollama выберите именно локальную скачанную модель. В официальном FAQ описан локальный режим: например, OLLAMA_NO_CLOUD=1 с перезапуском Ollama. Это отключает облачные модели и веб-поиск Ollama, но не проверяет настройки отдельного интерфейса, который к ней подключён.

Четыре этапа проверки

Следующие действия — предложенная процедура. Чек-лист на схеме фиксирует ваши отметки и не запускает тест на компьютере.

1. Онлайн: подготовьте исходную точку. Убедитесь, что выбранная локальная модель загружается и отвечает, а программа открывает нужный тип документа. Запишите версии и настройки.
2. Без интернета: начните новый чат. На одном компьютере можно отключить его внешние подключения. Проверьте, что нет запасного соединения, например мобильной точки доступа. Отправьте новый вопрос выбранной модели. Не считайте уже видимый старый ответ результатом этой пробы.
3. Без интернета: перезапустите программу. Полностью закройте приложение или перезапустите используемый сервис обычным способом. Снова откройте программу, загрузите ту же модель и повторите вопрос в новом чате. Этот этап проверяет запуск заново, когда прежний сеанс уже завершён.
4. Без интернета: проверьте свежий документ. Создайте новый TXT с уникальным кодом и заранее известными фактами. Прикрепите его в ещё одном новом чате и задайте вопросы. Если работаете с PDF или DOCX, затем повторите пробу с нужным вам форматом.

Если по задаче важен запуск после включения компьютера, дополнительно повторите пробу после перезагрузки ОС, всё ещё без интернета. Успешный перезапуск приложения сам по себе этого не подтверждает.

Свежий документ: пример с проверяемым ответом

Создайте файл после отключения сети. Для своей проверки замените код, время и кабинет на новые значения и сохраните их отдельно от чата. Пример ниже вымышленный:

Учебная записка «БЕРЕГ-4826». Встреча назначена на 16:40 в кабинете 312. Имя ответственного в записке не указано.

Прикрепите TXT и попросите: «Назови код записки, время и кабинет. Кто ответственный? Если сведений нет, так и напиши». Ожидаемые сведения в этом примере: БЕРЕГ-4826, 16:40, кабинет 312; ответственный не указан. Проверяйте извлечённые факты, а не буквальное совпадение всей формулировки.

Свежий код помогает отличить чтение нового файла от повторения сведений из прежней беседы. Этот пример проверяет обработку нового вложения; короткий TXT не подтверждает поиск по большой базе документов. В описании работы LM Studio с документами различаются передача короткого текста целиком и поиск фрагментов для длинного документа. Для рабочего архива повторите испытание с характерным объёмом и форматом.

Если модель стоит на другом компьютере в локальной сети

Отсутствие интернета и отсутствие локальной сети — разные условия. Если ноутбук обращается к модели на FEVM через роутер, отключение Wi-Fi ноутбука разорвёт и полезное локальное соединение. В таком сценарии сохраняют связь внутри своей сети, а недоступность внешнего интернета проверяют отдельно для клиента и компьютера с моделью. Для корпоративной сети способ проверки согласуйте с её администратором.

В конфигурации клиента должен быть адрес вашего локального сервера. localhost на ноутбуке обозначает сам ноутбук, поэтому не подставляйте его вместо адреса другого компьютера. Проверьте сначала локальный ответ на компьютере с моделью, затем ответ через клиент. Открывать доступ к серверу из интернета для этой проверки не требуется.

Как понять причину сбоя

Что записать в результат

Дата → ОС и драйвер → приложение и движок → точная модель → контекст → способ отключения внешней сети → ответ до перезапуска → ответ после перезапуска → факты из нового файла → результат локального клиента, если он нужен.

Сохраните фактические ответы или ошибки для каждого этапа. Успешный результат подтверждает автономную работу только проверенной связки и задачи. Он не доказывает отсутствие всех сетевых обращений, не заменяет аудит приватности и не подтверждает скорость на другом устройстве.

Для FEVM FAEX1 передайте эту карточку вместе с желаемой ОС и примером рабочего документа. Установку программ и настройку согласуют отдельно. В комплектации с 128 ГБ это общая память CPU/GPU, а возможность запуска выбранной модели и её ускорение нужно проверять в конкретной программной среде. Если программа ещё не выбрана, начните со сравнения LM Studio и Ollama.