Локальный ИИ · понятно и по делу
Разобраться.
Выбрать. Начать работу.
Память, программы и работа с документами — объясняем на схемах и примерах. Помогаем понять, что проверить перед покупкой компьютера для локальных нейросетей.
SSD и библиотека моделей
Как посчитать место на SSD для локальных нейросетей
Реальные размеры файлов, копии и свободный запас. Составьте бюджет места перед выбором накопителя.
Читать статью →
Программы для локального ИИ
LM Studio или Ollama: как выбрать программу для первого локального ИИ
Сравнение LM Studio и Ollama по документации: чат, документы, локальный режим и подключение программ. Как проверить выбранный вариант на FEVM FAEX1.
Читать статью →
Память и локальные модели
Сколько памяти нужно для локальной нейросети: 7B, 14B, 32B и 70B
Расчёт памяти для локальных нейросетей 7B, 14B, 32B и 70B: веса, квантование, контекст и проверка перед покупкой компьютера со 128 ГБ RAM.
Читать статью →