Домашний ИИ-сервер: NAS, мини-ПК или ПК — скорость решает память, а не NPU

Коротко: какой домашний ИИ-сервер взять под бюджет и задачу

Домашний сервер для ИИ — это машина, которая круглосуточно держит открытую языковую модель и отвечает на запросы с ноутбука или телефона внутри дома, без облака. Чаще всего эту работу делает Ollama — бесплатная программа, которая скачивает модели, запускает их и отдаёт другим устройствам через API. Коробок под неё три: NAS, мини-ПК и обычный ПК с видеокартой.

Выбор между ними решают не надписи «AI» на корпусе, а память: сколько её и как быстро она читается.

• NAS (сетевое хранилище вроде Synology или QNAP) выдаёт на модели 7–8 млрд параметров около 1–6 токенов в секунду. Это расчётная оценка, а не лабораторный замер. Хватает для ночных задач, фото и камер, но не для живого чата.
• Мини-ПК даёт 6–9 ток/с на Intel N150 и 18–25 на Ryzen 7 8845HS. Мини-ПК на Ryzen AI Max+ 395 со 128 ГБ памяти тянет gpt-oss-120b примерно на 50 ток/с, но на 3 октября 2026 года такие машины стоят $3 324–3 650.
• ПК с видеокартой самый быстрый: RTX 3060 12 ГБ выдаёт около 42 ток/с на 8B, RTX 3090 — 95 ток/с на 7B. Платить за это приходится ваттами (300–400 Вт под нагрузкой у системы с картой уровня RTX 3090) и шумом.
• NPU в «AI-коробках» Ollama не ускоряет — генерация идёт на процессоре или видеокарте.
• Безопасность входит в выбор: встроенной авторизации у Ollama нет, а открытые в интернет серверы находят сканеры.

Скорость ИИ дома упирается в память, а не в ядра и NPU

Модель на сервере — это файл весов на несколько гигабайт. Чтобы напечатать каждый следующий токен (кусочек слова), машина заново прочитывает из памяти все веса, которые участвуют в расчёте. Поэтому скорость ответа ограничивает не число ядер, а пропускная способность памяти: сколько гигабайт в секунду она отдаёт. Starry Hope формулирует правило коротко: удвоили пропускную способность — получили примерно вдвое больше токенов в секунду.

Домашний сервер для LLM удобно оценивать по трём осям:

WTIBRENT

Binance · Wall Street 24/7Новости двигают нефтьWTI · BrentРеагируйте сразу: нефть на Binance торгуется круглосуточно

WTIBRENTGAS

Цена нефти сейчас

1. Ёмкость памяти — влезет ли модель вообще. Не влезла — она либо не запустится, либо будет частично читаться с диска и «ползти».
2. Скорость памяти — сколько токенов в секунду вы увидите. Это главный параметр для чата.
3. Ватты, шум и деньги — сколько коробка съедает за год и можно ли поставить её в жилой комнате.

Как это работает на цифрах. Мини-ПК на Intel N150 с одноканальной памятью отдаёт около 38 ГБ/с и печатает 6–9 ток/с на модели 7–8B. Ryzen 7 8845HS с двухканальной DDR5-5600 даёт около 89 ГБ/с — в 2,3 раза больше — и 18–25 ток/с, то есть примерно в 2,8–3 раза быстрее: правило приблизительное, но порядок держит. Платформа Ryzen AI Max+ 395 (кодовое имя Strix Halo) — это до 128 ГБ LPDDR5X-8000 на 256-битной шине и 256 ГБ/с в теории, около 215 ГБ/с на практике. Подробнее о том, как ёмкость и скорость памяти переводятся в выбор железа, — в нашем гиде по выбору железа для локального ИИ.

Чип для ноутбука с ИИ: почему память, ОС и цена важнее 50 и 80 TOPS

RTX PRO 5500 против RTX 5090 для ИИ: 84 ГБ без цены NVIDIA и замеров или 32 ГБ сейчас

MEXC отрежут от финансовой системы США: FinCEN заявил о $16,7 млрд незаконных потоков

Lemonade 2026.45.3: локальный ИИ-сервер с поддержкой AMD получил новый интерфейс

GPT-6 Cyber: 948 эксплойтов для Linux и 81 уязвимость в Firefox, доступ не для всех

Почему 120B бывает быстрее 70B. Модели бывают плотные и MoE (mixture of experts, «смесь экспертов»). Плотная 70B на каждый токен читает все 70 млрд параметров. MoE-модель gpt-oss-120b хранит 120 млрд, но на токен задействует около 5 млрд активных. Читать на каждом шаге приходится примерно в 14 раз меньше. Отсюда разница на одном и том же мини-ПК: gpt-oss-120b — 49–54,5 ток/с, плотная 70B — около 4–5 ток/с. Значит, «какая модель самая большая» и «какая модель будет быстрой» — два разных вопроса.

Где здесь NPU. NPU — отдельный блок процессора для нейросетевых задач, его продают как главную фишку «AI-компьютеров». Но Ollama, LM Studio и llama.cpp генерацию LLM на NPU не направляют: нагрузка ложится на процессор и видеокарту. Чем эти программы отличаются по скорости на одной модели, мы разобрали по сведённым замерам в сравнении Ollama, LM Studio и llama.cpp.

Какие модели потянут NAS, мини-ПК и видеокарты: скорость в ток/с

Цифры — токены генерации в секунду для одного пользователя и одного запроса, по сводкам Hardware Corner, mustafa.net, Starry Hope, ComputingForGeeks и замерам на GitHub. «н/д» — нет проверенного замера; угадывать мы не стали. Q2 — сильное сжатие, при котором модель заметно теряет в качестве.

NAS как ИИ-сервер: 1–6 токенов в секунду и где он полезен

NAS — сетевое хранилище с дисками, которое и так работает дома круглосуточно. Поставить на него Ollama через Docker можно, но процессоры NAS слабые, а память медленная. Оценки по пропускной способности памяти для модели 7B с 4-битным квантованием выглядят так:

Это расчётные диапазоны runaihome и NeedToKnowIT, а не лабораторные замеры: лабораторных замеров Ollama на NAS с описанной методикой мы не нашли. Потолок обычного NAS — около 6 ток/с. Для сравнения, Starry Hope называет разговорной скоростью 18–25 ток/с.

Возьмём Synology DS925+ как типичный современный 4-дисковый NAS: Ryzen V1500B (4 ядра, 8 потоков, 2,2 ГГц), 4 ГБ DDR4 ECC из коробки и максимум 32 ГБ, два слота M.2 NVMe и два порта 2,5 GbE.

USDT→

Binance · Wall Street 24/7Акции США без брокераТоргуйте ценой Apple, Nvidia и Tesla прямо из аккаунта Binance

AAPLNVDATSLA

Первая сделка за 5 шагов

Оговорка: оценка 4–6 ток/с исходит из двухканальной памяти. Из коробки DS925+ идёт с одним модулем на 4 ГБ: память работает в одноканальном режиме, а модель 7B в 4 бита (около 4–5 ГБ) вместе с DSM в неё не поместится. Под Ollama нужна пара модулей, до 2 × 16 ГБ.

Почему не поставить видеокарту. По данным HomeTechOps, на большинстве моделей Synology проброс GPU в контейнеры фактически недоступен: аппаратное ускорение DSM отдано собственным приложениям Synology. Toolhalla добавляет, что наличие PCIe-слота ещё не значит поддержку видеокарты. У QNAP всё зависит от конкретной пары «модель NAS + карта». Официального документа Synology о поддержке GPU для Docker на моделях Plus мы не нашли.

Где NAS полезен. Сильная сторона NAS — не языковые модели, а «тихий» ИИ рядом с данными:

• Фотоархив Immich (замена Google Фото с поиском по лицам и объектам) работает на Synology через Container Manager — неофициально, силами сообщества. Без ускорения первое сканирование архива на 100 тыс. снимков и больше занимает дни.
• Камеры Frigate (распознавание людей и машин) на Synology упираются в отсутствие GPU. HomeTechOps советует поставить рядом мини-ПК на Intel N100 и оставить записи на NAS.
• Ночной пакет. Пример: 100 кратких выжимок по 500 токенов — это 50 000 токенов. При 5 ток/с генерация займёт около 2,8 часа, то есть уложится в ночь. Время, за которое модель прочитает сами документы, сюда не входит, а на процессоре NAS оно тоже заметное.

«AI NAS» и NPU: что дают Minisforum N5 Pro и UGREEN iDX

В 2026 году появился класс гибридов: корпус NAS с отсеками под диски, а внутри — процессор от ноутбука или мини-ПК. Маркетинг подаёт их как «AI NAS», и ставка делается на NPU.

Что эти коробки дают на деле:

• Процессор и память сильнее, чем у классического NAS. У N5 Pro внутри PRO-версия чипа Ryzen AI 9 HX 370 — того же, что ставят в мини-ПК для ИИ. Скорость на модели определит память, как у мини-ПК на этом чипе.
• NPU для Ollama бесполезен. Ollama, llama.cpp и LM Studio генерацию на него не отправляют. Задействовать NPU можно отдельными программами вроде FastFlowLM, но это отдельный путь со своими моделями. Софт меняется быстро, поэтому формулировка верна на дату публикации.
• OCuLink и PCIe-слот — путь к внешней или низкопрофильной видеокарте. У N5 Pro слот x16 по размеру работает как PCIe 4.0 x4 — для инференса это терпимо, но полосу карты урежет.
• Софт сырой. TechRadar тестировал UGREEN на предсерийной прошивке: встроенный ассистент Uliya перестал отвечать после серии установок и удалений моделей через терминал и ожил только после переустановки модели Uliya. Сам обозреватель пишет, что ПО ещё развивается.

Вывод для выбора: «AI NAS» — это мини-ПК с отсеками под диски. Брать его имеет смысл, когда нужны обе роли в одном корпусе, а не ради NPU.

Мини-ПК для ИИ-сервера: от N150 до Ryzen AI Max+ 395

Мини-ПК для ИИ — самый тихий и экономный способ держать модель включённой 24/7. Внутри три ступени, и разница между ними снова упирается в память.

ПСП здесь — пропускная способность памяти.

Средняя ступень — разумный мини-ПК для локального ИИ на 7–14B. Ryzen 7 8845HS с 32 ГБ сменной DDR5 даёт разговорную скорость на 8B, а память можно заменить. На 3 октября 2026 года Beelink SER8 в такой конфигурации стоит $859.

Strix Halo — ёмкость, а не скорость. Из 128 ГБ общей памяти до 96 ГБ отдают графике через BIOS, а на Linux с настройкой GTT — около 120 ГБ. Это единственная коробка из трёх, где gpt-oss-120b помещается целиком. На свежих сборках llama.cpp она выдаёт 49–54,5 ток/с, а в отдельных прогонах на GitHub — 53,4 ток/с. Плотная 70B влезает, но идёт на 4–5 ток/с: для чата медленно, для пакетных задач терпимо.

Цены на 3 октября 2026 года по сводке ComputingForGeeks: Bosgame M5 со 128 ГБ — $3 324,04, GMKtec EVO-X2 со 128 ГБ — $3 649,99. Framework Desktop со 128 ГБ в январе 2026 года подорожал до $2 459 из-за дорожающей LPDDR5X (Tom’s Hardware, 13 января 2026). Более свежей цены у нас нет, актуальную смотрите в конфигураторе Framework.

Ватты и шум. В простое EVO-X2 потребляет 8–14 Вт, Framework Desktop — 10–20 Вт. Под нагрузкой ИИ — 120–170 Вт у розетки, в зависимости от режима: у EVO-X2 их три — Quiet 54 Вт, Balanced 85 Вт и Performance 140 Вт. Framework с вентилятором Noctua шумит на 36–37 дБА в простое и на 39–41 дБА под нагрузкой (ServeTheHome). EVO-X2 в режиме Performance — от 35 дБ, тройку вентиляторов слышно.

ПК с видеокартой как ИИ-сервер: самый быстрый и самый шумный

У видеокарты своя память (VRAM) с пропускной способностью, недоступной мини-ПК, поэтому на моделях, которые влезают в VRAM, ПК с картой вне конкуренции. Ограничение одно и жёсткое: модель должна уместиться в видеопамять.

Цены на подержанную RTX 3090 в старых гайдах — $700–800, но это уровень 2025 года. В августе 2026 года за неё просили $1 000–1 300.

Что это значит в квартире. По сводке Toolhalla, вся система с одной картой в простое потребляет 50–80 Вт и не слышна, при лёгкой работе — 150–250 Вт с гулом вентиляторов, под полной нагрузкой — 300–400 Вт, и шум заметен. С двумя картами — 500–700 Вт и громко. Сама RTX 3060 в простое берёт 8–20 Вт, но, по данным HomeTechOps, может «залипнуть» в рабочем режиме P0 и держать 35–40 Вт — это зависит от драйвера.

Как снизить шум. Ограничьте мощность карты: Toolhalla приводит пример, где лимит RTX 3090 снижали с 350 до 280 Вт. Температура падает на 10–15 °C, вентиляторы заметно тише, а скорость теряет 5–10%. Команда для NVIDIA на Linux:

sudo nvidia-smi -i 0 -pl 280

Лимит держится до перезагрузки; чтобы он применялся всегда, команду ставят в автозапуск, например отдельным systemd-юнитом.

Когда ПК с картой — самый дешёвый путь. Если видеокарта уже стоит в игровом или медиа-ПК, сервер для Ollama не потребует трат на железо: HomeTechOps оценивает такую карту уровня RTX 3060 12 ГБ в 30–60 ток/с на 8B. Подбор комплектующих под новую сборку по бюджету мы разобрали отдельно — в материале про сборку с видеокартой, список деталей здесь не повторяем.

Сколько стоит держать ИИ-сервер включённым: электричество в гривнах

Формула простая: ватты × 8 760 часов в году ÷ 1 000 × тариф. Тариф для большинства бытовых потребителей Украины — 4,32 грн за кВт·ч: 8 октября 2026 года правительство продлило его до 30 апреля 2027 года включительно. На 27 октября 2026 года с двухзонным счётчиком ночью (23:00–07:00) действует коэффициент 0,5, то есть 2,16 грн.

Наш расчёт для типичного сценария: коробка включена круглосуточно и два часа в день генерирует ответы. Потребление взято из середины диапазонов выше.

Три вывода из таблицы:

1. Счёт определяет простой, а не нагрузка. ПК с картой только в простое за год стоит 2 271 грн — в пять раз больше простоя мини-ПК (454 грн) и больше, чем мини-ПК обходится за год вместе с нагрузкой (889 грн).
2. NAS почти ничего не добавляет к счёту, потому что он и так работает круглосуточно. ИИ на нём — это 32 грн в год сверху.
3. Медленный NAS не экономнее на ответ. Ответ на 500 токенов при 5 ток/с и 40 Вт — это 100 секунд и около 4 000 Дж. Тот же ответ на RTX 3060 при 42 ток/с занимает около 12 секунд. Даже если взять 300 Вт на всю систему (нижняя граница Toolhalla для полной нагрузки на одну карту в сборке под RTX 3090), выйдет около 3 600 Дж. Сама RTX 3060 под нагрузкой берёт 120–170 Вт (HomeTechOps), так что у реального ПК с этой картой расход на ответ ещё ниже. ПК тратит на ответ не больше энергии, чем NAS, а отдаёт его в восемь раз быстрее.

Ночной тариф вдвое удешевляет пакетные задачи: если запускать обработку документов после 23:00, нагрузочная часть у ПК с картой падает с 915 до 457 грн в год, у мини-ПК — с 435 до 218 грн.

Таблица выбора: какой ИИ-сервер подойдёт под ваш бюджет и сценарий

Если сомневаетесь между мини-ПК и ПК с картой, ответ даёт вопрос «какой размер модели нужен». Модели до 14B быстрее на видеокарте; модели крупнее 24 ГБ видеопамяти — территория Strix Halo. Тихой альтернативой мини-ПК остаётся Mac mini: HomeTechOps описывает схему, где он работает узлом для Ollama рядом с NAS.

Гибрид: NAS для файлов и отдельный узел для моделей

Toolhalla называет консервативным выбором именно такую схему: хранилище отдельно, вычисления отдельно. HomeTechOps формулирует так же: NAS оставьте под данные, Ollama запускайте там, где уже стоит видеокарта или быстрая память.

Как это устроено:

• NAS хранит документы, фото, бэкапы, а при желании держит и Open WebUI — веб-интерфейс чата, которому мощность не нужна.
• Узел для моделей (мини-ПК или ПК с картой) держит модели на своём NVMe-диске и отвечает на запросы.
• Связь — по локальной сети: Open WebUI на NAS обращается к API Ollama на узле. Значит, Ollama на узле придётся открыть для домашней сети: порт публикуют на LAN-адрес узла (например, -p 192.168.1.10:11434:11434) и разрешают вход только с адреса NAS. Учтите: порты, опубликованные Docker, обходят правила ufw, поэтому ограничение ставят в цепочку DOCKER-USER в iptables или на файрволе роутера, а не обычной командой ufw allow. На роутер порт по-прежнему не пробрасывается.

Держать сами модели на NAS технически можно: путь к папке моделей задаёт переменная OLLAMA_MODELS. Но загрузка модели в память пойдёт по сети. Наш расчёт: llama3:70b в примере вывода ollama ps из документации Ollama занимает 42 ГБ памяти. По порту 2,5 GbE с потолком около 312 МБ/с такой объём идёт не меньше 2,2 минуты, а массив жёстких дисков NAS часто отдаёт и меньше. С локального NVMe это заметно быстрее. Учтите и то, что Ollama по умолчанию выгружает модель через 5 минут без запросов, и загрузка повторится. Время удержания меняет переменная OLLAMA_KEEP_ALIVE.

Плюс схемы — отказоустойчивость. Узел для моделей можно выключить, обновить или заменить, а файлы и бэкапы на NAS этого не заметят.

Безопасность: как не выставить Ollama в интернет

По умолчанию Ollama слушает только 127.0.0.1:11434, то есть принимает запросы с той же машины. Чтобы к ней ходили другие устройства, адрес меняют переменной OLLAMA_HOST, например на 0.0.0.0. Но встроенной авторизации у Ollama нет: кто достучался до порта, тот и пользуется моделью.

Цена ошибки измерена. Cisco через поисковик устройств Shodan нашла 1 139 уязвимых серверов Ollama, на 214 из них (18,8%) работали живые модели. Этот замер Cisco опубликован 1 сентября 2025 года. С тех пор масштаб вырос: в январе 2026 года SentinelOne SentinelLABS и Censys насчитали около 175 тыс. общедоступных хостов Ollama в 130 странах. Twingate в своём разборе приводит обе цифры.

Порядок, который закрывает основные дыры:

1. Не пробрасывайте порт 11434 на роутере. Никогда, даже «на минутку».
2. Учтите поведение Docker. Официальный образ ollama/ollama внутри контейнера уже слушает 0.0.0.0:11434, а флаг -p 11434:11434 публикует порт на всех сетевых интерфейсах машины. Поэтому порт публикуют только на локальный адрес: -p 127.0.0.1:11434:11434.
3. Чат открывайте через Open WebUI с логином. При первом запуске он просит создать учётную запись, и первый пользователь становится администратором — создайте её сразу после установки.
4. Доступ извне — через VPN. Tailscale, WireGuard или Cloudflare Tunnel дают зашифрованный вход с телефона без открытых портов: Open WebUI открывается по адресу сервера внутри VPN-сети.
5. Проверьте результат. Команда ss -tlnp | grep 11434 на Linux должна показать 127.0.0.1:11434 (в гибридной схеме — LAN-адрес узла), но не 0.0.0.0:11434 и не [::]:11434.

Первый запуск за вечер: Ollama и Open WebUI в Docker

Ниже минимальная схема для Linux-машины или NAS с Docker (на Synology — Container Manager с доступом по SSH; там команды docker выполняют через sudo). Ollama и Open WebUI живут в общей Docker-сети и видят друг друга по имени, а наружу Ollama не торчит.

Шаг 1. Создайте сеть и запустите Ollama:

docker network create ai
docker run -d --name ollama --network ai --restart unless-stopped \
  -v ollama:/root/.ollama -p 127.0.0.1:11434:11434 ollama/ollama

Для видеокарты NVIDIA сначала поставьте NVIDIA Container Toolkit и добавьте флаг --gpus=all. Для AMD документация Ollama предлагает образ ollama/ollama:rocm с флагами --device /dev/kfd --device /dev/dri.

Шаг 2. Скачайте и проверьте модель:

docker exec -it ollama ollama run llama3.2
docker exec -it ollama ollama ps

Первая команда скачает модель и откроет чат; выйти из него можно командой /bye. В выводе ollama ps смотрите колонку PROCESSOR: 100% GPU значит, что модель целиком в видеопамяти. Если там только CPU, видеокарта для Ollama не видна.

Шаг 3. Запустите Open WebUI:

docker run -d --name open-webui --network ai --restart unless-stopped \
  -p 3000:8080 -e OLLAMA_BASE_URL=http://ollama:11434 \
  -v open-webui:/app/backend/data ghcr.io/open-webui/open-webui:main

Откройте в браузере http://<адрес-сервера>:3000 и сразу создайте учётную запись администратора.

Шаг 4. Подключите телефон через VPN. На сервере:

curl -fsSL https://tailscale.com/install.sh | sh
sudo tailscale up

На Synology скрипт не подходит: Tailscale ставится из Центра пакетов. Затем поставьте Tailscale на телефон и откройте http://<адрес-сервера-в-tailscale>:3000.

Типичные ошибки первого вечера: забытый --restart unless-stopped (после перезагрузки сервер «пропадает»), модель больше доступной памяти (ответы еле ползут) и проброс порта на роутере ради доступа с работы.

Риски покупки: дефицит памяти, цены и когда сервер не нужен

• Дефицит памяти поднял цены. По данным Starry Hope на апрель 2026 года, комплект DDR5 на 32 ГБ подорожал примерно с $80 до $400 с лишним, а память в целом — на 171% за год. Framework поднял цены на Desktop из-за роста стоимости LPDDR5X. Подробнее о том, что происходит с ценами на оперативную память и SSD, мы писали отдельно. Рекомендации 2025 года с прошлогодними ценниками на мини-ПК и видеокарты сейчас не работают.
• Память Strix Halo распаяна. LPDDR5X припаяна к плате, поэтому объём выбирают один раз на весь срок службы. Взяли 64 ГБ — 120B MoE-модель уже не поместится.
• Б/у видеокарта — без гарантии. RTX 3090 продают с рук после майнинга и игр. OpenClaw DC специально пишет, как проверить такую карту перед покупкой, и предупреждает, что цена уже не $700.
• Шум и жар. ПК с картой под нагрузкой слышно, с двумя картами — громко. В спальне или детской такой сервер мешает.
• Маркетинг «AI». NPU в «AI NAS» и «AI мини-ПК» не ускоряет Ollama. Переплата за NPU ради LLM — деньги впустую.
• Сервер может быть не нужен. Если вы спрашиваете модель несколько раз в неделю, мини-ПК за $3 324 плюс около 900 грн в год за свет окупаются только приватностью, а не экономией. Начните с той машины, что уже есть: Ollama запускается и на обычном ноутбуке.

Что устареет первым: цены на мини-ПК и видеокарты (срезы на 3 октября и на август 2026 года), тариф на электроэнергию после 30 апреля 2027 года и поддержка NPU в программах для запуска моделей.

FAQ

Можно ли запустить Ollama на Synology или QNAP и какие модели потянет?

Можно, через Docker или Container Manager. Но процессор NAS считает медленно: по расчётным оценкам, Celeron J4125 даёт 1–2,5 ток/с на модели 7B, Ryzen R1600 — 2,5–4, Ryzen V1500B — 4–6. Разумный выбор — модели 1–8B для ночных задач. Видеокарту в обычный Synology поставить не получится: проброс GPU на большинстве моделей недоступен.

Что лучше для домашнего ИИ-сервера: мини-ПК или обычный ПК с видеокартой?

Зависит от размера модели. До 14B быстрее ПК с картой: RTX 3060 даёт 42–45 ток/с на 8B. Для 70–120B нужна ёмкость, и тут выигрывает мини-ПК на Ryzen AI Max+ 395 со 128 ГБ: gpt-oss-120b идёт на 49–54,5 ток/с. Мини-ПК тише и в простое берёт 8–20 Вт против 50–80 Вт у ПК.

Сколько электричества съест домашний ИИ-сервер в месяц в гривнах?

По тарифу 4,32 грн за кВт·ч (действует до 30 апреля 2027 года) и сценарию «включён круглосуточно плюс два часа нагрузки в день» мини-ПК на Strix Halo обходится примерно в 74 грн в месяц, NAS с Ollama — в 97 грн, ПК с одной видеокартой — в 265 грн. Главная часть счёта — простой. Ночной тариф 2,16 грн (на 27 октября 2026 года) удешевляет пакетные задачи вдвое.

Нужен ли NPU, чтобы Ollama работал быстрее?

Нет. Ollama, llama.cpp и LM Studio генерацию LLM на NPU не направляют, нагрузка идёт на процессор и видеокарту. Скорость определяет пропускная способность памяти: удвоили её — получили примерно вдвое больше токенов. NPU можно задействовать отдельными программами вроде FastFlowLM, но это другой путь со своими моделями.

Как открыть доступ к домашнему серверу с телефона и не открыть его всему интернету?

Не пробрасывайте порт 11434 на роутере: у Ollama нет встроенной авторизации, а исследователи SentinelOne и Censys в январе 2026 года насчитали около 175 тыс. открытых в интернет серверов Ollama. Поставьте Tailscale или WireGuard на сервер и телефон и открывайте Open WebUI по адресу внутри VPN. Проверка: ss -tlnp | grep 11434 должен показывать 127.0.0.1:11434, а не 0.0.0.0.

Хватит ли 16 ГБ памяти для домашнего ИИ-сервера?

Для моделей 7–8B с 4-битным квантованием — да, на мини-ПК или с видеокартой на 12 ГБ. Модели 13–14B на 12 ГБ видеопамяти идут на 22–23 ток/с, а 32–34B на неё уже не влезают. Для 70–120B нужны 128 ГБ общей памяти, как у Ryzen AI Max+ 395, или несколько видеокарт.