Домашній ШІ-сервер (home AI server): NAS, міні-ПК чи ПК — вирішує пам’ять, не NPU

Коротко: який домашній ШІ-сервер обрати під бюджет і завдання

Домашній ШІ-сервер (в англомовних гайдах — home AI server) — це машина, яка цілодобово тримає відкриту мовну модель і відповідає на запити з ноутбука чи телефона в межах дому, без хмари. Найчастіше цю роботу виконує Ollama — безкоштовна програма, яка завантажує моделі, запускає їх і віддає іншим пристроям через API. Коробок під неї три: NAS, міні-ПК і звичайний ПК з відеокартою.

Вибір між ними визначають не написи «AI» на корпусі, а пам’ять: скільки її і як швидко вона читається.

• NAS (мережеве сховище на кшталт Synology чи QNAP) видає на моделі 7–8 млрд параметрів близько 1–6 токенів за секунду. Це розрахункова оцінка, а не лабораторний замір. Вистачає для нічних завдань, фото й камер, але не для живого чату.
• Міні-ПК дає 6–9 ток/с на Intel N150 і 18–25 на Ryzen 7 8845HS. Міні-ПК на Ryzen AI Max+ 395 зі 128 ГБ пам’яті тягне gpt-oss-120b приблизно на 50 ток/с, але на 3 жовтня 2026 року такі машини коштують $3 324–3 650.
• ПК з відеокартою найшвидший: RTX 3060 12 ГБ видає близько 42 ток/с на 8B, RTX 3090 — 95 ток/с на 7B. Платити за це доводиться ватами (300–400 Вт під навантаженням у системи з картою рівня RTX 3090) і шумом.
• NPU в «AI-коробках» Ollama не прискорює — генерація йде на процесорі або відеокарті.
• Безпека входить у вибір: вбудованої авторизації в Ollama немає, а відкриті в інтернет сервери знаходять сканери.

Швидкість ШІ вдома впирається в пам’ять, а не в ядра й NPU

Модель на сервері — це файл ваг на кілька гігабайтів. Щоб надрукувати кожен наступний токен (шматочок слова), машина заново прочитує з пам’яті всі ваги, які беруть участь у розрахунку. Тому швидкість відповіді обмежує не кількість ядер, а пропускна здатність пам’яті: скільки гігабайтів за секунду вона віддає. Starry Hope формулює правило коротко: подвоїли пропускну здатність — отримали приблизно вдвічі більше токенів за секунду.

Домашній ШІ-сервер для LLM зручно оцінювати за трьома осями:

GOLD · XAUSILVER · XAG

Binance · Wall Street 24/7Золото без сейфа і злитківXAUТоргуйте ціною золота на Binance цілодобово, з маленької суми

GOLDSILVER

Порахувати угоду

1. Обсяг пам’яті — чи влізе модель узагалі. Не влізла — вона або не запуститься, або частково читатиметься з диска й «повзтиме».
2. Швидкість пам’яті — скільки токенів за секунду ви побачите. Це головний параметр для чату.
3. Вати, шум і гроші — скільки коробка з’їдає за рік і чи можна поставити її в житловій кімнаті.

Як це виглядає в цифрах. Міні-ПК на Intel N150 з одноканальною пам’яттю віддає близько 38 ГБ/с і друкує 6–9 ток/с на моделі 7–8B. Ryzen 7 8845HS із двоканальною DDR5-5600 дає близько 89 ГБ/с — у 2,3 раза більше — і 18–25 ток/с, тобто приблизно в 2,8–3 раза швидше: правило наближене, але порядок тримає. Платформа Ryzen AI Max+ 395 (кодова назва Strix Halo) — це до 128 ГБ LPDDR5X-8000 на 256-бітній шині і 256 ГБ/с у теорії, близько 215 ГБ/с на практиці. Докладніше про те, як обсяг і швидкість пам’яті перетворюються на вибір заліза, — у нашому гіді з вибору заліза для локального ШІ.

Ноутбук з 8 ГБ пам’яті: кому вистачить і коли переплатити за 16 ГБ

Minisforum MS-A2 та Beelink GTR9 Pro для нейромереж: слот PCIe чи 128 ГБ пам’яті

ОЗП для локальних LLM і ШІ: скільки треба під 8B–70B з урахуванням відеокарти

Спадкування криптовалюти в Україні: 5 способів передати ключ, заповіт і податок

Чип для ноутбука з ШІ: чому пам’ять, ОС і ціна важливіші за 50 і 80 TOPS

Чому 120B буває швидшою за 70B. Моделі бувають щільні та MoE (mixture of experts, «суміш експертів»). Щільна 70B на кожен токен читає всі 70 млрд параметрів. MoE-модель gpt-oss-120b зберігає 120 млрд, але на токен задіює близько 5 млрд активних. Читати на кожному кроці доводиться приблизно в 14 разів менше. Звідси різниця на тому самому міні-ПК: gpt-oss-120b — 49–54,5 ток/с, щільна 70B — близько 4–5 ток/с. Отже, «яка модель найбільша» і «яка модель буде швидкою» — два різні питання.

Де тут NPU. NPU — окремий блок процесора для нейромережевих завдань, його продають як головну фішку «AI-комп’ютерів». Але Ollama, LM Studio і llama.cpp генерацію LLM на NPU не спрямовують: навантаження лягає на процесор і відеокарту. Чим ці програми відрізняються за швидкістю на одній моделі, ми розібрали за зведеними замірами в порівнянні Ollama, LM Studio і llama.cpp.

Які моделі потягнуть NAS, міні-ПК і відеокарти: швидкість у ток/с

Цифри — токени генерації за секунду для одного користувача й одного запиту, за зведеннями Hardware Corner, mustafa.net, Starry Hope, ComputingForGeeks і замірами на GitHub. «н/д» — немає перевіреного заміру; вгадувати ми не бралися. Q2 — сильне стиснення, за якого якість відповідей моделі помітно падає.

NAS як ШІ-сервер: 1–6 токенів за секунду і де він корисний

NAS — мережеве сховище з дисками, яке й так працює вдома цілодобово. Поставити на нього Ollama через Docker можна, але процесори NAS слабкі, а пам’ять повільна. Оцінки за пропускною здатністю пам’яті для моделі 7B із 4-бітним квантуванням такі:

Це розрахункові діапазони runaihome і NeedToKnowIT, а не лабораторні заміри: лабораторних замірів Ollama на NAS з описаною методикою ми не знайшли. Стеля звичайного NAS — близько 6 ток/с. Для порівняння, Starry Hope називає розмовною швидкістю 18–25 ток/с.

Візьмімо Synology DS925+ як типовий сучасний 4-дисковий NAS: Ryzen V1500B (4 ядра, 8 потоків, 2,2 ГГц), 4 ГБ DDR4 ECC з коробки й максимум 32 ГБ, два слоти M.2 NVMe і два порти 2,5 GbE.

GOLD · XAUSILVER · XAG

Binance · Wall Street 24/7Золото без сейфа і злитківXAUТоргуйте ціною золота на Binance цілодобово, з маленької суми

GOLDSILVER

Порахувати угоду

Застереження: оцінка 4–6 ток/с виходить із двоканальної пам’яті. З коробки DS925+ постачається з одним модулем на 4 ГБ: пам’ять працює в одноканальному режимі, а модель 7B у 4 біти (близько 4–5 ГБ) разом із DSM у неї не вміститься. Під Ollama потрібна пара модулів, до 2 × 16 ГБ.

Чому не поставити відеокарту. За даними HomeTechOps, на більшості моделей Synology прокидання GPU в контейнери фактично недоступне: апаратне прискорення DSM віддане власним застосункам Synology. Toolhalla додає, що наявність слота PCIe ще не означає підтримки відеокарти. У QNAP усе залежить від конкретної пари «модель NAS + карта». Офіційного документа Synology про підтримку GPU для Docker на моделях Plus ми не знайшли.

Де NAS корисний. Сильна сторона NAS — не мовні моделі, а «тихий» ШІ поруч із даними:

• Фотоархів Immich (заміна Google Фото з пошуком за обличчями й об’єктами) працює на Synology через Container Manager — неофіційно, силами спільноти. Без прискорення перше сканування архіву на 100 тис. знімків і більше триває дні.
• Камери Frigate (розпізнавання людей і машин) на Synology впираються у відсутність GPU. HomeTechOps радить поставити поруч міні-ПК на Intel N100 і залишити записи на NAS.
• Нічний пакет. Приклад: 100 стислих підсумків по 500 токенів — це 50 000 токенів. За 5 ток/с генерація триватиме близько 2,8 години, тобто вкладеться в ніч. Час, за який модель прочитає самі документи, сюди не входить, а на процесорі NAS він теж помітний.

«AI NAS» і NPU: що дають Minisforum N5 Pro та UGREEN iDX

У 2026 році з’явився клас гібридів: корпус NAS із відсіками під диски, а всередині — процесор від ноутбука чи міні-ПК. Маркетинг подає їх як «AI NAS», і ставку робить на NPU.

Що ці коробки дають насправді:

• Процесор і пам’ять сильніші, ніж у класичного NAS. У N5 Pro всередині PRO-версія чипа Ryzen AI 9 HX 370 — того самого, що ставлять у міні-ПК для ШІ. Швидкість на моделі визначить пам’ять, як у міні-ПК на цьому чипі.
• NPU для Ollama марний. Ollama, llama.cpp і LM Studio генерацію на нього не відправляють. Задіяти NPU можна окремими програмами на кшталт FastFlowLM, але це окремий шлях зі своїми моделями. Софт змінюється швидко, тому формулювання правильне на дату публікації.
• OCuLink і слот PCIe — шлях до зовнішньої або низькопрофільної відеокарти. У N5 Pro слот x16 за розміром працює як PCIe 4.0 x4 — для інференсу це прийнятно, але смугу карти вріже.
• Софт сирий. TechRadar тестував UGREEN на передсерійній прошивці: вбудований асистент Uliya перестав відповідати після серії встановлень і видалень моделей через термінал і ожив лише після перевстановлення моделі Uliya. Сам оглядач пише, що ПЗ ще розвивається.

Висновок для вибору: «AI NAS» — це міні-ПК з відсіками під диски. Брати його має сенс, коли потрібні обидві ролі в одному корпусі, а не заради NPU.

Міні-ПК для ШІ-сервера: від N150 до Ryzen AI Max+ 395

Міні-ПК для ШІ — найтихіший і найекономніший спосіб тримати модель увімкненою 24/7. Усередині три сходинки, і різниця між ними знову впирається в пам’ять.

ПЗП тут — пропускна здатність пам’яті.

Середня сходинка — розумний міні-ПК для локального ШІ на 7–14B. Ryzen 7 8845HS із 32 ГБ змінної DDR5 дає розмовну швидкість на 8B, а пам’ять можна замінити. На 3 жовтня 2026 року Beelink SER8 у такій конфігурації коштує $859.

Strix Halo — обсяг, а не швидкість. Зі 128 ГБ спільної пам’яті до 96 ГБ віддають графіці через BIOS, а на Linux із налаштуванням GTT — близько 120 ГБ. Це єдина коробка з трьох, де gpt-oss-120b вміщується цілком. На свіжих збірках llama.cpp вона видає 49–54,5 ток/с, а в окремих прогонах на GitHub — 53,4 ток/с. Щільна 70B влазить, але йде на 4–5 ток/с: для чату повільно, для пакетних завдань прийнятно.

Ціни на 3 жовтня 2026 року за зведенням ComputingForGeeks: Bosgame M5 зі 128 ГБ — $3 324,04, GMKtec EVO-X2 зі 128 ГБ — $3 649,99. Framework Desktop зі 128 ГБ у січні 2026 року подорожчав до $2 459 через здорожчання LPDDR5X (Tom’s Hardware, 13 січня 2026). Свіжішої ціни в нас немає, актуальну дивіться в конфігураторі Framework.

Вати й шум. У простої EVO-X2 споживає 8–14 Вт, Framework Desktop — 10–20 Вт. Під навантаженням ШІ — 120–170 Вт від розетки, залежно від режиму: у EVO-X2 їх три — Quiet 54 Вт, Balanced 85 Вт і Performance 140 Вт. Framework із вентилятором Noctua шумить на 36–37 дБА в простої та на 39–41 дБА під навантаженням (ServeTheHome). EVO-X2 у режимі Performance — від 35 дБ, трійку вентиляторів чути.

ПК з відеокартою як ШІ-сервер: найшвидший і найгучніший

Відеокарта має власну пам’ять (VRAM) з пропускною здатністю, недосяжною для міні-ПК, тому на моделях, які влазять у VRAM, ПК з картою поза конкуренцією. Обмеження одне й жорстке: модель має вміститися у відеопам’ять.

Ціни на вживану RTX 3090 у старих гайдах — $700–800, але це рівень 2025 року. У серпні 2026 року за неї просили $1 000–1 300.

Що це означає у квартирі. За зведенням Toolhalla, уся система з однією картою в простої споживає 50–80 Вт і нечутна, за легкої роботи — 150–250 Вт із гудінням вентиляторів, під повним навантаженням — 300–400 Вт, і шум помітний. З двома картами — 500–700 Вт і гучно. Сама RTX 3060 у простої бере 8–20 Вт, але, за даними HomeTechOps, може «застрягти» в робочому режимі P0 і тримати 35–40 Вт — це залежить від драйвера.

Як зменшити шум. Обмежте потужність карти: Toolhalla наводить приклад, де ліміт RTX 3090 знижували з 350 до 280 Вт. Температура падає на 10–15 °C, вентилятори помітно тихіші, а швидкість втрачає 5–10%. Команда для NVIDIA на Linux:

sudo nvidia-smi -i 0 -pl 280

Ліміт тримається до перезавантаження; щоб він застосовувався завжди, команду додають в автозапуск, наприклад окремим systemd-юнітом.

Коли ПК з картою — найдешевший шлях. Якщо відеокарта вже стоїть в ігровому чи медіа-ПК, сервер для Ollama не потребуватиме витрат на залізо: HomeTechOps оцінює таку карту рівня RTX 3060 12 ГБ у 30–60 ток/с на 8B. Підбір комплектувань під нову збірку за бюджетом ми розібрали окремо — у матеріалі про збірку з відеокартою, список деталей тут не повторюємо.

Скільки коштує тримати ШІ-сервер увімкненим: електрика в гривнях

Для українця вартість утримання домашнього ШІ-сервера — це насамперед рахунок за світло. Формула проста: вати × 8 760 годин на рік ÷ 1 000 × тариф. Тариф для більшості побутових споживачів України — 4,32 грн за кВт·год: 8 жовтня 2026 року уряд продовжив його до 30 квітня 2027 року включно. На 27 жовтня 2026 року із двозонним лічильником уночі (23:00–07:00) діє коефіцієнт 0,5, тобто 2,16 грн.

Наш розрахунок для типового сценарію: коробка увімкнена цілодобово і дві години на день генерує відповіді. Споживання взято із середини діапазонів вище.

Три висновки з таблиці:

1. Рахунок визначає простій, а не навантаження. ПК з картою лише в простої за рік коштує 2 271 грн — уп’ятеро більше за простій міні-ПК (454 грн) і більше, ніж міні-ПК обходиться за рік разом із навантаженням (889 грн).
2. NAS майже нічого не додає до рахунку, бо він і так працює цілодобово. ШІ на ньому — це 32 грн на рік зверху.
3. Повільний NAS не економніший на відповідь. Відповідь на 500 токенів за 5 ток/с і 40 Вт — це 100 секунд і близько 4 000 Дж. Та сама відповідь на RTX 3060 за 42 ток/с займає близько 12 секунд. Навіть якщо взяти 300 Вт на всю систему (нижня межа Toolhalla для повного навантаження на одну карту в збірці під RTX 3090), вийде близько 3 600 Дж. Сама RTX 3060 під навантаженням бере 120–170 Вт (HomeTechOps), тож у реального ПК з цією картою витрата на відповідь ще нижча. ПК витрачає на відповідь не більше енергії, ніж NAS, а віддає її у вісім разів швидше.

Нічний тариф удвічі здешевлює пакетні завдання: якщо запускати обробку документів після 23:00, частина за навантаження в ПК з картою падає з 915 до 457 грн на рік, у міні-ПК — з 435 до 218 грн.

Таблиця вибору: який ШІ-сервер підійде під ваш бюджет і сценарій

Якщо вагаєтеся між міні-ПК і ПК з картою, відповідь дає питання «який розмір моделі потрібен». Моделі до 14B швидші на відеокарті; моделі, більші за 24 ГБ відеопам’яті, — територія Strix Halo. Тихою альтернативою міні-ПК лишається Mac mini: HomeTechOps описує схему, де він працює вузлом для Ollama поруч із NAS.

Гібрид: NAS для файлів і окремий вузол для моделей

Toolhalla називає консервативним вибором саме таку схему: сховище окремо, обчислення окремо. HomeTechOps формулює так само: NAS залиште під дані, Ollama запускайте там, де вже стоїть відеокарта або швидка пам’ять.

Як це влаштовано:

• NAS зберігає документи, фото, бекапи, а за бажання тримає й Open WebUI — вебінтерфейс чату, якому потужність не потрібна.
• Вузол для моделей (міні-ПК або ПК з картою) тримає моделі на своєму NVMe-диску й відповідає на запити.
• Зв’язок — локальною мережею: Open WebUI на NAS звертається до API Ollama на вузлі. Отже, Ollama на вузлі доведеться відкрити для домашньої мережі: порт публікують на LAN-адресу вузла (наприклад, -p 192.168.1.10:11434:11434) і дозволяють вхід лише з адреси NAS. Зважте: порти, опубліковані Docker, обходять правила ufw, тому обмеження ставлять у ланцюжок DOCKER-USER в iptables або на файрволі роутера, а не звичайною командою ufw allow. На роутер порт, як і раніше, не прокидається.

Тримати самі моделі на NAS технічно можна: шлях до теки моделей задає змінна OLLAMA_MODELS. Але завантаження моделі в пам’ять піде мережею. Наш розрахунок: llama3:70b у прикладі виводу ollama ps з документації Ollama займає 42 ГБ пам’яті. Через порт 2,5 GbE зі стелею близько 312 МБ/с такий обсяг іде щонайменше 2,2 хвилини, а масив жорстких дисків NAS часто віддає й менше. З локального NVMe це помітно швидше. Зважте й на те, що Ollama за замовчуванням вивантажує модель через 5 хвилин без запитів, і завантаження повториться. Час утримання змінює змінна OLLAMA_KEEP_ALIVE.

Плюс схеми — стійкість до збоїв. Вузол для моделей можна вимкнути, оновити або замінити, а файли й бекапи на NAS цього не помітять.

Безпека: як не виставити Ollama в інтернет

За замовчуванням Ollama слухає лише 127.0.0.1:11434, тобто приймає запити з тієї самої машини. Щоб до неї зверталися інші пристрої, адресу змінюють змінною OLLAMA_HOST, наприклад на 0.0.0.0. Але вбудованої авторизації в Ollama немає: хто достукався до порту, той і користується моделлю.

Ціну помилки виміряно. Cisco через пошуковик пристроїв Shodan знайшла 1 139 вразливих серверів Ollama, на 214 з них (18,8%) працювали живі моделі. Цей замір Cisco опубліковано 1 вересня 2025 року. Відтоді масштаб зріс: у січні 2026 року SentinelOne SentinelLABS і Censys нарахували близько 175 тис. загальнодоступних хостів Ollama у 130 країнах. Twingate у своєму розборі наводить обидві цифри.

Порядок, який закриває основні діри:

1. Не прокидайте порт 11434 на роутері. Ніколи, навіть «на хвилинку».
2. Врахуйте поведінку Docker. Офіційний образ ollama/ollama всередині контейнера вже слухає 0.0.0.0:11434, а прапорець -p 11434:11434 публікує порт на всіх мережевих інтерфейсах машини. Тому порт публікують лише на локальну адресу: -p 127.0.0.1:11434:11434.
3. Чат відкривайте через Open WebUI з логіном. Під час першого запуску він просить створити обліковий запис, і перший користувач стає адміністратором — створіть його одразу після встановлення.
4. Доступ ззовні — через VPN. Tailscale, WireGuard або Cloudflare Tunnel дають зашифрований вхід із телефона без відкритих портів: Open WebUI відкривається за адресою сервера всередині VPN-мережі.
5. Перевірте результат. Команда ss -tlnp | grep 11434 на Linux має показати 127.0.0.1:11434 (у гібридній схемі — LAN-адресу вузла), але не 0.0.0.0:11434 і не [::]:11434.

Перший запуск за вечір: Ollama і Open WebUI в Docker

Нижче мінімальне налаштування домашнього ШІ-сервера для Linux-машини або NAS із Docker (на Synology — Container Manager із доступом по SSH; там команди docker виконують через sudo). Ollama і Open WebUI живуть у спільній Docker-мережі й бачать одне одного за іменем, а назовні Ollama не стирчить.

Крок 1. Створіть мережу й запустіть Ollama:

docker network create ai
docker run -d --name ollama --network ai --restart unless-stopped \
  -v ollama:/root/.ollama -p 127.0.0.1:11434:11434 ollama/ollama

Для відеокарти NVIDIA спочатку встановіть NVIDIA Container Toolkit і додайте прапорець --gpus=all. Для AMD документація Ollama пропонує образ ollama/ollama:rocm із прапорцями --device /dev/kfd --device /dev/dri.

Крок 2. Завантажте й перевірте модель:

docker exec -it ollama ollama run llama3.2
docker exec -it ollama ollama ps

Перша команда завантажить модель і відкриє чат; вийти з нього можна командою /bye. У виводі ollama ps дивіться колонку PROCESSOR: 100% GPU означає, що модель повністю у відеопам’яті. Якщо там лише CPU, відеокарта для Ollama не видима.

Крок 3. Запустіть Open WebUI:

docker run -d --name open-webui --network ai --restart unless-stopped \
  -p 3000:8080 -e OLLAMA_BASE_URL=http://ollama:11434 \
  -v open-webui:/app/backend/data ghcr.io/open-webui/open-webui:main

Відкрийте в браузері http://<адреса-сервера>:3000 і одразу створіть обліковий запис адміністратора.

Крок 4. Під’єднайте телефон через VPN. На сервері:

curl -fsSL https://tailscale.com/install.sh | sh
sudo tailscale up

На Synology скрипт не підходить: Tailscale встановлюється з Центру пакетів. Потім поставте Tailscale на телефон і відкрийте http://<адреса-сервера-в-tailscale>:3000.

Типові помилки першого вечора: забутий --restart unless-stopped (після перезавантаження сервер «зникає»), модель, більша за доступну пам’ять (відповіді ледве повзуть), і прокидання порту на роутері заради доступу з роботи.

Ризики купівлі: дефіцит пам’яті, ціни і коли сервер не потрібен

• Дефіцит пам’яті підняв ціни. За даними Starry Hope на квітень 2026 року, комплект DDR5 на 32 ГБ подорожчав приблизно з $80 до понад $400, а пам’ять загалом — на 171% за рік. Framework підняв ціни на Desktop через зростання вартості LPDDR5X. Докладніше про те, що відбувається з цінами на оперативну пам’ять і SSD, ми писали окремо. Рекомендації 2025 року з торішніми цінниками на міні-ПК і відеокарти зараз не працюють.
• Пам’ять Strix Halo розпаяна. LPDDR5X припаяна до плати, тому обсяг обирають один раз на весь термін служби. Взяли 64 ГБ — 120B MoE-модель уже не вміститься.
• Вживана відеокарта — без гарантії. RTX 3090 продають з рук після майнінгу та ігор. OpenClaw DC окремо пише, як перевірити таку карту перед купівлею, і попереджає, що ціна вже не $700.
• Шум і жар. ПК з картою під навантаженням чути, з двома картами — гучно. У спальні чи дитячій такий сервер заважає.
• Маркетинг «AI». NPU в «AI NAS» і «AI міні-ПК» не прискорює Ollama. Переплата за NPU заради LLM — гроші на вітер.
• Сервер може бути не потрібен. Якщо ви питаєте модель кілька разів на тиждень, міні-ПК за $3 324 плюс близько 900 грн на рік за світло окупаються лише приватністю, а не економією. Почніть з тієї машини, що вже є: Ollama запускається і на звичайному ноутбуці.

Що застаріє першим: ціни на міні-ПК і відеокарти (зрізи на 3 жовтня і на серпень 2026 року), тариф на електроенергію після 30 квітня 2027 року та підтримка NPU в програмах для запуску моделей.

Часті запитання

Чи можна запустити Ollama на Synology або QNAP і які моделі потягне?

Можна, через Docker або Container Manager. Але процесор NAS обчислює повільно: за розрахунковими оцінками, Celeron J4125 дає 1–2,5 ток/с на моделі 7B, Ryzen R1600 — 2,5–4, Ryzen V1500B — 4–6. Розумний вибір — моделі 1–8B для нічних завдань. Відеокарту у звичайний Synology поставити не вийде: прокидання GPU на більшості моделей недоступне.

Що краще для домашнього ШІ-сервера: міні-ПК чи звичайний ПК з відеокартою?

Залежить від розміру моделі. До 14B швидший ПК з картою: RTX 3060 дає 42–45 ток/с на 8B. Для 70–120B потрібен обсяг пам’яті, і тут виграє міні-ПК на Ryzen AI Max+ 395 зі 128 ГБ: gpt-oss-120b іде на 49–54,5 ток/с. Міні-ПК тихіший і в простої бере 8–20 Вт проти 50–80 Вт у ПК.

Скільки електрики з’їсть домашній ШІ-сервер на місяць у гривнях?

За тарифом 4,32 грн за кВт·год (діє до 30 квітня 2027 року) і сценарієм «увімкнений цілодобово плюс дві години навантаження на день» міні-ПК на Strix Halo обходиться приблизно в 74 грн на місяць, NAS з Ollama — у 97 грн, ПК з однією відеокартою — у 265 грн. Головна частина рахунку — простій. Нічний тариф 2,16 грн (на 27 жовтня 2026 року) удвічі здешевлює пакетні завдання.

Чи потрібен NPU, щоб Ollama працювала швидше?

Ні. Ollama, llama.cpp і LM Studio генерацію LLM на NPU не спрямовують, навантаження йде на процесор і відеокарту. Швидкість визначає пропускна здатність пам’яті: подвоїли її — отримали приблизно вдвічі більше токенів. NPU можна задіяти окремими програмами на кшталт FastFlowLM, але це інший шлях зі своїми моделями.

Як відкрити доступ до домашнього сервера з телефона і не відкрити його всьому інтернету?

Не прокидайте порт 11434 на роутері: в Ollama немає вбудованої авторизації, а дослідники SentinelOne і Censys у січні 2026 року нарахували близько 175 тис. відкритих в інтернет серверів Ollama. Поставте Tailscale або WireGuard на сервер і телефон і відкривайте Open WebUI за адресою всередині VPN. Перевірка: ss -tlnp | grep 11434 має показувати 127.0.0.1:11434, а не 0.0.0.0.

Чи вистачить 16 ГБ пам’яті для домашнього ШІ-сервера?

Для моделей 7–8B із 4-бітним квантуванням — так, на міні-ПК або з відеокартою на 12 ГБ. Моделі 13–14B на 12 ГБ відеопам’яті йдуть на 22–23 ток/с, а 32–34B на неї вже не влазять. Для 70–120B потрібні 128 ГБ спільної пам’яті, як у Ryzen AI Max+ 395, або кілька відеокарт.