Локальних моделей стало так багато, що питання змістилося з «а чи можна запустити ШІ в себе» на «яку саме з десятків обрати». Цей гід відповідає на друге питання: не перелічує все підряд, а дає алгоритм — від вашої задачі та обсягу відеопам’яті до конкретної моделі — і веде в докладний розбір кожної. Усі орієнтири подані на липень 2026 року; лінійки оновлюються швидко, тому важливіше зрозуміти принцип вибору, ніж запам’ятати конкретне ім’я.
Коротко: з чого почати
Вибір локальної моделі тримається на трьох питаннях, і відповідати на них треба саме в такому порядку:
- Яка задача? Універсальний чат, міркування та математика, код, робота із зображеннями чи розпізнавання мовлення — під кожен сценарій є свій лідер, і «одна модель на все» майже завжди програє спеціалісту.
- Скільки відеопам’яті (VRAM)? Це жорстка стеля. Модель, яка не вміщується в пам’ять карти, або не запуститься, або сповзе в оперативну пам’ять і стане болісно повільною.
- Яка потрібна ліцензія? Для особистих експериментів не важливо; для робочого чи комерційного проєкту — критично: частина моделей повністю вільна, частина йде із застереженнями.
Відповіли на три питання — далі шукаєте перетин у майстер-таблиці. Якщо сумніваєтеся, яке залізо взагалі брати під ці моделі, це окрема велика тема — вона розібрана в гіді по залізу для локального ШІ, а ця стаття — про самі моделі.
Дві осі вибору
Будь-яку локальну модель зручно тримати в голові на двох осях.
Розмір проти заліза. Розмір вимірюється в мільярдах параметрів (B). Більше параметрів — зазвичай вища якість, але й вищі вимоги до пам’яті. Практичні орієнтири у квантуванні Q4 (про нього нижче): модель на 7–8B потребує приблизно 5–6 ГБ VRAM, 13–14B — близько 9–10 ГБ, 32B — 20–24 ГБ, а 70B — уже 40–48 ГБ, тобто дві карти або професійна 48-гігабайтна. Звідси простий висновок: масова стеля для однієї ігрової відеокарти — це 32B, а 70B — поріг «серйозної збірки».
Якість проти швидкості. Важка модель відповідає точніше, але повільніше. На споживчій відеокарті модель 7B у Q4 видає приблизно 40–80 токенів на секунду — це комфортно; на процесорі без GPU ті самі моделі йдуть у рази повільніше. Тут же виграють так звані MoE-моделі (mixture-of-experts): gpt-oss, Qwen3 235B, DeepSeek — вони дають якість флагмана, активуючи лише частину ваг на кожен запит, тому вважаються швидшими за «щільну» модель того самого класу.
Щільні моделі проти MoE. Класична «щільна» модель задіює всі свої параметри на кожен токен — передбачувано, але важко. MoE-моделі тримають багато «експертів», а вмикають лише потрібних: так gpt-oss на 120B активує малу частину ваг і на відповідному залізі йде швидше за щільну модель зіставної якості. Зворотний бік — MoE все одно займає пам’ять під усі ваги цілком, навіть якщо рахує не всіма. Для однієї карти це часто означає: щільна модель 14–32B практичніша за велику MoE, яка в пам’ять просто не вміщується.
Про квантування. Квантування — це стиснення ваг моделі заради економії пам’яті. Практичний оптимум — Q4_K_M: він займає приблизно вдвічі менше пам’яті, ніж вихідний fp16, за невеликої втрати якості. Іти нижче Q4 варто лише коли модель зовсім не вміщується — якість помітно падає. Простіше кажучи, Q4 — це дефолт, з якого починають майже всі.
Не забудьте про контекст. Пам’ять з’їдає не лише сама модель, а й довжина контексту — обсяг тексту, який модель «тримає в голові» за один раз. Що довший діалог чи документ, то більше додаткової відеопам’яті йде на так званий KV-кеш. На практиці це означає: якщо плануєте працювати з довгими текстами або великими файлами коду, закладайте запас пам’яті понад «голий» розмір моделі, а на межі бюджету беріть модель на щабель меншу, щоб лишилося місце під контекст. Саме тому дві однакові за розміром збірки можуть поводитися по-різному: у кого налаштований короткий контекст — працює жваво, у кого довгий — впирається в пам’ять.
Майстер-таблиця: 11 моделей 2026
Орієнтири щодо VRAM подані для квантування Q4 і залежать від обраного розміру моделі. Клік в останньому стовпці веде в повний розбір із налаштуванням, бенчмарками та нюансами.Модель Розміри VRAM (Q4) Ліцензія Для чого краще Розбір Llama 8B / 70B (+ Llama 4 MoE) 6 / 42 ГБ Llama Community Універсал із найбільшою екосистемою розбір Qwen3 0.6–32B (+ 235B MoE) 6–22 ГБ Apache-2.0 «Модель за замовчуванням», мультимовність, режим міркування розбір DeepSeek-R1 1.5–70B (дистиляти) 6–42 ГБ MIT Міркування, логіка, математика розбір Gemma 3 1 / 4 / 12 / 27B 3–18 ГБ Gemma Ефективність на одній карті, мультимодальність розбір Mistral Small 24B ~15 ГБ Apache-2.0 Баланс якості та швидкості на одній карті розбір Phi-4 14B ~10 ГБ MIT Міркування на слабкому залізі розбір gpt-oss 20B / 120B (MoE) 12 / 65 ГБ Apache-2.0 Відкритий флагман OpenAI розбір Qwen Coder 0.5–32B 6–22 ГБ Apache-2.0 Код, локальна заміна Copilot розбір LLaVA / vision 7–34B 6–22 ГБ відкриті Робота із зображеннями (image→text) розбір GLM 9B / MoE від 7 ГБ MIT Агентні задачі, код, фронтенд розбір Whisper tiny–large-v3 1–10 ГБ MIT Голос і диктування → текст розбір
Як це запустити
Запуск LLM на своєму комп’ютері починається з простого кроку: модель — це файл ваг, і щоб із нею говорити, потрібен «раннер». На липень 2026 року два найпопулярніші — Ollama та LM Studio. Ollama живе в командному рядку і зручна для автоматизації та серверних сценаріїв: одна команда завантажує й запускає модель. LM Studio — це графічний застосунок із чатом і каталогом моделей «з коробки», ближчий тим, хто не хоче морочитися з терміналом. На вибір самої моделі раннер не впливає: ті самі ваги працюють в обох, різниця — у зручності та інтеграціях. Обидва за замовчуванням беруть квантовані версії у форматі GGUF, тому спеціально розбиратися у квантуванні на старті не потрібно — досить пам’ятати, що Q4 це розумний дефолт.
Вибір за задачею
Універсальний чат. Тут найщільніший вибір. Хороший дефолт на 2026 рік — Qwen3: вона сильна в різних мовах і вміє перемикати «режим міркування». Поруч — Llama із найбільшою екосистемою та Mistral Small, яка за якістю сперечається з моделями вдвічі більшими. Якщо карта слабка — Gemma 3 у розмірі 4B або 12B.
Міркування та математика. Коли важливий ланцюжок роздумів, а не швидка відповідь, беруть DeepSeek-R1 — її дистиляти 8–14B дають «мислячу» поведінку на звичайному залізі. Компактна альтернатива для слабких машин — Phi-4 на 14B, у якої сильні міркування непропорційні розміру.
Код. Спеціаліст із коду — Qwen Coder: у розмірі 14–32B він перетворюється на локальну заміну хмарних асистентів. В агентних сценаріях і фронтенді добре показує себе GLM.
Зображення та голос. Щоб модель «бачила» зображення, потрібні vision-моделі — від LLaVA до сучасних альтернатив. А для розпізнавання мовлення й диктування офлайн працює Whisper — він перекладає голос у текст локально, без надсилання записів у хмару.
Максимум якості. Якщо хочеться найпотужнішого з відкритого і дозволяє залізо — gpt-oss на 120B у MoE-архітектурі: це перші за роки відкриті ваги OpenAI.
Кілька мов. Якщо важлива робота не лише англійською, дивіться у бік Qwen3 та GLM: вони від початку сильні в мультимовних сценаріях, зокрема українською та російською, тоді як частина західних моделей помітно втрачає якість поза англійською. Перевіряти це краще на своїх типових запитах — універсального лідера тут немає, і різниця між моделями конкретною мовою буває більша, ніж в англомовних бенчмарках.
Вибір за бюджетом відеопам’яті
- 8 ГБ — вхід у тему: моделі 7–8B (Llama 8B, Qwen3 8B) і компактна Gemma 4B. Комфортно для чату, тісно для довгих контекстів.
- 12 ГБ — робочий мінімум: упевнено тягне 12–14B (Gemma 12B, Phi-4), а в Q4 підступається до деяких 14B.
- 16 ГБ — універсальний розмір: 14B без компромісів, обережно — 20–24B (Mistral Small, gpt-oss 20B).
- 24 ГБ — стеля однієї топової ігрової карти: повноцінні 32B (Qwen3 32B, Qwen Coder 32B).
- 48 ГБ і більше — територія 70B і великих MoE: професійні карти або збірка на дві відеокарти.
Часті помилки
- Гнатися за розміром на шкоду пам’яті. «Завантажив 70B на 12 ГБ» — найчастіша помилка: модель сповзе в оперативну пам’ять і відповідатиме по слову на секунду. Спершу бюджет VRAM, потім модель.
- Плутати «запустилося» і «придатне для роботи». На процесорі запуститься майже все, але швидкість зробить роботу болісною. Орієнтир комфорту — генерація на GPU, а не на CPU.
- Опускати квант надто низько. Q4 — розумний дефолт; агресивні Q2–Q3 економлять пам’ять, але якість просідає так, що втрачається весь сенс великої моделі.
- Ігнорувати ліцензію в робочому проєкті. Apache-2.0 і MIT вільні для комерції, у Llama та Gemma — свої застереження. Для особистих задач не важливо, для продукту — перевіряйте заздалегідь.
Ризики та обмеження
Локальні моделі — не безкоштовна копія хмари в усьому, і у вибору є свої ризики. Головний — переоцінити своє залізо: модель, яка фізично влізла в пам’ять, не завжди працює достатньо швидко й точно для реальної задачі. Другий ризик — волатильність вибору: лінійки оновлюються майже щомісяця, і «найкраща модель місяця» застаріває, тому спиратися варто на принцип (задача → пам’ять → ліцензія), а не на конкретне ім’я. Третій — ліцензійні обмеження: частина моделей повністю вільна, частина йде із застереженнями, і для комерційного продукту це потрібно перевіряти заздалегідь.
Водночас плюси нікуди не діваються й часто переважують: дані не йдуть у хмару (приватність), немає плати за токени й лімітів на запити, робота можлива офлайн. Чесний підсумок — локальна модель чудово закриває приватність, автономність і вартість, але за стелею якості поки що поступається найбільшим хмарним флагманам. Вибір між ними — це вибір пріоритетів, а не «краще чи гірше» взагалі.
Що зрештою обрати
Розберемо на прикладі. Припустимо, у вас відеокарта з 12 ГБ пам’яті та задача — універсальний помічник для тексту й трохи коду. За бюджетом це впевнено 12–14B, отже кандидати — Gemma 3 12B або Phi-4; якщо потрібен наголос на код, додаємо Qwen Coder 14B і перемикаємося на нього під задачу. Ставимо Ollama чи LM Studio, беремо версію в Q4, лишаємо запас пам’яті під контекст — і отримуємо робочу зв’язку без жодної копійки за токени. Захочете більшої якості згодом — під 32B знадобиться карта на 24 ГБ, а під 70B уже збірка на дві відеокарти.
Якщо потрібен один універсал і карта середня — почніть із Qwen3 або Gemma 3 під ваш обсяг пам’яті. Потрібна логіка — DeepSeek-R1, код — Qwen Coder, зображення — vision-моделі, голос — Whisper. А питання «на якому залізі все це ганяти» закриває окремий гід по залізу для локального ШІ. Головний плюс локального запуску лишається незмінним: приватність і відсутність плати за токени; головний мінус — стеля якості проти хмарних флагманів.
Часті питання
Яка локальна LLM найкраща у 2026 році? Єдиної «найкращої» немає — є найкраща під задачу та залізо. Для універсального чату хороший дефолт — Qwen3, для міркування — DeepSeek-R1, для коду — Qwen Coder, для зображень — vision-моделі, для голосу — Whisper. Відштовхуйтеся від сценарію та обсягу відеопам’яті, а не від рейтингу.
Скільки відеопам’яті потрібно для локальної моделі? Орієнтири в Q4: 7–8B — близько 5–6 ГБ, 13–14B — 9–10 ГБ, 32B — 20–24 ГБ, 70B — 40–48 ГБ. Масова стеля для однієї ігрової карти — 32B; 70B потребує двох карт або професійної 48-гігабайтної.
Ollama чи LM Studio — через що запускати? Це два найпопулярніші раннери. Ollama — командний рядок і зручна автоматизація, LM Studio — графічний інтерфейс «з коробки». На вибір моделі це не впливає: ті самі моделі працюють в обох.
Чи можна використовувати локальні моделі в комерційному проєкті? Залежить від ліцензії. Apache-2.0 (Qwen3, Mistral, gpt-oss, Qwen Coder) і MIT (DeepSeek, Phi-4, GLM, Whisper) вільні для комерції. У Llama та Gemma — власні ліцензії із застереженнями, їх варто прочитати до впровадження в продукт.
Що обрати для слабкого комп’ютера без потужної відеокарти? Компактні моделі: Gemma 3 у розмірі 1B або 4B, Phi-4, дистиляти DeepSeek-R1 на 1.5–8B. Вони запускаються на 8 ГБ VRAM, а найменші — навіть на процесорі, хоч і повільніше.
