local-llm

Nvidia Nemotron 3.5: Super VL на 120B для компаній і Bolt на 24 ГБ для власного ПК

Nvidia випустила відкриті Nemotron 3.5 Super VL (120B) і Bolt 74B-A9B для ШІ-агентів у ЦОД і на ПК. Ліцензія, вимоги до VRAM і як запустити Bolt в Ollama.

3 хв. читання

Китай вносить 23 ШІ-технології в експортний список: open source — спрощеною схемою

Мінкомерції КНР оприлюднило проєкт: ваги моделей від 10^26 FLOP або 2 трлн параметрів — під експортний контроль. Що буде з відкритими Qwen, DeepSeek і Kimi.

3 хв. читання

Ноутбуки NVIDIA RTX Spark від $2599: 67 токенів/с на 35B-моделі в тесті The Register

Ноутбуки на NVIDIA RTX Spark N1X надійшли в продаж 16 жовтня. Ціни від $2599, перші заміри локальних LLM і кому такий ноутбук потрібен замість DGX Spark.

3 хв. читання

Ботнет PoeLLM: понад 3400 серверів з LiteLLM і Ollama, адресу керування — у віршах

Black Lotus Labs: з квітня 2026 року ботнет PoeLLM заразив понад 3400 серверів з відкритими LiteLLM і Ollama та майнить на них крипту. Кого стосується і що закрити.

3 хв. читання

RTX 5090 більше не випускатимуть, стверджують інсайдери: чип GB202 іде в RTX PRO

Інсайдери повідомляють: Nvidia припиняє випуск RTX 5090, чип GB202 піде в RTX PRO, флагманом стане RTX 5080 24 ГБ. Nvidia не підтвердила. Ціни в Україні.

3 хв. читання

AMD Gorgon Halo: до 20 токенів/с на моделі в 320 млрд параметрів — за замірами AMD

AMD показала тести Ryzen AI Max+ Pro 495 за два дні до RTX Spark: GLM 5.3 Flash до 20 токенів/с, Qwen до 42. Що дають 192 ГБ пам'яті і де…

3 хв. читання

Aleph Alpha випустила Kolibri: 78 млрд параметрів, 3,46 млрд активних і Apache 2.0

Aleph Alpha відкрила ваги Kolibri — MoE-моделі для німецької та англійської на 78 млрд параметрів. Що вона вміє, де поступається Qwen і на якому залізі її запустити.

3 хв. читання

RTX 5060 Ti 16 ГБ для локального ШІ: моделі до 20B і 33 ток/с на 14B

RTX 5060 Ti 16GB для ШІ: скільки ток/с дає на моделях 8B–20B, що вміщується в 16 ГБ, чому ціна стрибала від $429 до $805 і коли краще взяти RTX 3090.

36 хв. читання