LFM2.5-2.6B: модель на 2,6 млрд параметрів тримає агента у 2,5 ГБ пам’яті

3 хв. читання
BINANCE · СПОТ І ДЕРИВАТИВИ
Крипта з нуля
Комісія 0,1%, торги 24/7, старт з $10
Відкрити рахунок

Що сталося

6 серпня стартап Liquid AI виклав LFM2.5-2.6B — мовну модель на 2,6 млрд параметрів, навчену спеціально під агентські завдання: виклик інструментів і виконання інструкцій, а не розмови. У відкритому доступі на Hugging Face одразу дві версії, базова і донавчена під агентів. Заявлена особливість одна і зрозуміла: модель працює в межах 2,5 ГБ пам’яті, тобто вміщується у телефон і ноутбук без окремої відеокарти.

Деталі

Швидкість, яку наводить сам розробник: 220 токенів на секунду на Apple M5 Max, 113 токенів на секунду на AMD Ryzen AI Max+ 395 і близько 30 токенів на секунду на смартфоні через їхній застосунок Apollo. На іншому кінці — приблизно 15 000 токенів на секунду на одній NVIDIA H100 під постійним навантаженням, що компанія перераховує у 1,3 млрд токенів на добу з однієї карти. Усі ці цифри вендорські й незалежно не перевірені.

Порівнювали LFM2.5-2.6B із моделями, що вдвічі-вчетверо більші, — Gemma 4 E2B (5,1 млрд параметрів) і E4B (8 млрд), Qwen3.5-4B (4,7 млрд) і Qwen3.5-9B (9,7 млрд):

ТестLFM2.5-2.6BНайкращий із суперників
IFBench (виконання інструкції)59,1756,47 (Qwen3.5-9B)
Multi-IF80,0777,35 (Gemma 4 E4B)
ToolSandbox (виклик інструментів)77,8376,44 (Qwen3.5-9B)
BFCLv456,8860,13 (Qwen3.5-9B)
LiveCodeBench v6 (код)59,4169,86 (Qwen3.5-9B)

Ліцензія — власна LFM Open License v1.0: комерційне використання безкоштовне для компаній із виторгом до $10 млн на рік, для некомерційних і дослідницьких проєктів обмежень немає.

Що це означає

Цікаво це тим, хто тримає локальні моделі на своєму залізі й упирається не в якість, а в пам’ять: 2,5 ГБ — це різниця між «працює на телефоні» і «потрібен ПК з відеокартою». За інструкціями і викликом інструментів модель обходить суперників, що вчетверо більші, за кодом — помітно поступається (59,41 проти 69,86 у Qwen3.5-9B), тож закривати нею завдання розробника не вийде. Окремо варто дивитися ліцензію: поріг у $10 млн виторгу означає, що безкоштовно це не для всіх, і юристам компанії текст читати доведеться. Перевірити обіцяну швидкість можна просто зараз — ваги вже лежать на Hugging Face, незалежних замірів чекати пару тижнів.

BINANCE SIMPLE EARN
Крипта лежить?
Simple Earn: відсоток нараховується щодня
Відкрити Earn
Поділитися
Зв'язатися:
Крипто- та data-аналітик, інженер-програміст (факультет комп'ютерних наук ХНУРЕ). В IT з 2008 року: адміністрував корпоративний моніторинг у «Vodafone Україна», сім років розробляв і просував веб-проєкти, п'ять років керував маркетингом на метриках — конверсія, CTR, ROI, LTV.Криптовалютними ринками займаюся з 2021 року: ончейн-метрики, токеноміка, макроекономічні індикатори. Розробив власну data-driven модель аналізу ринку на 30+ метрик. Стек — Python (pandas, NumPy, SciPy, matplotlib), математична статистика та EDA; збір і звірку даних автоматизую AI-агентами.Принцип — «Don't trust, verify»: кожна цифра перевірена за першоджерелом, ключові — щонайменше за двома незалежними; прогнози — лише сценарії з умовами. Теза без даних не публікується.