Что произошло
Разработчик Леонардо Алегрия выложил открытый проект Garlic LLM — приложение, которое запускает языковую модель Qwen3.5-9B на взломанной PlayStation 4 полностью офлайн, на графическом процессоре консоли 2013 года. По замерам автора, в текстовом чате модель выдаёт 31–39 токенов в секунду, а при написании кода — до 43. Репозиторий появился на GitHub 11 ноября 2026 года, 16 ноября проект разобрал Tom’s Hardware.
Детали
Для самодельных программ у PS4 нет ни вычислительного API, ни библиотек машинного обучения, поэтому Garlic LLM обращается к GPU напрямую. Операции модели написаны как вычислительные ядра на OpenCL C и скомпилированы под архитектуру AMD GCN, а команды для видеочипа приложение собирает само — ту работу, которую обычно делает драйвер. Ни llama.cpp, ни Vulkan здесь нет.
Главная сложность — память: у консоли 8 ГБ на процессор и видеочип вместе. Большинство весов сжато до 4 бит, две самые крупные матрицы каждого слоя — примерно до 3,5 бита. В итоге модель занимает около 4,5 ГиБ. Кэш внимания тоже 4-битный, поэтому контекст — 16 тыс. токенов. Скорость даёт спекулятивное декодирование: встроенная в Qwen3.5 «голова» угадывает до двух токенов вперёд, а полная модель проверяет их за один проход.Параметр Данные проекта Модель Qwen3.5-9B, свои форматы Q4 и Q3 Скорость, текстовый чат 31–39 токенов/с Скорость, код до 43 токенов/с Голосовой режим около 22 токенов/с Контекст 16 тыс. токенов Пакет около 5,7 ГБ, версия 1.19
Скорости сняты на обычной и Slim-версии PS4 с прошивкой 11.52; на каком запросе и как именно мерили, автор не уточняет. Владелец PS4 Pro с прошивкой 12.02 сообщил о 25–45 токенах/с, сам автор Pro не проверял. На PS5 приложение не работает.
Что это значит
Кого касается. Тех, кто собирает локальный ИИ на том, что уже есть дома. Опыт с PS4 показывает, что важнее возраста чипа три вещи: модель целиком в памяти, агрессивное сжатие весов и спекулятивное декодирование. С ними ответ на 300 токенов при 35 токенах/с приходит меньше чем за девять секунд.
Ограничения. Это демонстрация, а не рабочий инструмент. Нужен взлом через GoldHEN на подходящей прошивке — на свой риск, и купить консоль ради этого бессмысленно. Модель одна, контекст в 16 раз короче родных 256 тыс. токенов. Если цель — нейросеть дома, разумнее апгрейд старого ПК под локальный ИИ или сама Qwen3 на своём ПК.
Горизонт. В исходниках уже есть OpenAI-совместимый API: консоль сможет отвечать программам в домашней сети, но в пакет он попадёт только со следующей версией. Результаты с других прошивок и с PS4 Pro автор собирает через issues на GitHub — так что список проверенных консолей в ближайшие недели будет расти.

