Старую технику часто недооценивают, полагая, что ей доступны только игры прошлых лет. История с одной из консолей Sony показывает: при достаточном упорстве возможности устройства оказываются шире, чем предполагала сама компания.

Источник изображения: Sony Interactive Entertainment/Tom's Hardware
Разработчик Leonardo Alegria создал бесплатную программу Garlic LLM. Она позволяет взломанной PS4 запускать языковую модель Qwen3.5-9B, у которой 9 миллиардов параметров. Параметры — это внутренние настройки модели, которые определяют, насколько связно она отвечает: чем их больше, тем обычно умнее модель, но и ресурсов ей нужно больше. Работает все автономно, на графическом процессоре консоли, выпущенной в 2013 году.
Чтобы модель поместилась в память консоли, ее пришлось ужать примерно до 4,5 ГБ. Для этого числа, из которых состоит модель, хранят в более компактном виде: большую часть — в 4-битном, а самые крупные блоки — в 3-битном. Весь пакет занимает 5,66 ГБ и доступен для скачивания на Hugging Face. Устанавливается он через установщик пакетов PS4, для работы нужно около 6 ГБ свободного места, а если предварительно копировать на внутренний диск — 12 ГБ.
Для запуска нужна взломанная консоль с программой GoldHEN. Разработчик проверял проект на базовой и Slim-версии PS4 с версией системы 11.52. В текстовом чате модель выдает от 31 до 39 токенов в секунду. Токен — это небольшая часть слова, кусочек текста, который модель выдает за один шаг, так что по скорости это сравнимо с неторопливым, но вполне читаемым ответом. При генерации кода скорость доходит до 43 токенов в секунду.
Помимо текста, консоль может отвечать голосом: за это отвечает отдельная речевая модель Chatterbox, которая поддерживает семь языков. Возможна также и диктовка — удерживая кнопку на контроллере, можно наговаривать текст, его распознает модель Nvidia Parakeet, знающая 25 европейских языков. Все это работает на самой консоли, без обращения к внешним серверам.
Технически проект интересен тем, что обошелся без привычных инструментов. На PS5 похожие задачи решают, используя готовые программы и драйверы, а для PS4 такого набора нет. Автор Garlic LLM написал вычислительные операции сам и заставил приложение обращаться к графическому процессору напрямую, минуя драйверы. Иначе говоря, консоль не знает, что ее используют не по назначению, и просто выполняет то, что ей поручили.

