☝🏻На взломанной PlayStation 5 запустили нейросеть на 27 млрд параметров Разработчик под ником abhi245y выпустил PS5LM P
Разработчик под ником abhi245y выпустил PS5LM Plus — приложение, которое запускает языковые модели прямо на видеочипе приставки.🎮
☝🏻Модель Qwen 3.8 на 27 млрд параметров в 2-битном квантовании выдаёт на консоли около 20 токенов в секунду. Всё считается на самой PS5, без облака.
🔻Модель Qwen3.8-27B от Alibaba сравнима по уровню качества и производительности с прошлым поколением флагманов от Anthropic — Claude Opus 4.6 / Opus 4.7, а по некоторым тестам и независимым индексам (например, Artificial Analysis) даже превосходит их в отдельных узких задачах (программирование, работа с агентами)
Писать модели можно через веб-интерфейс с телефона или компьютера в той же сети.
Проект вырос из PS5LM Мерта Кобанова. Он уже переносил на PS5 движок llama.cpp, но модели там работали на процессоре, и 27B выдавала примерно один токен в минуту.🤷🏼♀️
Новая версия забирает до 12 ГБ видеопамяти и считает через Vulkan.⚡️
Что ещё умеет приложение:
🔻 запускает модели в формате GGUF с внутреннего диска, USB, M.2 SSD или прямо с Hugging Face;
🔻 даёт OpenAI-совместимый API для внешних клиентов;
🔻 выводит на телевизор скорость генерации, энергопотребление и температуру.
Модели полегче работают ещё быстрее: Gemma 4 E4B выдаёт 61 токен/с, Llama 3.2 3B — 124 токена/с.🚀
Для запуска нужна взломанная PS5 с etaHEN, kstuff и ShadowMountPlus. Код открыт под лицензией GPL-3.0.
Вряд ли Sony рассчитывала, что её приставка станет домашним ИИ-сервером.🤖
================
🔺 News | 🧩 Soft | 💻 Hacker