ИИ на 27 миллиардов параметров запихнули в iPhone 🤯 Стартап PrismML выпустил модель Bonsai 27B. Работает она на iPhone,
Стартап PrismML выпустил модель Bonsai 27B. Работает она на iPhone, iPad и Mac без облака и интернета.
Секрет в сжатии. Там, где обычная модель держит на каждое значение 16 бит, эта — обходится одним. Файл ужимается до 3,9 ГБ и помещается в память iPhone 17 Pro, сохраняя почти всё качество оригинала.
Памяти нужно в 15 раз меньше, отвечает модель в 8 раз быстрее и тратит в 6 раз меньше энергии.
Apple уже знакомится ближе с этой технологией: замеряет скорость, энергоэффективность и работу на устройствах.
Хотел бы такой ИИ в кармане?
👉 Подписывайся на re:premium