ИИ на NPU вычислительной мощности процессора Rockchip RK3588: Реализовать данный проект можно на одноплатниках: Orange pi 5 pro: https://ali.
Реализовать данный проект можно на одноплатниках:
Orange pi 5 pro: https://ali.click/pzz101e?erid=2SDnjeBoasb
Orange pi 5 plus: https://ali.click/mgw2018?erid=2SDnjcn4r5P
FriendlyELEC CM3588 NAS: https://ali.click/diw2012?erid=2SDnjdLgaGy (эта плата прям прикольная, у неё еще куча m2 слотов, под организацию NAS)
Интересная статья тут попалась, хотя она уже старая, но я эту тему не прорабатывал.
В этой статье описано, как на одноплатном компьютере Orange pi 5 pro, используя его NPU - запускать локально ИИ.
Статью можно найти тут, но она открывается не из РФ... Так что нужно с обходом: https://www.xda-developers.com/how-i-used-the-npu-on-my-orange-pi-5-pro-to-run-llms/
#ИИ
Реклама: ООО "АЛИБАБА.КОМ (РУ)" ИНН: 7703380158