Raspberry Pi 5 для локальних LLM: AI HAT+ 2 не прискорює генерацію тексту
Скільки токенів за секунду видає Raspberry Pi 5 на моделях 1–30B, що дає AI HAT+ 2 на Hailo-10H, скільки коштує збірка і коли вигідніший міні-ПК чи Jetson.
35 хв. читання
Скільки токенів за секунду видає Raspberry Pi 5 на моделях 1–30B, що дає AI HAT+ 2 на Hailo-10H, скільки коштує збірка і коли вигідніший міні-ПК чи Jetson.
Sign in to your account