raspberry-pi

Raspberry Pi 5 для локальних LLM: AI HAT+ 2 не прискорює генерацію тексту

Скільки токенів за секунду видає Raspberry Pi 5 на моделях 1–30B, що дає AI HAT+ 2 на Hailo-10H, скільки коштує збірка і коли вигідніший міні-ПК чи Jetson.

35 хв. читання