Raspberry Pi 5 для локальных LLM: AI HAT+ 2 не ускоряет генерацию текста
Сколько токенов в секунду выдаёт Raspberry Pi 5 на моделях 1–30B, что даёт AI HAT+ 2 на Hailo-10H, сколько стоит сборка и когда выгоднее мини-ПК или Jetson.
35 мин. чтения
Сколько токенов в секунду выдаёт Raspberry Pi 5 на моделях 1–30B, что даёт AI HAT+ 2 на Hailo-10H, сколько стоит сборка и когда выгоднее мини-ПК или Jetson.
Sign in to your account