raspberry-pi

Raspberry Pi 5 для локальных LLM: AI HAT+ 2 не ускоряет генерацию текста

Сколько токенов в секунду выдаёт Raspberry Pi 5 на моделях 1–30B, что даёт AI HAT+ 2 на Hailo-10H, сколько стоит сборка и когда выгоднее мини-ПК или Jetson.

35 мин. чтения