Raspberry Pi AI HAT+ 2 – Hailo-10H mit 40 TOPS und lokalen LLMs
Mit dem Raspberry Pi AI HAT+ 2 bekommt der Pi 5 erstmals einen KI-Beschleuniger, der nicht nur Bilder und Videos verarbeitet, sondern auch lokale Sprachmodelle (LLMs) direkt auf dem Chip ausführt – ohne Internet und ohne Cloud. Der Schlüssel ist der Hailo-10H-Chip mit 40 TOPS und 8 GB eigenem Arbeitsspeicher.
➡ Raspberry Pi AI HAT+ 2 ansehen*
Was ist der Raspberry Pi AI HAT+ 2?
Der AI HAT+ 2 ist der leistungsstärkste Vertreter der AI-HAT+-Familie. Raspberry Pi hat ihn im Januar 2026 vorgestellt. Er hat dieselbe Größe wie der AI HAT+, bringt aber zusätzlich eigenen Arbeitsspeicher mit:
| Merkmal | AI HAT+ 13 TOPS | AI HAT+ 26 TOPS | AI HAT+ 2 |
|---|---|---|---|
| Chip | Hailo-8L | Hailo-8 | Hailo-10H |
| Rechenleistung | 13 TOPS (INT8) | 26 TOPS (INT8) | 40 TOPS (INT4) |
| Eigener RAM | – (nutzt den RAM des Pi 5) | – (nutzt den RAM des Pi 5) | 8 GB |
| Sprachmodelle (LLMs) und Bild-Sprach-Modelle (VLMs) | Nein | Nein | Ja, bis ca. 6 Mrd. Parameter |
| Software-Paket | hailo-all |
hailo-all |
hailo-h10-all |
| Verfügbar seit | Oktober 2024 | Oktober 2024 | Januar 2026 |
Der entscheidende Unterschied: Die 13- und 26-TOPS-Varianten nutzen den Arbeitsspeicher des Raspberry Pi 5, der Hailo-10H bringt 8 GB eigenen Speicher mit. Erst das macht Sprachmodelle auf dem Beschleuniger möglich. Laut Raspberry Pi laufen damit LLMs und VLMs bis etwa 6 Milliarden Parameter.
Der Hailo-10H Chip – was steckt drin?
Hailo bezeichnet den Hailo-10H als Chip für generative KI: Er beherrscht die klassischen Vision-Aufgaben der Vorgänger und führt zusätzlich Sprachmodelle und multimodale Modelle aus.
- 40 TOPS (INT4) – die Vorgänger werden in INT8 angegeben (13 bzw. 26 TOPS). Die Zahlen lassen sich deshalb nicht direkt vergleichen.
- 8 GB Arbeitsspeicher auf dem HAT – getrennt vom RAM des Pi 5
- PCIe-Anschluss – gleicher Anschluss und gleiche Größe wie beim AI HAT+
- Kühlkörper im Lieferumfang – Raspberry Pi empfiehlt zusätzlich den Active Cooler auf dem Pi 5
Leistung: Vision und Sprachmodelle
Bilderkennung: Der AI HAT+ 2 kann alles, was der AI HAT+ kann – Objekterkennung, Segmentierung und Posenerkennung mit der Kamera laufen über dieselben rpicam-apps-Demos. Raspberry Pi beschreibt die Vision-Leistung als vergleichbar mit dem 26-TOPS-AI-HAT+. Für reine Bilderkennung bringt der AI HAT+ 2 also keinen Vorsprung.
Sprachmodelle: Das ist das Alleinstellungsmerkmal. Die Modelle stammen aus dem Hailo Gen-AI Model Zoo und laufen auf dem Hailo-10H. Unabhängige, nachvollziehbare Messungen zur Geschwindigkeit (Tokens pro Sekunde) haben wir bisher nicht gefunden – deshalb nennen wir hier keine Zahlen.
Installation: anderes Paket als beim AI HAT+
Der AI HAT+ 2 braucht ein eigenes Software-Paket: hailo-h10-all statt hailo-all. Die beiden Pakete können laut Raspberry Pi nicht gleichzeitig installiert sein. Wer vorher einen AI HAT+ oder das AI Kit am selben Pi betrieben hat, entfernt deshalb zuerst das alte Paket mit sudo apt remove hailo-all.
Die folgenden Schritte entsprechen der offiziellen Raspberry-Pi-Anleitung (Stand Oktober 2026). Voraussetzung ist das aktuelle 64-Bit-Raspberry-Pi-OS.
1. System und Firmware aktualisieren:
sudo apt update sudo apt full-upgrade -y sudo rpi-eeprom-update -a sudo reboot
2. Hailo-Software für den AI HAT+ 2 installieren:
sudo apt install dkms sudo apt install hailo-h10-all sudo reboot
3. Prüfen, ob der Chip erkannt wird:
hailortcli fw-control identify
Die Ausgabe nennt Firmware-Version und Chip-Architektur. Dass beim AI HAT+ 2 Seriennummer, Teilenummer und Produktname als <N/A> erscheinen, ist laut Raspberry Pi normal.
Sprachmodelle ausführen mit hailo-ollama
Sprachmodelle laufen über den Hailo-Ollama-Server. Er lädt die Modelle aus dem Hailo Gen-AI Model Zoo, führt sie auf dem Hailo-10H aus und bietet eine REST-Schnittstelle, über die du Fragen stellst – per Terminal oder über eine Chat-Oberfläche im Browser.
Model-Zoo-Paket installieren
Lade das Paket „Hailo Model Zoo GenAI“ in Version 5.1.1 herunter und installiere es. Es enthält den Server und die Modelle für den Hailo-10H:
wget https://dev-public.hailo.ai/2025_12/Hailo10/hailo_gen_ai_model_zoo_5.1.1_arm64.deb sudo dpkg -i hailo_gen_ai_model_zoo_5.1.1_arm64.deb
Server starten, Modell laden und fragen
Starte den Server in einem Terminal-Fenster. Er läuft im Vordergrund weiter, solange das Fenster offen ist:
hailo-ollama
Öffne ein zweites Terminal-Fenster und lass dir anzeigen, welche Modelle verfügbar sind:
curl --silent http://localhost:8000/hailo/v1/list
Lade eines der angezeigten Modelle herunter. Die Raspberry-Pi-Anleitung nutzt qwen2:1.5b als Beispiel – ersetze den Namen bei Bedarf durch ein anderes Modell aus der Liste:
curl --silent http://localhost:8000/api/pull -H 'Content-Type: application/json' -d '{ "model": "qwen2:1.5b", "stream" : true }'
Danach stellst du dem Modell eine Frage:
curl --silent http://localhost:8000/api/chat -H 'Content-Type: application/json' -d '{"model": "qwen2:1.5b", "messages": [{"role": "user", "content": "Erkläre in zwei Sätzen, was ein Raspberry Pi ist."}]}'
Optional: Chat im Browser mit Open WebUI
Bequemer als curl ist die Chat-Oberfläche Open WebUI. Sie läuft als Docker-Container – wie du Docker installierst, zeigt unsere Anleitung Docker auf dem Raspberry Pi installieren. Läuft hailo-ollama bereits, startest du Open WebUI so:
docker run -d -e OLLAMA_BASE_URL=http://127.0.0.1:8000 -v open-webui:/app/backend/data --name open-webui --network=host --restart always ghcr.io/open-webui/open-webui:main
Der Start kann bis zu einer Minute dauern; mit docker logs open-webui -f siehst du, wann der Server bereit ist. Danach öffnest du im Browser des Pi http://127.0.0.1:8080, wählst ein Modell und chattest los.
Bilder beschreiben lassen (VLM)
Für Bild-Sprach-Modelle, die ein Kamerabild in Worte fassen, verweist Raspberry Pi auf das Repository hailo-apps von Hailo. Dort liegen die aktuellen Beispiele für den Hailo-10H. Das ältere Repository hailo-rpi5-examples ist veraltet und enthält keine Sprachmodell-Beispiele.
Was du mit dem AI HAT+ 2 bauen kannst
1. Lokaler Chat ohne Cloud
Mit hailo-ollama und Open WebUI bekommst du einen Chat im Browser, der komplett im Heimnetz läuft. Wenn dir die Modelle auf dem Hailo-Chip zu klein sind: Größere Modelle laufen auf der CPU des Pi 5 – wie das geht, steht in unserer Anleitung Ollama auf dem Raspberry Pi 5.
2. Kamerabilder beschreiben lassen
Mit einem Bild-Sprach-Modell aus den hailo-apps-Beispielen beschreibt der Pi in Worten, was die Kamera sieht – ebenfalls ohne Cloud.
3. Objekterkennung mit der Kamera
Für reine Objekterkennung nutzt du die rpicam-apps-Demos wie beim AI HAT+. Für eine Überwachungskamera mit Frigate ist der AI HAT+ 2 aber nicht die erste Wahl: Die Frigate-Doku nennt als Hailo-Beschleuniger nur Hailo-8 und Hailo-8L. Unsere Anleitung Frigate mit dem Raspberry Pi AI HAT+ nutzt deshalb die 13-TOPS-Variante.
Wann lohnt sich der AI HAT+ 2?
| Anwendungsfall | Empfehlung | Warum? |
|---|---|---|
| Überwachungskamera mit Frigate | AI HAT+ 13 TOPS | Von Frigate unterstützt, günstigste Variante |
| Mehrere Kameras, größere Vision-Modelle | AI HAT+ 26 TOPS | Mehr Durchsatz, mehrere Modelle parallel |
| Lokale Sprachmodelle auf dem Beschleuniger | AI HAT+ 2 | Einziger AI HAT mit LLM-Unterstützung |
| Kamerabilder in Worten beschreiben (VLM) | AI HAT+ 2 | Einziger AI HAT mit VLM-Unterstützung |
Hardware kaufen
Für den kompletten Aufbau mit dem AI HAT+ 2 empfehle ich:
- Raspberry Pi AI HAT+ 2 (40 TOPS / Hailo-10H)* – zum Marktstart im Januar 2026 offiziell 130 US-Dollar, seit der Preisrunde im April 2026 deutlich mehr
- Raspberry Pi 5 (8 GB)* – empfohlen, wenn neben dem Modell noch andere Dienste laufen
- Aktiver Kühler für Pi 5* – von Raspberry Pi zusätzlich zum Kühlkörper des HAT empfohlen
- Offizielles 27W USB-C-Netzteil* – Pflicht für stabile Versorgung
Fazit
Der Raspberry Pi AI HAT+ 2 ist ein echtes Upgrade – aber nicht für jeden. Wer primär Objekterkennung oder Frigate NVR betreiben will, ist mit dem günstigeren 13- oder 26-TOPS-Modell besser bedient: Die Vision-Leistung ist laut Raspberry Pi vergleichbar mit der 26-TOPS-Variante, und Frigate unterstützt den Hailo-10H laut Doku nicht. Die Stärke des AI HAT+ 2 liegt woanders: Er ist das erste Raspberry-Pi-Zubehör, das Sprachmodelle direkt auf dem Beschleuniger ausführt.
Für lokale Chat-Assistenten und Bildbeschreibungen ohne Cloud ist der AI HAT+ 2 die einzige offizielle Option im Raspberry-Pi-Ökosystem. Wichtig bei der Einrichtung: das Paket hailo-h10-all statt hailo-all und für Sprachmodelle den Server hailo-ollama.
Häufige Fragen zum Raspberry Pi AI HAT+ 2
Der AI HAT+ 2 nutzt den Hailo-10H mit 40 TOPS (INT4) und hat als einziger 8 GB eigenen Arbeitsspeicher. Damit führt er Sprachmodelle (LLMs) und Bild-Sprach-Modelle (VLMs) bis etwa 6 Milliarden Parameter direkt auf dem Beschleuniger aus. Die Vorgänger mit Hailo-8L (13 TOPS) und Hailo-8 (26 TOPS, jeweils INT8) können das nicht. Für reine Vision-Aufgaben sind die günstigeren Varianten oft ausreichend.
Modelle aus dem Hailo Gen-AI Model Zoo, die du über den Server hailo-ollama lädst. Welche Modelle aktuell verfügbar sind, zeigt der Befehl curl --silent http://localhost:8000/hailo/v1/list. Die offizielle Raspberry-Pi-Anleitung nutzt qwen2:1.5b als Beispiel.
Unabhängige, nachvollziehbare Messungen zur Geschwindigkeit haben wir bisher nicht gefunden, deshalb nennen wir keine Werte. Fest steht: Die Modelle laufen auf dem Hailo-10H und nutzen dessen eigenen Speicher statt des Arbeitsspeichers des Pi 5.
Ja. Der AI HAT+ 2 braucht das Paket hailo-h10-all, AI HAT+ und AI Kit dagegen hailo-all. Beide Pakete können nicht gleichzeitig installiert sein. Für Sprachmodelle kommt das Paket Hailo Model Zoo GenAI mit dem Server hailo-ollama dazu.
Ja. Laut Raspberry Pi kann der AI HAT+ 2 alles, was der AI HAT+ kann, etwa Objekterkennung und Posenerkennung mit den rpicam-apps-Demos. Die Vision-Leistung beschreibt Raspberry Pi als vergleichbar mit dem 26-TOPS-AI-HAT+. Zusätzlich kann er mit Bild-Sprach-Modellen Kamerabilder in Worten beschreiben.
