Raspberry Pi AI HAT+ 2 mit Hailo-10H-Chip und Speicherchip, daneben die Verpackung

Raspberry Pi AI HAT+ 2 – Hailo-10H mit 40 TOPS und lokalen LLMs

Mit dem Raspberry Pi AI HAT+ 2 bekommt der Pi 5 erstmals einen KI-Beschleuniger, der nicht nur Bilder und Videos verarbeitet, sondern auch lokale Sprachmodelle (LLMs) direkt auf dem Chip ausführt – ohne Internet und ohne Cloud. Der Schlüssel ist der Hailo-10H-Chip mit 40 TOPS und 8 GB eigenem Arbeitsspeicher.

➡ Raspberry Pi AI HAT+ 2 ansehen*

Mit * markierte Links sind Affiliate-Links, also Werbung. Kauft ihr darüber ein, erhalte ich eine Provision, der Preis bleibt für euch gleich. Als Amazon-Partner verdiene ich an qualifizierten Verkäufen. Mehr dazu
Zum Vergleich: Dieser Artikel behandelt den AI HAT+ 2 (Hailo-10H, 40 TOPS). Den Überblick über die 13- und 26-TOPS-Varianten des AI HAT+ inkl. Installation und Projekte findest du hier: Raspberry Pi AI HAT+ – KI-Beschleunigung auf dem Pi 5.

Was ist der Raspberry Pi AI HAT+ 2?

Der AI HAT+ 2 ist der leistungsstärkste Vertreter der AI-HAT+-Familie. Raspberry Pi hat ihn im Januar 2026 vorgestellt. Er hat dieselbe Größe wie der AI HAT+, bringt aber zusätzlich eigenen Arbeitsspeicher mit:

Merkmal AI HAT+ 13 TOPS AI HAT+ 26 TOPS AI HAT+ 2
Chip Hailo-8L Hailo-8 Hailo-10H
Rechenleistung 13 TOPS (INT8) 26 TOPS (INT8) 40 TOPS (INT4)
Eigener RAM – (nutzt den RAM des Pi 5) – (nutzt den RAM des Pi 5) 8 GB
Sprachmodelle (LLMs) und Bild-Sprach-Modelle (VLMs) Nein Nein Ja, bis ca. 6 Mrd. Parameter
Software-Paket hailo-all hailo-all hailo-h10-all
Verfügbar seit Oktober 2024 Oktober 2024 Januar 2026

Der entscheidende Unterschied: Die 13- und 26-TOPS-Varianten nutzen den Arbeitsspeicher des Raspberry Pi 5, der Hailo-10H bringt 8 GB eigenen Speicher mit. Erst das macht Sprachmodelle auf dem Beschleuniger möglich. Laut Raspberry Pi laufen damit LLMs und VLMs bis etwa 6 Milliarden Parameter.

Der Hailo-10H Chip – was steckt drin?

Hailo bezeichnet den Hailo-10H als Chip für generative KI: Er beherrscht die klassischen Vision-Aufgaben der Vorgänger und führt zusätzlich Sprachmodelle und multimodale Modelle aus.

  • 40 TOPS (INT4) – die Vorgänger werden in INT8 angegeben (13 bzw. 26 TOPS). Die Zahlen lassen sich deshalb nicht direkt vergleichen.
  • 8 GB Arbeitsspeicher auf dem HAT – getrennt vom RAM des Pi 5
  • PCIe-Anschluss – gleicher Anschluss und gleiche Größe wie beim AI HAT+
  • Kühlkörper im Lieferumfang – Raspberry Pi empfiehlt zusätzlich den Active Cooler auf dem Pi 5

Leistung: Vision und Sprachmodelle

Bilderkennung: Der AI HAT+ 2 kann alles, was der AI HAT+ kann – Objekterkennung, Segmentierung und Posenerkennung mit der Kamera laufen über dieselben rpicam-apps-Demos. Raspberry Pi beschreibt die Vision-Leistung als vergleichbar mit dem 26-TOPS-AI-HAT+. Für reine Bilderkennung bringt der AI HAT+ 2 also keinen Vorsprung.

Sprachmodelle: Das ist das Alleinstellungsmerkmal. Die Modelle stammen aus dem Hailo Gen-AI Model Zoo und laufen auf dem Hailo-10H. Unabhängige, nachvollziehbare Messungen zur Geschwindigkeit (Tokens pro Sekunde) haben wir bisher nicht gefunden – deshalb nennen wir hier keine Zahlen.

Installation: anderes Paket als beim AI HAT+

Der AI HAT+ 2 braucht ein eigenes Software-Paket: hailo-h10-all statt hailo-all. Die beiden Pakete können laut Raspberry Pi nicht gleichzeitig installiert sein. Wer vorher einen AI HAT+ oder das AI Kit am selben Pi betrieben hat, entfernt deshalb zuerst das alte Paket mit sudo apt remove hailo-all.

Die folgenden Schritte entsprechen der offiziellen Raspberry-Pi-Anleitung (Stand Oktober 2026). Voraussetzung ist das aktuelle 64-Bit-Raspberry-Pi-OS.

1. System und Firmware aktualisieren:

sudo apt update
sudo apt full-upgrade -y
sudo rpi-eeprom-update -a
sudo reboot

2. Hailo-Software für den AI HAT+ 2 installieren:

sudo apt install dkms
sudo apt install hailo-h10-all
sudo reboot

3. Prüfen, ob der Chip erkannt wird:

hailortcli fw-control identify

Die Ausgabe nennt Firmware-Version und Chip-Architektur. Dass beim AI HAT+ 2 Seriennummer, Teilenummer und Produktname als <N/A> erscheinen, ist laut Raspberry Pi normal.

Sprachmodelle ausführen mit hailo-ollama

Sprachmodelle laufen über den Hailo-Ollama-Server. Er lädt die Modelle aus dem Hailo Gen-AI Model Zoo, führt sie auf dem Hailo-10H aus und bietet eine REST-Schnittstelle, über die du Fragen stellst – per Terminal oder über eine Chat-Oberfläche im Browser.

Model-Zoo-Paket installieren

Lade das Paket „Hailo Model Zoo GenAI“ in Version 5.1.1 herunter und installiere es. Es enthält den Server und die Modelle für den Hailo-10H:

wget https://dev-public.hailo.ai/2025_12/Hailo10/hailo_gen_ai_model_zoo_5.1.1_arm64.deb
sudo dpkg -i hailo_gen_ai_model_zoo_5.1.1_arm64.deb

Server starten, Modell laden und fragen

Starte den Server in einem Terminal-Fenster. Er läuft im Vordergrund weiter, solange das Fenster offen ist:

hailo-ollama

Öffne ein zweites Terminal-Fenster und lass dir anzeigen, welche Modelle verfügbar sind:

curl --silent http://localhost:8000/hailo/v1/list

Lade eines der angezeigten Modelle herunter. Die Raspberry-Pi-Anleitung nutzt qwen2:1.5b als Beispiel – ersetze den Namen bei Bedarf durch ein anderes Modell aus der Liste:

curl --silent http://localhost:8000/api/pull -H 'Content-Type: application/json' -d '{ "model": "qwen2:1.5b", "stream" : true }'

Danach stellst du dem Modell eine Frage:

curl --silent http://localhost:8000/api/chat -H 'Content-Type: application/json' -d '{"model": "qwen2:1.5b", "messages": [{"role": "user", "content": "Erkläre in zwei Sätzen, was ein Raspberry Pi ist."}]}'

Optional: Chat im Browser mit Open WebUI

Bequemer als curl ist die Chat-Oberfläche Open WebUI. Sie läuft als Docker-Container – wie du Docker installierst, zeigt unsere Anleitung Docker auf dem Raspberry Pi installieren. Läuft hailo-ollama bereits, startest du Open WebUI so:

docker run -d -e OLLAMA_BASE_URL=http://127.0.0.1:8000 -v open-webui:/app/backend/data --name open-webui --network=host --restart always ghcr.io/open-webui/open-webui:main

Der Start kann bis zu einer Minute dauern; mit docker logs open-webui -f siehst du, wann der Server bereit ist. Danach öffnest du im Browser des Pi http://127.0.0.1:8080, wählst ein Modell und chattest los.

Bilder beschreiben lassen (VLM)

Für Bild-Sprach-Modelle, die ein Kamerabild in Worte fassen, verweist Raspberry Pi auf das Repository hailo-apps von Hailo. Dort liegen die aktuellen Beispiele für den Hailo-10H. Das ältere Repository hailo-rpi5-examples ist veraltet und enthält keine Sprachmodell-Beispiele.

Was du mit dem AI HAT+ 2 bauen kannst

1. Lokaler Chat ohne Cloud

Mit hailo-ollama und Open WebUI bekommst du einen Chat im Browser, der komplett im Heimnetz läuft. Wenn dir die Modelle auf dem Hailo-Chip zu klein sind: Größere Modelle laufen auf der CPU des Pi 5 – wie das geht, steht in unserer Anleitung Ollama auf dem Raspberry Pi 5.

2. Kamerabilder beschreiben lassen

Mit einem Bild-Sprach-Modell aus den hailo-apps-Beispielen beschreibt der Pi in Worten, was die Kamera sieht – ebenfalls ohne Cloud.

3. Objekterkennung mit der Kamera

Für reine Objekterkennung nutzt du die rpicam-apps-Demos wie beim AI HAT+. Für eine Überwachungskamera mit Frigate ist der AI HAT+ 2 aber nicht die erste Wahl: Die Frigate-Doku nennt als Hailo-Beschleuniger nur Hailo-8 und Hailo-8L. Unsere Anleitung Frigate mit dem Raspberry Pi AI HAT+ nutzt deshalb die 13-TOPS-Variante.

Wann lohnt sich der AI HAT+ 2?

Anwendungsfall Empfehlung Warum?
Überwachungskamera mit Frigate AI HAT+ 13 TOPS Von Frigate unterstützt, günstigste Variante
Mehrere Kameras, größere Vision-Modelle AI HAT+ 26 TOPS Mehr Durchsatz, mehrere Modelle parallel
Lokale Sprachmodelle auf dem Beschleuniger AI HAT+ 2 Einziger AI HAT mit LLM-Unterstützung
Kamerabilder in Worten beschreiben (VLM) AI HAT+ 2 Einziger AI HAT mit VLM-Unterstützung

Hardware kaufen

Für den kompletten Aufbau mit dem AI HAT+ 2 empfehle ich:

* Affiliate-Links, also Werbung. Mehr dazu

Fazit

Der Raspberry Pi AI HAT+ 2 ist ein echtes Upgrade – aber nicht für jeden. Wer primär Objekterkennung oder Frigate NVR betreiben will, ist mit dem günstigeren 13- oder 26-TOPS-Modell besser bedient: Die Vision-Leistung ist laut Raspberry Pi vergleichbar mit der 26-TOPS-Variante, und Frigate unterstützt den Hailo-10H laut Doku nicht. Die Stärke des AI HAT+ 2 liegt woanders: Er ist das erste Raspberry-Pi-Zubehör, das Sprachmodelle direkt auf dem Beschleuniger ausführt.

Für lokale Chat-Assistenten und Bildbeschreibungen ohne Cloud ist der AI HAT+ 2 die einzige offizielle Option im Raspberry-Pi-Ökosystem. Wichtig bei der Einrichtung: das Paket hailo-h10-all statt hailo-all und für Sprachmodelle den Server hailo-ollama.

Häufige Fragen zum Raspberry Pi AI HAT+ 2

Was ist der Unterschied zwischen AI HAT+ und AI HAT+ 2?

Der AI HAT+ 2 nutzt den Hailo-10H mit 40 TOPS (INT4) und hat als einziger 8 GB eigenen Arbeitsspeicher. Damit führt er Sprachmodelle (LLMs) und Bild-Sprach-Modelle (VLMs) bis etwa 6 Milliarden Parameter direkt auf dem Beschleuniger aus. Die Vorgänger mit Hailo-8L (13 TOPS) und Hailo-8 (26 TOPS, jeweils INT8) können das nicht. Für reine Vision-Aufgaben sind die günstigeren Varianten oft ausreichend.

Welche LLMs laufen auf dem Raspberry Pi AI HAT+ 2?

Modelle aus dem Hailo Gen-AI Model Zoo, die du über den Server hailo-ollama lädst. Welche Modelle aktuell verfügbar sind, zeigt der Befehl curl --silent http://localhost:8000/hailo/v1/list. Die offizielle Raspberry-Pi-Anleitung nutzt qwen2:1.5b als Beispiel.

Wie schnell ist der AI HAT+ 2 bei Sprachmodellen?

Unabhängige, nachvollziehbare Messungen zur Geschwindigkeit haben wir bisher nicht gefunden, deshalb nennen wir keine Werte. Fest steht: Die Modelle laufen auf dem Hailo-10H und nutzen dessen eigenen Speicher statt des Arbeitsspeichers des Pi 5.

Braucht der AI HAT+ 2 ein anderes Software-Setup als der AI HAT+?

Ja. Der AI HAT+ 2 braucht das Paket hailo-h10-all, AI HAT+ und AI Kit dagegen hailo-all. Beide Pakete können nicht gleichzeitig installiert sein. Für Sprachmodelle kommt das Paket Hailo Model Zoo GenAI mit dem Server hailo-ollama dazu.

Kann der AI HAT+ 2 auch Bilder erkennen?

Ja. Laut Raspberry Pi kann der AI HAT+ 2 alles, was der AI HAT+ kann, etwa Objekterkennung und Posenerkennung mit den rpicam-apps-Demos. Die Vision-Leistung beschreibt Raspberry Pi als vergleichbar mit dem 26-TOPS-AI-HAT+. Zusätzlich kann er mit Bild-Sprach-Modellen Kamerabilder in Worten beschreiben.

Ähnliche Beiträge