Keine Cloud, keine Abos, keine Datenweitergabe: Mit dem Raspberry Pi 5 läufst du Sprachmodelle wie Llama und DeepSeek vollständig lokal. Ob KI-Beschleuniger-Hardware, interaktive Chatbots oder Echtzeit-Objekterkennung — alle Anleitungen erklären Schritt für Schritt wie es geht.
Sprachmodelle wie Llama, DeepSeek und Phi ohne Internet — komplett auf dem Raspberry Pi 5 ausführen.
Kein Abo, keine API-Kosten, keine Datenweitergabe an US-Server. Der Pi 5 mit 8 GB RAM kann Modelle wie Llama 3.2 (3B) oder DeepSeek-R1 (1.5B) in Echtzeit ausführen. Mit dem AI HAT+ (26 TOPS) wird selbst 7B-Inferenz schnell genug für produktive Nutzung.
Mit dem AI HAT+ wird der Pi zum echten KI-Beschleuniger: 26–40 TOPS für LLMs und Videoanalyse in Echtzeit.
Agentenbasierte KI-Experimente und Virtualisierung für KI-Workloads auf dem Pi.

Edge-KI in der Praxis: Ein Arduino UNO Q erkennt Fehldrucke am 3D-Drucker lokal per Anomalie-Modell. Aufbau, Training, Messwerte und Lehren…

Gemma 4 lokal auf dem Raspberry Pi 5: LiteRT Schritt für Schritt einrichten – läuft schon mit 4 GB RAM,…

Hermes Agent auf dem Raspberry Pi installieren: Installer, Cloud-Modell oder Ollama, Telegram-Bot und Dauerbetrieb – mit Stolperfallen aus dem Test.

Raspberry Pi AI HAT+ 2 mit Hailo-10H: 40 TOPS, 8 GB RAM und erstmals lokale LLMs (Llama 3.2, Qwen 2.5,…

Open WebUI auf dem Raspberry Pi per Docker installieren: Claude, GPT und lokale Ollama-Modelle in einer Chat-Oberfläche, mit Pi-Auswahl und…

DeepSeek lokal auf dem Raspberry Pi 5: Welche R1-Modelle mit Ollama laufen, wie viel RAM sie brauchen und wann ein…
Jeder Artikel dieser Rubrik, alphabetisch sortiert – auch die, die oben keine eigene Karte haben.
DeepSeek auf dem Raspberry Pi 5: Was lokal läuft und wann es sich lohnt
Der KI-Türsteher: Echtzeit-Objekterkennung mit dem Raspberry Pi AI HAT+ & Frigate
Edge-KI in der Praxis: Ein Arduino UNO Q erkennt Fehldrucke am 3D-Drucker – ohne Cloud
Hermes Agent auf dem Raspberry Pi installieren: Anleitung 2026
Open WebUI auf dem Raspberry Pi: Ollama, ChatGPT & Claude in einem Interface
OpenClaw auf dem Raspberry Pi installieren: KI-Agent per Telegram steuern
Paperclip auf dem Raspberry Pi: KI-Agenten-Team selbst hosten
Raspberry Pi AI HAT+ 2 – Hailo-10H mit 40 TOPS und lokalen LLMs
Raspberry Pi AI HAT+ einrichten: KI-Beschleunigung auf dem Pi 5
Alles was du über LLMs, AI HAT und lokale KI auf dem Pi wissen musst.
Kompakte Modelle laufen gut: Llama 3.2 (3B), DeepSeek-R1 (1.5B), Phi-3.5 Mini, Gemma 2 (2B) und Mistral (7B) – bei letzterem mit AI HAT+ 2 deutlich schneller. Die Faustregel: 1 GB RAM pro 1B Parameter. Mit 8 GB RAM läuft ein 7B-Modell per Ollama, ist aber ohne AI HAT+ langsam (ca. 3–8 Token/Sek.). Unser Ollama-Tutorial enthält aktuelle Benchmarks.
Nein – Ollama und Open WebUI laufen auch ohne AI HAT+, nur langsamer. Mit dem AI HAT+ (26 TOPS) oder AI HAT+ 2 (40 TOPS) wird Inferenz deutlich schneller und Echtzeit-Objekterkennung erst wirklich praxistauglich. Für einfache Chatbots (3B-Modelle) reicht der Pi 5 ohne Zusatzhardware gut aus. Der AI HAT+ lohnt sich wenn du 7B-Modelle, Video-Streams oder Produktivanwendungen betreiben willst.
100% lokal bedeutet 100% privat: Kein Token deiner Abfragen verlasst das Netzwerk, keine Trainingsdaten werden hochgeladen, kein DSGVO-Problem. Im Vergleich: ChatGPT, Claude und Gemini senden alle Anfragen an US-Server und nutzen die Daten potenziell für Training. Lokale Modelle via Ollama laufen komplett offline – ideal für sensible Unternehmensdaten, Arztpraxen oder schlicht aus Prinzip.
Der AI HAT+ (erste Generation) verwendet den Hailo 8L Chip mit 26 TOPS – gut für Objekterkennung und kleinere LLMs. Der AI HAT+ 2 nutzt den Hailo-10H mit 40 TOPS – 54% mehr Rechenleistung, deutlich besser für 7B-Modelle und Video-Streams. Beide werden per M.2-Stecker am Pi 5 angeschlossen. Unser AI HAT+ 2 Test zeigt die Unterschiede im Detail.
Training ist auf dem Pi wegen des fehlenden dedizierten Grafikspeichers (GPU) praktisch nicht möglich — dafür braucht man einen NVIDIA-GPU-Rechner oder Cloud-Dienste. Der Pi eignet sich sehr gut für Inferenz (fertige Modelle ausführen) und Fine-Tuning sehr kleiner Modelle. Für Training empfehlen wir Google Colab (kostenlos) oder RunPod und dann das fertige Modell auf den Pi importieren.