Automatisierung
6 Min. Lesezeit

Lokale KI mit n8n: Was ein DGX Spark im Praxistest schafft, was er kostet und wo er bremst

Bunter Würfel aus Spielzeugbausteinen, von dem Bausteinpfade zu sechs Modulen führen, umgeben von einer niedrigen Mauer
Bild: KI-generiert
Kurz gesagt

Ein NVIDIA DGX Spark mit 128 GB kann laut n8n-Test vom 19. Oktober 2026 sieben KI-Modelle für n8n gleichzeitig bereitstellen, bei acht Nutzern noch mit 47 Tokens pro Sekunde. Das Gerät kostet seit dem 2. Oktober aber 6.950 US-Dollar, die neue 64-GB-Version reicht nicht für den ganzen Stack, und Bildgenerierung bremst den Chat um rund zwei Drittel.

Am 19. Oktober 2026 hat das n8n-Team im n8n-Blog einen kompletten KI-Stack beschrieben, der auf einem einzigen NVIDIA DGX Spark läuft und von n8n wie eine Cloud-API angesprochen wird. Der Beitrag ist kein Werbetext: Er misst Tempo und Speicher und listet die Stellen, an denen es im Test gehakt hat. Zielgruppe laut n8n sind etwa Kliniken, Kanzleien sowie Buchhaltungs- und Steuerbüros, die Kundendaten nicht an Cloud-Anbieter schicken dürfen.

Was läuft im n8n-Test auf einem einzigen Gerät?

Sieben offene Modelle, alle mit Lizenzen für kommerzielle Nutzung (Apache 2.0 oder MIT):

  • Chat, Bildverständnis und Datenextraktion: Qwen3.6-35B-A3B. Das Modell hat 35 Milliarden Parameter, pro erzeugtem Wortteil sind aber nur rund 3 Milliarden aktiv. Das macht es auf dieser Hardware schnell.
  • Suche in eigenen Dokumenten: Qwen3-Embedding-4B (übersetzt Texte in Zahlenvektoren, damit sich ähnliche Inhalte finden lassen) und Qwen3-Reranker-0.6B (sortiert die Treffer nach Relevanz).
  • Spracherkennung: Whisper large-v3-turbo.
  • Texterkennung aus Bildern (OCR): GLM-OCR.
  • Bilder und Sprachausgabe: Z-Image-Turbo und Kokoro-82M.

Die Modelle laufen in vLLM, einer Software, die Sprachmodelle als Server bereitstellt. Davor sitzt LiteLLM: ein Proxy, der alle Modelle unter einer OpenAI-kompatiblen Adresse bündelt und jedem Team einen eigenen Schlüssel gibt. In n8n trägst du diese Adresse als eigene Base URL in eine OpenAI-Credential ein und nutzt danach die normalen OpenAI-Nodes. Alle sieben Modelle zusammen belegen 108 der 121 GB, die das System meldet.

Wie schnell ist das in der Praxis?

Für typische Büro-Workflows schnell genug. Gemessen am 13. Oktober 2026 mit dem Chatmodell, ein Token entspricht grob einem Wortteil:

Gleichzeitige Nutzer Wartezeit bis zum ersten Token Tokens pro Sekunde je Nutzer
1 0,11 s 120
4 0,21 s 68
8 0,29 s 47

Weitere Messwerte aus dem Test: Eine Seite per OCR lesen dauert 1,80 Sekunden, ein 30-Sekunden-Audio ist in 0,58 Sekunden transkribiert. Strukturierte Datenextraktion braucht 0,59 Sekunden, mit eingeschaltetem Denkmodus 12,1 Sekunden.

Der große Haken: Läuft parallel eine Bildgenerierung, bricht der Chat ein. Bei einem Nutzer fiel das Tempo von 122 auf 38 Tokens pro Sekunde, bei vier Nutzern von 69 auf 24. Das sind 65 bis 69 Prozent weniger. Der Autor empfiehlt, Bildaufträge in eine Warteschlange zu legen oder außerhalb der Arbeitszeit laufen zu lassen.

Was kostet die Hardware seit Oktober?

Deutlich mehr als zum Start. Nvidia hat den Preis der 128-GB-Version am 2. Oktober 2026 auf 6.950 US-Dollar angehoben, berichtet The Register. Zum Marktstart lag er bei rund 4.000 Dollar. The Register führt den Sprung auf die stark gestiegenen Speicherpreise zurück. Neu angekündigt ist eine 64-GB-Version für rund 4.999 Dollar, die es nur über Partner wie Acer, Asus, Dell, Gigabyte, HP und MSI gibt; auf der Produktseite von NVIDIA steht sie noch als „Coming Soon“. Euro-Preise unterscheiden sich je Händler und Ausstattung, vergleiche sie vor dem Kauf tagesaktuell. Das Netzteil ist auf 240 Watt ausgelegt.

Unsere Einschätzung: Die 64-GB-Version reicht nicht für den Stack aus dem Test. Laut Messung braucht allein das Chatmodell 43 GB, dazu kommen OCR mit 11 GB, Whisper mit 8 GB und der Reranker mit 8 GB. Das sind schon 70 GB. Mit 64 GB musst du dich auf das Chatmodell und ein bis zwei kleinere Dienste beschränken oder kleinere Modelle wählen.

Welche Fallstricke solltest du vorher kennen?

Die wichtigsten Punkte aus dem Test als Checkliste:

  1. Responses API abschalten: Der OpenAI-Chat-Model-Node in n8n nutzt ab Node-Version 1.3 standardmäßig die Responses API. Die lokalen Modelle laufen über das Chat-Completions-Format, also die Option „Use Responses API“ deaktivieren.
  2. Denkmodus bei Extraktion aus: Sonst dauert ein Rechnungsdatensatz rund zwanzigmal so lange (12,1 statt 0,59 Sekunden).
  3. OCR-Ergebnisse prüfen: Im Test verschluckte die Texterkennung eine Null in einer USt-IdNr. IDs, IBANs und Beträge brauchen eine Prüfregel im Workflow. Das Formular im Beispiel-Workflow nimmt nur PNG und JPEG, PDFs musst du vorher umwandeln.
  4. Stille aus Audiodateien schneiden: Whisper hat im Test bei Stille am Ende einen kurzen Text erfunden, der nie gesagt wurde.
  5. LiteLLM aktuell halten: Der Autor verlangt mindestens Version 1.84.0 und verweist auf zwei Releases mit Hintertür auf PyPI im März 2026 sowie auf Lücken bei der Anmeldung.
  6. Lizenz an der genauen Quelle prüfen: Manche Modelle haben ein nicht kommerzielles Zwillings-Repository. Welche Lizenz gilt, entscheidet die genaue Repository-ID.
  7. Modelle nacheinander starten: Alle Dienste teilen sich einen Speicher. Gleichzeitig gestartet, gibt es Speicherfehler. Der Kaltstart der Dienste dauerte im Test rund zwölf Minuten.

Wann lohnt sich lokale KI für n8n-Workflows?

Wenn sensible Daten im Haus bleiben müssen und mehrere Leute täglich mit KI-Workflows arbeiten. Für einen ersten Test reicht oft weniger:

Weg Passt, wenn Hardware Haken
Cloud-API (OpenAI, Anthropic, Google) Daten dürfen mit Auftragsverarbeitungsvertrag raus, wenige Läufe keine Daten verlassen das Haus, Kosten je Nutzung
Self-hosted AI Starter Kit von n8n (n8n, Ollama, Qdrant, PostgreSQL) Proof of Concept auf vorhandenem Rechner vorhanden laut n8n nicht für den Produktivbetrieb optimiert, auf dem Mac keine GPU im Docker-Container
DGX Spark mit vLLM und LiteLLM sensible Daten, ein Team, mehrere KI-Dienste 6.950 US-Dollar (128 GB) Pflege, Speichergrenze, Bildgenerierung bremst den Chat

Wie Make und n8n bei Lizenz und Hosting abschneiden, steht in unserem Kostenvergleich Make oder n8n. Wer noch eine ältere n8n-Version betreibt, sollte vorher den Umstieg auf n8n 3.0 planen.

Was heißt das für dich?

  • Erst den Workflow, dann die Hardware. Bau den Ablauf mit Testdaten und einem Cloud-Modell oder dem Starter Kit. Zähle, wie viele Läufe am Tag anfallen. Erst dann lohnt die Frage nach einem eigenen Gerät.
  • Qualität selbst testen. Der n8n-Beitrag misst Tempo und Speicher, nicht, wie gut die Antworten sind. Ob ein Modell mit 3 Milliarden aktiven Parametern deine Rechnungen, Verträge oder Mails zuverlässig liest, zeigt nur ein Test mit 20 bis 50 echten Beispielen.
  • Lokal ist nicht automatisch datenschutzkonform. Zugriffsrechte, Protokollierung und Löschfristen brauchst du trotzdem. Das ersetzt keine Prüfung durch deine Datenschutzbeauftragten.
  • Ein Gerät, ein Ausfallpunkt. Fällt die Box aus, stehen alle KI-Schritte. Plane in n8n einen Fehlerpfad, der Aufgaben liegen lässt oder meldet, statt sie still zu verlieren.

Unsere Einschätzung: Für Kanzleien, Praxen und Buchhaltungs- und Steuerbüros mit festen Abläufen wie Belegerfassung oder Diktaten ist der Stack jetzt greifbar, weil n8n die Stolpersteine offen dokumentiert. Für Teams ohne eigene IT ist die Pflege von vLLM, LiteLLM und sieben Modellen der eigentliche Kostenpunkt, nicht der Gerätepreis. Was der Eigenbetrieb eines deutschen Modells kostet, haben wir am Beispiel Aleph Alpha Kolibri durchgerechnet. Wer den Stack nicht selbst aufsetzen will, findet auf unserer Seite zur n8n-Agentur, wie wir mit n8n arbeiten. Wenn du prüfen willst, ob sich lokale KI für einen deiner Prozesse rechnet, sprich uns an.

Häufige Fragen

Kann n8n lokale KI-Modelle ohne Zusatzsoftware nutzen?

Nicht direkt. Die Modelle brauchen einen Server, der sie bereitstellt, etwa Ollama im Starter Kit oder vLLM mit LiteLLM wie im DGX-Spark-Test. n8n spricht diesen Server dann über eine OpenAI-Credential mit eigener Base URL an.

Reicht ein normaler Büro-PC für lokale KI in n8n?

Für kleine Modelle und einen Proof of Concept oft ja, etwa mit dem Starter Kit auf der CPU. Für mehrere Nutzer und große Modelle wie im Test brauchst du viel schnellen Grafik- oder Unified-Speicher.

Muss ich für lokale KI noch einen Auftragsverarbeitungsvertrag abschließen?

Für die Modelle selbst nicht, wenn keine Daten das Haus verlassen. Für Hosting, Fernwartung oder Dienstleister, die Zugriff auf das System haben, kann einer nötig sein. Kläre das mit deinen Datenschutzbeauftragten.

Funktionieren bestehende n8n-Workflows mit OpenAI nach dem Wechsel auf lokale Modelle weiter?

Meist ja, wenn du die Credential tauschst und im Chat-Model-Node die Responses API abschaltest. Prüfe aber jeden Prompt neu, weil ein anderes Modell anders antwortet.

Quellen

  1. n8n Blog: Run your n8n AI workflows on NVIDIA DGX Spark, with no cloud API
  2. NVIDIA: DGX Spark Produktseite
  3. The Register: Nvidia erhöht Preis für DGX Spark und bringt 64-GB-Version
  4. n8n: Self-hosted AI Starter Kit auf GitHub
Dieser Artikel wurde mit KI erstellt.
Du hast ein Projekt im Kopf?

Schreib uns, was du vorhast. Innerhalb von 24 Stunden bekommst du eine ehrliche Einschätzung.

Top, das hat geklappt. Wir sind gespannt!
Whoopsie! Hier ist irgendwas total schiefgelaufen... Vielleicht doch besser einfach eine mail? Sorry!
Oder direkt per Mail: hi@blocksandcolors.de