Lokale KI oder Cloud-KI? Der Kostenvergleich für KMU 2026

Zwei Wege zur KI im Unternehmen

Cloud-KI wie Microsoft 365 Copilot, ChatGPT Business oder Claude Team wird pro Nutzer und Monat abgerechnet: sofort startklar, immer die neuesten Modelle, aber die Kosten wachsen mit jedem Mitarbeiter und laufen dauerhaft weiter. Lokale KI dreht das Modell um: Ein Rechner mit viel schnellem Speicher im eigenen Haus führt offene Sprachmodelle aus, kostet einmal Anschaffung plus Strom und Pflege, und die Daten verlassen das Gebäude nicht. Die spannende Frage ist nicht, was besser klingt, sondern ab wann sich welcher Weg rechnet und für welche Aufgaben die lokalen Modelle gut genug sind.

Was Cloud-KI 2026 kostet

Die Listenpreise der drei großen Business-Angebote, Stand September 2026, jeweils bei Jahresabrechnung:

• Microsoft 365 Copilot Business: 18,20 EUR pro Nutzer und Monat zzgl. MwSt. im Jahresabo, für bis zu 300 Nutzer (Aktionspreis 15,60 EUR im ersten Jahr bei Abschluss zwischen 1. Juli und 31. Dezember 2026; bei monatlicher Zahlung 21,84 EUR). Voraussetzung ist ein Plan Microsoft 365 Business Basic, Standard oder Premium, dessen Kosten obendrauf kommen. Die Bundles Business Standard plus Copilot und Business Premium plus Copilot liegen bei 20,36 beziehungsweise 27,73 EUR.
• ChatGPT Business: seit dem 2. April 2026 20 USD pro Nutzer und Monat bei Jahresabrechnung (25 USD monatlich), für 2 bis 200 Plätze. Deep Research und Bildgenerierung sind im Rahmen der Nutzungsgrenzen enthalten; wer mehr braucht, kauft nutzungsbasierte Workspace-Credits zu. Seit August 2026 gibt es zusätzlich einen Premium-Platz mit fünffacher Nutzung für 100 USD.
• Claude Team (Anthropic): Standard-Platz 20 USD pro Nutzer und Monat bei Jahresabrechnung (25 USD monatlich), Premium-Platz mit fünffacher Nutzung 100 USD (125 USD monatlich), für Teams von 2 bis 150 Personen, Claude Code inklusive.

Was ein lokaler KI-Server kostet

Für lokale KI braucht es vor allem eines: viel schnellen Grafik- oder Arbeitsspeicher. Das IT-Magazin heise kam im Oktober 2025 zu dem Ergebnis, dass lokale Modelle inzwischen brauchbar sind, und nannte als Einstiegspunkte eine gebrauchte RTX 3090 mit 24 GB VRAM ab rund 700 EUR oder Komplettsysteme mit AMD Ryzen AI Max+ 395 ab etwa 1.800 EUR. Diese Preise sind überholt, weil Speicher seit Ende 2025 deutlich teurer geworden ist: Eine gebrauchte RTX 3090 bekommt man laut heise im August 2026 für unter 1.000 EUR, ein Ryzen-AI-Max+-395-System mit 128 GB kostet im September 2026 je nach Hersteller rund 3.200 bis 3.900 EUR inklusive MwSt., also rund 2.700 bis 3.300 EUR netto; mit 64 GB sind es etwa 1.950 bis 2.200 EUR inklusive beziehungsweise 1.650 bis 1.850 EUR netto. Die Speicherbandbreite bleibt der wichtigste Leistungsfaktor, nicht die reine Rechenleistung.

Damit ergibt sich eine einfache Faustregel: Ein lokaler Server liegt über drei Jahre grob bei 2.800 bis 4.500 EUR netto plus Betreuung. Bei 5 Nutzern ist das mit Betreuung meist teurer als ein Cloud-Abo. Ab etwa 10 Nutzern spielt er einschließlich Betreuung in derselben Größenordnung, ab 25 Nutzern deutlich darunter, denn die Cloud-Rechnung wächst pro Kopf weiter, die lokale nicht. Eine Einschränkung: Arbeiten viele Menschen gleichzeitig mit dem Server, werden die Antworten langsamer, und irgendwann braucht es ein zweites Gerät oder eine stärkere GPU.

Welche Modelle 2026 lokal wirklich brauchbar sind

Der Kostenvergleich nützt nichts, wenn die Qualität nicht reicht. Die nüchterne Einordnung: Die besten Cloud-Modelle bleiben den offenen Modellen voraus, vor allem bei komplexem Schlussfolgern. Für typische KMU-Aufgaben wie Zusammenfassen, Umformulieren, E-Mail-Entwürfe, Protokolle und die Suche in eigenen Dokumenten (RAG) sind offene Modelle inzwischen aber gut brauchbar; heise empfahl im August 2026 für eine gebrauchte RTX 3090 etwa Qwen 3.8 27B. Beispiele, Stand September 2026, mit grobem Speicherbedarf bei 4-Bit-Quantisierung:

• Qwen 3.8 27B von Alibaba (August 2026, Apache 2.0): versteht auch Bilder und Videos und braucht rund 16–19 GB.
• Gemma 4 von Google (April 2026, Apache 2.0) in mehreren Größen bis 31B: die größte Variante braucht rund 17–20 GB, die kleinen laufen schon mit 4–8 GB.
• gpt-oss von OpenAI (August 2025, Apache 2.0): die 20B-Variante kommt mit rund 16 GB aus, die 120B-Variante braucht über 60 GB und damit eine 80-GB-GPU oder ein System mit 128 GB gemeinsamem Speicher.
• Mistral (Apache 2.0): die kompakten Ministral-3-Modelle mit 3 bis 14 Milliarden Parametern (Dezember 2025) laufen auf kleiner Hardware; Mistral Small 4 (März 2026) ist trotz des Namens ein großes Modell mit 119 Milliarden Parametern für Rechenzentrums-Hardware.
• Vorsicht bei Lizenzen: Für die multimodalen Llama-4-Modelle von Meta gewährt die Nutzungsrichtlinie Unternehmen mit Hauptsitz in der EU keine Lizenzrechte. Die Lizenz gehört vor dem Einsatz jedes Modells auf den Prüfstand.

Datenschutz: wann lokal die bessere Wahl ist

Bei lokaler KI verlassen Prompts und Dokumente das Haus nicht: kein Auftragsverarbeitungsvertrag mit einem KI-Anbieter, kein Drittlandtransfer, keine Abhängigkeit von Angemessenheitsbeschlüssen. Übernimmt ein externer Dienstleister die Wartung mit Zugriff auf Daten, kann dafür allerdings ein AVV nötig sein. Für Praxen, Kanzleien und alle mit sensiblen Kundendaten ist das das stärkste Argument. Auch Cloud-KI lässt sich datenschutzgerecht nutzen, verlangt aber Hausaufgaben: die richtige Tarif- und Regionswahl, einen AVV und klare Regeln im Team. Welche Anbieter-Optionen es dafür gibt, von der EU-Datenzone bei Azure über die EU-Datenresidenz von OpenAI für Enterprise-Kunden bis zu in Deutschland gehosteten offenen Modellen wie beim IONOS AI Model Hub, steht im Leitfaden ChatGPT und Co. DSGVO-konform nutzen.

Hybrid in der Praxis: das Beste aus beiden Welten

In der Praxis läuft es selten auf ein Entweder-oder hinaus. Das Muster, das sich bewährt: sensible und wiederkehrende Aufgaben lokal (Dokumentensuche, interne Zusammenfassungen, Belegverarbeitung), Spitzenaufgaben mit hohem Qualitätsanspruch in der Cloud, mit sauberem Tarif und AVV. So bleibt die Cloud-Rechnung klein, weil nicht jeder Mitarbeiter ein Vollzeit-Abo braucht, und die heiklen Daten bleiben im Haus.

Genau solche Setups baue ich im Rahmen der KI-Automatisierung: vom dimensionierten KI-Server über die Modellauswahl bis zur Anbindung an Ihre Dokumente und Abläufe. Welche Aufgaben sich dafür konkret lohnen, zeigt der Beitrag zu den KI-Anwendungsfällen im KMU.