Lokale KI oder Cloud-KI? Der Kostenvergleich für KMU 2026
KI im Unternehmen heißt fast immer: Abo pro Kopf und Monat. Es geht aber auch anders, mit einem eigenen KI-Server im Haus, der einmal kostet und dann allen gehört. Dieser Vergleich rechnet beide Wege für 5, 10 und 25 Nutzer über drei Jahre durch, mit echten Listenpreisen und ehrlichen Annahmen. Stand Juli 2026.
Veröffentlicht am 12. Juli 2026 · Daniel Gläser
Zwei Wege zur KI im Unternehmen
Cloud-KI wie Microsoft 365 Copilot, ChatGPT Business oder Claude Team wird pro Nutzer und Monat abgerechnet: sofort startklar, immer die neuesten Modelle, aber die Kosten wachsen mit jedem Mitarbeiter und laufen für immer. Lokale KI dreht das Modell um: Ein Server mit Grafikkarte im eigenen Haus führt offene Sprachmodelle aus, kostet einmal Anschaffung plus Strom und Pflege, und die Daten verlassen das Gebäude nicht. Die spannende Frage ist nicht, was besser klingt, sondern ab wann sich welcher Weg rechnet und für welche Aufgaben die lokalen Modelle gut genug sind.
Was Cloud-KI 2026 kostet
Die Listenpreise der drei großen Business-Angebote, Stand Juli 2026, jeweils bei Jahresabrechnung:
- Microsoft 365 Copilot (Business Add-on): 18,20 EUR pro Nutzer und Monat zzgl. MwSt. (Aktionspreis 15,60 EUR im ersten Jahr bei Abschluss zwischen 1. Juli und 30. September 2026, bei Monatsabrechnung 21,84 EUR). Voraussetzung ist ein berechtigter Microsoft-365-Business-Plan, dessen Kosten obendrauf kommen. Die Bundles Business Standard plus Copilot und Business Premium plus Copilot liegen bei 20,36 beziehungsweise 27,73 EUR.
- ChatGPT Business: seit dem 2. April 2026 20 USD pro Nutzer und Monat bei Jahresabrechnung (25 USD monatlich), Mindestabnahme 2 Plätze. Erweiterte Funktionen wie Deep Research oder Bildgenerierung laufen zusätzlich über nutzungsbasierte Workspace-Credits.
- Claude Team (Anthropic): Standard-Platz 20 USD pro Nutzer und Monat bei Jahresabrechnung (25 USD monatlich), Premium-Platz mit fünffacher Nutzung 100 USD, für Teams von 5 bis 150 Personen, Claude Code inklusive.
| Team-Größe | M365 Copilot Add-on | ChatGPT Business | Claude Team (Standard) |
|---|---|---|---|
| 5 Nutzer | 3.276 EUR | 3.600 USD | 3.600 USD |
| 10 Nutzer | 6.552 EUR | 7.200 USD | 7.200 USD |
| 25 Nutzer | 16.380 EUR | 18.000 USD | 18.000 USD |
Was ein lokaler KI-Server kostet
Für lokale KI braucht es vor allem eines: schnellen Grafikspeicher. heise kommt in seinem Hardware-Überblick vom Oktober 2025 zum Ergebnis, dass lokale Modelle inzwischen brauchbar sind, und nennt als Einstiegspunkte eine gebrauchte RTX 3090 mit 24 GB VRAM ab rund 700 EUR oder Komplettsysteme mit AMD Ryzen AI Max+ 395 ab etwa 1.800 EUR. Die Speicherbandbreite ist dabei der wichtigste Leistungsfaktor, nicht die reine Rechenleistung.
| Posten | Annahme | Kosten |
|---|---|---|
| Hardware | Komplettsystem der Klasse Ryzen AI Max+ oder Server mit gebrauchter 24-GB-GPU | ca. 1.800 bis 3.000 EUR einmalig |
| Strom | 150 W Dauerschnitt, 24/7, 0,30 EUR pro kWh, 3 Jahre | ca. 1.200 EUR |
| Einrichtung und Pflege | Installation, Updates, Monitoring (selbst oder Dienstleister) | je nach Modell, ab wenigen Stunden pro Quartal |
| Software und Modelle | Ollama oder vLLM plus offene Modelle | 0 EUR Lizenzkosten |
Damit ergibt sich die einfache Faustregel: Ein lokaler Server liegt über drei Jahre grob bei 3.000 bis 4.500 EUR plus Betreuung. Bei 5 Nutzern ist das teurer als jedes Cloud-Abo. Ab etwa 10 Nutzern spielt er in derselben Größenordnung, ab 25 Nutzern deutlich darunter, denn die Cloud-Rechnung wächst pro Kopf weiter, die lokale nicht.
Welche Modelle 2026 lokal wirklich brauchbar sind
Der Kostenvergleich nützt nichts, wenn die Qualität nicht reicht. Die ehrliche Einordnung: Die besten Cloud-Modelle bleiben den offenen Modellen voraus, vor allem bei komplexem Schlussfolgern. Für die typischen KMU-Aufgaben wie Zusammenfassen, Umformulieren, E-Mail-Entwürfe, Protokolle und die Suche in eigenen Dokumenten (RAG) sind offene Modelle laut dem heise-Überblick inzwischen aber gut brauchbar. Dort genannt werden unter anderem:
- Qwen 3 in mehreren Größen, vom kompakten 4B-Modell bis zum Coder-Modell mit 30 Milliarden Parametern.
- Gemma 3 12B von Google, das auch Bilder analysieren kann.
- Mistral Small 3.2 mit 24 Milliarden Parametern.
- GPT-OSS 120B von OpenAI, das mit rund 63 GB allerdings schon gehobene Hardware verlangt.
Faustregel für die Hardware-Wahl
Je größer das Modell, desto mehr schneller Speicher muss her. Ein 24-GB-Grafikspeicher deckt die mittlere Modellklasse ab, mit der die meisten Dokumenten-Aufgaben gut funktionieren. Wer die ganz großen offenen Modelle will, braucht deutlich teurere Hardware und sollte vorher prüfen, ob der Qualitätssprung die Aufgabe überhaupt betrifft.
Datenschutz: wann lokal die bessere Wahl ist
Bei lokaler KI verlassen Prompts und Dokumente das Haus nicht: kein Auftragsverarbeitungsvertrag für die Modellnutzung, kein Drittlandtransfer, keine Abhängigkeit von Angemessenheitsbeschlüssen. Das ist für Praxen, Kanzleien und alle mit sensiblen Kundendaten das stärkste Argument. Cloud-KI ist DSGVO-konform nutzbar, verlangt aber Hausaufgaben: die richtige Tarif- und Regionswahl, einen AVV und klare Regeln im Team. Welche Anbieter-Optionen es dafür gibt, von Azure OpenAI mit EU Data Zone über die EU-Datenresidenz von OpenAI bis zum deutschen IONOS AI Model Hub, steht im Leitfaden ChatGPT und Co. DSGVO-konform nutzen.
Hybrid in der Praxis: das Beste aus beiden Welten
In der Praxis läuft es selten auf ein Entweder-oder hinaus. Das Muster, das sich bewährt: sensible und wiederkehrende Aufgaben lokal (Dokumentensuche, interne Zusammenfassungen, Belegverarbeitung), Spitzenaufgaben mit hohem Qualitätsanspruch in der Cloud, mit sauberem Tarif und AVV. So bleibt die Cloud-Rechnung klein, weil nicht jeder Mitarbeiter ein Vollzeit-Abo braucht, und die heiklen Daten bleiben im Haus.
Genau solche Setups baue ich im Rahmen der KI-Automatisierung: vom dimensionierten KI-Server über die Modellauswahl bis zur Anbindung an Ihre Dokumente und Abläufe. Welche Aufgaben sich dafür konkret lohnen, zeigt der Beitrag zu den KI-Anwendungsfällen im KMU.
Quellen
- Microsoft: Microsoft 365 Copilot Preise Deutschland
- OpenAI: ChatGPT Business (Preise und Funktionsumfang)
- OpenAI: Datenresidenz in Europa (Februar 2025)
- Anthropic: Claude Preisübersicht (Team und Enterprise)
- heise: Lokale KI-Modelle sind jetzt brauchbar, und auf dieser Hardware laufen sie (Oktober 2025)
- IONOS: AI Model Hub (Open-Source-Modelle, in Deutschland gehostet)
- Microsoft Learn: EU Data Boundary (Übersicht)
- Bitkom: Unternehmen beschäftigen sich mit KI (März 2026)
Dieser Beitrag ist eine sorgfältig recherchierte Orientierung, keine Rechts- oder Steuerberatung. Für verbindliche Auskünfte wenden Sie sich an Ihren Steuerberater oder Rechtsanwalt.
Häufige Fragen
Was kostet Microsoft 365 Copilot aktuell?+
18,20 EUR pro Nutzer und Monat zzgl. MwSt. bei Jahresabrechnung (Aktionspreis 15,60 EUR im ersten Jahr bei Abschluss zwischen 1. Juli und 30. September 2026, monatlich 21,84 EUR), zuzüglich der nötigen Microsoft-365-Basislizenz. Die Bundles mit Business Standard oder Premium liegen bei 20,36 und 27,73 EUR. Stand Juli 2026, Quelle: Microsoft-Preisseite.
Was kostet ChatGPT für Unternehmen?+
ChatGPT Business kostet seit dem 2. April 2026 20 USD pro Nutzer und Monat bei Jahresabrechnung, 25 USD bei monatlicher Zahlung, ab 2 Plätzen. Erweiterte Funktionen laufen zusätzlich über nutzungsbasierte Credits. Enterprise-Preise gibt es nur über den Vertrieb. Stand Juli 2026.
Ab wann lohnt sich ein eigener KI-Server?+
Als Faustregel aus der Beispielrechnung: ab etwa 10 Nutzern spielt ein lokaler Server über drei Jahre in derselben Kostenklasse wie Cloud-Abos, ab etwa 25 Nutzern liegt er deutlich darunter. Voraussetzung ist, dass die Aufgaben mit offenen Modellen gut erledigbar sind, sonst zahlt man doppelt.
Welche Hardware braucht lokale KI im KMU?+
Vor allem schnellen Grafikspeicher. Als Einstieg nennt heise eine gebrauchte RTX 3090 mit 24 GB ab rund 700 EUR oder Komplettsysteme mit Ryzen AI Max+ 395 ab etwa 1.800 EUR; die Speicherbandbreite ist der wichtigste Leistungsfaktor. Für die mittlere Modellklasse, die Dokumenten-Aufgaben abdeckt, reicht das aus.
Sind lokale Modelle so gut wie ChatGPT?+
Nein, die Spitzenmodelle der Cloud-Anbieter bleiben voraus, besonders bei komplexem Schlussfolgern. Für Zusammenfassungen, Entwürfe, Übersetzungen und die Suche in eigenen Dokumenten sind offene Modelle wie Qwen 3, Gemma 3 oder Mistral Small inzwischen aber gut brauchbar. Entscheidend ist der konkrete Anwendungsfall, nicht der Benchmark.
Ist lokale KI automatisch DSGVO-konform?+
Sie beseitigt die größten Baustellen, weil keine Daten an Dritte fließen: kein AVV für die Modellnutzung, kein Drittlandtransfer. Die übrigen DSGVO-Pflichten bleiben aber bestehen, etwa Zweckbindung, Zugriffskontrolle und gegebenenfalls eine Datenschutz-Folgenabschätzung, je nachdem, was verarbeitet wird.
Cloud-Abo, eigener Server oder beides?
Ich rechne beide Wege für Ihre Nutzerzahl und Ihre Aufgaben durch, baue den KI-Server, wenn er sich lohnt, und binde die Modelle an Ihre Dokumente und Abläufe an. DSGVO-konform, aus Chemnitz für KMU in Sachsen und deutschlandweit.
Daniel Gläser
Inhaber Gläser IT-Solutions, Chemnitz
Ich entwickle Software und betreibe IT-Infrastruktur für kleine und mittlere Unternehmen, von der ersten Analyse bis zum laufenden Betrieb. Die Inhalte hier stammen aus realen Projekten und sind mit Quellen belegt.
