KI-Wissen
Was ist ein Corporate LLM? Der Unterschied zu ChatGPT Enterprise
Was ein Corporate LLM ausmacht, wie es sich von ChatGPT Enterprise, Copilot und Self-Hosting unterscheidet, und die 5 Fragen, die du vor der Auswahl stellst.
Thomas Reigl Aktualisiert 8 Min. Lesezeit
Vier von zehn deutschen Unternehmen rechnen mit Schatten-KI: Beschäftigte nutzen generative KI, die niemand freigegeben hat (Bitkom, 21. Oktober 2025). Wer darauf mit einem Verbot reagiert, macht es messbar schlimmer. Die Zahl dazu kommt gleich, sie hat mich ehrlich überrascht.
Vorher aber der Begriff, der seit zwei Jahren durch Ausschreibungen geistert, ohne dass ihn jemand definiert hätte.
Was ein Corporate LLM ist
Ein Corporate LLM ist keine eigene Modellarchitektur, sondern eine Betriebsform: eine Plattform, die ein oder mehrere Sprachmodelle unter einer gemeinsamen Zugriffs-, Nachweis- und Vertragsschicht bereitstellt. Nicht das Modell macht die Kategorie aus, sondern die Schicht drumherum.
Stell dir ein Steuerbüro mit 50 Leuten in München vor. Mandantendaten auf US-Servern sind tabu, die Kanzleileitung hat das schriftlich geregelt. Trotzdem bringen drei Berufsanfänger täglich ChatGPT-Output in die Mandantenmails, und niemand kann nachweisen, welche Daten dabei das Haus verlassen haben. Die Frage ist an diesem Punkt nicht mehr, ob KI im Einsatz ist. Sie ist, wer sie verantwortet.
Ein Sprachmodell beantwortet Anfragen. Ein Corporate LLM regelt, wer welche Anfrage stellen darf, auf welche Daten sie zugreift und wer das hinterher nachvollziehen kann. Fünf Merkmale bilden den Kern: Mandantentrennung, Rollen und Rechte samt Single Sign-on, Protokollierung, eine angebundene Wissensdatenbank und ein Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO.
Die Zahl, die alles über Verbote sagt
41 Prozent der Unternehmen ab 20 Beschäftigten setzen KI ein (Bitkom, 11. März 2026), aber nur 26 Prozent stellen ihren Teams einen offiziellen Zugang bereit (Bitkom, 21. Oktober 2025). Zwischen diesen beiden Zahlen wächst die Schatten-KI.
Und jetzt der Teil, der die meisten überrascht. Wo generative KI verboten ist, laden 67 Prozent der Beschäftigten trotzdem Firmendaten in öffentliche KI-Tools. Wo es gar keine Richtlinie gibt, sind es 33 Prozent (Gillespie et al., KPMG und University of Melbourne, 2025, 48.340 Befragte in 47 Ländern).
Das Verbot halbiert die unerwünschte Nutzung also nicht. Es verdoppelt sie. Du verlierst durch ein Verbot nicht die Nutzung, sondern nur die Sicht darauf. Ein Corporate LLM löst deshalb kein Modellproblem, sondern ein Zuständigkeitsproblem: Es macht den freigegebenen Weg bequemer als den heimlichen.
Corporate LLM, ChatGPT Enterprise, Copilot oder Self-Hosting
Die ehrliche Antwort zuerst, auch wenn sie meinem eigenen Produkt nicht hilft: Die Grenzen verlaufen nicht dort, wo Anbieter sie gern hätten. Weder OpenAI noch Microsoft trainieren auf Kundendaten, beide bieten einen Auftragsverarbeitungsvertrag, beide haben EU-Optionen. Wer dir etwas anderes erzählt, verkauft dir Angst statt Substanz.
Die Unterschiede liegen feiner:
| Kriterium | ChatGPT Enterprise | Microsoft 365 Copilot | Self-Hosting | Corporate LLM |
|---|---|---|---|---|
| Modellauswahl | Modelle eines Anbieters | OpenAI und Anthropic, Admin entscheidet | frei, aber selbst betrieben | mehrere Anbieter unter einer Schicht: GPT-5, Claude Opus, Gemini Pro, Mistral Large |
| Training auf Kundendaten | nein | nein | nein | nein |
| EU-Verarbeitung | Datenresidenz EWR verfügbar, für neue Enterprise-Kunden | EU Data Boundary, mit Ausnahmen | vollständig selbst bestimmt | je nach Anbieter, prüfbar |
| Auftragsverarbeitung | ja, über OpenAI Ireland Ltd. | ja | entfällt, eigene Verarbeitung | ja |
| Betriebsaufwand | gering | gering | hoch | gering |
Zwei Details entscheiden in der Praxis mehr als jede Featureliste, und beide stehen im Kleingedruckten.
Bei Microsoft 365 Copilot erlaubt das sogenannte Flex Routing, dass die Modellverarbeitung bei Lastspitzen die EU verlässt, etwa in die USA, nach Kanada oder Australien. Bei berechtigten Tenants, die nach dem 25. März 2026 erstellt wurden, ist die Funktion standardmäßig aktiv. Administratoren können sie abschalten. Die von Anthropic bereitgestellten Modelle sind von der EU Data Boundary ausgenommen.
Bei ChatGPT Enterprise gilt die EU-Datenresidenz für neue Enterprise-Kunden, und die Verarbeitung in der Region setzt eine separat aktivierte Inference Residency voraus. OpenAI weist außerdem darauf hin, dass Verarbeitung außerhalb der GPU weiterhin global stattfinden kann und dass etwa Authentifizierung, Routing und Analytics die gewählte Region verlassen (OpenAI, Enterprise privacy).
Beides sind keine Skandale. Es sind Betriebsdetails, die in deine Datenschutz-Folgenabschätzung gehören. Wer sie erst im Audit entdeckt, hat ein Problem.
Warum die Kategorie in Deutschland anders aussieht
Der deutsche Markt stellt drei Anforderungen, die in kalifornischen Produktplänen selten vorkommen. Wenn einer dieser drei Fälle auf dich zutrifft, ist die Diskussion um Benchmarks für dich ohnehin zweitrangig.
Du bist Berufsgeheimnisträger. Für Kanzleien, Steuerberater und Praxen genügt ein Auftragsverarbeitungsvertrag nicht. Paragraf 203 StGB verlangt, dass mitwirkende Personen, dazu zählen IT-Dienstleister, ausdrücklich zur Verschwiegenheit verpflichtet werden. Für Anwälte konkretisiert Paragraf 43e BRAO das: Bei Dienstleistungen im Ausland ist der Zugang nur zulässig, wenn der dortige Schutz dem inländischen vergleichbar ist. Das ist kein Marketingargument für EU-Hosting, das ist Berufsrecht.
Du hast einen Betriebsrat. Paragraf 87 Absatz 1 Nummer 6 BetrVG greift, sobald eine technische Einrichtung objektiv geeignet ist, Verhalten oder Leistung zu überwachen. Das Bundesarbeitsgericht stellt allein auf diese Eignung ab, eine Überwachungsabsicht ist unerheblich (BAG, Beschluss vom 16. Juli 2024, 1 ABR 16/23). Nutzungsstatistiken genügen also schon. Dazu kommt Paragraf 80 Absatz 3 BetrVG: Er nennt Künstliche Intelligenz inzwischen ausdrücklich, die Hinzuziehung eines Sachverständigen gilt bei ihrer Beurteilung als erforderlich. Der Betriebsrat muss das nicht mehr begründen.
Dich bremst die Rechtslage. 53 Prozent der Unternehmen nennen rechtliche Unklarheiten als Hemmnis, 48 Prozent den Datenschutz. Bei Unternehmen, die KI tatsächlich einsetzen, steigt der Datenschutzwert auf 54 Prozent (Bitkom Research, Studienbericht „Künstliche Intelligenz in Deutschland“). Das Problem schrumpft durch Nutzung nicht, es wird sichtbarer.
Zum EU AI Act eine Einordnung gegen den Trend: Wenn du als Mittelständler Texte zusammenfasst oder recherchierst, ändert er 2026 wenig für dich. Die Pflichten für Hochrisiko-Systeme wurden auf Dezember 2027 verschoben. Relevant bleiben die Transparenzpflichten aus Artikel 50 ab August 2026 und die abgeschwächte KI-Kompetenzpflicht aus Artikel 4. Der größere Hebel ist und bleibt die DSGVO.
Fünf Fragen für deine Ausschreibung
Diese fünf Kriterien trennen eine Plattform dieser Kategorie von einem Chatbot mit Enterprise-Aufkleber. Arbeite sie in dieser Reihenfolge ab: Wer bei Frage 1 danebenliegt, bei dem sparst du dir die anderen vier.
- Modellauswahl. Kannst du das Modell pro Aufgabe wechseln? Frag: Welche Anbieter sind verfügbar, und was passiert, wenn einer die Preise verdoppelt?
- Verarbeitungsort. Wo läuft die Inferenz, nicht nur die Speicherung? Frag: Gibt es Ausnahmen bei Lastspitzen, und stehen sie im Vertrag?
- Nachweisbarkeit. Kannst du deinem Datenschutzbeauftragten zeigen, wer wann welche Daten verarbeitet hat? Frag: Lässt sich ein Audit-Export ohne Ticket erzeugen?
- Rechteschnitt. Sieht die Buchhaltung die Personalakten? Frag: Wie werden Rechte pro Abteilung getrennt, und wer vergibt sie?
- Verträge. Passt der Auftragsverarbeitungsvertrag zur tatsächlichen Architektur? Frag: Wer ist Vertragspartner, welche Unterauftragnehmer sind gelistet, und wie erfährst du von Änderungen?
Bekommst du auf alle fünf eine konkrete Antwort, hast du einen ernsthaften Anbieter vor dir. Ausweichende Antworten sind selbst schon eine Antwort.
Wann ein Corporate LLM die falsche Antwort ist
Nicht jeder braucht diese Kategorie, und das sage ich als jemand, der so eine Plattform baut. Drei Fälle sprechen dagegen.
Wenn ihr unter zehn Leute seid und keine regulierten Daten habt, steht der Verwaltungsaufwand in keinem Verhältnis. Ein Einzelabo und eine klare Regel reichen. Wenn du KI ausschließlich für öffentliche Inhalte nutzt, etwa Marketingtexte ohne Kundenbezug, kaufst du Compliance, die du nicht brauchst. Und wenn du noch keinen einzigen Anwendungsfall produktiv hast, beschaff keine Plattform, sondern bring erst einen Fall zu Ende.
Die Kategorie lohnt sich, wenn drei Dinge zusammenkommen: mehrere Teams, schützenswerte Daten und die Pflicht, beides nachzuweisen. Ein 60-Personen-Maschinenbauer mit Konstruktionsdaten und Betriebsrat gehört dazu. Ein Fünf-Personen-Studio für Landingpages nicht.
Drei Fragen, die mir immer gestellt werden
Ist Corporate LLM ein Produktname oder eine Kategorie? Eine Kategorie. Der Begriff beschreibt die Betriebsform, nicht ein bestimmtes Produkt. Genau deshalb lohnt die Definition: Sie macht Ausschreibungen vergleichbar.
Wie viel Zeit kostet der Betriebsratsprozess? Das hängt von eurem Haus ab. Plan ihn früh ein, nicht nach der Auswahl. Paragraf 80 Absatz 3 BetrVG gibt dem Gremium einen Sachverständigen ohne Begründungslast, und dieser Termin liegt selten in der Woche, die dir gerade passt.
Wir haben ChatGPT schon im Einsatz. War das umsonst? Im Gegenteil. Die Praxiserfahrung ist wertvoller als jedes Konzept, weil ihr wisst, wofür ihr es wirklich benutzt. Der Schritt ist kein Ersatz, sondern eine Ergänzung: derselbe Nutzen, aber mit Rollen, Protokollen und einem Vertrag, den dein Datenschutzbeauftragter unterschreiben kann.
Wie du den Verarbeitungsort konkret prüfst, steht in EU-Hosting und DSGVO. Warum die Modellauswahl mehr als eine Komfortfrage ist, in Warum ein KI-Modell nie reicht. RelationFlow ist eine Plattform dieser Kategorie: GPT-5, Claude Opus, Gemini Pro und Mistral Large unter einer Schicht, EU-Hosting, Auftragsverarbeitung nach Artikel 28, Audit-Trail als Export. Wenn du die fünf Fragen lieber an einem echten System durchgehst, nimm dir eine Demo oder starte mit den Vorlagen.
Quellen: Bitkom, „Beschäftigte nutzen vermehrt Schatten-KI“, Presseinformation vom 21. Oktober 2025 und zugehöriger Studienbericht „Künstliche Intelligenz in Deutschland“ (n=604 Unternehmen ab 20 Beschäftigten). Bitkom, „Digitalisierung der Wirtschaft“, Presseinformation vom 11. März 2026. Gillespie, Lockey, Ward, Macdade und Hassed (2025): „Trust, attitudes and use of artificial intelligence: A global study 2025“, University of Melbourne und KPMG, Feldzeit November 2024 bis Januar 2025. OpenAI, „Enterprise privacy“ und „Data residency and inference residency for ChatGPT“. Microsoft Learn, „Data, Privacy, and Security for Microsoft 365 Copilot“ und „Flex routing (EU and EFTA)“. BAG, Beschluss vom 16. Juli 2024, 1 ABR 16/23.