Private KI für DACH: EU-AI-Act-konforme GenAI-Plattform

Private AI für einen Finanzdienstleister im DACH-Raum – Aufbau einer souveränen, EU-AI-Act-konformen GenAI-Plattform

Für viele Unternehmen im DACH-Raum ist generative KI zu einer strategischen Priorität geworden – doch Bedenken hinsichtlich Datenschutz, des EU AI Acts und des Schutzes geistigen Eigentums hindern sie häufig daran, öffentliche KI-Dienste wie ChatGPT, Microsoft Copilot oder Gemini zu nutzen. Diese Fallstudie zeigt, wie ein deutscher Finanzdienstleister gemeinsam mit inteliScience erfolgreich eine Private-AI-Plattform implementiert hat, die den sicheren, souveränen und vollständig DSGVO-konformen Einsatz großer Sprachmodelle ermöglicht, ohne dass sensible Daten jemals an Dritte weitergegeben werden.

Das Ziel war nicht nur, die Produktivitätsgewinne durch generative KI zu nutzen, sondern dies auch in einer Weise zu tun, die mit den Fristen des EU AI Acts im August 2026, den internen Compliance-Richtlinien sowie der steigenden Nachfrage nach echter Datensouveränität in europäischen Unternehmen im Einklang steht.

Zum Schutz der Vertraulichkeit wurden spezifische Unternehmensdetails anonymisiert.

Kundenhintergrund

Der Kunde ist ein in Deutschland ansässiger Finanzdienstleister, der in mehreren europäischen Märkten tätig ist. Das Unternehmen verarbeitet täglich große Mengen vertraulicher Kundendaten, interner Berichte, Verträge und regulierter Dokumente. Mit dem wachsenden internen Interesse an generativer KI begannen Mitarbeitende aus den Bereichen Recht, Risiko, Operations und Kundenservice, Werkzeuge anzufordern, die ihnen beim Zusammenfassen von Dokumenten, beim Verfassen von Kommunikation, bei der Analyse von Verträgen und bei der Beschleunigung von Rechercheaufgaben helfen.

Aufgrund strenger regulatorischer Anforderungen – einschließlich DSGVO, BaFin-Richtlinien und der bevorstehenden Verpflichtungen durch den EU AI Act – kam die Nutzung öffentlicher KI-Dienste jedoch nicht infrage. Das Unternehmen benötigte eine Lösung, um von modernen KI-Fähigkeiten zu profitieren, ohne jemals sensible Daten außerhalb der eigenen Infrastruktur zu übertragen.

Geschäftliche Herausforderungen

Das Unternehmen sah sich mit einer Kombination aus regulatorischen, technischen und organisatorischen Herausforderungen konfrontiert. Öffentliche KI-Tools waren für arbeitsbezogene Aufgaben offiziell verboten, dennoch nutzten Mitarbeitende diese zunehmend im privaten Bereich und erwarteten ähnliche Produktivitätswerkzeuge auch am Arbeitsplatz. Dies führte zu einem wachsenden Problem, das branchenweit als Shadow AI bekannt ist – die nicht autorisierte Nutzung externer KI-Dienste, die IT- und Compliance-Kontrollen umgeht und erhebliche Risiken für Datenlecks schafft.

Gleichzeitig bereitete sich die Rechtsabteilung auf den EU AI Act vor, dessen zentrale Verpflichtungen für Hochrisiko-KI-Systeme damals für August 2026 vorgesehen waren und nach dem AI Omnibus nun ab dem 2. Dezember 2027 gelten. Strafen von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes machten deutlich, dass AI-Governance von einem operativen Thema zu einer Priorität auf Vorstandsebene werden musste.

Frühere Versuche, öffentliche cloudbasierte KI-Dienste zu evaluieren, scheiterten an der Compliance-Prüfung, hauptsächlich aufgrund unklarer Datenverarbeitungsorte, Bedenken hinsichtlich der Trainingsdaten sowie der Unfähigkeit zu garantieren, dass vertrauliche Informationen nicht gespeichert oder wiederverwendet werden. Der Kunde benötigte daher eine Lösung, die leistungsfähige KI-Funktionen auf Enterprise-Niveau mit vollständiger Datensouveränität, Auditierbarkeit und Hosting in Europa kombiniert.

Warum Private AI?

Private AI – manchmal auch als Sovereign AI oder On-Premise GenAI bezeichnet – hat sich zu einem der wichtigsten Technologietrends für Unternehmen im Jahr 2026 entwickelt. Anstatt sich auf öffentliche APIs von US-basierten Anbietern zu verlassen, setzen Unternehmen Open-Source- oder lizenzierte Large Language Models innerhalb ihrer eigenen Infrastruktur oder in einer dedizierten europäischen Cloud-Umgebung ein.

Dieser Ansatz bietet mehrere entscheidende Vorteile für regulierte Branchen. Alle Daten bleiben vollständig unter der Kontrolle der Organisation, keine Informationen werden zum Training von Drittanbieter-Modellen verwendet, und das gesamte System kann Ende-zu-Ende auditiert werden. Insbesondere für DACH-Unternehmen bietet Private AI einen klaren Weg, Innovation mit Compliance zu verbinden – etwas, das öffentliche KI-Dienste schlicht nicht garantieren können.

Unsere Lösung

inteliScience entwarf und implementierte eine dedizierte Private-AI-Plattform, die speziell auf die regulatorischen und operativen Anforderungen des Kunden zugeschnitten ist. Die Lösung wurde rund um Open-Source-Large-Language-Models aufgebaut, die vollständig innerhalb der europäischen Infrastruktur des Kunden gehostet werden, kombiniert mit einer Retrieval-Augmented-Generation-(RAG)-Schicht, die es den Mitarbeitenden ermöglicht, interne Dokumente sicher und präzise abzufragen.

Anstatt einen generischen Chatbot bereitzustellen, wurde die Plattform direkt in die bestehenden Geschäftsprozesse des Kunden integriert. Mitarbeitende konnten über eine vertraute Weboberfläche auf das System zugreifen, während sensible Daten, Embeddings und Modellinteraktionen vollständig von externen Diensten isoliert blieben. Rollenbasierte Zugriffskontrollen und detaillierte Audit-Logs stellten sicher, dass jede Interaktion nachvollziehbar ist – eine entscheidende Voraussetzung sowohl für interne Compliance als auch für die Dokumentationspflichten im Rahmen des EU AI Acts.

Der anfängliche Rollout konzentrierte sich auf eine kleine Anzahl klar definierter Anwendungsfälle, wodurch der Kunde die Plattform validieren konnte, bevor sie schrittweise auf weitere Abteilungen ausgeweitet wurde. Dieser Ansatz reduzierte Risiken und schuf von Beginn an Vertrauen sowie operative Stabilität.

Technologieumfeld

Die Private-AI-Plattform wurde auf einer modernen, containerisierten Architektur aufgebaut und nutzte Open-Source-Large-Language-Models wie Llama und Mistral, die über optimierte Inference-Engines für niedrige Latenz bereitgestellt wurden. Eine Vektordatenbank wurde eingesetzt, um die RAG-Schicht zu unterstützen, wodurch das System in der Lage ist, relevantes internes Wissen in Echtzeit abzurufen und seine Antworten auf verifizierte Unternehmensdaten zu stützen.

Der gesamte Stack wurde in einer souveränen europäischen Cloud-Umgebung bereitgestellt, mit strikter Netzwerkisolierung, Verschlüsselung sowohl im Ruhezustand als auch während der Übertragung sowie vollständiger Integration in die bestehenden Identity-Management-, Monitoring- und CI/CD-Systeme des Kunden. Dadurch wurden Konsistenz, Transparenz und Compliance über den gesamten AI-Lifecycle hinweg sichergestellt – von der Datenaufnahme bis zur Modellinferenz und Audit-Berichterstattung.

Implementierung

Die Implementierung folgte einem strukturierten, phasenweisen Ansatz. In der ersten Phase arbeitete inteliScience eng mit den Rechts-, Compliance- und IT-Teams des Kunden zusammen, um die relevanten regulatorischen Anforderungen zu erfassen und das Governance-Modell für die Plattform zu definieren. Dies umfasste die Risikoklassifizierung gemäß EU AI Act, eine Datenschutz-Folgenabschätzung (DPIA) sowie die Festlegung von Mechanismen zur menschlichen Aufsicht.

In der zweiten Phase wurde die technische Plattform bereitgestellt und mit ausgewählten internen Datenquellen verbunden. Eine Pilotgruppe von Nutzern aus verschiedenen Abteilungen wurde eingebunden, um das System unter realen Arbeitsbedingungen zu validieren. Das Feedback dieser Gruppe wurde genutzt, um die Retrieval-Logik zu optimieren, die Antwortqualität zu verbessern und die User Experience weiter zu verfeinern.

In der finalen Phase wurde die Plattform schrittweise auf weitere Teams ausgeweitet, wobei im Laufe der Zeit neue Anwendungsfälle hinzugefügt wurden – darunter Vertragsanalyse, interne Wissenssuche, automatisierte Erstellung von Berichten sowie strukturierte Unterstützung für Kundenservice-Workflows.

Ergebnisse

Bereits in den ersten Monaten verzeichnete der Kunde eine deutliche Steigerung der Mitarbeiterproduktivität und der Geschwindigkeit bei der Dokumentenverarbeitung. Aufgaben, die zuvor Stunden manueller Arbeit erforderten – wie die Prüfung umfangreicher Verträge oder die Suche in internen Wissensdatenbanken – konnten nun in wenigen Minuten erledigt werden, bei vollständiger Nachvollziehbarkeit und Compliance.

Ebenso wichtig ist, dass die Einführung einer offiziell genehmigten Private-AI-Plattform die Nutzung nicht autorisierter öffentlicher KI-Tools nahezu vollständig eliminiert hat. Mitarbeitende mussten nicht länger auf externe Dienste zurückgreifen, was die Anfälligkeit des Unternehmens für Shadow-AI-Risiken und Datenlecks erheblich reduzierte.

Aus Compliance-Sicht konnte der Kunde eine klare Übereinstimmung mit der DSGVO sowie den bevorstehenden Anforderungen des EU AI Acts nachweisen, einschließlich Dokumentation, menschlicher Aufsicht und Auditierbarkeit. Die Plattform entwickelte sich damit nicht nur zu einem Produktivitätstool, sondern auch zu einer strategischen Grundlage für zukünftige KI-Initiativen – einschließlich agentischer AI-Workflows und einer tieferen Automatisierung von Geschäftsprozessen.

Zentrale Erkenntnis

Diese Fallstudie zeigt, dass Private AI kein experimentelles Konzept mehr ist – sie ist zu einer strategischen Notwendigkeit für regulierte Branchen im DACH-Raum geworden. Bei richtiger Implementierung ermöglicht sie es Unternehmen, den vollen Mehrwert generativer KI zu nutzen und gleichzeitig die vollständige Kontrolle über ihre Daten, ihr geistiges Eigentum und ihre Compliance sicherzustellen.

Insbesondere für Unternehmen im DACH-Raum schafft die Kombination aus Datensouveränität, EU-basierter Infrastruktur und EU-AI-Act-Readiness einen starken Wettbewerbsvorteil. Unternehmen, die jetzt handeln, bevor die Hochrisiko-Pflichten ab dem 2. Dezember 2027 gelten, sind optimal positioniert, um KI sicher zu skalieren, kostspielige Compliance-Probleme zu vermeiden und langfristiges Vertrauen bei Kunden, Regulatoren und Mitarbeitenden aufzubauen.

Möchten Sie Private AI in Ihrem Unternehmen implementieren?

inteliScience unterstützt Unternehmen bei der Konzeption und Implementierung sicherer, souveräner und vollständig konformer Private-AI-Plattformen – von der Strategie und Architektur über die Implementierung und Integration bis hin zum langfristigen Betrieb.

Kontaktieren Sie uns für ein Gespräch über Ihre Anforderungen und ein maßgeschneidertes Angebot für Ihren Weg zu Private AI.