Zielsetzung

Ein international tätiges Beratungsunternehmen stand vor einer klaren Herausforderung: Es brauchte eine kollaborative Arbeitsplattform mit integrierter KI-Assistenz – durfte seine Systeme jedoch nicht mit dem Internet verbinden. Ziel war es, moderne Arbeitswerkzeuge sowie KI-gestützte Assistenzfunktionen in einer vollständig abgeschotteten Infrastruktur bereitzustellen. Gemeinsam mit Haeger Consulting entstand daraus eine Lösung, die genau dieses Spannungsfeld auflöst.

Umsetzung

Haeger Consulting entwickelte hierfür eine Air-Gap-fähige Plattformarchitektur auf Kubernetes-Basis, die sämtliche Komponenten lokal betreibt und damit höchste Anforderungen an Datenschutz und Informationssicherheit erfüllt. Neben klassischen Kollaborationsdiensten wurde eine LLM-basierte Assistenzfunktion integriert, die Mitarbeitende bei Recherche-, Kommunikations- und Dokumentationsaufgaben unterstützt.

Im Rahmen des Projekts haben unsere Experten mehrere lokal betriebene Large Language Models (Granite, Mistral, Qwen) integriert und über eine KI-Oberfläche orchestriert. Durch die Einbindung spezifischer Tools kann das System Aufgaben eigenständig ausführen, etwa:

  • semantische Suche in internen Wissensbeständen

  • Analyse und Erstellung von E-Mails

  • Erstellung und Verwaltung von Dokumenten

  • Unterstützung bei Recherche- und Informationsprozessen

Die Lösung ermöglicht damit eine KI-gestützte Arbeitsumgebung innerhalb einer vollständig isolierten Infrastruktur, ohne Abhängigkeit von externen Cloud-Diensten. Die Plattform wurde so konzipiert, dass sie auch in sicherheitskritischen Bereichen wie Behörden oder regulierten Industrien eingesetzt werden kann.

Technologisch basiert die Lösung auf einer cloud-nativen Microservice-Architektur, die lokale KI-Modelle, Container-Orchestrierung und integrierte Kollaborationsdienste zu einer skalierbaren Plattform kombiniert.

TechStack

Kubernetes, k3s, OpenDesk, Open WebUI, Python, Granite, Mistral, Qwen, Nextcloud, Jitsi, Element, Keycloak, Redis, MinIO, MariaDB, Nexus, OCI-Registry