Zielsetzung

Im Rahmen des „Otto“-Pilotprojekts unterstützte Haeger Consulting die Deutz AG bei der technischen Neuordnung und Stabilisierung eines bereits produktiv eingesetzten internen AI-Chatbots. Die Anwendung dient als Wissensassistent für Unternehmensinformationen und greift über Konnektoren auf interne Inhalte, insbesondere aus SharePoint, zu.

Umsetzung

Die bestehende Lösung war funktional bereits im Einsatz, wies jedoch eine historisch gewachsene und teilweise inkonsistente Architektur auf. Ziel des Projekts war daher die Refaktorisierung zentraler Komponenten und die Stabilisierung des laufenden Betriebs. Ein Schwerpunkt lag auf der technischen Überarbeitung des Backends und der API-Server-Struktur auf Basis von FastAPI. Gleichzeitig wurde die Dokumentenindexierung im Kontext der bestehenden RAG-Architektur weiterentwickelt und die Anbindung einer Vektor-Datenbank (Vespa) optimiert.

Parallel dazu wurden Container- und Deployment-Strukturen neu organisiert, Kubernetes-Deployments stabilisiert und CI/CD-Pipelines aufgebaut. Ergänzend wurden Monitoring- und Logging-Mechanismen mit Prometheus und Grafana integriert, um eine bessere Transparenz über Systemzustand und Performance zu schaffen.

Durch diese Maßnahmen konnte die Plattform deutlich stabilisiert und die Grundlage für einen langfristig wartbaren und skalierbaren Betrieb der AI-Anwendung geschaffen werden.

TechStack

Python, FastAPI, Kubernetes, Longhorn, Docker, Azure DevOps, ArgoCD, Sealed Secrets, Prometheus, Grafana, Vespa, RAG, Azure AI Foundry, LLMs, UV, Node.js