Die KI-Anwendung ist gebaut, der Pilot war erfolgreich und die Fachbereiche sind zufrieden. Sie geht produktiv. Für viele Projektteams ist das die Ziellinie. Die Entwicklung ist abgeschlossen, das System liefert die gewünschten Ergebnisse und das Projekt wird formal abgehakt.
Genau an diesem Punkt beginnt jedoch die eigentliche Herausforderung, denn KI im Produktivbetrieb folgt anderen Regeln als ein erfolgreicher Pilot. Erst jetzt zeigt sich, ob die Lösung dauerhaft zuverlässig, sicher und fachlich korrekt arbeitet. Ein KI-System, das produktiv läuft, ist kein statisches Produkt, das man einmal ausliefert und dann sich selbst überlässt. Sein Verhalten verändert sich fortlaufend, etwa durch neue Inhalte in der Wissensbasis, sich wandelndes Nutzerverhalten oder Updates des zugrunde liegenden Modells. Zudem ist das System Risiken ausgesetzt, die im Pilotbetrieb selten sichtbar werden. Dazu zählen beispielsweise Halluzinationen, die zwar plausibel klingen, aber falsch sind, sowie Fehlentscheidungen, die sich unbemerkt in Geschäftsprozesse einschleichen. Auch gezielte Manipulationsversuche durch Prompt-Angriffe können dann zum Problem werden.
Wer KI also produktiv betreibt, braucht mehr als nur Entwicklungskompetenz. Er braucht ein Konzept dafür, wie das System dauerhaft überwacht, regelmäßig bewertet und wirksam abgesichert wird. Der Go-Live ist somit nicht das Ende der Verantwortung, sondern erst der Anfang.
Warum KI-Systeme nach dem Go-Live nicht stabil bleiben
Im Folgenden geht es um Anwendungen generativer KI, etwa Chat-Assistenten oder KI-Agenten, die auf einem bestehenden Sprachmodell eines Anbieters aufbauen. Das Modell selbst stammt vom Anbieter, das Unternehmen verantwortet die darauf aufbauende Anwendung mit Prompts, angebundenen Daten, Schnittstellen und Berechtigungen.
Um zu verstehen, warum der Go-Live nur eine Etappe und kein Endpunkt ist, lohnt sich ein Vergleich mit klassischer Software. Ein klassisches System verhält sich so, wie es programmiert wurde. Es hat ein definiertes Verhalten, folgt festen Regeln und liefert bei gleicher Eingabe stets das gleiche, vorhersehbare Ergebnis. Einmal getestet und freigegeben, bleibt die Logik stabil und Änderungen entstehen nur, wenn der Code aktiv angepasst wird. Generative KI-Systeme funktionieren fundamental anders. Sie liefern probabilistische Ergebnisse, das heißt, dass dieselbe Eingabe zu unterschiedlichen Ausgaben führen kann. „Richtig” ist dabei oft eine Frage der Wahrscheinlichkeit, nicht der Gewissheit. Hinzu kommt eine Reihe von Abhängigkeiten, die sich der direkten Kontrolle entziehen.
- Daten und Wissensbasis: Verändern sich die Daten, mit denen das System arbeitet, etwa die angebundene Wissensbasis, verändert sich auch sein Verhalten.
- Nutzerverhalten: Menschen formulieren Anfragen anders als im Pilotbetrieb getestet und finden dabei auch ungewollt Wege, das System an seine Grenzen zu bringen.
- Externe Modelle und Services: Das zugrunde liegende Sprachmodell und weitere Dienste stammen meist von Drittanbietern, deren Verhalten sich durch Updates ohne eigenes Zutun ändern kann.
Die Konsequenz: Die Qualität und die Risiken eines KI-Systems sind keine festen Größen, die einmal gemessen und dann für immer gültig sind. Sie verschieben sich im Zeitverlauf, manchmal schleichend, manchmal abrupt. Was im Pilotbetrieb zuverlässig funktionierte, kann Monate später anders reagieren, ohne dass jemand aktiv etwas verändert hat. Genau das macht kontinuierliche Beobachtung zur Notwendigkeit.
Die vier größten Risiken im Produktivbetrieb
Sobald eine KI-Anwendung im Produktivbetrieb läuft, treten vier Risikofelder in den Vordergrund, die im Pilotbetrieb oft noch unterschätzt werden.
- Halluzinationen und fachlich falsche Antworten: Ein KI-Assistent, der Kundenanfragen beantwortet, liefert mitunter überzeugend formulierte, aber inhaltlich falsche Informationen. Das Problem dabei ist, dass solche Fehler oft nicht sofort auffallen, da sie sprachlich genauso souverän klingen wie korrekte Antworten. Die Folgen sind Vertrauensverlust bei Kunden und Mitarbeitenden, Fehlentscheidungen auf Basis falscher Informationen und im schlimmsten Fall Reputationsschäden für das Unternehmen.
- Leistungsabfall und Drift: Die Umgebung, in der eine KI-Anwendung arbeitet, steht nie still: Prozesse werden angepasst, es kommen neue Produkte hinzu, Kundendaten verändern sich und der Anbieter aktualisiert das zugrunde liegende Modell. All das wirkt sich auf die Qualität der Ergebnisse aus, meist schleichend und ohne dass es jemand aktiv bemerkt. Oft wird ein Schaden erst dann sichtbar, wenn sich die Leistung bereits über Monate hinweg verschlechtert hat.
- Unerwünschtes und riskantes Verhalten: Dazu zählen problematische oder unangemessene Antworten, Verstöße gegen Unternehmensrichtlinien sowie nicht erlaubte Agentenaktionen. Dieses Risiko ist bei KI-Agenten, die eigenständig handeln können, besonders kritisch, da hier häufig die menschliche Kontrollinstanz fehlt, die einen Fehler rechtzeitig abfangen würde, bevor er Wirkung entfaltet.
- Sicherheitsrisiken und Manipulation: Beispiele hierfür sind Prompt Injection, Jailbreaks, Datenabfluss oder der Missbrauch von Schnittstellen. Die Bedrohungslage endet nicht mit dem Deployment, sondern entwickelt sich kontinuierlich weiter. Dieses Feld deckt sich eng mit den Themen KI-spezifischer Cybersecurity und Adversarial Testing. Einen guten Überblick über reale Angriffstechniken auf KI-Systeme bietet die Wissensdatenbank MITRE ATLAS, die speziell für Bedrohungen gegen KI- und Machine-Learning-Systeme entwickelt wurde.
Warum einmalige Tests nicht ausreichen und was Unternehmen stattdessen brauchen
Viele Unternehmen testen ihre KI vor dem Go-Live intensiv, was ein trügerisches Gefühl von Sicherheit schafft. Die Bedingungen, unter denen ein System nach dem Go-Live läuft, unterscheiden sich jedoch vom Testfall: Nutzer verhalten sich anders als Testpersonen, Daten ändern sich, Angriffsformen entwickeln sich weiter und es entstehen neue Use Cases, die im Test gar nicht vorgesehen waren.
Eine einmalige Freigabe ist vergleichbar mit einem Auto, das nur bei der Auslieferung geprüft wird und danach nie wieder eine Inspektion erhält. Es mag am ersten Tag einwandfrei funktionieren, doch ohne regelmäßige Kontrollen weiß niemand, ob das auch nach Monaten im Alltagsbetrieb noch der Fall ist. Was Unternehmen stattdessen brauchen, lässt sich in vier zusammenhängenden Bausteinen zusammenfassen. Internationale Frameworks wie das
NIST AI Risk Management Framework bieten hierfür bereits wertvolle Orientierungshilfen für den sicheren und vertrauenswürdigen Betrieb von KI-Systemen.
- Evaluation: regelmäßige Überprüfung von Qualität, Fachlichkeit, Sicherheit und Nutzen des Systems statt eines einmaligen Abnahmetests
- Monitoring: kontinuierliche Überwachung von Modellverhalten, Halluzinationen, Fehlerquoten und Drift im laufenden Betrieb
- Guardrails: technische Schutzmechanismen, die Eingaben, Ausgaben und Agentenaktionen wirksam absichern
- Governance: klare Regeln für Verantwortlichkeiten, Freigaben, Dokumentation und Risikomanagement
Erst im Zusammenspiel dieser vier Bausteine wird aus einer einmal freigegebenen Anwendung ein System, dem man auch nach Monaten im Produktivbetrieb noch vertrauen kann.
Fazit
Der Go-Live markiert nicht das Ende eines KI-Projekts, sondern dessen Übergang in den produktiven Betrieb. Die Einführung von KI sollte deshalb nicht als abgeschlossenes Projekt verstanden werden, sondern als Beginn einer neuen Betriebsaufgabe, die die Kernaktivitäten Überwachung, Bewertung, Absicherung und Verbesserung umfasst. Erst im laufenden Betrieb zeigt sich, wie robust, zuverlässig und sicher ein KI-System tatsächlich ist. Erfolgreiche Unternehmen betrachten ihre KI-Anwendungen deshalb ähnlich wie andere kritische Geschäftsanwendungen und etablieren entsprechende Prozesse für den langfristigen Betrieb. Wer Evaluation, Monitoring, Guardrails und Governance frühzeitig etabliert, schafft die Grundlage für vertrauenswürdige und dauerhaft erfolgreiche KI-Anwendungen. Unternehmen sollten dabei sowohl die technische Absicherung ihrer Systeme als auch die organisatorischen Anforderungen an den Betrieb berücksichtigen. Mehr dazu erfahren Sie in unseren Leistungen zu
Adversarial AI Security & Evaluation sowie
KI-Strategie & Governance.
