In den ersten drei Teilen dieser Blogreihe haben wir betrachtet, wie Unternehmen mit SAP Joule Studio eigene KI-Agenten entwickeln können, wie Agenten mit Systemen kommunizieren und warum Geschäftskontext für fundierte Entscheidungen entscheidend ist. Mit zunehmender Leistungsfähigkeit von KI entsteht jedoch eine neue Herausforderung: Agenten sollen nicht nur Informationen bereitstellen, sondern auch aktiv handeln. Ein Agent könnte beispielsweise Bestellungen anstoßen, Lieferprobleme analysieren, Service-Tickets erstellen oder Geschäftsprozesse auslösen. Damit verändert sich auch das Risikoprofil von KI-Systemen. Die zentrale Frage lautet deshalb:
Wie können Unternehmen sicherstellen, dass KI-Agenten eigenständig arbeiten, ohne die Kontrolle zu verlieren?
Dieser Artikel richtet sich insbesondere an Enterprise Architekten, IT-Sicherheitsverantwortliche, Compliance-Beauftragte und alle, die KI-Agenten produktiv im Unternehmen einsetzen möchten.
Bei klassischen Chatbots bleibt das Risiko überschaubar. Eine falsche Antwort ist ärgerlich, führt aber meist nicht unmittelbar zu geschäftlichen Konsequenzen. Anders sieht es bei KI-Agenten aus. Sobald Agenten eigenständig Aktionen ausführen können, benötigen sie Zugriff auf Unternehmenssysteme, Daten und Prozesse. Sie treffen Entscheidungen, initiieren Aktionen und interagieren mit anderen Systemen.
Damit stellt sich nicht mehr nur die Frage, ob eine Antwort korrekt ist, sondern auch:
Unternehmen benötigen deshalb andere Sicherheits- und Governance-Konzepte als bei klassischen KI-Assistenten.
Viele Diskussionen über KI-Sicherheit konzentrieren sich auf das verwendete Sprachmodell. Für Unternehmen ist jedoch häufig etwas anderes entscheidend:
Nicht das Modell muss vertrauenswürdig sein, sondern das Gesamtsystem.
Ein Agent arbeitet nie isoliert. Er nutzt Unternehmensdaten, greift auf Systeme zu und interagiert mit anderen Agenten. Deshalb muss jede Ebene sichergestellt werden:
Erst das Zusammenspiel dieser Sicherheitsmaßnahmen schafft die Grundlage für einen produktiven Einsatz im Unternehmen.
Ein hilfreicher Vergleich ist das autonome Fahren. Ein autonomes Fahrzeug darf zwar eigenständig Entscheidungen treffen, bewegt sich aber dennoch innerhalb klarer Regeln. Straßen, Fahrspuren und Verkehrszeichen definieren den zulässigen Handlungsrahmen. Dasselbe Prinzip gilt für KI-Agenten.
Agenten benötigen Freiheiten, um Aufgaben effizient zu lösen. Gleichzeitig müssen Unternehmen definieren, welche Grenzen nicht überschritten werden dürfen. Ein Einkaufsagent darf möglicherweise Lieferanten bewerten und Vorschläge erstellen. Die finale Freigabe einer Bestellung könnte jedoch weiterhin einem Mitarbeiter vorbehalten bleiben. Je höher die Auswirkungen einer Entscheidung sind, desto wichtiger werden entsprechende Kontrollmechanismen.
Viele Unternehmen werden nicht nur einen einzelnen Agenten betreiben, sondern eine wachsende Landschaft aus unterschiedlichen Agenten, Skills und KI-Anwendungen. Deshalb benötigt auch die KI-Landschaft ein zentrales Management.
Genau hierfür positioniert SAP den AI Agent Hub. Er dient als zentrale Übersicht für verfügbare Agenten und unterstützt Unternehmen dabei, den Überblick über ihre KI-Ressourcen zu behalten. Dadurch wird Governance skalierbar. Unternehmen können nachvollziehen, welche Agenten existieren, welche Aufgaben sie übernehmen und wie sie in die bestehende Systemlandschaft eingebunden sind.
Ein häufig unterschätzter Aspekt ist die eigentliche Ausführung eines Agenten. Auch wenn ein Agent fehlerhaft arbeitet oder unerwartete Aktionen ausführt, sollte dies nicht automatisch Auswirkungen auf kritische Unternehmenssysteme haben. Deshalb verfolgt SAP das Konzept isolierter Laufzeitumgebungen.
Agenten arbeiten dabei innerhalb klar definierter Sicherheitsgrenzen. Zugriffe auf Systeme, Ressourcen und Netzwerke können kontrolliert und eingeschränkt werden. Für Unternehmen bedeutet das, dass ein einzelner Agent nicht automatisch Zugriff auf die gesamte IT-Landschaft erhält.
Sicherheit und Governance werden häufig gemeinsam genannt, verfolgen jedoch unterschiedliche Ziele.
Sicherheit beantwortet die Frage: Ist das System geschützt?
Governance beantwortet die Frage: Wird das System kontrolliert und nachvollziehbar betrieben?
Für KI-Agenten bedeutet das beispielsweise:
Besonders in regulierten Branchen werden diese Aspekte zunehmend wichtiger.
Mit der zunehmenden Verbreitung von KI steigen auch die regulatorischen Anforderungen. Der EU AI Act fordert von Unternehmen unter anderem Transparenz, Nachvollziehbarkeit und angemessene Kontrollmechanismen für KI-Systeme.
Für Unternehmen bedeutet das, dass der Einsatz von KI-Agenten nicht nur eine technische Fragestellung ist. Organisationen müssen gleichzeitig Prozesse etablieren, um KI-Lösungen verantwortungsvoll zu betreiben und Risiken zu bewerten. Je stärker Agenten in geschäftskritische Prozesse eingebunden werden, desto wichtiger werden Governance- und Compliance-Maßnahmen.
Mit Agentic AI verändert sich die Rolle von KI im Unternehmen grundlegend. Agenten unterstützen nicht mehr nur bei der Informationsbeschaffung, sondern können eigenständig Aktionen ausführen und Geschäftsprozesse beeinflussen. Dadurch steigen auch die Anforderungen an Sicherheit, Governance und Compliance.
SAP verfolgt mit Joule Studio, dem AI Agent Hub und modernen Sicherheitskonzepten einen Ansatz, der Innovation und Kontrolle miteinander verbinden soll. Unternehmen erhalten damit die Möglichkeit, KI-Agenten produktiv einzusetzen und gleichzeitig die Anforderungen an Transparenz, Nachvollziehbarkeit und Risikomanagement zu erfüllen.
Viele Unternehmen experimentieren bereits mit KI-Agenten. Die größere Herausforderung besteht jedoch häufig nicht in der Entwicklung, sondern im späteren Betrieb. Rewion unterstützt Sie dabei, Governance- und Sicherheitskonzepte für SAP Joule Studio und SAP Business AI zu entwickeln, Risiken zu bewerten und Agenten sicher in Ihre bestehende SAP-Landschaft zu integrieren.
Wenn Sie die vorherigen Artikel dieser Blogreihe noch nicht gelesen haben, empfehlen wir außerdem unsere Beiträge zu SAP Joule Studio im Überblick, zu Skills und Agenten sowie zu Grounding, Geschäftskontext und dem SAP Knowledge Graph.
Willkommen bei unserem exklusiven Support für Bestandskunden. Hier finden Sie alle nötigen Informationen, um schnell und unkompliziert Hilfe bei technischen Anfragen zu erhalten.
Für eine direkte Unterstützung per Fernwartung, laden Sie bitte unser TeamViewer-Modul herunter:
Bitte beachten Sie: Dieser Kanal ist speziell für technische Anfragen unserer Bestandskunden vorgesehen. Für allgemeine Anfragen, Informationen zu unseren Dienstleistungen oder eine Erstberatung nutzen Sie bitte unser Kontaktformular oder schreiben Sie eine E-Mail an [email protected].
