Die Nutzung von einem KI ChatBot ist für Unternehmen eine schnelle und einfache Möglichkeit, die Möglichkeiten von Künstlicher Intelligenz (KI) einzusetzen. Im privaten Gebrauch sind die ChatBots von OpenAI (ChatGPT), Google (Bard) und Co. schon etabliert. In der Welt der Unternehmen sind wir noch nicht so weit. Dieser Blog bringt Sie einige Schritte weiter auf dem Weg zu einem KI ChatBot für Ihr Unternehmen in Azure.
Der Aufbau von einem ChatBot ähnelt einer Pyramide
Die Konzeption von einem KI ChatBot für Unternehmen in Azure entspricht einem pyramidenförmiger Prozess. Jede Ebene hat eine spezifische Funktion und „schärft“ das KI-Tool. Dieser strukturierte Ansatz ermöglicht die Transformation von einem stumpfen Foundation Model zu einer maßgeschneiderten Lösung für Ihr Unternehmen.
Foundation Model: Die Basis der Pyramide
An der Basis der Pyramide steht das sogenannte Foundation Model. Dieses Modell stellt die allgemeine Architektur und die grundlegenden Fähigkeiten des ChatBots dar. Es ist vergleichbar mit einer stumpfen Waffe, die zwar ein gewisses Potenzial besitzt, jedoch noch nicht für spezifische Aufgaben optimiert ist. Für unser aller Liebling ChatGPT ist das „gpt-3“ bzw. „gpt-3,5-turbo“ oder „gpt-4“.
Individueller Datensatz: Konkretisierung des Wissens
Auf dem Foundation Model baut die nächste Ebene auf: der individuelle Datensatz. Hier werden spezifische Informationen, Fachwissen und Dateien integriert, die den ChatBot für die jeweiligen Unternehmensanforderungen maßschneidern. Dieser Schritt transformiert das generische Modell in ein spezialisiertes Werkzeug, das auf die Bedürfnisse und Herausforderungen Ihres Unternehmens zugeschnitten ist.
Parameter: Charakter und Verhalten
Die dritte Ebene der Pyramide beinhaltet die Parametereinstellungen, die dem ChatBot einen bestimmten Charakter und Verhaltensmuster verleihen. Ob der Bot eher formell oder informell, proaktiv oder reaktiv agieren soll, legen Sie hier fest. Diese Parameter sind entscheidend für die Benutzererfahrung und die Effektivität des ChatBots in der jeweiligen Anwendungsumgebung.
System Message / System Prompt: Festlegung des Mindsets
Nah an der Spitze der Pyramide befindet sich die System Message / System Prompt. Diese Komponente legt das „Mindset“ des ChatBots fest und gibt vor, wie der Bot sich in Interaktionen einbringt und welche Art von Dialogführung er verfolgt. Dies ist der Feinschliff, der den ChatBot nicht nur funktional, sondern auch in der Kommunikation mit den Benutzern optimal gestaltet.
User Prompt: Der Wunsch des Endanwenders
Nachdem die Pyramide mit ihren verschiedenen Ebenen aufgebaut wurde, ist die letzte Ebene der User Prompt. Hier legt der User durch seine oder ihre Nachricht fest, wie er oder sie das Tool einsetzt.
Insgesamt entsteht so folgendes Bild:
Der Aufbau von einem KI ChatBot für Unternehmen in Azure ähnelt einer Pyramide
Ein KI ChatBot kann entweder Abiturient sein oder erfahrener Fachexperte
Falls die Pyramide für Sie keinen Sinn ergibt, hier eine weitere Metapher:
- Das Foundation Model ist der Schüler mit Abitur.
- Der individuelle Datensatz macht aus dem Abiturienten einen Studierten.
- Die Parameter sind Fort- und Weiterbildungen, sowie Erfahrungswerte.
- Die System-Message ist der eigene Methodenkoffer, den man für jedes Problem heranzieht.
- Der User Prompt ist z. B. eine konkrete Frage, die man seinem Kollegen stellt, um ein Problem zu lösen.
Der Abiturient hätte das Problem vielleicht auch lösen können, aber mit Sicherheit über Umwege.
Warum wir einen ChatBot ausgerechnet in Azure bauen
Die Wahl der Plattform für den Aufbau eines KI-ChatBots ist ein entscheidender Faktor, der den Erfolg des Projekts maßgeblich beeinflusst. Wie im vorherigen Abschnitt über den pyramidenförmigen Aufbau eines ChatBots erläutert, nimmt das Foundation Model eine zentrale Rolle ein. Es bildet die Basis, auf der alle weiteren Ebenen aufbauen, und ist somit ein kritischer Bestandteil für die Leistungsfähigkeit und Effizienz des gesamten Systems.
Azure bietet in seinem OpenAI Studio direkten Zugriff auf hoch entwickelte Foundation Modelle von OpenAI, darunter GPT-3.5 Turbo und GPT-4. Diese Modelle sind auch die treibende Kraft hinter ChatGPT. Somit haben Sie die Möglichkeit im Azure Open AI Studio einen KI ChatBot für Ihr Unternehmen zu bauen, der für Sie besser ist als ChatGPT.
Die Plattform bietet eine intuitive Benutzeroberfläche, um die weiteren Ebenen des KI ChatBot zu definieren. Dazu gehören dann der individuelle Datensatz, die Parameter und die System-Message.
Zugang zum Azure OpenAI Studio & Erstellung einer Ressource – Eine Schritt-für-Schritt-Anleitung
- Bewerben Sie sich auf das Azure OpenAI Studio über den offiziellen Microsoft-Forms-Link.
- Warten Sie die Bearbeitungszeit von Microsoft ab.
- Erarbeiten Sie Ihren internen Use Case. Nutzen Sie hierfür idealerweise ein KI Governance Modell & achten Sie auf die Prinzipien von Responsible AI.
- Nach einigen Tagen bzw. Wochen erhalten Sie eine hoffentlich positive Nachricht von Microsoft: Sie haben nun Zugang zum Azure OpenAI Studio.
- Erstellen Sie eine Ressource, um die Services von OpenAI nutzen zu können. Dieser Erstellungsprozess ist standardisiert und von Microsoft sehr gut dokumentiert.
- Ein Einblick in das OpenAI Studio, welches wir für unseren KI ChatBot für Unternehmen in Microsoft Azure nutzen.
Die Konfiguration des KI ChatBot in Azure: Fine-Tuning durch Temperatur, Top P und Co.
Nachdem Sie eine Ressource erstellt haben, können Sie den ChatBot starten. Nun folgt der wichtigste Teil, in welchem Sie die KI konfigurieren.
Sie brauchen Hands-On-Support oder mehr Informationen?
Für weitere Informationen und eine individuelle Beratung stehen wir Ihnen gerne zur Verfügung. Ein KI ChatBot für Ihr Unternehmen ist eine begeisternde und greifbare Möglichkeit, KI einzusetzen und durch das Azure OpenAI Studio sehr einfach zugänglich. Ein KI ChatBot kann sowohl ein Quick Win sein, als auch ein komplexeres Projekt. Dies hängt davon ab, wie konkret der ChatBot sein soll. Bei Fragen zögern Sie bitte nicht, auf uns zuzugehen.
Bei Fragen oder Anregungen zum Thema New Work, zur Microsoft Welt oder zu Collaboration Tools stehen wir Ihnen gerne beratend zur Seite. Wir freuen uns auf Ihre Kontaktaufnahme.
Weitere Blogartikel aus Bereichen, die von New Work, über Microsoft 365 bis hin zu Sustainable IT reichen, finden Sie auf unserer Blogseite.
