So funktioniert der KI-Chatbot im SAP-Umfeld
- Über eine einfache Weboberfläche stellt der SAP-Anwender seine Anfrage zu einem Beleg.
- Die KI analysiert im Hintergrund den Kontext der Anfrage, zum Beispiel, dass es sich um einen Fertigungsauftrag handelt und wie die Nummer des Elements ist.
- Die Anfrage wird technisch aufbereitet und über die Schnittstellen (APIs) an das SAP-System übertragen.
- Als Antwort gibt das SAP-System eine technische strukturierte Datei zurück, die an ein Sprachmodell gesendet wird.
- Das Sprachmodell interpretiert die Antwort und bereitet sie ansprechend auf, beispielsweise als Fließtext oder in strukturierten Abschnitten mit Hervorhebung wichtiger Elemente wie Tabellen oder Diagrammen.
Die fertige Antwort wird dem Anwender klar und verständlich präsentiert – ohne ein langes Warten oder Recherchieren im SAP-System. Der Anwender muss keine Transaktionen mehr auswendig lernen, nicht nach der richtigen Fiori-App suchen und auch keine Anwendungen nach dem benötigten Feld absuchen. Auch bei der Aufbereitung von Berichten oder der Dateninterpretation steigt die Effizienz auf ein neues Niveau!
Das Gute am CONSILIO-Prototyp ist, dass er sich sowohl in einer Cloud- als auch der On-Premise-Variante realisieren lässt. Bei der On-Premise-Version verbleiben alle Daten innerhalb des Unternehmensnetzwerks. Es können sowohl selbstgehostete Sprachmodelle als auch Schnittstellen externer Anbieter wie OpenAI integriert werden. Dies erhöht die Datensicherheit und reduziert Bedenken im Hinblick auf Datenschutz, was insbesondere bei der Verarbeitung sensibler Daten von großer Bedeutung ist.
Entwicklung eines KI-Chatbots: So gehen Sie vor
Vor der Entwicklung eines KI-Chatbots sollte ein Proof of Concept (PoC) durchlaufen werden: die erste Phase der Entwicklung, in der das Konzept auf Umsetzbarkeit geprüft wird. Je nach Problemstellung bietet es sich zunächst an, im Internet nach bereits existierenden Modellen zu suchen - beispielsweise auf Plattformen wie HuggingFace.
Frei verfügbare Modelle lassen sich durch Finetuning an die eigenen Daten anpassen, was eine spezielle Form des Modelltrainings darstellt. In diesem Fall ist es nicht notwendig, bei null zu starten. Das vortrainierte Modell wird nun im Laufe der Zeit mit unternehmensspezifischen Daten weiter trainiert und so spezialisiert, um dessen Leistung in spezifischen Anwendungsfällen zu verbessern.
Falls sich keine fertigen Modelle verwenden lassen, wird ein eigenes Modell von Grund auf trainiert. Dies kann je nach Komplexität und Umfang des Anwendungsfalls aufwändig und kostenintensiv sein, was auch für das Finetuning gilt. Ein iteratives Vorgehen hilft, erste Eindrücke hinsichtlich der Ergebnisqualität, des zu erwarteten Aufwands und der Skalierbarkeit des Trainings zu gewinnen. Für das Training und Finetuning des Modells ist ein tiefes Verständnis der verfügbaren Daten entscheidend. Deshalb muss im Vorfeld geklärt werden, welche Datenquellen im Unternehmen existieren, ob diese Daten abgerufen werden können und wie sie zu interpretieren sind.
Die Kombination verschiedener Datenquellen führt erfahrungsgemäß oft zu aussagekräftigeren Ergebnissen. Die Daten müssen für das Modelltraining aufbereitet werden. Falls keine geeigneten Daten vorhanden sind, wird ein eigenes Datenset entwickelt. Es beinhaltet die Sammlung, Bereinigung und Formatierung der Daten. Das Modell wird dann mit den vorbereiteten Daten trainiert und anschließend evaluiert. Dabei lässt sich prüfen, wie gut das Modell die gestellten Aufgaben erfüllt. Je nach Ergebnis kann es notwendig sein, das Datenset anzupassen oder zusätzliche Daten hinzuzufügen. Basierend auf den Evaluationsergebnissen kann man das Modell weiter optimieren. Sobald das Modell zufriedenstellend trainiert und evaluiert ist, wird es gespeichert und für die Integration in den Chatbot bereitgestellt.
CONSILIO zeigt mit ihrem Prototyp interessierten Unternehmen, wie sie relativ einfach durch den Einsatz von KI ihre Effizienz steigern und innovative Technologien erfolgreich integrieren können. Kontaktieren Sie uns!
Fazit
Der Prototyp von CONSILIO zeigt, dass die Entwicklung eigener KI-Lösungen in vertretbarem Rahmen möglich ist, wenn strategische Planung, Investition in Technik und Schulung der Mitarbeiter im Projekt ernst genommen werden. Dazu gehört auch, dass man bei der Implementierung zunächst einen kleinen Anwendungsbereich bzw. Funktionsumfang realisiert, bevor man die Lösung skaliert. Wer zudem hohen Wert auf Datensicherheit und Datenschutz legt, weil er sensible Daten verarbeitet, sollte die On-Premise-Variante der Lösung implementieren. Bei ihr verbleiben alle Daten innerhalb des Unternehmensnetzwerks. Dadurch sind die Unternehmensdaten vor dem Zugriff externer Anbieter geschützt.
