Wie forscht man an künstlicher Intelligenz? – Eine Bachelorarbeit bei Remoso

Timon Kaeppel hat im letzten Semester seiner Studienzeit die Gelegenheit, seine Bachelorarbeit in enger Zusammenarbeit mit remoso zu schreiben. Dabei hat er das Unternehmen über die letzten drei Jahre dual im Studiengang Wirtschaftsinformatik – Data Science an der Dualen Hochschule Ravensburg begleitet. Das Thema seiner Arbeit beleuchtet ein hochaktuelles Feld der künstlichen Intelligenz: Retrieval Augmented Generation (RAG) – eine Technologie, die darauf abzielt, die Limitationen von großen Sprachmodellen zu überwinden. Timon untersuchte dabei, wie RAG durch den Einsatz von Wissensgraphen verbessert werden kann, und verglich diese Methode mit traditionellen RAG-Ansätzen.  

Wie können die Grenzen der Sprachmodelle überwunden werden?
Große Sprachmodelle, wie zum Beispiel ChatGPT, haben in den letzten Jahren beeindruckende Fortschritte gemacht und bieten in den Bereichen der Textverarbeitung sowie bei der Implementation von autonomen Agenten herausragende Leistungen. Dennoch stoßen sie in der Praxis auf Probleme, die ihren Einsatz in realen Anwendungen erschweren. Zu den größten Herausforderungen zählen sogenannte „Halluzinationen“ – also falsche Antworten –, mangelnde Erklärbarkeit sowie fehlendes domänenspezifisches Wissen.

Um diese Probleme zu adressieren, wurde das Konzept des Retrieval Augmented Generation (RAG) entwickelt. Hierbei werden relevante Dokumente aus einer Datenbank abgerufen und als zusätzliche Informationsquelle neben der Anfrage des Nutzers verwendet. Allerdings haben auch diese traditionellen RAG-Ansätze Schwächen, da sie sich auf unstrukturierte Textdokumente stützen, die oft redundante oder irrelevante Informationen enthalten.

Sind Wissensgraphen die Lösung, um Informationen zu strukturieren?
Timon untersuchte in seiner Arbeit, ob sich diese Schwächen durch den Einsatz von Wissensgraphen beheben lassen. Wissensgraphen (engl. Knowledge Graphs) bieten eine strukturierte und vernetzte Darstellung von Wissen und könnten somit helfen, relevantere und präzisere Antworten zu generieren.

Als Anwendungsfall wurde die Softwaredokumentation des remoso Mobility Manager verwendet, einer ERP-System für Mobilitätslösungen.  Dafür entwickelte Timon ein Chatbot für den Kundenservice. Remoso arbeitet aktuell an der Implementierung eines intelligenten Chatbots, der Kunden bei der Nutzung der vielfältigen Funktionen des Mobility Managers unterstützen soll. Ziel ist es, durch den Chatbot den Customer Service zu verbessern, indem er schnell und präzise Antworten auf häufige Fragen zu den umfangreichen Features der Software gibt. Timons Arbeit leistete hierbei wertvolle Vorarbeit, indem er sechs verschiedene RAG-Pipelines evaluierte. Drei der Ansätze basierten auf traditionellen, Textdokument-basierten RAG-Implementationen, während die anderen drei einen aus der Dokumentation extrahierten Wissensgraphen als Basis zur Beantwortung von Fragen nutzten. Der Fokus lag darauf, welche Methode qualitativ hochwertigere Antworten liefert.

Ein dokumentenbasierter Ansatz namens RAPTOR (https://arxiv.org/pdf/2401.18059) lieferte hier die besten Ergebnisse. Dies zeigte, dass der derzeitig implementierte Wissensgraph, sowie die Abfragemethoden auf diesem, noch nicht die benötigt Reife hat.  

Sind Wissensgraphen für den Chatbot optimal?
Obwohl ein dokumentenbasierte Ansatz Timons Arbeit am besten abschnitt, sieht er großes Potenzial in der Weiterentwicklung der wissensgraphenbasierten Ansätze. Insbesondere die Art und Weise, wie Wissensgraphen automatisch aus Texten erstellt werden, stellt eine Herausforderung dar. Weiterer Forschungen in diesem Bereich wird in Zukunft RAG noch effizienter machen, da Wissensgraphen eine präzisere und strukturierte Darstellung von Informationen bieten können und somit unstrukturierten Textdokumenten überlegen sind. Dies könnte dem Remoso-Chatbot in Zukunft ermöglichen, noch präzisere Antworten zu geben und die Kundenzufriedenheit weiter zu steigern.

Was ist das Fazit der Bachelorarbeit?
Mit der Bachelorarbeit hat Timon einen wertvollen Beitrag zur Weiterentwicklung von remosos Customer-Service-Lösungen geleistet. Remoso ist begeistert, dass Timons Forschung direkt in die Entwicklung des Chatbots einfließen kann, der bald den Kunden des Unternehmens bei der Nutzung des Mobility Managers helfen und gleichzeitig die Mitarbeiter entlasten wird.  

Sie möchten jetzt Ihr Mobility-Management startbereit machen?

Dann sind Sie bei uns richtig!

Die remoso GmbH entwickelt als führender Anbieter seit mehr als 30 Jahren Softwarelösungen für Flottenbetreiberkonzepte der individuellen Fahrzeugmobilität. Unsere Motivation ist es, zusammen mit unseren Kunden Innovationen zu generieren, die Effizienz zu steigern und maximalen Nutzen im Mobilitätsmanagement zu generieren.

Kommen Sie gerne auf uns zu und vereinbaren Sie ein unverbindliches Erstgespräch!