DigitalDialog / 27. Mai 2025, 11:00 - 12:00 Uhr
Retrieval Augmented Generation (RAG) – Wie der Chat mit den eigenen Daten gelingt
Konkrete RAG-Use-Cases, Herausforderungen und Lösungsstrategien
Im DigitalDialog stellen Expertinnen und Experten des Fraunhofer IAO in aller Kürze vor, wie Retrieval Augmented Generation (RAG) funktioniert. Zudem erfahren die Teilnehmenden anhand von konkreten Anwendungsbeispielen, wie RAG in Unternehmen umgesetzt werden kann.
Frage-Antwort-Systeme, sogenannte Chatbots, sind der häufigste Anwendungsfall von Generativer Künstlicher Intelligenz. Viele Unternehmen haben hier schon erste Anwendungen intern mit ihren Mitarbeitenden oder auch extern mit Kunden und Partnern verprobt. Besonders wertstiftend sind Anwendungen, die explizit auch »eigene« Unternehmensdaten heranziehen, das ist bei direkter Nutzung von Chat GPT & Co erstmal nicht der Fall. Beim Chat mit den eigenen Daten kommt neben Prompting und Finetuning vor allem Retrieval Augmented Generation (RAG) zum Einsatz.
Bei RAG werden bei der Antwortgenerierung durch große Sprachmodelle (Large Language Models LLM) auch weitere Informationen hinzugezogen. Die Ergebnisse sind dadurch spezifischer und vor allem nachprüfbar, weil auch die verwendeten Quellen ausgegeben werden können. Dass die generative KI halluziniert, also Informationen ausgibt, die nicht der Wahrheit entsprechen, kann durch einen RAG-Ansatz ebenfalls stark reduziert werden.
Fokus des Austauschs im DigitalDialog liegt auf konkreten RAG-Use-Cases, die zum Beispiel im Rahmen des KI-Fortschrittszentrums prototypisch umgesetzt wurden. Die Teilnehmenden diskutieren welche Inhalte besonders spannend sind und im Rahmen der für Ende des Jahres im KI-Fortschrittszentrum geplanten RAG-Studie vertieft werden können.
Die Veranstaltung richtet sich an
Verantwortliche für KI-Chatbots