Retrieval Augmented Generation (RAG) etabliert sich zunehmend als Schlüssteltechnologie für den Einsatz von KI in Unternehmen. Zuletzt erfährt insbesondere der Bereich von Large Language Models (LLM) und Generative AI, maßgeblich in Form von ChatGPT, steigende Popularität. Im Unternehmenskontext kommen LLMs bisher hauptsächlich zur Erzeugung von Texten und Bildern, für Recherchen sowie in der Entwicklung zum Einsatz. Trotz ihrer vielseitigen Einsatzmöglichkeiten stoßen diese Tools an Grenzen, vor allen Dingen bei Aufgaben mit Unternehmensbezug.