RAG (Retrieval Augmented Generation): Definition, Nutzen und Grenzen
RAG Aktualisiert
Definition
RAG (Retrieval Augmented Generation) ist ein Verfahren, bei dem ein Sprachmodell vor der Antwort passende Dokumente aus einer eigenen Wissensquelle sucht und diese in die Antwort einfließen lässt. Statt nur aus dem Trainingswissen zu schöpfen, arbeitet das Modell mit aktuellen, firmeneigenen Inhalten. So werden Antworten belegbar und lassen sich an konkrete Quellen binden.
Warum der Begriff zählt
Ein Modell allein kennt weder deine Verträge noch deine DATEV-Buchungen. Es rät gut, aber ohne Bezug zu deinen Daten. RAG schließt diese Lücke, indem es die richtige Passage aus deinem Bestand heraussucht und dem Modell vorlegt, ähnlich wie ein Mitarbeiter erst in die Akte schaut, bevor er antwortet. Für die Prozessautomatisierung heißt das: Antworten, die auf deinen Systemen beruhen und nachvollziehbar bleiben.
Wann es relevant ist
- Antworten müssen auf firmeneigenen Dokumenten beruhen, nicht auf Allgemeinwissen.
- Inhalte ändern sich oft, ein neu trainiertes Modell wäre zu träge.
- Nachvollziehbarkeit ist wichtig, die Quelle soll benennbar sein.
- Ein Ablauf greift auf viele verstreute Dokumente zu, etwa Handbücher oder Richtlinien.
Wann nicht
Wenn eine Aufgabe reine Rechenlogik oder feste Regeln braucht, ist RAG überflüssig, dann reicht klassische Automatisierung. Auch bei sehr kleinen, stabilen Wissensbeständen lohnt der Aufbau von Suche und Vektorspeicher oft nicht, ein direkt hinterlegter Text im Prompt ist dann einfacher und günstiger.
Branchen, die das nutzen
- Maschinen- und Anlagenbau: technische Dokumentation und Servicehandbücher durchsuchbar machen, damit Rückfragen aus dem Bestand beantwortet werden.
- Versicherungen: Tarif- und Bedingungswerke als Quelle nutzen, damit Auskünfte am tatsächlichen Regelwerk hängen.
- Kanzleien und Rechtsabteilungen: interne Vorlagen und Präzedenzfälle heranziehen, ohne dass Inhalte frei erfunden werden.
- Kundenservice: Support-Antworten aus geprüften Wissensartikeln ableiten statt aus dem Bauch.
Typische Anwendungsfälle
- Eine Rückfrage im Ticketsystem mit Passagen aus der eigenen Wissensdatenbank beantworten.
- Aus einem Vertrag die passende Klausel finden und im Antwortentwurf zitieren.
- Ein internes Handbuch abfragbar machen, damit neue Mitarbeitende schneller antworten.
- Prüfen, ob ein eingehendes Dokument zu einer bestehenden Richtlinie passt.
- Antworten mit Quellenangabe erzeugen, sodass eine Person sie freigeben kann.
Entscheidungshilfe
| Signal | RAG passt | Alternative |
|---|---|---|
| Antwort muss aus eigenen Dokumenten kommen | Retrieval plus Modell | reines Modell rät ohne Bezug |
| Wissen ändert sich laufend | Quelle aktuell halten | Fine-Tuning wird schnell veraltet |
| Quelle soll benennbar sein | belegte Passagen liefern | freie Antwort ohne Nachweis |
| Wissensbestand ist winzig und stabil | Overkill | Text direkt in den Prompt |
Beispiel
Ein Serviceteam legt seine Handbücher in einem durchsuchbaren Speicher ab. Kommt eine Rückfrage herein, sucht das System die passenden Abschnitte, das Modell formuliert daraus einen Entwurf mit Quellenverweis, und eine Person gibt frei. Die Baseline ist die heutige Bearbeitungszeit pro Anfrage. Das Beispiel beschreibt die Methode, keine behauptete Kundenkennzahl.
Verbindung zu Services
Der Einstieg ist oft die Prozessautomatisierung mit KI, eingebettet in eine RPA-Umsetzung und begleitet von der Prozessautomatisierung-Beratung.
Quellen
Diese Einordnung beschreibt gängige Praxis beim Einsatz von RAG in automatisierten Abläufen. Konkrete Umsetzung, Datenschutz und die Wahl der Wissensquelle hängen vom Fall, den Systemen und den Werkzeugen ab und müssen im Einzelfall geprüft werden.