Große Sprachmodelle (LLM): Definition, Nutzen und Grenzen
Große Sprachmodelle Aktualisiert
Definition
Große Sprachmodelle, kurz LLM, sind KI-Modelle, die auf sehr großen Textmengen trainiert wurden und Sprache verstehen sowie erzeugen. In der Prozessautomatisierung übernehmen sie Schritte wie Zusammenfassen, Einordnen, Extrahieren aus Freitext und das Vorbereiten von Antworten. Sie sind mächtig, brauchen aber klare Vorgaben, geprüfte Quellen und Kontrollpunkte, damit die Ausgabe im Ablauf verlässlich bleibt.
Warum der Begriff zählt
LLM machen genau die Schritte zugänglich, an denen reine RPA scheitert, das Verstehen und Formulieren von Sprache. Wer den Begriff einordnet, weiß, dass ein LLM kein Wissensspeicher ist, sondern ein Sprachwerkzeug. Der belegbare ROI entsteht, wenn das Modell mit den richtigen Daten arbeitet und die Ausgabe über RPA und Integration sauber in ein System läuft.
Wann es relevant ist
- Ein Schritt braucht Verstehen oder Erzeugen von Freitext.
- Eingaben sind unstrukturiert und variieren stark.
- Zusammenfassen, Extrahieren oder Klassifizieren ist der Engpass.
- Geprüfte Quellen und ein Kontrollpunkt sind vorhanden.
Wann nicht
Wenn eine Aussage exakt und verbindlich sein muss und keine Prüfung dahinter steht, ist der direkte LLM-Einsatz riskant. Bei rein strukturierten Daten reicht eine Regel oder Integration. Und wo Nachvollziehbarkeit jeder Ausgabe Pflicht ist, braucht es enge Vorgaben statt freier Formulierung.
Branchen, die das nutzen
- Maschinenbau: technische Anfragen und Spezifikationen aus Freitext strukturieren.
- Steuerberatung: Mandantenschreiben zusammenfassen und Entwürfe vorbereiten, mit Endprüfung.
- Großhandel: Produktbeschreibungen aus Stammdaten und Anfragen erzeugen.
- Kundenservice: eingehende Nachrichten einordnen und Antwortentwürfe vorschlagen.
Typische Anwendungsfälle
- Lange Dokumente auf die entscheidenden Punkte zusammenfassen.
- Aus Freitext strukturierte Felder für ERP oder CRM extrahieren.
- Anfragen klassifizieren und den passenden Ablauf auslösen.
- Antwortentwürfe aus geprüften Quellen vorbereiten.
- Inhalte über eine Wissensbasis beantworten, mit Belegverweis.
Entscheidungshilfe
| Signal | Große Sprachmodelle passen | Alternative |
|---|---|---|
| Freitext verstehen oder erzeugen | LLM-Schritt im Ablauf | reine RPA reicht nicht |
| Verbindliche Aussage | Prüfung und geprüfte Quelle | keine freie Ausgabe |
| Strukturierte Daten | kein LLM nötig | Integration oder Regel |
| Volle Nachvollziehbarkeit | enge Vorgaben | transparente Regel |
Beispiel
Ein Mittelständler erhält Anfragen mit langen Freitextbeschreibungen. Ein LLM fasst sie zusammen und extrahiert die relevanten Felder, RPA legt den Vorgang im System an, und die Integration verbindet ERP und CRM. Unsichere Punkte gehen an eine Person mit Freigabe. Der Nutzen wird gegen die Baseline der bisherigen Bearbeitung belegt. Das Beispiel beschreibt die Methode, keine behauptete Kundenkennzahl.
Verbindung zu Services
Der Einstieg ist meist die Prozessautomatisierung mit KI, die Umsetzung eine RPA-Lösung, die Einordnung die Prozessautomatisierung-Beratung.
Quellen
Diese Einordnung beschreibt gängige Praxis beim Einsatz großer Sprachmodelle in automatisierten Abläufen im Mittelstand. Modelle, Quellen und Datenschutz hängen vom Fall, den Systemen und den Werkzeugen ab und müssen im Einzelfall geprüft werden.