Kompetenzpflicht (Art. 4): Definition, Nutzen und Grenzen
Kompetenzpflicht Aktualisiert
Definition
Die Kompetenzpflicht nach Art. 4 EU AI Act verlangt, dass Personen, die KI-Systeme einsetzen oder betreiben, ein ausreichendes Maß an KI-Kompetenz haben. Sie sollen verstehen, was das System tut, wo seine Grenzen liegen und wie Ergebnisse einzuordnen sind. In automatisierten Abläufen betrifft das alle, die einen KI-Schritt bedienen oder beaufsichtigen. Diese Einordnung ist allgemein und keine Rechtsberatung.
Warum der Begriff zählt
Ein KI-Schritt ist nur so verlässlich wie die Menschen, die ihn bedienen und prüfen. Wer nicht versteht, wie ein Modell zu seinen Vorschlägen kommt, kann Fehler nicht erkennen. Die Kompetenzpflicht macht Schulung und Verständnis zur Voraussetzung, nicht zur Kür. Im Mittelstand heißt das, dass Automatisierung mit KI auch eine Frage der Einarbeitung ist, nicht nur der Technik.
Wann es relevant ist
- Mitarbeitende bedienen oder beaufsichtigen einen KI-Schritt.
- Ein KI-Ablauf geht live und wird im Alltag genutzt.
- Aufsicht und Freigabe hängen von menschlichem Urteil ab.
- Der EU AI Act berührt den Einsatz des Systems.
Wann nicht
Ein rein technischer Ablauf ohne KI im Sinne der Verordnung löst die Pflicht in dieser Form nicht aus. Wenn niemand ein KI-System bedient oder beaufsichtigt, greift Art. 4 nicht. Die Prüfung, ob KI und Personenbezug im Spiel sind, gehört aber an den Anfang, damit die Einarbeitung passend dimensioniert wird.
Branchen, die das nutzen
- Steuerberatung: Fachkräfte im Umgang mit KI-gestützter Belegverarbeitung schulen.
- Maschinenbau: Bediener von KI-Prüfschritten auf Grenzen und Fehlerbilder einarbeiten.
- Gesundheitswesen: Personal für den Umgang mit KI-Vorschlägen befähigen.
- Handel: Teams für KI in Kundenprozessen mit klarer Einordnung schulen.
Typische Anwendungsfälle
- Rollen bestimmen, die KI-Kompetenz brauchen.
- Kurze, praxisnahe Einarbeitung je KI-Ablauf aufsetzen.
- Grenzen und typische Fehler eines Systems verständlich erklären.
- Zuständige für Aufsicht und Freigabe gezielt befähigen.
- Die Einarbeitung dokumentieren, damit sie belegbar ist.
Entscheidungshilfe
| Signal | Kompetenzpflicht greift | Alternative |
|---|---|---|
| Menschen bedienen KI | Einarbeitung sicherstellen | reine Technik ohne KI unberührt |
| Aufsicht durch Personen | Verständnis aufbauen | blinde Nutzung riskant |
| Kein KI-System im Einsatz | Pflicht nicht ausgelöst | normale Einweisung reicht |
| Live-Betrieb geplant | vor Rollout schulen | Nachschulung riskant |
Beispiel
Ein Steuerbüro führt einen KI-Schritt zur Belegvorsortierung ein und schult die Fachkräfte vorher darin, was das System kann, wo es scheitert und wie sie Vorschläge prüfen. Die Einarbeitung wird kurz dokumentiert. So bedienen und beaufsichtigen die Menschen den Ablauf mit Verständnis. Das Beispiel beschreibt die Methode und ersetzt keine juristische Prüfung.
Verbindung zu Services
Die Einordnung passiert in der Prozessautomatisierung-Beratung, der KI-Schritt entsteht in der Prozessautomatisierung mit KI, die Umsetzung als RPA-Ablauf.
Quellen
Diese Einordnung beschreibt Art. 4 EU AI Act allgemein und ist keine Rechtsberatung. Verbindlich sind die aktuellen Rechtstexte und ihre Durchführungsakte. Der genaue Umfang der KI-Kompetenz hängt vom Einzelfall, dem System und den Rollen ab und ist gegen die geltende Fassung sowie fachlich zu prüfen.