Blog

Was muss ein Team für den AI Act praktisch lernen?

Eine Übung für Service, IT und Teamleitung. Gemeinsam prüft ihr an einem Kundenchatbot, wo Hinweise, Quellenprüfung und menschliche Übergabe nötig sind.

Kevin Köhler neben einer Checkliste und einer Sprechblase

Ein Kundenchatbot wird nach einer Rückgabefrist gefragt. Er nennt souverän 30 Tage, obwohl in den hinterlegten Bedingungen für den konkreten Fall etwas anderes steht. Die Kundenberaterin muss den Fehler erkennen. Die Teamleitung legt fest, wann der Bot solche Fälle weitergibt. Der Kunde soll schon beim Einstieg erkennen können, dass er mit einem KI-System spricht.

Stand 13. November 2026. Artikel 4 des AI Acts verpflichtet Anbieter und Betreiber von KI-Systemen, Maßnahmen zur Förderung der KI-Kompetenz der beteiligten Personen zu treffen. Laut EU-Kommission richten sich die Maßnahmen nach den Vorkenntnissen, dem Einsatz und den betroffenen Personengruppen. Seit dem 2. August 2026 müssen Anbieter direkt interagierender KI-Systeme diese nach Artikel 50 grundsätzlich so gestalten, dass die Menschen über die KI-Interaktion informiert werden. Eine Ausnahme gilt, wenn die KI-Interaktion unter den konkreten Umständen offensichtlich ist. EU-Kommission zu KI-Kompetenz · EU-Kommission zu Transparenzpflichten

Eine Übung in 30 Minuten

Verwendet eine Testumgebung mit fiktiven Kundendaten und einem kurzen, gültigen Auszug aus euren Servicebedingungen. Eine Person spielt den Kunden, eine übernimmt die Serviceprüfung, eine beobachtet die Übergabe. Spielt nacheinander eine Routinefrage, eine falsche Antwort und einen Fall ohne ausreichende Quelle durch.

  1. Erkennen. Findet den Hinweis auf den KI-Chat aus Sicht eines Erstbesuchers. Prüft, ob er beim ersten Kontakt sichtbar und verständlich ist, auch auf einem kleinen Bildschirm.
  2. Prüfen. Lasst euch die Grundlage für die Antwort zeigen. Vergleicht den Text mit der gültigen Version der Servicebedingungen und achtet auf Ausnahmen, die der Chatbot übersehen könnte.
  3. Übergeben. Wenn die Quelle fehlt oder der Fall eine Entscheidung verlangt, testet den Wechsel zum Serviceteam. Die Person dort sollte wissen, was bereits geprüft wurde und warum der Fall weitergegeben wurde.

Die Übung führt vom Erkennen der KI-Interaktion über die Prüfung einer Antwort zur Übergabe an den Service.

Was die einzelnen Rollen daraus mitnehmen

Der Service sollte falsche Zusagen erkennen, korrigieren und melden können. Die IT prüft, wie der Bot zu seiner Quelle gekommen ist und ob die Übergabe technisch funktioniert. Die Teamleitung legt fest, für welche Anliegen der Bot eingesetzt wird und wer über Anpassungen entscheidet. Bei jeder Rolle zählt eine Handlung, die sich im Alltag wiederholen lässt.

Haltet nach der Übung die eingesetzten Fälle, die Ergebnisse und die offenen Verbesserungen fest. Legt eine verantwortliche Person und einen Termin zur Nachprüfung fest. Wenn der Bot neue Aufgaben übernimmt oder auf neue Daten zugreift, könnt ihr die Übung mit passenden Fällen wiederholen. Welche Maßnahmen für den konkreten Einsatz angemessen sind, hängt vom System und von den betroffenen Menschen ab.

Für die nächste Schulung könnt ihr eine anonymisierte oder fiktive Anfrage aus dem eigenen Team mitbringen und den Ablauf gemeinsam erproben. KI-Schulungen der Lumentis AI Academy

Quellen