Human in the Loop
Human in the Loop bezeichnet Systeme, in denen ein Mensch an festgelegten Punkten prüft, freigibt oder korrigiert, bevor ein KI-Ergebnis wirksam wird.
Human in the Loop beschreibt ein Gestaltungsprinzip für automatisierte Systeme: Der Mensch bleibt Teil des Ablaufs. Bevor ein Ergebnis Wirkung entfaltet, eine E-Mail versendet, eine Rechnung freigegeben, ein Datensatz geändert wird, prüft eine Person das Ergebnis und bestätigt oder korrigiert es. Die KI bereitet vor, der Mensch entscheidet.
Das Prinzip hat zwei Begründungen. Fachlich fängt es Fehler ab, die Sprachmodelle machen, von Halluzinationen bis zu falsch gelesenen Beträgen. Rechtlich wahrt es Verantwortung: Artikel 22 DSGVO gibt Betroffenen das Recht, nicht einer ausschließlich automatisierten Entscheidung mit rechtlicher Wirkung unterworfen zu werden, und der EU AI Act verlangt für Hochrisiko-Systeme menschliche Aufsicht nach Artikel 14.
Damit die Prüfung wirksam ist, muss sie mehr sein als ein Klick auf „Bestätigen“. Die prüfende Person braucht die Grundlage der Entscheidung, etwa die Quelle einer Aussage, ausreichend Zeit und die tatsächliche Möglichkeit, abzuweichen. Ein Freigabeschritt, der immer nur durchgewinkt wird, erfüllt den Zweck nicht.
Was das für Ihr Unternehmen bedeutet
Im Mittelstand ist Human in the Loop die pragmatische Antwort auf die Frage, wie viel Automatisierung vertretbar ist: Alles, was Außenwirkung hat, bekommt einen Freigabepunkt. In Prozessen heißt das ein Freigabeschritt, der an die zuständige Person oder Rolle geht, im Chat heißt es eine Antwort mit Quellenangabe, die vor der Weiterverwendung geprüft wird. Beides ist dokumentiert und lässt sich später nachvollziehen.