Human in the Loop beschreibt das Prinzip, dass Menschen in KI-Entscheidungsprozessen eingebunden bleiben. Manuela Machner und Eliot Mannoia über Verantwortung und Kontrolle.
Human in the Loop bedeutet, dass Menschen in kritischen Schritten eines KI-Prozesses eingebunden bleiben. Sie überprüfen, korrigieren und bestätigen KI-Entscheidungen, bevor diese umgesetzt werden.
KI kann Muster erkennen, aber keinen Kontext vollständig verstehen. Ethische Urteile, Ausnahmen und unvorhergesehene Situationen erfordern menschliches Eingreifen. Verantwortung kann nicht delegiert werden.
Medizinische Diagnosen, Rechtsentscheidungen, Personalentscheidungen und sicherheitskritische Systeme sind Bereiche, in denen menschliche Kontrolle unverzichtbar ist.