#32 Human in the Loop

Eliot Mannoia: Hallo und willkommen zu einer nächsten Folge von Mind/Machine. Mein Name ist Eliot Mannoia, digitaler Psychologe. Heute reden wir über Human in the Loop, der Mensch im Entscheidungsprozess.

Manuela Machner: Hallo, grüß euch, ich bin die Manuela Machner und wir möchten euch mit diesem Podcast Mind und Machine mit auf die Reise nehmen in die Welt der KI und immer wieder neue Aspekte beleuchten und ein bisschen Einblicke geben in unsere Tätigkeit.

Eliot Mannoia: Ja, also das Thema, wie KI den Menschen wirklich auch beeinflusst, und bei dieser Folge insbesondere der Mensch im Entscheidungsprozess, ist etwas, was wir auch sehr viel erforschen. Also das ist für uns ein spannendes Thema, weil es uns so rasant auch als Gesellschaft beeinflusst. Da gibt es Aspekte wie in der Medizin, dass bei KI-gestützten Systemen, Diagnosen, auch immer eine Ärztin, ein Arzt in diesem Entscheidungsprozess dabei sein muss, oder auch, was in der Industrie ist.

Wir kennen das von der Luftfahrt, da ist es eher Automation, also jetzt nicht KI, aber so Autopilot, dass da immer noch ein Mensch dabei ist. Also ganz, ganz wichtig. Ich glaube, vielleicht in fünfzig Jahren sind wir dann so gut in der KI, dass wir vielleicht weniger Einfluss von Menschen brauchen, aber bis wir dort sind, hoffe ich, dass der Mensch doch immer bei jedem Entscheidungsprozess mit dabei ist.

Manuela Machner: Ja, ich glaube, es ist einfach wichtig, dass man als Mensch das Gefühl hat, die Kontrolle zu haben. Das ist, glaube ich, ja auch eine der großen Ängste, dass man einen Kontrollverlust hat durch den Einsatz von KI-Systemen. Und ich glaube, dass das für uns einfach wichtig ist, dass wir das Gefühl haben, wir können den roten Knopf drücken und Stopp sagen oder wir können den Weg beeinflussen.

Und ich glaube, das ist auch das, was vielen ein bisschen Angst macht, wenn sie sehen, wie KI-Systeme irgendwelche automatischen Ergebnisse liefern oder vielleicht sogar Entscheidungsempfehlungen machen oder vielleicht sogar Entscheidungen treffen und man sich plötzlich, oh, in die Hand der Maschine legt.

Eliot Mannoia: Ja. Ich glaube, was auch vielleicht genauso gefährlich sein könnte, ist die langsame Gefahr. Weil ich glaube, so gefährliche und schnelle Sachen wie auf der Autobahn autonomes Fahren, Gesundheitswesen, ich glaube, da ist die Aufmerksamkeit eh da. Aber das Langsame. Und da gibt es ein Beispiel, ich hab es einmal schon erwähnt, von der Professorin Bettina Kubicek von der Uni Graz, die hat eine Studie gemacht, wie die KI oder zu viel KI die Motivation beeinflussen kann. Da habe ich damals das Beispiel mit dem Callcenter erwähnt. Es gibt aber auch eine spannende Studie, die sie gemacht hat mit Lastwagenfahrern, wo, wenn ihnen die Route ganz genau mit Google Maps oder wie auch immer präzise vorgegeben wurde und sagt: „Okay, das ist der beste Weg.

Es sollte fünfzehn Minuten dauern", dann ist die Motivation auch komplett von den Fahrern runtergegangen, weil sie komplett irgendwie zu eingeengt worden sind. Du hast fast die ganze Freiheit weggenommen. Und manchmal, auch wenn Google Maps den besten Weg zeigt, ist es vielleicht nicht immer der beste Weg und vielleicht gibt es Schleichwege oder andere Wege oder es ist Verkehr, oder sie wissen, der Lastwagenfahrer, jetzt ist es vierzehn Uhr, da ist vielleicht eine bessere Route.

Und ja, wie gesagt, es ist ein langsamer Weg. Demotivation baut sich ja auf und vielleicht nach der dritten, vierten Woche kann es dann wirklich einfach komplett demotivieren. Also da sollte man sich auch Gedanken machen, wie man die verschiedenen, ob es im Büro ist, im Callcenter oder im Lastwagen.

Manuela Machner: Ja, aber es ist verständlich, weil du fühlst dich dann ja nur mehr gesteuert von der Maschine.

Also die Rolle ändert sich. Also ich weiß nicht, ich würde auch nicht wollen, dass mir eine Maschine auf Punkt und Komma genau sagt, was ich zu sagen oder was ich zu tun hab.

Und ich verstehe jeden, der dann irgendwann das Gefühl hat, na, wozu braucht man mich noch? Also ich bin dann ja nur mehr der, der am Lenkrad sitzt, und wenn man dann die autonomen Fahrsysteme noch dazu nimmt, der vielleicht im Notfall noch mal eingreift. Aber wo ist meine Wichtigkeit? Wo ist meine persönliche Bedeutung in dem ganzen Kontext noch?

Also absolut verständlich von der Psychologie her. Und ich glaub, das Thema ist auch ein starkes, dass wir uns ja als Menschen sehr oft auch sehr stark selbst definieren über unsere Tätigkeiten, also über unser berufliches Wirken, sag ich.

Also zumindest wir, die jetzt individuell agieren können.

Es gibt ja nicht in allen Berufen, das muss man jetzt mal ganz klar sagen, die Möglichkeit, sich selbst zu verwirklichen, sondern es gibt viele Menschen, die Jobs nachgehen, um ihren Lebensunterhalt zu verdienen und ihre Familie zu erhalten. Aber trotzdem ist der Job sehr oft die Bestätigung, dass man was auf die Reihe bekommt, dass man sich sinnvoll für die Gemeinschaft, für die Firma, was auch immer, einsetzt und einbringt.

Und wenn diese Sinnfrage dann vielleicht infrage gestellt wird für einen selbst, dann glaube ich, wird es ganz, ganz schwierig auch für die Leute in den Jobs.

Eliot Mannoia: Ich glaub, das hat gesellschaftlich genauso ein Riesenpotenzial wie die kurzen, schnellen, gefährlichen Elemente, die bei uns eher Maschinen sind.

Manuela Machner: Ja natürlich, weil die haben Schlagzeilen. Also genau, wir diskutieren alle, eben wie du sagst, über die großen Entwicklungen, aber die kleinen Entwicklungen, die passieren ja sowieso sehr oft im Hintergrund auf der Tool-Ebene. Da machen Tools automatisch irgendwelche Dinge, was uns eh hilft und was uns ja auch erleichtert.

Also ich mag nicht mehr ohne Navi, ich war jetzt in Salzburg zur Parkgarage fahren in einer Stadt, die ich nicht kenne. Auf der anderen Seite habe ich permanent das Navi hinterfragt, weil ich schon einmal dort war und mir eingebildet hab, orientierungstechnisch, ich fahr da einen ollen Hof zusammen.

Das Navi hatte natürlich recht, aber wir begeben uns ja auch gerne freiwillig in diese Situation, gewisse Verantwortungen abzugeben, sag ich jetzt einmal.

Eliot Mannoia: Ja, und ein wichtiges Thema, das ist ein guter Übergang auch, ist Inklusion. Der Rory Sutherland ist ein Brite, den ich sehr gern mag.

Der ist auch so Verhaltensökonom, arbeitet in der Werbung, und er hat ganz nett gesagt, das fand ich: „Jede Technologie fängt oft als Option an und wird dann zur Obligation.“ Also am Anfang, wenn die Handys rausgekommen sind, war es so: „Kann ich dich am Festnetz erreichen oder am Handy.“

Jetzt ist es: „Ich muss dich am Handy erreichen.“ Es ist eine Obligation. Ja, du hast kein Handy. E-Mail war auch eine Option. Ich kann dir einen Brief schreiben, ein Fax oder per E-Mail. Jetzt ist es eine Obligation. Und was macht das für Menschen, die vielleicht älter sind oder die vielleicht mit der neuen Technologie noch nicht so gut umgehen können?

Also Bildung ist da ganz wichtig. Ich hab ein tolles Beispiel mit der Austrian Airlines. Na, es war eigentlich ... Egal, es war eine andere Airline, aber viele Airlines sind überbucht. Bei den fünf Prozent oder zehn Prozent manchmal. Und alle, die Online-Check-in machen, hatten kein Problem, weil die haben alle Plätze rechtzeitig bekommen.

Aber ein älteres Ehepaar, die waren dann am Flughafen zwei Stunden vorher dort. Also die haben nichts falsch gemacht. „Aber sorry, der Flug ist überbucht. Hier sind dreihundert Euro, kommen Sie morgen wieder.“ Und das sollte nicht passieren. Und das ist ein schönes Beispiel, das machen alle Fluglinien.

Also das ist eh schon ganz weit verbreitet. Aber wenn etwas kommt wie ein Online-Check-in, super, ist ein reibungsloser Prozess. Wie können wir dafür sorgen, dass es trotzdem inklusiv bleibt für Personen, die das nicht machen können oder wollen?

Manuela Machner: Ja, diese Möglichkeit, wie du gesagt hast, das ist keine Option mehr, am Festnetz anzurufen, oder es ist fast keine Option mehr, einen Check-in am Flughafen zu machen.

Also da ist die Gefahr dann sehr groß, wenn Dinge obligatorisch werden und fix werden, also für die Person. Ich glaube aber, dass das Wichtige ist, dass die Menschen irgendwo das Gefühl haben, sie können direkt selber einen Einfluss nehmen. Also egal in welcher Art und Weise. Und das verliert man dann doch oft in der digitalen Welt, weil man den Prozess nicht mehr versteht.

Also man versteht nicht, wie funktioniert das tatsächlich. Also ich fahre dem Navi ja deswegen nach, weil ich davon ausgehe, dass das System besser weiß, wo ein Stau ist oder wo die Einbahnstraßen verlaufen, wie auch immer. Und deswegen vertraue ich dem System, weil ich es nicht weiß. Wenn ich zu Hause fahre in meiner Stadt, wo ich mich auskenne, dann werde ich wahrscheinlich das Navi nicht einmal einschalten und bilde mir ein, dass ich die beste Variante kenne.

Und das Spannende ist, ich hab das aber bei mir selbst zu Hause erlebt. Ich hab irgendwann einmal meinen Arbeitsweg, den ich jeden Tag fahre, ins Navi eingegeben, und zwar weil ich wissen wollte, es war Formel 1 und ich wusste, das spielt da, und ich wollte einfach wissen, ob auf meiner Strecke schon ein Stau ist oder nicht.

Und dann hat mich aber das Navi bei mir zu Hause vor der Haustür einen ganz anderen Weg geleitet, den ich nie fahr. Also gar nicht diese Stausituation war das Thema, sondern eigentlich der erste Kreisverkehr, den ich fahr. Ich hab immer einen Weg gewählt, der für mich logisch der kürzeste war. Ist es aber nicht.

Und ich bin zehn Jahre den Weg so gefahren. Und dann sagt mir das Navi: „Na ja, eigentlich hättest du beim Kreisverkehr so fahren sollen und hinten herum." Und ich denke mir: „Ernsthaft? Also na, das kann nicht stimmen." Und dann habe ich mir das auf der Map angeschaut und bin das dann auch gefahren. Ich bin mir blöd vorgekommen.

Also du fährst zu Hause in deiner Heimatstadt dem Navi nach gegen deine Überzeugung von der Strecke her, und ich hab geschaut und ich bin wirklich eine Minute kürzer gewesen und auch von der Distanz her war es ein paar hundert Meter weniger. Und ich hab mir gedacht, das ist jetzt voll spannend, aber du wirst es nicht glauben.

Ich bin die Strecke trotzdem nie so gefahren. Also ich hab zwar vom Verstand her gewusst, die Strecke wäre kürzer, aber trotzdem bin ich meiner Gewohnheit gefolgt und hab mich jeden Tag in der Früh entschieden, die andere Strecke zu fahren, die ich schon so viele Jahre gefahren bin.

Eliot Mannoia: Also in der Psychologie, diese heuristischen Entscheidungen und Regeln machen unser Leben leichter. Diese Routine und ...

Manuela Machner: Ich glaube, es war ein bisschen dieser Widerspruchsgeist, wie du vorhin gesagt hast, auch beim Lkw-Fahrer, der will vielleicht nicht alles, also keine Entscheidungsfreiheit mehr haben.

Eliot Mannoia: Aber da muss ich mich selber korrigieren bei der Studie. Ich hab etwas ausgelassen. Es wurden den Lastwagenfahrern einmalig nur mit einem Google Maps oder GPS ihre Wege gemessen.

Und deswegen waren dann die Lastwagenfahrer nicht okay damit, weil es je nach Zeit und Tag unterschiedlich sein kann. Also es war nicht ...

Manuela Machner: Es war eine fixe Route.

Eliot Mannoia: War eine fixe Route, die einmal berechnet wurde. Und deswegen ...

Manuela Machner: Aber nicht individuell angepasst auf seine Bedürfnisse.

Eliot Mannoia: Nach Wetter, nach Stau, nach Hauptzeiten, nach Tageszeit und Tag. Deswegen, das war nur eine Studie, um zu zeigen, wenn immer eine Strecke ...

Manuela Machner: Ja, wenn ich eine fixe Vorgabe hab, ohne eigentlich noch darauf einzusteigen. Aber ich glaub, dass mein Verhalten ist ja wirklich so diese ...

Eliot Mannoia: Spannend, ja.

Manuela Machner: Ich will mir nicht unbedingt vom Kasperl sagen lassen, was ich zu tun hab.

Eliot Mannoia: Ja, vom Kasperl. Aber ich glaube, wenn es vielleicht zehn Minuten Unterschied wären ...

Manuela Machner: Ja, dann wäre der Gewinn so viel größer, dass meine persönliche Eitelkeit oder mein persönliches Ich-weiß-es-besser ... Ja, sicher. Der Nutzen und der Nachteil, das spielt sicher eine Rolle, klar.

Aber manchmal, ja. Das ist ja auch ähnlich, schau. Wenn ich Leute erlebe, die ChatGPT nutzen in den Kursen und so, gell? Die sagen, na ja, ich lasse eh was generieren, aber ich schreib das immer um und es muss meinen Touch haben und es muss so schreiben wie ich und überhaupt und sowieso, weil das ist ja dann kein schöner Text oder das ist ja dann nicht von mir.

Und wenn sie dann aber lernen, dass ChatGPT auch so schreiben kann wie sie schreiben, also in ihrem Stil mehr oder weniger, dann ist diese Zeitersparnis plötzlich so viel relevanter. Der Text ist so viel ähnlicher, wie sie sind, dass sie dann doch dazu neigen, es zu nutzen. Aber am Anfang, wenn natürlich da, wie soll man sagen, die Zeitersparnis zwar da ist, aber das Ergebnis natürlich nicht so effizient ist, dann nutzen sie es nicht.

Und dieses, ich muss ja zeigen, dass es von mir ist, das haben wir schon. Also das ist ja verständlich. Also irgendwo, da haben wir wieder das Wertethema von vorher. Wir definieren uns über das, was wir schaffen, was wir machen, welche Leistungen wir erbringen, und ist es dann noch meine Leistung? Ich muss ihm irgendwo doch meinen Stempel aufdrücken.

Wenn ich nur abändere, liebe Manuela oder lieber Eliot, und der Rest vielleicht von KI ist, aber ist das noch immer mein Stempel?

Eliot Mannoia: Ja, da sollten wir auch mal drüber reden. Ab wann ist es so und ab wann ist es okay? Ab wann ist es deines?

Manuela Machner: Ja, das wird spannend bei Kennzeichnungspflichten.

Eliot Mannoia: Genau, genau. Superspannendes Thema wieder.

Was haben wir alles besprochen. Angefangen von Human in the Loop, also dass der Mensch in der Entscheidungsschleife, im Entscheidungsprozess dabei ist, dass es wichtig ist bei wirklich Lebensentscheidungen, wie Gesundheitswesen, autonomes Fahren vielleicht oder in der Industrie, wie auch immer.

Und dass der Mensch da wirklich noch einen Stellenwert hat und, wie du sagst, den roten Knopf drücken kann, falls es wirklich notwendig ist. Und auch bei Sachen, die vielleicht nicht so offensichtlich sind, wie zum Beispiel bei der Motivation, ob das der Lastwagenfahrer ist oder im Callcenter, wenn die KI zu viel von den wichtigen Entscheidungen übernimmt und wir dann wirklich nur aufarbeiten, dass das dann wirklich auch demotivierend sein kann und dass wirklich dann die Motivation erodiert über die Zeit und dass es so ein langsames Sterben ist in einem Job, wenn man da wirklich so unzufrieden ist.

Auch das spielt eine Rolle. Und dann Kontrollverlust, hast du angesprochen, fand ich sehr spannend, absolut. Und dann auch das Besserwisserische von der KI. Das ist dann vielleicht doch oft, und ich glaube, es wird nie so schlecht sein wie heute. Die KI wird ja immer besser.

Also die KI wird es irgendwann immer besser wissen. Vielleicht nicht überall in jeder Domäne, aber sehr oft. Und da haben wir auch unseren eigenen Stolz und unsere gewohnten Wege, die wir da mal infrage stellen müssen.

Manuela Machner: Ja, und nächstes Mal wollen wir darüber reden, ob jedermann mithilfe von KI plötzlich zum Experten wird, zu jedem möglichen Thema.

Ob das die Zukunft ist und was das eigentlich bedeutet. Wir freuen uns auf euch. Wir sehen uns wieder oder hören uns wieder bei der nächsten Folge von Mind/Machine. Tschüss, baba.