#80 Algorithmic Management: Chancen, Stress & Ghostwork - mit Dr. Andreas Ihl

# Mind Machine. Emotionale Intelligenz trifft künstliche Intelligenz Ein Podcast mit Eliot Mannoia und Manuela Machner.

**Eliot Mannoia:** Hi und willkommen zur nächsten Folge von Mind/Machine. Heute haben wir die Ehre und es freut uns wirklich sehr, dass wir den Dr. Andreas Ihl bei uns haben. Senior Scientist, Head of Competence Center for Digital Business and Marketing auf der Donau-Universität Krems. Wir haben die Manuela Machner, KI-Tourismusexpertin ganz untriebig in ganz Österreich, Deutschland und beyond.

Mein Name ist Eliot Mannoia, digitaler Psychologe und ja,

**Manuela Machner:** Andreas,

**Eliot Mannoia:** vielen, vielen Dank, dass du heute bei uns bist.

**Manuela Machner:** Vielleicht

**Eliot Mannoia:** kurz zu dir gleich. Wie kommt man von Forschung und deinem Werdegang mehr und mehr in Richtung KI?

**Manuela Machner:** Leidenschaft,

**Eliot Mannoia:** Knowledge

was hat dich da auf diesem Weg hergebracht?

**Manuela Machner:** hallo

von meiner Seite.

Ich freue mich sehr, heute bei euch sein zu dürfen.

**Andreas:** genau,

**Manuela Machner:** Werdegang. Also ich komme eigentlich ursprünglich Komme ich klassisch aus der BWL. Das ist eigentlich ganz witzig.

habe meinen Bachelor in München gemacht. Ich komme auch aus München.

Habe

dann meinen Master an der Uni Passau gemacht und habe auch an der Uni Passau promoviert. Und dort bin ich dann eben immer weiter in die Richtung Technologie.

Arbeit, Technologie und Mensch gerückt. Also immer stärker an diese psychologische Schnittstelle zwischen Technologie und Mensch.

dann bin ich, tatsächlich habe ich einen kleinen Ausflug in die Praxis gemacht, weil manchmal ist der Wissenschaftsbetrieb nicht ganz so einfach und die Stellen gibt es auch nicht wie Sand am Meer. Und dann habe ich sehr cool einen Job in München gefunden, habe als UXler gearbeitet, also als User Experience Researcher und Designer und habe dann aber gemerkt okay, alles klar, mich interessiert die Forschung doch wieder mehr und habe dann das Glück gehabt, an der Donau-Uni diese coole Stelle zu finden, bin nach Wien gezogen, der wegen

Und mein Background in einer Schnittstelle Technologie und Mensch war schon immer stark ausgeprägt.

in der forschung

**Andreas:** sprechen wir von soziotechnischen Systemen, also so die Schnittstelle Mensch/Maschine und natürlich mit den Entwicklungen in den letzten Jahren ist das Thema, Algorithmus zu erst und dann über das Thema Algorithmic Management, also wirklich Algorithmen einzusetzen um Leute in der Arbeitswelt Zu managen,

Bin ich

immer weiter in das Richtung intelligente Systeme und daneben natürlich auch in den Bereich KI.

**Manuela Machner:** bin ich jetzt hier gelandet und schaue mir eben an, wie verändert KI

KI-Systeme

nicht nur

AI, sondern

auch ganz viele andere, wie verändert das eigentlich die Art, wie wir arbeiten, wie wir zusammenarbeiten. Ja, das ist so mein Werdegang in Short, würde ich sagen.

**Eliot Mannoia:** Sehr spannend. Kann ich denn gleich nachfragen wie... Du hast nämlich in unserem Vorgespräch auch erwähnt genau was du jetzt auch angesprochen hast in Bezug zur Arbeit, also KI und Algorithmen am Arbeitsplatz und wie es da auch mit Identität und auch mit unserem Stress und so Einfluss nimmt. Wie zeichnet sich das bei dir?

Wie siehst du das?

**Manuela Machner:** Ja also

das ist ein ganz spannendes Thema.

finde es zumindest ein ganz spannendes Thema und ich glaube auch in der

**Eliot Mannoia:** Wir auch.

**Manuela Machner:** wichtiges Thema

Weil

diese Systeme verändern natürlich oder können ganz stark verändern, wie wir arbeiten, was ist unser Aufgabenfeld.

Sie können zusätzlichen Stress auslösen, sie können als Stressoren, sagt man auch, gelten und weil du jetzt die Identität angesprochen hast, es gibt viel Forschung, die zeigt, dass je intelligenter Systeme werden und je mehr Aufgaben sie übernehmen, dass das auch etwas mit uns machen kann, wie wir uns sehen.

Wie wir unsere Rolle sehen und wie wir uns in unserem beruflichen Alltag sehen. Also wer bin ich eigentlich, warum mache ich das alles und welchen Impact habe ich eigentlich?

Dort ist es so, je intelligenter Systeme werden, es wird damit experimentiert, dass eben nicht nur, wir kennen das alles, Routineaufgaben abgenommen werden, die uns in Wahrheit eh irgendwie von unserer Kernarbeit abhalten, gut, okay, aber diese Systeme können eben auch Aufgaben übernehmen, die ganz stark in unsere Kerntätigkeit

**Eliot Mannoia:** übergehen

**Manuela Machner:** sie verändern natürlich einmal unser tägliches Arbeiten, aber auch unsere Aufgaben die wir machen.

**Andreas:** das

**Manuela Machner:** kann eben

Auswirkungen darauf haben, wie sehen wir uns, was ist eigentlich mein Impact, den ich mit meiner Arbeit noch habe, was wird von mir erwartet und das sind alles Aspekte, die können durchaus negative Auswirkungen haben auf uns, weil so ein Rollenchange, so ein Identitätswechsel ist wie jede Veränderung schwierig und

kann psychologisch sehr belasten.

Also es gibt ein super Beispiel.

Wie finde, es gab eine große Studie im Bereich der Kreditvergabe in einer großen Bank in Deutschland. Und dort hat die Bank angefangen die Kreditvergabe zu automatisieren also durch Algorithmen. Also auf einmal war nicht mehr der Bankberater, der gesagt hat, okay, ich screene jetzt die Unterlagen und ich sitze ihnen gegenüber

**Andreas:** und ich glaube Sie schaffen das, oder ich glaube das passt eher nicht, sondern ein Algorithmus hat die Entscheidung getroffen. Und der Bankberater durfte die dann nur mehr kommunizieren. Und die Forschung hat uns eigentlich gezeigt, dass das zu einem starkten Identitätsverlust geführt hat, weil die Leute gesehen haben als Kundenberater, als Problemlöser für die Kunden. Und das hatten sie auf einmal nicht mehr. Und vor allem bei Leuten, die sich eben eher als kreative Berater verstanden haben. Naja da muss man einfach aufpassen und natürlich kann es viele positive Seiten haben aber das ist eben ein wesentlicher Punkt, der hier auf jeden Fall Berücksichtigung findet.

**Manuela Machner:** Ich habe da ein ganz starkes Gefühl, dass wir... also viele Menschen definieren ja ihren Lebenssinn zu einem gewissen Grad an der Arbeit. Also du hast ja eine gewisse Sinnstiftung in der Arbeit. Und wenn ich das Gefühl habe, dass da vielleicht eine Sinnhaftigkeit wegfällt oder wofür bin ich dann noch da, das kann jetzt eh alles der Computer, ob ich das dem jetzt sage oder eine oder ein Psychologe, der weiß wie man jemanden sagt, dass er keinen Kredit kriegt macht vielleicht mehr Sinn.

Dann, glaube ich, macht das auch im Menschen etwas. stark wird in Zukunft noch die Arbeit unser Lebenssinn darstellen? Oder? Ist das nicht so ein Thema?

**Andreas:** Ja das ist ein ganz wesentlicher Punkt. Wir sehen das jetzt ja in der Uni

auch. Also es ist ja, KI in der Lehre ist ein riesen Thema und wir wissen alle, unsere Studierenden nutzen ChatGPT oder ähnliches um Hausarbeiten zu schreiben. Natürlich ist dann noch die Frage, ok warum bastel ich umfangreiche Vorlesungsunterlagen, warum verbringe so viel Zeit damit, Wissen aufzubereiten, um das zu vermitteln, wenn die das eh am

Ende des Tages

**Manuela Machner:** vielleicht nicht reflektieren, sondern alles nur in die KI hauen. Und jetzt Stichwort Identität, wer bin ich denn dann eigentlich noch? Also bin ich wirklich noch der Dozierende, der Wissensvermittler?

Habe ich irgendwie noch diesen auszubildenden Anspruch? Oder schaue ich einfach nur, dass sie gut mit dem System umgehen können und das kritisch reflektieren und da keinen Schmarrn machen? Also es verändert sehr viel und wie du richtig sagst der Sinn geht vielleicht, vielleicht geht der bisherige Sinn ein bisschen zurück und wir müssen uns einen neuen suchen.

Ist ja auch immer kein Status Quo, sondern es ist halt ein Veränderungsprozess.

Also Generation Z

sagt ja oft so, denen wird ja abgesprochen, dass sie die Sinnhaftigkeit in Arbeit und so schon sehen, aber vielleicht brauchen sie das ja gar nicht mehr in dem Ausmaß wie wir uns,

ich muss auch sagen, teilweise in übertriebener Art und Weise

die Arbeit als Lebensinhalt ja auch sehen, also gar nicht so als... Ich verdiene damit was, sondern ich bin mein Status, den ich im beruflichen Kontext vielleicht gewonnen habe, oder auch das, was ich tue.

Ja, absolut. Also es ist ja auch immer eine spannende Frage Die erste Frage ist immer, und was machst du? Und dann sage ich eigentlich immer, wer bist du? Und ich sage, mein Beruf.

Vielleicht verändert

sich das. Wir werden sehen, in welche Richtung es da geht.

Was interessieren würde, ist, jetzt beobachtest du das ja länger als wahrscheinlich Generative AI und auch außerhalb der Generative AI. Hat sich dadurch nicht massiv etwas verändert, dass plötzlich, ich glaube vorher waren diese Algorithmen und diese Themen waren trägere konzepte und

jetzt sind

so extrem dynamisch und pushen überall rein.

Hat sich da plötzlich auch in deinem Forschungsschwerpunkt Dinge verändert?

**Andreas:** Ja

absolut. Also am Anfang, als das ganze Thema mit Algorithmen und auch intelligenten Algorithmen aufgekommen ist, haben wir uns sehr stark angeschaut wie verändert das Routinen, wie kann das auch Benefits haben, mit eben repetitive Aufgaben abzulösen und man hat sich ganz stark die Entscheidungsfindung auch angeschaut also Unterscheidungsunterstützung

beispielsweise.

Jetzt geht es natürlich noch viel stärker in den Kreativbereich,

das ist glaube ich ein Punkt, der ganz wichtig ist. Und es ist so wahnsinnig zugänglich

geworden. Und ich glaube, das ist ja das, warum wir auch so viel darüber sprechen und so viel...

Reflektieren, auf einmal scheint jeder Zugang zu der Technologie zu haben und kann sie nutzen und vorher war das vielleicht noch mehr in einem geschützten Raum, weil dann war dann doch irgendwie immer die IT-Infrastruktur drüber und das war in Systeme integriert und es gab vielleicht gewisse Algorithmen, die dahinter liefen, aber oft waren sich die Leute gar nicht bewusst, was da passiert und auf einmal haben sie diese direkte Interaktion und das verändert schon wahnsinnig viel

es

schürt

**Manuela Machner:** auch Ängste und auch ein bisschen Unbehagen.

Es gibt dieses tolle Zitat, das ist eine Zeit lang durch LinkedIn gewabert. Ich weiß leider nicht, wer es gesagt hat.

**Andreas:** sinnmäßig

**Manuela Machner:** zitiere ich das jetzt so ein bisschen. Da hieß es, ja, ich möchte,

**Eliot Mannoia:** dass KI meine Wäsche und

**Manuela Machner:** meinen Abwasch macht. Und nicht, dass...

**Eliot Mannoia:** damit ich

**Manuela Machner:** meine kreativen Aufgaben machen kann und nicht, dass KI meine kreativen Aufgaben macht, damit ich meine Wäsche machen kann.

Und ich glaube, das hat sich eben nochmal verschoben mit diesen ganzen generative AI-Tools.

**Eliot Mannoia:** Ja also du hast ja auch angesprochen, die...

**Manuela Machner:** Was

**Eliot Mannoia:** sich verändert im Arbeitsplatz. Und ich meine, der Arbeitsplatz hat es eigentlich nicht so leicht gehabt. Wir hatten 2020

**Manuela Machner:** Home

**Eliot Mannoia:** Remote Office und da wirklich auch ziemlich seismische Änderungen und sehr abrupt und schnell. Und dann kaum zwei Jahre später, 2022 jetzt mit der generativen KI und wie die Manuela richtig gesagt hat und du auch schon am Anfang, die Algorithmen und andere Sachen gibt es ja schon viel länger.

Was

**Manuela Machner:** Was

**Eliot Mannoia:** wären so deine Ratschläge an Führungskräfte oder auch im Unternehmen?

**Manuela Machner:** Wie

**Eliot Mannoia:** können sie mit dieser Geschwindigkeit und mit diesen ständigen Veränderungen irgendwie, ich weiß nicht, wenn du deine Finger schnippen könntest was würdest du am Arbeitsplatz verändern oder empfehlen?

**Manuela Machner:** also da würde mir ganz viel einfallen.

**Andreas:** Also

**Manuela Machner:** mein erster Schritt wäre, glaube ich erstmal den Leuten grundsätzlich, bevor ich jetzt Empfehlungen gebe, den Leuten zuhören und wirklich auch mal zu schauen, was passiert denn eigentlich, weil ich finde gerade im akademischen Bereich, ihr kennt den Ausdruck des Elfenbeinturms, wir schauen da irgendwie immer von oben

drauf drauf und ich glaube es ist ganz wichtig, den Leuten zuzuhören, zu schauen was sind wirklich Probleme und wo spielt die Musik. Und ein Punkt ist zum Beispiel den ich mir wünschen würde, wenn Komplexere technische Systeme eingeführt werden, dass man das erst mal vielleicht auch pilotiert, schaut, was passiert mit den Leuten, was macht das mit den Leuten, Stichwort Identität, Stichwort Stress. Dass dann aber eine Führungskraft auch dieses Feedback systematisch einsammelt und dann auch nach oben trägt. Bitte dann auch als Ambassador auftreten und sagen: He hör zu das habe

aus meinem Team

Das scheint nicht so toll zu funktionieren. Können wir da nochmal nacharbeiten? Das scheint super zu funktionieren Bitte können wir da ein bisschen mehr haben? Also so ein

bisschen bisschen diesen Human Center design apporach, der ja so wichtig ist, in diesem ganzen System. Und da einfach eine gute Stimme zu haben für Führungskräfte, die das machen können und ein

weiterer Wunsch den ich mir wirklich wünschen würde, gerade im Hinblick auf KI, ist dieser...

**Andreas:** Blick Datentellerrand. Also klar, mit dem AI Act und alles und Datenschutz ist super wichtig, ich verstehe das.

Und gerade für Unternehmen ein ganz, ganz wichtiges Thema und das muss auch, sollte auch ganz oben auf der Agenda stehen.

Nichtsdestotrotz

**Manuela Machner:** Datenschutz war schon immer wichtig.

war

schon immer

zentral und da gibt es auch

viele Überlegungen

schon dazu und KI, intelligente Systeme können mit so viel mehr positiven als auch negativen Faktoren kommen, dass ich mir manchmal wünschen würde, ein bisschen über dieses, okay, wo liegen unsere Daten, wie werden unsere Daten verarbeitet ich möchte nicht sagen, dass das nicht wichtig ist, sondern das soll schon bleiben, aber eben alle anderen Aspekte auch auf die Agenda zu rücken, eben den psychologischen Aspekt ein bisschen mehr in den Fokus rücken.

Ich

sage manchmal in meinen Kursen das darf ich offiziell nicht sagen, in Deutschland darf ich es nicht sagen, aber zu Tode gefürchtet ist auch gestorben.

**Andreas:** Stimmt, stimmt.

**Manuela Machner:** Also das erlebt man halt teilweise und manchmal empfinde ich es auch als Ausrede dieses Thema Datenschutz und so nach vorne zu stellen, weil ich Angst vor der Veränderung habe oder weil ich einfach unsicher bin, was da eigentlich passiert. Muss man auch sagen. Aber das, was ich viel spannender finde, wie du sagst diese Veränderung am Arbeitsplatz, ich glaube, dass da der Fokus in der Realität, also ich schule ja ganz viele kleine Betriebe und die Mitarbeiter sind immer so ein bisschen gespalten Lustigerweise ich mache anonyme Abfragen vor den Kursen damit ich weiß, wie die Gruppe aufgestellt ist, also ob sie eher Ängste haben und in welche Richtungen die Ängste sind.

Und ich muss sagen, es ist die Skepsis und Ängste so vielleicht bei fünf Prozent von den Kursteilnehmern die das halt auch im anonymisierten Verfahren Und das Spannende ist, ich erlebe halt, dass die Ängste sehr oft abseits der tatsächlichen Arbeit stecken. Also sehr oft sind die Ängste auch, was wird KI in Zukunft für

**Eliot Mannoia:** mich auch privat bedeuten.

**Manuela Machner:** Also weniger wie sich die Arbeit entwickelt, sondern was heißt gesellschaftlich was heißt das für meine Kinder Und für diese Geschichten, also ich glaube, dass da, und das ist bei KI vielleicht anders, als es bei allen anderen Dingen war, dass die Leute auch einen Impact in ihrem privaten Leben sehen und nicht nur, so wie es halt früher war, dann im Job funktioniert das anders, weil ein neues Programm kommt.

Ja, das ist

ein wesentlicher Punkt.

Gerade diese rasante Entwicklung der KI beeinflusst ja nicht nur unsere Arbeit, sondern sie beeinflusst ja, wie wir leben.

Wie wir mit anderen interagieren, teilweise auch wie wir unsere Freizeit gestalten vielleicht in Zukunft. Also es ist, Stichwort Integration in XR und VR und das geht ja noch weiter.

Und deswegen, ich glaube, man muss das ganze Thema auch holistisch gesamtheitlich betrachten. Und natürlich, gesellschaftlich ist das ein Riesenthema, was natürlich auch losgelöst vom Arbeitsplatz stattfindet Was

**Eliot Mannoia:** verstehst du auch unter Algorithmic Management, also wie siehst du da eigentlich, diese zwei Wörter sagen ja eh genau das, was du am Anfang gesagt hast, Mensch, Maschine, Algorithmen und Maschinen, also Algorithmen und Mensch, was verstehst du darunter, wo siehst du da die Reise hingehen?

**Manuela Machner:** Ja, vielleicht erst mal zum Begriff Algorithmic Management. Ist ja doch ein sehr akademischer Begriff mal wieder.

Aber es

bedeutet einfach, dass Algorithmen mehr oder weniger intelligent,

**Eliot Mannoia:** das tun wir mal dahinstellen, eben wirkliche Management Aufgaben, also sprich es ist weniger unterstützend sondern wirklich

**Manuela Machner:** Management-Aufgaben die vorher vielleicht Eine Führungskraft übernommen hat. Stichwort Aufgabenzuteilung, Stichwort Arbeitszeiteinteilung, Stichwort aber auch, wer kriegt denn einen Bonus und wer nicht, auf Basis von Performance-Daten.

Das waren typischerweise Feedback-Systeme, das waren typischerweise Sachen, die im Kern einer Führungskraft stehen und auch heute noch zum Glück. Aber es gibt natürlich Settings,in denen wird das von einer Maschine,. von einem Algorithmus übernommen

Und das ist das Thema des Algorithmic Managements.

Und

wenn ich das in meiner Vorlesung sage, kommt oft das Thema, ja, das gibt es ja nicht.

Also das ist ja Sci-Fi, das ist

**Eliot Mannoia:** ja Zukunft

**Manuela Machner:** Aber so ist es nicht.

**Eliot Mannoia:** Sondern, wir haben verschiedene Arbeitssettings, beispielsweise auf Online Freelancing Plattformen, wie Upwork

**Andreas:** oder Fiverr, wo das

**Eliot Mannoia:** schon absolut Realität ist und es geht auch immer mehr

**Manuela Machner:** in Richtung traditionelle Organisationen Wir sehen es in der Logistik ganz stark, dass es sich entwickelt, aber natürlich auch mehr in wissensbasierter Arbeit geht es immer weiter rein, weil es natürlich auch Effizienzsteigerungen Bringen kann, eine gewisse ja das große Argument ist immer die gewisse Neutralität, also wir nehmen quasi den Menschen heraus, das stimmt so natürlich auch nicht, wir kennen das Thema der Diskriminierung von Algorithmen und ich glaube, wo die Reise hingehen wird, ist, dass das sicherlich in einigen Bereichen zunehmen wird, weiterhin in einigen Bereichen wird es nicht Fuß fassen,

aus verschiedensten

Gründen und ich glaube aber, dass wir das immer differenzierter betrachten werden.

Also es gibt ja auch, Forschung war immer ganz negativ am Anfang, weil sie sich ganz stark mit dem Algorithmic Control beschäftigt hat, also wie kontrollieren denn Algorithmen, wie Leute arbeiten und auf Basis dessen geben sie Empfehlungen,

Aufgaben

sollen sie in Zukunft machen, sollen sie befördert werden oder wie auch immer.

Das ist natürlich ein Punkt, okay,

**Eliot Mannoia:** das kann sehr negative Auswirkungen

**Manuela Machner:** haben, es kann Stress erzeugen es kann sogar zu Burnout führen, es kann zu Unfairness führen.

Aber jetzt gibt es eine aktuelle Entwicklung und die finde ich persönlich ganz spannend, die schaut sich eben auch andere Aspekte des Algorithmic Managements an, Stichwort Algorithmic Guidance, also wenn ich wirklich systematische Anleitungen bekomme, wie soll ich Aufgaben

erledigen? das ist auch eine standardisierte Anweisung mit der ich gut arbeiten kann. Dann kann das tatsächlich sehr positive Auswirkungen haben, weil ich einfach effizienter sein kann, weil ich mich auf meine Arbeit besser konzentrieren kann und vielleicht

**Andreas:** ich dadurch mehr Zeit habe um kreative Potentiale zu finden etc. Also ich glaube die Reise geht dahin, dass es in Zukunft noch differenzierter betrachtet werden wird dieses ganze Thema. Ich bin gespannt wo es noch überall Einzug findet, da möchte ich jetzt nicht in die Glaskugel schauen. Da

**Eliot Mannoia:** du mich auf eine Idee gebracht, weil wir hatten auch das Gespräch die Manuela und ich, mit Selbstoptimierungen in einer Folge. Glaubst du das wahrscheinlich, dass man vielleicht, genau wie man einen Personal Trainer hat für Fitness, dass man vielleicht einen KI-Algorithmic-Management-Chatbot hat, der dich managt?

**Manuela Machner:** dass ich, um

**Eliot Mannoia:** effizienter zu sein, kannst du dir das vorstellen vielleicht, dass jeder seinen eigenen Manager hat, um sich auf Trab zu halten und Time-Management und so?

**Manuela Machner:** Absolut. Ich meine, das ist ja schon, Stichwort KI-Agenten also es geht ja auch in diese Richtung und du sprichst da einen ganz wichtigen Punkt ein. Ich habe gestern eine Studie gelesen, ich glaube von der Uni Stockholm oder aus Stockholm kam sie auf jeden Fall publiziert im Im Journal of management science, also wirklich ganz ganz toll publiziert, die sich eben angeschaut hat, ok so ein Algorithmus so eine KI ist nicht per se gut oder schlecht, sondern es kommt darauf an, wie ist denn der fit mit mir. Also wie ist der Human fit mit dem was sie macht, sie in Anführungsstichen denkt. Und das ist natürlich ein ganz wesentlicher Punkt und ich kann mir diese Personalisierung

Also, sie

**Andreas:** hat ja schon angefangen und sie wird wahrscheinlich noch zunehmen.

Absolut.

**Manuela Machner:** Wobei, ich frage mich ein bisschen, weil du gesagt hast, Management-Algorithmus. Wenn der Algorithmus schon genau definieren kann, wie ein Arbeitsprozess abläuft, dann bin ich mir nicht mehr sicher, wozu ich als Mensch das noch mache.

Ich glaube, es wird Tätigkeiten geben, also wenn man keine Robotik jetzt hernimmt, dann tut man es einfach schwer, dass das

halt halt eine KI ausführt, aber alles was in der digitalen Welt passiert, glaube ich, wo man das schon so herunterbrechen kann,

im Algorithmus wird dann ganz spannend werden, dass das über Automatisierungen, Agents oder sonst was auch dann abgewickelt wird.

Ja,

das ist auch ein super Beispiel, weil ich finde tatsächlich eine große Ridesharing-Plattform, sage ich jetzt mal so,

**Andreas:** Die verbindet

**Manuela Machner:** eigentlich diesen Online-

und Offline-Kontext ganz gut. Also Algorithmic Management kommt

**Eliot Mannoia:** ganz stark

**Manuela Machner:** auch aus dem Bereich von Uber raus.

da werden die Fahrer über die App digital gemanagt, aber die Tätigkeit selber wird natürlich offline ausgeführt, weil das Auto ist noch nicht autonom Selbst-Fahrend und es gibt hier natürlich Verschränkung Und

ich musste...

**Eliot Mannoia:** in Vorbereitung auf den Podcast musste ich ein bisschen an How I met your mother denken. Kennt ihr Barney

**Manuela Machner:** Stinson in

How I Met Your Mother? Und es ist ja immer das Geheimnis wie der sein Geld verdient. Und am Ende kommt er raus, er unterschreibt in seiner Bank, in der er arbeitet, nur Entscheidungen ohne sie zu kennen, aber ist am Ende verantwortlich dafür.

wird super

entlohnt logisch irgendwie, weil er trägt am Ende ja die Verantwortung und da dürfen wir nicht hinkommen, dass am Ende wirklich die KI eigentlich unsere Aufgaben designt die Prozesse designt uns vielleicht sogar das Outcome nicht nur empfiehlt, sondern es kommt dann eben raus und wir sind am Ende eigentlich nur noch die, die es abnicken und Stichwort Verantwortlichkeit,

Und am Ende des Tages vielleicht verantwortlich dafür sind.

Also diese Entwicklung sollten wir Sollten wir vermeiden, dass es in diese Richtung geht.

Zu Uber vielleicht nur ein kurzes Beispiel. Ich glaube, vor zwei Wochen bin ich mit dem Uber durch Wien gefahren und wir haben uns unterhalten mit dem Uber-Fahrer und der hat darüber geflucht. Er findet es super, weil er ist selbstständig und hat keine Mitarbeiter und nichts. Aber es ist ja so hardcore, dass Uber ihm auch wirklich die Strecke vorschreibt. Also wo er genau zu fahren hat. Und er fährt seit 30 Jahren im Wien-Taxi und er fährt Und kriegt vom Navi halt genau gesagt, wie er fahren muss und er weiß genau, dort ist halt mehr Traffic in Wirklichkeit auf der Hauptstrecke.

Er könnte über die drei Gasseln den Umweg fahren, macht das dann auch und danach wieder kriegt er eine Ermahnung dafür, dass er schneller war und effizienter gefahren ist, weil er sich in so und so viel Prozent seiner Fahrten nicht an die Regel gehalten hat. Also es ist schon ganz spannend und auch, wie man natürlich psychologisch damit auch arbeitet, als Teil dieses konstruktes ja sagst du dann na ja wie gehe ich mit damit um halte ich mich dann nur mehr starr an die vorgaben oder setzte eigentlich der wohl exakt bei Einem ist es darum gegangen dass den flieger erreicht und

er er hat gewusst

er wird den flieger so nicht erreichen und ist dann halt zum zum zum zu für den gast also für den fahrgast illegal gefahren sozusagen eine

**Eliot Mannoia:** gibt es sogar eine Studie dahinter von der Dr. Bettina Kubitschek von der Uni Graz, aber mit Lastwagenfahrer, wo auch genau die Route vorgegeben wurde und die Motivation ist komplett gesunken.

**Manuela Machner:** Ja,

das

ist ein klassisches Beispiel für dieses Algorithmic Control, also für wirklich, ich kontrolliere das. Und spannend ist auch, die Leute versuchen dann auch irgendwann dieses Thema auszutrinken Also das ist ganz spannend. Im Online-Kontext sieht man das immer wieder, dann wird halt versucht, irgendwie durch die Hintertür dann irgendwie doch irgendwas zu schaffen und ja, also grundsätzlich ist das sicherlich ein, dieser Bereich ist auch gut erforscht und da zeigte ich auch wirklich, das ist für die Motivation schlecht, das ist für das Engagement schlecht, das ist auch...

das kann

tatsächlich, und das finde ich persönlich auch spannend, ein Stressor sein. Also das löst Stress aus, obwohl man ja denken würde, okay, ich muss ja nur an der Straße nachfahren. Aber weil ich es eben eventuell besser weiß, aber nicht darf. Und auch hier kommt der nächste Punkt der Algorithmen rein.

Bei einer menschlichen Führungskraft könnte ich vielleicht Rücksprache halten und kann sagen, hey, hör zu, ich möchte jetzt den Weg gehen, weil ich weiß, da ist immer Stau Und dann sagt meine Führungskraft vielleicht, ja, okay, passt.

Das geht beim Algorithmus nicht.

**Eliot Mannoia:** Ja.

**Manuela Machner:** funktioniert nicht. Und das ist auch ein ganz zentrales Thema, eben dieser fehlende Feedback-Mechanismus vom Menschen zurück zum System.

**Eliot Mannoia:** Ich habe da eine Zeichnung auf meiner Webseite, wo wenn Maschinen Entscheidungen treffen, KI oder Software jetzt, ist es oft sehr linear und gerade und schnell und effizient auch, was auch Vorteile natürlich mit sich bringt.

**Manuela Machner:** Aber

**Eliot Mannoia:** wenn Menschen Entscheidungen treffen, ist es oft so, also nicht so sauber.

Man schläft darüber, ich frage vielleicht ein paar Kollegen oder Teambuilding passiert auch vielleicht da und man entscheidet oder findet dann andere Wege.

**Manuela Machner:** Und

**Eliot Mannoia:** das muss uns auch bewusst sein, dass das was geht verloren, wenn wir alles zu effizient machen und diese messy menschliche, also diese unordentlichen Wege vielleicht von den Menschen, die andere Vorteile bringen wie Teambuilding und Austausch da vielleicht verloren gehen.

Ich meine, spiegelt sich das auch in deinen Recherchen und was du auch in Studien gelesen und gesehen hast?

**Andreas:** Ja, also absolut.

**Manuela Machner:** Menschen tendieren oft auch dazu der sogenannten Overreliance. Also wenn ein System mir einfach sagt, so und so machst du das jetzt und dann kommt das Gute raus, dann kann es passieren, dass Menschen sich einfach darauf verlassen und das einfach blind machen. Ich meine, das will das System im Zweifel vielleicht ja sogar.

Und da geht eben vieles verloren. Ein wesentlicher Punkt ist...

Wenn ich jetzt auf der einen Seite den Menschen habe und auf der anderen Seite eine Maschine und beispielsweise in relativ isolierten

**Andreas:** Arbeitskontexten

**Manuela Machner:** ich, Stichwort jetzt diese Online-Work, wieder wo Leute zu Hause sitzen und ihre Aufgaben machen, dann geht auch ganz viel sozialer Austausch verloren, weil ich

Ich tausche mich ja mit niemandem aus, ich habe in dem Sinne keine Führungskraft, ich habe als Freelancer eben oft auch nicht diese

**Eliot Mannoia:** Kollegen oder diese

**Manuela Machner:** Kolleginnen, diese Direkten.

Und

wir wissen vom sozialen Austausch lebt ganz, ganz viel. Und wie du sagst Teambuilding, neue Ideengenerierung, Kreativität und all das kann dir natürlich Schaden nehmen. Das muss man einfach sagen, aber zum Glück finden Menschen oft noch Wege das trotzdem zu machen

**Andreas:** Und

**Manuela Machner:** Und Forschung zeigt auch, dass gerade je mehr sich Personen von solchen Systemen gestresst fühlen oder das nicht so toll finden, dass sie in Aktivitäten des Job-Craftings verfallen.

Stichwort sie versuchen sich halt selber ihren Job irgendwie so zu machen, dass er dann doch wieder zu ihnen passt. Und der soziale Austausch ist da ganz wichtig. Also da werden dann in Online-Communities setzen sich die Leute zusammen, Um dann doch zu diskutieren und auch Wege zu finden, den Algorithmus zu tricksen

**Eliot Mannoia:** oder damit

**Manuela Machner:** gut umzugehen.

Ich meine, das muss ja nicht immer tricksen sein, das darf ja auch sein.

**Eliot Mannoia:** Symbiose, wie du auch vorher gesagt hast.

**Manuela Machner:** Was

**Eliot Mannoia:** ich auf jeden Fall noch ansprechen möchte, auch du hast... Du suchst ja und recherchierst ja auch sehr stark im Bereich, was man auch oft als Ghostwork bezeichnet also die Arbeit im Hintergrund um diese ganzen eher Large-Language-Modelle aber vielleicht auch andere KI-Modelle trainiert Und dass das oft von halt unterbezahlten Personen sind in der Welt versteuert, das ist ein wichtiges Thema, dass wir da auch wirklich ein bisschen mehr Awareness und Bekanntheit schaffen wollen.

Kannst du uns da erstens das ein bisschen mal erklären und was so mal Einsichten da sind?

**Manuela Machner:** Ja, das ist tatsächlich ein großes Thema und wie man an dem Namen schon hört, Ghostworker, sind das

**Eliot Mannoia:** oft Personen

**Manuela Machner:** die einfach unsichtbar sind in diesem ganzen Prozess, in der ganzen Architektur von Wie verändert KI unsere Arbeitswelt.

Und klar, das sind unsere KI-Systeme unsere Algorithmen wollen trainiert werden.

**Andreas:** oft basiert

**Manuela Machner:** das

eben auf strukturierten Daten, die aber ja auf einem Trainingsdatensatz basieren, der natürlich irgendwie vorher gelabelt werden muss, der irgendwie systematisiert werden muss und es müssen Daten gesammelt werden.

**Andreas:** das

**Manuela Machner:** wird oft ausgelagert an sogenannte Microtask-Crowdworker.

sind

diese Ghostworker, so ist die offizielle Bezeichnung von denen und die arbeiten auf Online-Plattformen bekommen dann Aufträge

beispielsweise

bitte label mir diese Bilder nach jugendfrei, nicht jugendfrei als Beispiel oder label mir diese Bilder von

**Andreas:** Muttermalen

**Manuela Machner:** eben oder uneben mäßig also es geht gar nicht um das fachliche, sondern nur ist das wirklich ein runder Kreis oder hat der Ecken und Kanten. Und diese Leute arbeiten auf diesen Mikroplattformen kriegen diese Mikroaufgaben, bekommen dann aber auch nur Mikropayments also oft nur ein paar Cent, um diese Aufgaben zu machen.

arbeiten sehr isoliert in sehr prekären Arbeitsverhältnissen also es gibt keine soziale Absicherung es gibt wenig sozialen Austausch bis gar keinen sozialen Austausch und

das heißt diese Ghostworker arbeiten in ganz schlechten Verhältnissen und auch die Plattformen auf denen sie arbeiten zeigen wenig Interesse an diesen Personen also wenig persönliches Interesse und auch die Auftraggeber-

**Andreas:** Um

**Manuela Machner:** so kritisch zu sagen, zeigen wenig Interesse an diesen Personen.

Sie haben ja auch keinen persönlichen Bezug dazu. Deswegen Crowdwork. Sie geben diese Aufgabe ja an vielleicht Dutzende Hunderte Personen gleichzeitig raus, damit sie diese Datenmassen überhaupt bewältigen können. Und am Ende kriegen sie eben dieses Payment.

was

in diesem Thema

besonders

**Eliot Mannoia:** wichtig ist

**Manuela Machner:** meiner Meinung nach besonders wichtig ist, dadurch, dass diese Aufgaben relativ leicht zugänglich sind,

ich muss mich nur anmelden auf der Plattform und dann kann ich theoretisch loslegen von zu Hause aus, ich brauche nur einen Laptop,

Zieht

das oft Personen an, die im regulären Arbeitsmarkt Probleme haben.

**Andreas:** die

**Manuela Machner:** soziale Exklusion Erleben, aufgrund von vielleicht Diskriminierung, aufgrund von vielleicht psychischen oder physischen Erkrankungen, dass sie einfach keiner regelmäßigen Arbeit nachgehen lassen können. Und das ist natürlich dann schon ein Thema, wenn ich Personen habe, die sowieso schon vulnerable sind in unserem Arbeitsmarkt und die, weil sie dann eben etwas suchen, sich zu diesen Plattformen wenden, was auch positive Aspekte für sie haben kann, weil immerhin haben sie dann Zugang Zu arbeiten.

Wir haben vorhin über Sinn gesprochen. Arbeit ist ja mehr als nur Geld verdienen.

Nichtsdestotrotz

müssen

wir uns das dann eben genau anschauen, weil da gibt es eine große Gruppe vulnerabler Personen,

natürlich in diesen prekären Arbeitsverhältnissen dann Auch irgendwie gefangen sind, auch wenn das mal so autonom und selbstständig scheint, aber es ist dann doch ein gewisser Lock-End-Effekt, also es ist ein schwieriges Thema.

Eine Frage dazu jetzt, wenn du zum Beispiel etwas labelst, ja, und so wie du gesagt hast, ist es sexuell übergriffig oder was auch immer, Brauche ich ein einheitliches ethisches verständnis dahinter also ich kann ich kann sagen dass der hund und dass er katze beim labeln sage dann brauche ich keine einschätzungsgeschichte aber gerade bei bei themen die gelabelt werden aufgrund von Regulatorien, aber auch wo es sind Grenzen, also wo man individuell unterschiedlich vielleicht einschätzen kann. Das kommt ja dann auch noch dazu. Jetzt haben wir vielleicht Menschen von der ganzen Welt, die ja je nach Herkunft nach Bildungsstand und so weiter ganz andere Ethische Rahmenbedingungen haben und auch Einschätzungen machen, also Gleichberechtigungen, Frauen zum Beispiel, würde natürlich in Indien vielleicht oder in China oder bei uns oder irgendwo im Iran ganz anders gesehen werden.

**Andreas:** Ja,

**Manuela Machner:** das

ist zusätzlich ein Thema. Es

**Eliot Mannoia:** wird, natürlich

**Manuela Machner:** man kann eine gewisse Auswahl treffen. Also wenn ich jetzt

**Andreas:** Kunde

**Manuela Machner:** oder kundin bin und ich möchte dass meine daten gelabelt werden dann kann ich sagen ich möchte nur us leute oder ich möchte nur europe und us leute um das vielleicht ein bisschen zu vermeiden diesen aspekt oder eben nur leute aus china oder asien das geht schon aber das ist ein ganz interessanter punkt den du ansprichst weil ein punkt dieser ghostworker ist auch nur weil die die aufgaben machen Diese vermeintlichen Aufgaben.

Heißt das noch lange nicht, dass die Auftraggeberin zufrieden sind mit denen und die dann auch ihre Bezahlung bekommt. Also es gibt ganz viele Fälle, da machen die Leute das.

Und am Ende

**Andreas:** des Tages heißt es ah, das hast du jetzt aber nicht gut gemacht, nee, sorry, jetzt

**Manuela Machner:** Das heißt nicht zwangsläufig, dass die Leute dann auch wirklich diese Bezahlung bekommen und sie

**Eliot Mannoia:** können sich an niemanden

**Manuela Machner:** wenden.

Weil sie haben ja keine gesetzliche Vertretung, sie haben keinen Arbeitsvertrag sie haben ja gar nichts. Und auch diese Plattformen begünstigen das zu einem gewissen Grad, weil sie auch oft Kontrollmechanismen vermeiden, die eben in diese Richtung geht, um auch die Personen, die Auftraggeberinnen und Auftraggeber, was Firmen sind, zu kontrollieren. Und tatsächlich, dieses Thema, die EU hat sich dem Thema angenommen,

**Eliot Mannoia:** da

**Manuela Machner:** wird jetzt genau hingeschaut, diese Crowd-Plattform eben auf eine gewisse Art und Weise zu regulieren, hier gewisse Aspekte reinzubringen. Und auch die IG

Metall

**Andreas:** in Deutschland hat eine coole Initiative Fair-Crowd heißt die, die dem Ganzen eine Stimme geben soll. Um auch dem Ganzen ein bisschen zu begegnen, aber schauen wir mal, was passiert, die meisten Plattformen glaube ich haben bisher noch keine großen Veränderungen, also ich mache das jetzt seit 2016 und ich habe jetzt noch nicht so viele Unterschiede gesehen, dass ich da wirklich so viel getan hätte.

Aber es ist so spannend

finde ich, weil ich glaube, dass es ganz wenigen bewusst ist, was da dahinter steckt. Also ich kann ein Bild jetzt generieren, ich kann Musik generieren, ich kann Stimmen generieren, aber dass das alles ja eigentlich im Hintergrund Trainingsdaten benötigt, vor allem gelabelte also gekennzeichnete, dass einfach die KI auch weiß, das ist eben ein Hund oder das ist die Stimme einer Frau aus Österreich, das muss ja auch wer tun.

Ja, genau. Also es steckt da ganz viel dahinter und man muss diese, und interessant ist das Thema Crowdwork war 2016, 17, 18 schon da und wurde da schon beforscht und kritisch betrachtet und aber mit KI und mit dieser schnellen Verbreitung von KI und ganz

neuen Daten, die dort auch gebraucht werden und mit inszeniert wird, hat das einen wahnsinnigen Schub nach vorne nochmal bekommen. Also es hat angefangen mit Corona, weil bei uns in der Forschung ist es immer so, manchmal fallen dann die Themen irgendwann, die sind nicht mehr spannend und wir dachten schon bei unserer Forschungsgruppe, ja okay, das Thema Crowdwork ist jetzt durch, dann kam Corona, auf einmal hat es wieder einen Boost nach vorne bekommen und dann kam KI und dann kam das Thema Ghostworker auch und dann wieder einen Boost nach vorne bekommen.

Also anscheinend sind diese Arbeitssettings obwohl so prekär halten sie sich auch. Die scheinen wohl durch Krisen oder durch neue Entwicklungen immer wieder einen neuen Anschluss zu bekommen. Das ist wirklich spannend.

**Manuela Machner:** Naja, es ist auch spannend, muss ich auch sagen. Ich sehe ja trotzdem zwei Seiten dahinter.

So wie du gesagt hast, Menschen, die isoliert sind oder die sonst keine andere Möglichkeit haben, haben vielleicht auch Möglichkeiten dadurch zu sagen, ich mache wenigstens irgendetwas, wo ich akzeptiert werde oder ich sitze halt irgendwo auch in einem Land, wo ich überhaupt keine Chancen habe. Und bevor ich jetzt mit KI Scam-Betrügereien mache, mache ich halt Labeling.

Ist vielleicht auch eine Variante. Also ich glaube, das darf man auch nicht unterschätzen. Es ist schon sehr einfach, das zu bewerten und auch zu beurteilen aus unserer doch sehr high-level Industriewelt heraus mit Sozialsystemen die uns unser Leben sehr erleichtern.

Ja

Super, danke, dass du das ansprichst.

Das stimmt absolut. Ich habe das jetzt hier sehr negativ geframed. Wir haben tatsächlich ein Paper dazu geschrieben letztes Jahr, was sich eben angeschaut hat, was ermöglicht das eigentlich genau diesen exkludierten Personen. Und wir haben herausgefunden natürlich sehen die diese prekären Arbeitsbedingungen und finden es auch schwierig.

Nichtsdestotrotz finden sie Zugang zu Arbeit, sie haben wieder einen Sinn. Es gibt einen Grund warum sie in der Früh aufstehen und etwas machen können. Und sie finden auch soziale Zugehörigkeit, mit Communities

austauschen etc. Also es hat auch ganz viele positive Aspekte. Das heißt, es war ja mal der Gedanke, sollen wir das überhaupt verbieten diese Plattformen?

Also das schwebt ja auch im Raum. Und wir

**Eliot Mannoia:** würden eigentlich

**Manuela Machner:** sagen, auf Basis unserer Ergebnisse, nein. Aber man muss schon auf die Schwierigkeiten gucken, um das einfach besser zu machen, ohne aber diesen leichten Zugang für Personen, die vielleicht von anderen Arbeitssettings exkludiert sind, zu verbauen.

Also, das ist ein ganz wichtiger Punkt auch. Alles hat immer zwei Seiten. Ja.

**Eliot Mannoia:** Haben in den Links unten, dann werden wir dann auch ghostwork.org und dann auch diese andere, diese Plattform in Deutschland, die du erwähnt hast vorher.

**Manuela Machner:** Bear

**Eliot Mannoia:** Crowd, glaube ich hast du gemeint, dann noch teilen. Also ein ganz wichtiges Thema, dass man da weiterhin ein Bewusstsein dafür schafft. Wir sind jetzt schon am Ende.

Gibt es noch etwas, Andreas, was wir nicht angesprochen haben oder meinst, das sollten wir noch ansprechen?

**Andreas:** Viel, oder? Nein ich glaube, wir haben uns sehr intensiv ausgetauscht über ganz viele, ganz wesentliche Punkte. Also, vielleicht abschließend ich würde mir einfach wünschen, dass das ganze Thema intelligente Systeme KI einfach von verschiedensten Blickwinkeln weiterhin betrachtet wird, die dann auch einfach gleichberechtigt nebeneinander stehen dürfen und dass auch Unternehmen oder Einzelpersonen wie auch immer. Mehr awareness haben für die vielen vielen

Vorteile. Wir haben sehr viel über das Negative gesprochen. Und dass man da eine Balance findet, wie man das hinkriegt..

**Eliot Mannoia:** Also, zusammenfassend und ich fand das jetzt auch eigentlich schon ein sehr schönes Schlusswort mit dem Positiven mit der Balance. Wir haben sehr viel über die sozialen Aspekte auch am Anfang gesprochen. Das fand ich als Psychologe sehr spannend auch. Also das Zuhören.

**Manuela Machner:** das mit

**Eliot Mannoia:** der Identität, also was tut das mit uns, wenn mehr und mehr automatisiert oder mit KI gemacht oder ersetzt wird oder ergänzt wird, ob das jetzt Studierende haben wir ganz am Anfang gesprochen, die vielleicht ihre Hausaufgaben damit machen oder am Arbeitsfeld.

**Manuela Machner:** Also

**Eliot Mannoia:** Ganz spannend, was sich da tut, auch mit unserem Sinn für Identität und unserer Sinnhaftigkeit und was Job mit uns damit zu tun hat und dann auch Algorithm Management, ob das jetzt Uber Driver ist und so, auch sehr spannend und dann jetzt auch am Ende das mit Ghost Work, also wie es eigentlich zu dieser KI und diesen ganzen strukturierten Daten oft kommt, also

**Manuela Machner:** wow,

**Eliot Mannoia:** gelernt, Kopf raucht.

Vielen Dank Andreas, für deine Zeit und für deine Einsichten.

**Manuela Machner:** Ja,

**Eliot Mannoia:** ehr gerne!

**Manuela Machner:** Dann freuen wir uns auf die nächste Folge dann von Mind/Machine. Ich hoffe, ihr seid alle wieder mit dabei und lasst euch ein bisschen inspirieren. Macht es gut. Tschüss Ciao. Ciao.