#37 Entscheidung mit KI und Ethik

Manuela Machner: Herzlich willkommen bei unserer neuen Folge von Mind/Machine. Ich bin Manuela Machner, spezialisiert auf Tourismus und künstliche Intelligenz. Und heute haben wir das Schwerpunktthema Ethik im Bereich der Entscheidungen, die durch KI getroffen werden. Also eine ganz spannende Geschichte.

Eliot Mannoia: Mein Name ist Eliot Mannoia, digitaler Psychologe, und ich fokussiere mich auf den Einfluss von KI auf uns Menschen. Und das Ziel von unserem Podcast sind kurze Gedankenanstöße und Inspiration.

Manuela Machner: Also gerade bei dem Thema Entscheidungen treffen und Ethik und KI-Systeme. Momentan verwenden viele von uns KI-Systeme eher zur Arbeitserleichterung, um schnell Dinge zu erledigen, Texte generieren zu lassen. Du hast es letztes Mal so gut gesagt: Wir haben noch die schlechteste KI, die es jemals gegeben haben wird.

Ja, davon können wir alle ausgehen. Die Entwicklung ist so rasant, dass man eigentlich gar nicht abschätzen kann, was heute und morgen passiert. Gestern war Videogenerierung noch bescheiden, heute ist sie schon super. Also es passiert sehr viel. Aber wirklich verändern wird sich vieles, wenn KI-Systeme, maschinelles Lernen oder wie auch immer man es nennen will, dann auch die Entscheidungen treffen über den nächsten Schritt oder was zu erledigen ist oder was bestellt wird oder was auch immer.

Und diese Entscheidungen können uns auch in unserem täglichen Leben betreffen. Und ich glaub, dann wird es ganz wichtig, dass man sich überlegt, unter welchen ethischen Aspekten wir diese Entscheidung zulassen.

Eliot Mannoia: Ja. Wenn ich mit meinen Kunden rede, sage ich ihnen immer die drei wichtigsten Punkte, bei denen aufzupassen ist. Erstens, welche Daten ich eingebe, also keine vertraulichen Daten, personenbezogenen Daten, Firmendaten, Eigendaten. Und dann zweitens auch, was rauskommt, also immer die Resultate infrage stellen.

Und drittens auf Cybersecurity achten, weil einfach so viel mehr möglich ist heutzutage. Aber beim zweiten Punkt, wo ich sag, aufpassen, was rauskommt, sind drei Unterpunkte. Da ist auf Hallucinations aufzupassen, wenn die Maschine so tut, als ob sie weiß, was die Antwort ist, aber sie stimmt überhaupt nicht.

Aber dann auch Ethik, weil die Antwort ist vielleicht korrekt, aber stimmt nicht überein mit deinem Wertesystem oder mit dem vom Unternehmen oder von der Arbeit. Vielleicht ist die Antwort korrekt, aber im Unternehmen ist das nicht etwas, was ihr machen wollt, oder auch persönlich nicht etwas, das du machen willst.

Ganz wichtig bei den Resultaten, immer da auch. Du hast es ja vorher auch vorgestellt.

Manuela Machner: Ja, und ich glaub, das ist ein Aspekt, über den man sich als Unternehmer immer mehr Gedanken machen muss. Es gibt meistens irgendein Werteprofil im Unternehmen. Vor allem bei Größeren ist es relativ häufig, dass die sagen: „Das und das sind meine Werte.“

Kleine Unternehmen haben das oft gar nicht, weil da ist der Chef, der sagt: „So funktionieren wir, das ist uns wichtig. That's it.“ Da gibt es das oft auch nicht in schriftlicher Form. Also wir stehen für Kunde ist König oder Gast ist König oder wie auch immer.

Das Spannende ist natürlich, dass man, wenn man plötzlich mit KI-Systemen arbeitet, dem System eigentlich schon sagen muss: Was sind jetzt meine Werte? Wofür stehe ich? Ist es Ehrlichkeit? Ist es freundlicher Umgang? Ist es schnelle Reaktionszeiten? Was auch immer. Und natürlich auch menschliche Werte. Ich hab keine Vorurteile, oder für mich sind alle Menschen gleich wichtig und wertvoll, all diese Dinge. Einerseits müssen wir das den KI-Systemen erklären, weil es natürlich je nach System unterschiedlich ist, und da sieht man einen Unterschied, ob OpenAI oder Grok und Co.

Da sieht man schon, dass es auch seitens der Entwickler unterschiedliche Arten der Systeme gibt. Und ich glaub, einerseits wird es schon ein Faktor, welches System ich verwende. Nehme ich ein sehr offenes System, das keine Werteeinschränkungen hat, dann habe ich den Vorteil, es macht alles so, wie ich es vielleicht möchte.

Weil man nicht ständig eine Warnung kriegt: Achtung, du verstößt gegen irgendeine Regel von mir. Auf der anderen Seite natürlich auch die Gefahr, dass du dann Grenzen überschreitest, die du in Wirklichkeit gar nicht überschreiten willst. Ich hab erst gestern eine ganz spannende Warnung von OpenAI bekommen.

Ich wollte ein Bild generiert bekommen, wo eine Frau ihr Gesicht massiert, mit einer Schönheitscreme. Und OpenAI hat mir gesagt, es kann sein, dass ich gegen ihre Richtlinien verstoße. Und zwar war das Thema Massieren und Gesicht in der Kombination ein Trigger für einen Werteverstoß.

Das hab ich noch nicht ganz verstanden, warum und wieso. Ich hab es ein bisschen umformuliert, dann war es kein Thema mehr. Aber da sieht man, wie eng schon Grenzen jetzt gezogen werden von diesen Systemen. Und auf der anderen Seite haben wir Systeme, die sagen: Na ja, kein Thema. Und wenn Blut fließt im generierten Video, ist das auch kein Problem.

Eliot Mannoia: Ja, das bringt mich eigentlich auch zu diesem anderen Punkt mit Value Based Engineering, also Ethics by Design, dass man wirklich schon beim Entwerfen von Systemen Ethik mitberücksichtigt. Da ist ja Frau Dr. Professor Sarah Spiekermann von der WU federführend, die das wirklich ins Leben gerufen hat und auch einen eigenen ISO-Standard dazu gebracht hat. Wirklich eine tolle Sache, dass das schon von Anfang an beim Bauen, beim Zusammenstellen, beim Design, beim Entwerfen mitberücksichtigt wird.

Aber ja, wie du sagst, das ist schon eine große Herausforderung für große Firmen wie OpenAI. Was in einer Kultur akzeptabel ist, ist vielleicht in einer anderen Kultur nicht akzeptabel. Und Gesicht massieren ist vielleicht in Österreich okay. Ich weiß jetzt auch nicht, was das Problem ist, aber ja, es ist schwierig, wie man da dann auch kulturell verschiedene ethische Abwägungen macht. Wow.

Manuela Machner: Ja, und das Spannende ist ja, eigentlich wollen wir alle Freiheit für uns. Wir wollen ja alle, dass wir frei entscheiden dürfen und dass wir sagen dürfen, nach welchen Kriterien wir ethisch sind oder sonst wie. Auf der anderen Seite würden wir auch nicht wollen, dass über uns entschieden wird, oder?

Das muss man schon sagen. Wir sind vielleicht auch für Grenzen, wenn wir sagen, die KI geht zu weit und wir haben Angst und das sind Gefahren und wir brauchen Regeln. Auf der einen Seite. Auf der anderen Seite, wenn Einschränkungen oder Regeln uns auf irgendeine Art und Weise treffen, wird es schon wieder kritischer.

Ich glaub, da sind wir auch mit den Moralgeschichten sehr unterschiedlich unterwegs. Wenn du die öffentliche Überwachung hernimmst, dann gibt es den großen Aufschrei. Wir möchten keine permanente öffentliche Überwachung haben, so wie in China, und dass uns jemand permanent über die Schulter schaut.

Wenn wir aber jemanden haben, der in einer U-Bahn-Station oder in einem U-Bahn-Zug plötzlich gewalttätig wird, ausflippt oder sonst was, sind wir froh und dankbar, wenn es Live-Kameras gibt, die diesen Vorfall melden und sofort etwas unternommen wird, weil wir plötzlich zum Opfer werden.

Und umgekehrt das Gleiche, wenn du Banken anschaust, die Kreditverfahren automatisieren können und Entscheidungsverfahren, bekommst du einen Kredit oder nicht. Ich fänd das eine Riesenfrechheit, wenn ich keinen Kredit bekomme, weil irgendein KI-System sagt, du bist vielleicht zu alt dafür. Auf der anderen Seite würde ich mich furchtbar aufregen, wenn ein Kunde mir zigtausende Euro schuldet und auf Pump und Kredit Millionen veruntreut hat oder einfach durchgebracht hat und dadurch meine Rechnungen nicht mehr zahlen kann, und kein System irgendwann gesagt hat: "Stopp, dem dürft ihr kein Geld mehr geben."

Eliot Mannoia: Diese Entscheidungsräume gibt es ja eh schon beim Kredit. Alter eingeben, wie viel Kredit. Nein.

Manuela Machner: Ja, ich hab das jetzt ein paar Mal ausprobiert, weil ich gedacht hab, wär ja spannend, als Unternehmerin jetzt vielleicht irgendeine Investition zu tätigen, und hab das spaßeshalber mal eingegeben.

Hab mein Alter eingegeben, den Kreditwert, die Laufzeit, wo ich glaube, dass ich es noch erlebe, also zwanzig Jahre. Hätte ich gedacht, ist überschaubar, mit fünfzig oder zweiundfünfzig. Und na, unter diesen Bedingungen können wir Ihnen keinen, also kann der das nicht ausrechnen. Ich soll Kontakt aufnehmen mit einem Bankangestellten.

Auf der anderen Seite, die Bank sichert sich auch ab, weil wenn die davon ausgeht, dass sie zwanzig Jahre noch arbeiten wird, wird sie sagen: „Na ja, hat sie noch Einkommen, wo sie das zurückzahlen kann?"

Eliot Mannoia: Ja. Und auch wenn das vor zehn Jahren vielleicht eher mit Software gemacht wurde, wird das auf jeden Fall, wie du sagst, mit KI noch verstärkt. Und da werden wir-

Manuela Machner: Ja, KIs können die Muster besser erkennen. Das ist ein bisschen der Unterschied. Vorher waren es Entscheidungsbäume, so du sagst: Wenn, dann. Wenn das Alter zu alt ist, dann kriegst du den Kredit nicht mehr.

Eliot Mannoia: Und jetzt sind es sehr

Manuela Machner: viele Mustererkennungen, die dann sagen: In ähnlicher Position, in ähnlicher Situation, Menschen, die ähnlich reagiert haben, haben das gekonnt, nicht gekonnt, wie auch immer. Also das hat sich unterschieden.

Eliot Mannoia: Ja, und im Recruitment-Prozess wird sicher auch mehr KI benutzt. In New York gibt es jetzt ein Gesetz, dass die Firmen auch mehr offenlegen müssen, wie es sich im Recruitment-Prozess auswirkt. Und dann auch viel unterschwelliger, ein persönliches Anliegen von mir, auch in Social Media die Algorithmen, die ja dann auch vielleicht indirekt zu Entscheidungen führen, vielleicht durch Influencer oder einfach durch- Ja, die Algorithmen sind sehr, sehr gut.

Man sagt, TikTok ist der Beste. Da bist du wohl auch ein Experte.

Manuela Machner: Nur als Nutzer, nur als Nutzer.

Eliot Mannoia: Ja, Creator auch, was schon ziemlich erfolgreich ist. Und da sind die Algorithmen schon gut, dass man sehr viel Information bekommt, also das, was man gesehen hat, und dann bekommt man mehr und mehr von dem Gleichen.

Oder wie siehst du das? Haben sie das endlich angepasst bei TikTok? Oder ist es noch so ein bisschen dieses Echo Chamber, wo man oft sagt, das ist-

Manuela Machner: Du meinst die Bubble-Geschichte, dass du-

Eliot Mannoia: Genau.

Manuela Machner: -in der Bubble drinnen bist. Sie testen. Du merkst, dass sie immer mehr Werbung verkaufen. Das heißt, sie testen natürlich deine Bandbreite mehr aus, habe ich das Gefühl. Du kriegst schon immer wieder so Content-Schnipsel von ein bisschen anderen Themen angeboten, aber du bist natürlich in dieser Verhaltenskodexierung. Was das Spannende dort ist, das habe ich jetzt erst kurz herausgefunden: Du kannst nachschauen, wie sie dich einstufen.

Du kannst jetzt selbst aktiv schauen, welche Interessen sie dir zuschneiden oder zuordnen. Übrigens, ich bin für TikTok ein Mann. Das war eine ganz spannende Erkenntnis.

Eliot Mannoia: TikTok ist ein Mann?

Manuela Machner: Ja, TikTok stuft mich als Mann ein. Das liegt natürlich an meinen kurzen Haaren und meinem eckigen Gesicht. Na, das dürfte auf mein Nutzerverhalten zurückzuführen sein, weil ich sehr viele technische Videos angucke. Und dann kannst du aber auf TikTok jetzt steuern, welche Videokategorien du gerne hast, und kannst sagen, na, das stimmt nicht. Bei mir waren ein paar Sachen, ich weiß nicht, warum TikTok mir Babys zugeordnet hat.

Keine Ahnung. Vielleicht weil ich, wenn ich einmal einem Baby begegne auf TikTok, es auch süß finde. Oder Kleinkindervideos, dass ich manchmal dort hängen bleibe, aber es ist jetzt kein Interesse von mir.

Eliot Mannoia: Aber du beschäftigst dich damit und du kannst dich damit auseinandersetzen. Wie viele Teenager, Teenagerinnen-

Manuela Machner: Ja.

Eliot Mannoia: -und auf Dauer beeinflusst das schon meine, und dann in Folge Entscheidungen. Also ich finde das-

Manuela Machner: Definitiv. Und auch nicht nur Teenager. Ich habe in irgendeiner Folge mal kurz darüber geredet. Ich würde jetzt aufgrund meiner Wissensbubble von der US-Wahl momentan Kamala Harris wählen, mit vollem Enthusiasmus.

Ich würde sofort einen Kanal für Kamala Harris machen, wenn ich in den USA leben würde. Aber keine Ahnung von ihr. Ich kenne nur die Social-Media-Geschichten von ihr und zwei kleine Zeitungsberichte. Und da sieht man schon die Möglichkeiten, die da herrschen. Das ist nicht nur bei Teenagern.

Und wenn alle sagen: „Also ich nicht." Ganz ehrlich, ich glaub, wir unterschätzen das, was da tatsächlich passiert.

Eliot Mannoia: Ja, wir sind viel mehr fremdgesteuert, als wir denken. Alleine hungrig einkaufen. Das ist ein kleines Beispiel, das ich bei meinen Kunden immer mach, wie sehr wir eigentlich nicht so viel Kontrolle über unsere Körper haben, wie wir denken. Es gibt optische Täuschungen, es gibt auditorische Täuschungen.

Manuela Machner: Ja, und wir suchen ja dann nur die Erklärung, warum wir das gemacht haben.

Eliot Mannoia: Wir rationalisieren nach, was wir emotional gemacht haben.

Manuela Machner: Genau. Wir argumentieren und erklären, warum wir das jetzt gemacht haben, aber in Wirklichkeit haben wir die Entscheidung schon unterbewusst viel, viel früher getroffen.

Und da ist natürlich gerade dieser ethische Aspekt, Menschen zur Entscheidung zu bringen oder wie sie dann entscheiden mit Hilfe von KI-Systemen. Aber das ist eigentlich der andere Aspekt, wie Menschen entscheiden. Die andere Geschichte ist, wenn KI entscheidet.

Wenn die KI entscheidet, was ich jetzt esse, ich mein, für mich wär es manchmal gescheiter, wenn die KI entscheidet. Aber dann ist die Frage, unter welchen Aspekten, unter welchen ethischen.

Eliot Mannoia: Ich hab jetzt auch an etwas gedacht, was ich vielleicht auch sehr, sehr wichtig finde. Auch wenn wir am Ende entscheiden und die KI das vorbereitet und sagt, du hast eine grüne oder eine gelbe Möglichkeit, kann das gefährlich sein, weil oft der Prozess in der Eruierung, soll ich das oder das machen, uns schon hilft, am Ende eine bessere Entscheidung zu treffen.

Aber wenn wir dann vielleicht neben dem Autofahren gefragt werden, na ja, sollen wir eine ganz wichtige Entscheidung, ob gelb oder grün oder was auch immer es ist, dann sagen wir: „Ja, ja, gelb." Wo wir uns vielleicht früher mehr Zeit gelassen hätten oder einfach der Prozess in der Findung uns hilft oder zu einer anderen Entscheidung führt. Ich finde, das ist auch ein sehr spannender Aspekt.

Manuela Machner: Das ist ein ganz spannender Aspekt, weil grundsätzlich gebe ich dir da zu hundert Prozent recht, dass das Sich-mit-etwas-Beschäftigen erst dazu führt, dass du Entscheidungen in Wirklichkeit treffen kannst. Jetzt haben wir oft die Zeit nicht mehr.

Wir geben Entscheidungen ja ganz gerne dann auch ab. Schau her, Spotify und Co. Wir lassen uns die Entscheidung abnehmen, welchen Film ich mir anschaue oder welche Musik ich mir anhöre, weil wir eh kein wirkliches Interesse haben, weil es uns im Prinzip egal ist, ob ich jetzt die eine Schnulze anschaue oder die andere Schnulze anschaue.

Oder das eine Lied mir anhöre oder das andere anhöre. Und bei diesen nicht so relevanten Entscheidungen mag das auch okay sein. Nur in Wirklichkeit ist es immer mehr so, dass wir nicht mehr die Zeit haben oder auch gar nicht mehr die Muße, uns näher mit irgendwas zu beschäftigen.

Und bei den krassen Geschichten ist es dann, du gehst ins Wahllokal und machst dein Kreuzchen irgendwo, und in Wirklichkeit, wofür beschäftigst du dich tatsächlich damit noch? Und das ist sicher eine ganz, ganz spannende Frage. Umso mehr diese Entscheidungsfindungen und diese Auswahlen schon vorher reduziert werden, indem du dann eben nur mehr blau und grün hast und nicht mehr gelb, orange, lila, weil die Sachen schon vorher überhaupt aus deinem Blickwinkel verschwunden sind, sondern du nur mehr zwischen zwei Aspekten auswählst. Ich bin aber nicht sicher.

Wir Menschen neigen einfach dazu, wir sind ja technologisch so weit gekommen, den schnellsten, einfachsten, bequemsten Weg oft zu gehen oder uns alles schneller, einfacher und bequemer zu machen. Ich mein, die erste-

Eliot Mannoia: Da ist immer die Frage bei verschiedenen Entscheidungen: Wie viele Dimensionen oder wie viele Parameter berechnet das Modell?

Vielleicht ist es auch wieder von diesem Rory Sutherland, dieser Art Entrepreneur aus England, der ist eine Legende. Wir optimieren oft für Geschwindigkeit und Preis, aber oft nicht für psychologische Sachen. Vielleicht muss es nicht schneller oder billiger sein. Vielleicht kann die Zugfahrt angenehmer sein.

Vielleicht kann sie mehr Spaß machen. Und es kommt davon ab, wen man fragt. Wenn ich sag: „Hey, ihr seid Engineers, macht die Zugfahrt besser.“ Engineers denken, besser ist schneller und billiger. Wenn du Disney fragst: „Macht die Zugfahrt besser“, dann wird es komplett anders ausschauen.

Die Zugfahrt wird super viel Spaß machen und du wirst dann sagen: „Nein, ist die Zugfahrt nach zwei Stunden schon vorbei? Ich würd gerne vier Stunden fahren.“ Und deswegen, nach welchen Parametern entscheidet der, wenn diese Entscheidungen getroffen werden? Ist es immer nach besser, schneller, günstiger oder ist es nach besser, mehr Spaß oder psychologische Bedürfnisse, Unsicherheit reduzieren oder andere Parameter? Auch ein Element.

Manuela Machner: Absolut, ja. Und da sehen wir schon das ganze Dilemma, das wir haben bei dem ganzen Thema Ethik und Entscheidungen. Wer setzt Parameter? Wer setzt welche Parameter?

Und die sind ja individuell unterschiedlich. Allein wir zwei hätten total unterschiedliche Parameter in Entscheidungen. Ich mein, wir haben vielleicht das ähnliche Werteverständnis, die Grundwerte schon einmal. Ich glaub, das ist sowieso das Problem, grundsätzlich gesellschaftlich, dass man oft den kleinsten gemeinsamen Nenner nehmen muss, weil man kann nicht von einer Minderheit oder von einzelnen Wünschen ausgehend agieren, sondern wenn man es für viele macht, dann ist es der kleinste gemeinsame Nenner. Und auch wenn man personalisiert und individualisiert.

Eliot Mannoia: Ein Weg, wie man diesen gemeinsamen Nenner irgendwie ein bisschen gleich halten kann, ist, dass man Sachen, besonders wenn es um Barrierefreiheit geht, mit Menschen mit Einschränkungen zusammen entwirft.

Es gibt eine Firma in Österreich zum Beispiel, die heißen Ability, soweit ich mich erinnere. Das ist eine Firma, das sind Menschen, die diverse Behinderungen haben. Die kommen dann zu Firmen und schauen, wie ist das mit Rollstuhl oder für Menschen mit Sehbehinderungen. Und das kann man auf jeden Fall machen und das sollte man auch wirklich bei jedem Entwerfen von jedem System, dass man da wirklich diverse Menschen einbezieht in der Planung.

Manuela Machner: Ja, und dass man auch die verschiedensten Sichtweisen einbezieht.

Eliot Mannoia: Beide.

Manuela Machner: Ah, super. Ja, ich kenn das auch. In der Gastronomie gibt es das auch, dass dann getestet wird, wie weit, weil barrierefrei und rollstuhlgerecht sind ganz spezielle Geschichten, weil nur weil eine Tür breit ist, heißt das nicht, dass ein Rollstuhlfahrer dort aufs WC gehen kann.

Da gibt es ganz viele Punkte. Und es geht extrem weit. Ich glaub, wir werden heute zu einem Schlusspunkt kommen. Es ist aber total spannend, wenn man sich überlegt, wie Entwicklungen Ethik inkludieren sollten. Und wie schwierig es auf der einen Seite ist, auf der anderen Seite aber auch, wie notwendig es einfach ist. Und die Sichtweisen drauf.

Wer nutzt es? Der Nutzer, wie hat der denn Einfluss darauf? Und vor allem große Systeme. Mit welchen ethischen Grundlagen arbeiten diese? Ich glaub, dass das so ein umfangreiches Thema ist. Nicht umsonst gibt es ja so viele Vorträge dazu und so viele Themen, gerade in größeren Entwicklungsunternehmen, sich damit zu beschäftigen.

Und auch der AI Act hat das ja indirekt in vielerlei Hinsicht verankert. Allein die Einstufungen nach den unterschiedlichsten Gefahrenstufen sind ja auch durchaus ein ethischer Aspekt, wie man mit KI in Zukunft umgehen wird.

Eliot Mannoia: Ja. Superspannendes Thema. Hat echt Spaß gemacht. Wichtiges Thema. Nächstes Mal reden wir über mögliche Jobs, die die KI uns in Zukunft vielleicht bringen wird. Ganz, ganz spannend. Wir schauen ein bisschen in die Kristallkugel und schauen: Was denken wir, könnten so an Jobs kommen? Freuen uns, euch wieder zu sehen.

Manuela Machner: Macht es gut. Tschüss. Baba.