#20 KI und Mobbing im Unternehmen: Superperformer, Halluzinationen und Verantwortung

**Manuela Machner:** Hallo und herzlich willkommen bei der nächsten Ausgabe von Mind und Machine. Ich bin Manuela Machner. Ich beschäftige mich mit Künstlicher Intelligenz mit dem Schwerpunkt Tourismus und begleite touristische Betriebe beim Einsatz von KI.

**Eliot Mannoia:** Hi, ich bin Eliot Mannoia und ich konzentriere mich auf die emotionale Intelligenz und die künstliche Intelligenz und das Zusammenspiel zwischen Mensch und Maschine.

**Manuela Machner:** Heute haben wir uns ein besonderes Thema überlegt: KI zwischen Superperformer und Mobbing-Themen, die im Unternehmen auftauchen können. Wie sind wir auf das Thema gekommen? Wir haben mit sehr vielen Unternehmern zu tun in verschiedensten Settings, und dann tauchen Probleme auf, an die man im ersten Schritt vielleicht gar nicht so denkt. Der Klassiker ist, dass das Unternehmen gar nicht recht weiß, wie sein Standing zum Thema Künstliche Intelligenz ist. Für viele ist es noch sehr abstrakt. Ich habe Situationen in Betrieben erlebt, von denen ich euch erzählen will, weil sie zu Problemen geführt haben.

Die eine Geschichte war die, dass ein Unternehmenschef überhaupt nicht gecheckt hat, dass es so etwas wie Künstliche Intelligenz gibt, und hat eine neue Mitarbeiterin an einer Rezeption eingestellt. Die Mitarbeiterin war sehr schnell, und plötzlich ist die Arbeit viel flotter gegangen. Alles, was der Chef ihr gegeben hat, ist viel schneller abgearbeitet worden, sie war viel effizienter, ein richtiger Superperformer. Das ist ja an sich super, wenn du solche Mitarbeiterinnen hast. Das Blöde ist: Wie hat der Chef darauf reagiert? Er hat den Druck auf die anderen Kolleginnen erhöht. Er hat gesagt: "Schaut euch die Neue an, die hat was drauf, ihr alten Hasen." Das ist von der Führungstaktik nicht optimal, hat aber dazu geführt, dass im Team eine total schlechte Stimmung war und niemand eigentlich wusste warum.

Diese Mitarbeiterin, die der Superperformer war, hat das gar nicht so mitbekommen, weil auf sie kein Druck ausgeübt wurde. Sie wurde gelobt, war in einer anderen Schicht. Bis das irgendwann aufgekommen ist, war es ihr mega unangenehm, und sie wusste nicht mehr, wie sie beichten soll, dass sie eigentlich Hilfe hatte.

**Eliot Mannoia:** Sie hat ChatGPT benutzt?

**Manuela Machner:** Sie hat ChatGPT benutzt, ja. Sie hatte das privat schon vorher benutzt und hat gedacht, das hilft ihr bei E-Mail-Beantwortungen, auch in anderen Sprachen, und all den Sachen, wo sie sich Unterstützung holen kann. Wenn der Chef gesagt hat, mach das schnell, ist es halt viel schneller gegangen. Das Spannende ist, was ich Unternehmen immer frage: Glaubt ihr wirklich, dass bei euch niemand KI verwendet?

**Eliot Mannoia:** Angeblich sechzig Prozent nutzen es mit oder ohne Genehmigung vom Arbeitgeber. Die Tendenz ist steigend. Sehr spannendes Beispiel auch für den Impact auf die Arbeitskraft. Manche wollen es nutzen, manche nicht, manche dürfen es, manche nutzen es auch wenn sie es nicht dürfen. Sehr spannend auch von der psychologischen Perspektive: Man möchte performen, man ist neu bei einer Firma, da ist ein Druck der Zugehörigkeit, man will einen guten Eindruck hinterlassen. Im Idealfall sollte eine Geschäftsführerin oder ein Geschäftsführer sagen: "Hey, uns ist aufgefallen, dass du sehr effizient arbeitest. Vielleicht kannst du eine Schulung für uns machen oder uns deine Best Practices zeigen." Dass es offen kommuniziert wird und man voneinander lernt. Aber das sollte angesprochen werden und nicht nur auf einer Seite Druck ausgeübt werden, ohne dass die andere Person es mitbekommt.

**Manuela Machner:** Ja, spannend. Und der zweite Fall, warum ich das anspreche, ist das Thema Mobbing. In einem anderen Unternehmen, das ich beraten habe, war die Situation so, dass ein oder zwei Personen ChatGPT nutzen durften, professionell für die Firma. Das Problem ist immer, wenn nicht gescheit kommuniziert wird im Unternehmen. Es war so: "Du kannst das, hol dir die Lizenz, passt schon, mach das." Und plötzlich konnten die anderen Kolleginnen oft nicht einschätzen, was man überhaupt wirklich mit diesen Tools machen kann. Die waren dann der Meinung: "Die Anne nimmt ja ChatGPT." Und haben ihr das auch spüren lassen. Es hat wirklich harte Sprüche gegeben, so nach dem Motto: "Du brauchst ja Künstliche Intelligenz, hast keine eigene." Und die hat sich dann gar nicht mehr getraut, das Tool zu verwenden, und hat sich immer gerechtfertigt: "Da hab ich es eh selber gemacht, ich hab mir eh nicht helfen lassen." Weil die anderen das Gefühl hatten: Du hast ein leichtes Leben, du hast eine Karrierehilfe, und wir müssen alles selber machen. Das ist für Teams ganz schwierig.

**Eliot Mannoia:** Es ist auf jeden Fall ein Change-Management-Thema. Wir haben es hier mit Ängsten zu tun, und es ist eine ziemlich prägnante Veränderung. Was den Unterschied zur normalen Digitalisierung macht: Damals hat jeder den Desktop bekommen, das war flächendeckend. Mit ChatGPT ist es eine wahnsinnige Veränderung, und ich kenne grob gesagt drei Arten, wie Unternehmen damit umgehen. Entweder: Nein, bei uns nicht. Und dann werden Leute es trotzdem nutzen. Oder es wird elitär behandelt: Fünf Leute bei IT haben Testlizenzen, wir probieren es mal. Das ist ein typischer Top-down-Ansatz. Und der dritte Ansatz, den ich sehr stark vertrete: Lass mal alle durch mit Workshops, so viel wie möglich erst mal probieren, um Berührungspunkte zu bekommen. Auch wenn man es am nächsten Tag noch nicht benutzen kann, wegen Datenschutz, Compliance, rechtlichen Themen, Lizenzen. Ich verstehe, dass Unternehmen es nicht am nächsten Tag machen können, aber lass sie es heute schon mal probieren, damit sie zumindest die richtige Schulung dafür haben. Das ist ein Bottom-up-Ansatz, er ist inklusiver und hat seine sichere Art, damit umzugehen.

Und da habe ich zwei ganz wichtige Regeln: Erstens, immer aufpassen, was du eingibst. Keine personenbezogenen Daten, keine rechtlichen oder vertraulichen Firmendaten. Und zweitens, immer überprüfen, was für Resultate du bekommst, wegen Biases, Voreingenommenheit, Ethik und Halluzinationen. Ich habe sogar Richtlinien ausgearbeitet für meine Betriebe, die man Punkt für Punkt durchgehen kann. Die kann man übrigens von meiner Website herunterladen.

**Manuela Machner:** Was für mich ein ganz wichtiger Punkt ist: Den Leuten muss bewusst sein, wer die Verantwortung für das trägt, was die KI macht. Die Person, die den Text verwendet, muss noch immer die Verantwortung haben. Man kann sich nicht dahinter verstecken und sagen: "Das hat eine KI geschrieben." Es ist wie jemand, der im Unternehmen Kundendaten auf einem USB-Stick in der U-Bahn liegen lässt. Man ist dafür verantwortlich. Genauso muss man aufpassen, auch wenn man per E-Mail unsichere Daten an externe Personen schickt. Es ist halt so leicht, es ist im Browser, man kann so schnell Hilfe holen. Und er macht das so überzeugend.

**Eliot Mannoia:** Das Blöde ist, er macht auch so überzeugende Fehler. Für alle, die das ausprobieren und vielleicht noch nicht so firm sind: Lest euch bitte wirklich alle Texte durch. Vielleicht sollten wir das Halluzinieren kurz beschreiben.

**Manuela Machner:** Für alle, die das nicht kennen: KI-Tools halluzinieren. Das heißt, sie machen Fehler, aber nicht so offensichtlich, sondern sie beschreiben Texte perfekt. Ich habe zum Beispiel gehabt, dass eine KI von meiner Gemeinde sehr gut beschrieben hat, dass dort ein Schwimmbad ist, in einem touristischen Kontext. Dort hat es noch nie ein Schwimmbad gegeben. Aber wenn du das nicht weißt und du liest den Text, hättest du jede Wette abgeschlossen, dass dort ein Schwimmbad existiert. Das ist das Gefährliche daran.

**Eliot Mannoia:** Es gibt aber auch Menschen, die Antworten geben, als ob sie es wissen, und dann ist es komplett falsch. Man sagt, ChatGPT hat so ungefähr drei Prozent Halluzinationsquote. Wenn ich selbst nur drei Prozent Fehlerquote hätte in den Dingen, die ich tue, wäre ich schon happy. Beim Tippen oder Kopieren passieren mir oft mehr Fehler. Man muss das realistisch sehen.

**Manuela Machner:** Auf jeden Fall wichtig, dass man da drauf schaut. Gut, was haben wir heute besprochen? Wir haben angefangen mit einer sehr spannenden Anekdote: Wenn ein oder mehrere Personen im Unternehmen plötzlich KI nutzen und die anderen nicht, wie das zu ungleichen Verhältnissen führen kann, die die Gruppendynamik positiv oder negativ beeinflussen können, und dann auch ein bisschen Mobbing zwischen denen, die es nutzen, und denen, die es nicht nutzen.

**Eliot Mannoia:** Ganz wichtig auch, wie im Unternehmen damit umgegangen wird. Wie man es inklusiv machen kann, dass in der gesamten Gruppe zumindest Berührungspunkte und Ansprechpersonen definiert werden. Wer ist verantwortlich? Kommunikation ist entscheidend. Es ist auch Change Management, es ist viel Psychologie dahinter, Ängste und so weiter. Eine ganz große Veränderung, die auf uns zukommt, und man sollte damit so gut wie möglich menschlich und maschinenadäquat umgehen.

**Manuela Machner:** Nächstes Mal sind wir mit etwas Leichterem unterwegs. Wir schauen uns an, was uns eigentlich alles Spaß macht rund um das Thema KI. Wir freuen uns auf ein Wiedersehen. Tschüss, baba.

**Eliot Mannoia:** Tschau.