#47 Zwischen Faszination und Respekt - Was KI mit uns macht

**Intro:** Mind machine emotionale Intelligenz trifft künstliche Intelligenz ein podcast mit Eliot Mannoia und Manuela Machner

**Eliot:** willkommen zur nächsten folge von Mind Machine mein name ist Eliot Mannoia digitaler psychologe und heute reden wir über die KI, Faszination und Respekt, also zwischen Faszination und Respekt.

**Manuela:** Grüß euch und ich bin die Manuela Machner, spezialisiert auf KI im Tourismus. Und mit unserem Podcast wollen wir einfach etwas plaudern über KI, euch Einblicke über unsere Erfahrungen aber auch unsere Gedankenwelt geben und euch ein bisschen einbinden in die ganzen Themen rund um KI.

Was überwiegt bei dir, Eliot? Was Respekt faszination oder gibt es noch etwas drittes ich glaube mehrere gefühle aber ja auf jeden fall faszination also mich fasziniert das schon sehr aber ja ja furcht demütigkeit respekt auf jeden fall also man merkt einfach wie schnell sich sachen entwickeln und Wir waren ja als Spezies das Intelligenteste auf dem Planeten, das wird sukzessive in Frage gestellt und was macht das mit uns auch mit unseren Egos und mit unserer Bedrohlichkeit, wenn das das richtige Wort ist.

Wir stellen uns in Frage oder es wird in Frage gestellt, was wir machen. Ja. Ja, also ich teste ja ganz viele Tools. Und da habe ich immer wieder so Phasen da teste ich irgendwas, eigentlich weil ich irgendwo Empfehlungen gesehen habe oder irgendwas gesehen habe. Und dann teste ich es und dann sitze ich davor und dann ist das Ergebnis so überraschend, Dass ich einmal durchatme, aufstehe und dann mal kurz den Schreibtisch verlassen muss.

Also wo ich mir wirklich denke, also ich selbst für mich brauche dann momentan auch wirklich den Abstand vom Computerkastl sage ich jetzt einmal, um das für mich dann irgendwo einordnen zu können. Also so ein Beispiel, dass man sich das vorstellen kann, dort wo es zum Beispiel am krassesten für mich war, War, wie ich das erste Mal einen Zug getestet habe, dass die Stimmungen der Stimmen einordnen konnten.

Das ist Humor.ai. Da habe ich in einem Podcast schon erzählt drüber. Und der zeigt dir dann an in so einer Map, oder damals war es so in einer Map, wie ist meine Stimmung, aufgrund dessen wie ich spreche. Und die Stimme des Computers hat darauf reagiert, also wenn ich müde bin, hat sie versucht, mich ein bisschen herunterzubringen also zu entspannen.

Wenn ich jetzt Gelangweilt war, dass ich versucht habe, mich ein bisschen zu motivieren und positiv halt das zu tun. Und dass dieses Tool so meine Stimmung aus der Stimme heraus hören konnte, sage ich jetzt einmal, war zum Beispiel so etwas, wo ich mir gedacht habe, boah, ja, okay. Also sachlich gesehen natürlich total funktionell für Callcenter-Konferenzen KI-Stimmen optimal, wenn man jemanden in Fuchstorferswild anruft, ist super, wenn die KI-Stimme den nicht nunarischer macht, sage ich jetzt einmal.

Aber bei mir war das dann so ein Punkt, wo ich einmal gesagt habe, okay, ja, okay, das geht auch schon. Ja, sowas halbwegs ähnliches hatte ich mit JGPT Advanced Voice, wo ich mich unterhalten habe, Und so einfach gefragt habe, es ging ja eh um diesen Trend, erzähl mir was über mich, das ich vielleicht nicht weiß von unseren ganzen Interaktionen.

Und einfach die Wortwahl von der Maschine, so, naja Eliot, also von allem, was du mir, also so bist du halt, von allem, was ich so über dich kennengelernt habe, also es war wirklich... Es waren interessante Wörter, die er benutzt hat, er, sie, es benutzt hat, wo ich mir schon gedacht habe, okay, ja, das ist schon was anderes, ja.

Ja, also die Advanced Voice von Gigi Petit definitiv, also es ist spielerisch natürlich lustig wenn er dann steirisch redet oder irgendwie, aber es ist schon sehr, sehr spannend, wenn die Stimmlage sich ändert Wenn er oder sie dann vielleicht eingeschnappt klingt oder irgendwie versucht lustig zu sein ja oder auch diese Podcasts, man kann ja einen Podcast automatisch generieren aus einer Datei und ich muss auch sagen jetzt geht es auch schon in Deutsch mit einem Hintertüreffekt und ich habe mein Steuer also das Steuerhandwerk von Österreich mir über einen Podcast vorlesen lassen von allen Wienern Manu, warum?

ja Also wenn er das spannend schafft, dann geht alles. Und er hat es spannend, also er hat es, also die Stimmen haben es ganz spannend geschafft, habe ich gefunden. Aber das war auch so etwas, weil man gedacht hat, also ich hätte keine Chance, wenn ich es nicht gewusst hätte und wenn ich es nicht selber generiert hätte.

Und wenn ich es eben nicht weiß, dass das Tool so klingt oder die Stimmen von dem Tool, ich hätte keine Chance. Wenn ich den Podcast mir, würde man keinen Steuerhandel-Podcast, glaube ich, anhören. Also da höre ich unseren Ehren, aber allein mit dem Unterbrechen, also die Stimmen unterbrechen sich so, wie es in der Realität ist.

Also wir zwei unterbrechen uns weniger, wie die zwei Stimmen. Das war auch sowas wo ich mir gedacht habe, spooky, also es ist wirklich Wirklich spannend und interessant. Also ich habe da schon sehr viel Respekt auch davor, muss ich sagen. wenn ich viel begeistert bin, was die Tools alles können. Jaja, also als Digitaler bin ich fasziniert als Psychologe eher Respekt.

Ich glaube, auf psychologischer Ebene gibt es eine wahnsinnige Anzahl an Bereichen, Wie es uns beeinflusst. Ethik oft ein Thema, wenn ich mit Kunden rede, Ethik und Skills der Zukunft und Angst wegen Jobs, aber auch Urheberrecht, also es gibt so viele verschiedene Bereiche. Es geht ja auch im Gesundheitswesen weiter und da sind natürlich auch Bedenken und dann, wenn sie gescheiter und gescheiter werden, wie werden wir dann Damit umgehen.

Und ein spannender Punkt, den ich auch finde, ist, dass als Menschen gehen wir oft den Weg der wenigsten Widerstandes. Und wenn man sich zurückdenkt am Anfang von den 2000ern, wo der Jeff Bezos gesagt hat, ich verkaufe Bücher online. Da haben die Leute gedacht, naja, aber das ist überhaupt nicht lustig Ich gehe ins Buchgeschäft, das ist doch eine Experience.

Jetzt machen das Gott sei Dank eh noch genug Leute. Der Gedanke dass ich jetzt in zwei Minuten was bestellen kann und ich muss nicht wohin gehen und das Buch wird mir geliefert, da passt Oder ich habe einen Kindle. Also ich lese meine Bücher am Kindle oder am Handy. Ja, dann hast du es sofort.

Also ich habe es sofort. Und ich habe nicht tausende Bücher zu Hause gelegen, weil das war mein wirkliches Bücherproblem, dass ich keinen Platz mehr für Bücher gehabt habe. Ja, und genau diese Bequemlichkeiten... Die passieren jetzt so so rasant auf so vielen ebenen von übersetzen bilder lieder hilfe eine zweite meinung einholen und weißt du ich habe jetzt ein projekt abgegeben eine analyse ein ordner und du weißt ja meine mutter sprach ist eigentlich englisch und das musste ich früher musste ich Andere kollegen fragen also bezahlen outsourcen um das prüft zu lesen also ist man ja klar und jetzt muss ich nicht einen termin machen den zahlen es geht auch nicht um das geld aber die bequemlichkeit dass ich zu hause in meinem workflow die übersetzungen machen kann und das ist schon Genau das sind die Dinge.

Wir Menschen sind ja so innovativ, weil wir faul sind. Davon bin ich überzeugt. Wir Menschen sind grundsätzlich faul. Wir versuchen alles schneller einfacher zu machen. Du hast immer dieses schöne Beispiel von der Waschmaschine gefragt. Wie lange haben wir früher für die Wäsche gebraucht, wie lange brauchen wir jetzt dafür?

Und keiner würde jetzt sagen, das war eine schlechte Erfindung die Waschmaschine. Und genauso sind jetzt diese ganzen KI-Systeme Entwicklungen, die uns auch das Leben wieder leichter machen. Es werden wahrscheinlich neue Herausforderungen kommen, neue Jobs. Also ich habe eigentlich nicht die Angst, dass wir keine Jobs mehr haben, es werden andere Jobs sein.

Also das glaube ich schon, dass sich die Sachen verändern werden. Aber die Frage ist natürlich schon, wenn man anschaut was KI-Systeme inzwischen alles können, In welche Richtung entwickelt sich das alles? Ein bisschen überspitzt formuliert, am Ende des Tages werden die KI-Systeme mit den alten Leuten im Pflegeheim reden und wir werden mit Windeln wechseln.

Ich hoffe die Roboter schaffen es bis dahin. Ja, weiß ja nicht, ob ich das super hoffe. Also auf der anderen Seite, oder? Auf der anderen Seite ja, weil den Menschen zu berühren ihn zu waschen ihn zu interagieren ist ja auch ein Dienst der Menschen und wenn das dann ein Roboter macht, auch wenn es natürlich die blöde Arbeit ist und wenn es die schlechte Arbeit schlechte, aber wenn es die herausfordernde Arbeit ist ja, also da habe ich schon sehr viel Respekt vor diesen ganzen Entwicklungen, muss ich sagen Ich habe jetzt keine Angst.

Ich wie oft wirst du gefragt. Ich werde fast bei jeder Zeit schon gefragt, ob ich glaube, oder bei Interviews ganz oft, ob ich glaube, dass so etwas wie Terminator real wird. Wirst du das auch gefragt? Nicht so oft eigentlich, nein. Komisch. So was weil so werde ich das gefragt. Aber es wird oft erwähnt. Ja, nein, also ich werde wirklich öfters gefragt, so glaubst du eigentlich, dass das sicher Entwicklungen geben wird mit Terminator?

Und ich glaube jetzt nicht, dass es da einen Roboter geben wird, der durch die Straßen wandert und Leute abschießt oder Leute also irgendwas tut, von sich aus gesteuert selbst gesteuert. Das glaube ich oder hoffe ich nicht. Sagen wir es einmal so. Ja, glaube ich auch. Das glaube ich nicht, aber ich glaube, dass wir einfach viele Dinge aus der Hand geben, die wir vielleicht auch gar nicht aus der Hand geben müssten.

Also aus Bequemlichkeiten oder weil es halt momentan modern ist. Also wenn jemand gut texten kann zum Beispiel und das vielleicht auch noch gerne macht, dann macht es überhaupt keinen Sinn, dass Chachipiti für den die Texte schreibt Das wäre, das ist total schade, wenn das also ich habe immer wieder Kursteilnehmerinnen drinnen, die sind begeistert die lieben das, die können Geschichten erzählen, die können das verschriftlichen die machen das mit Leidenschaft und mit Lieben, die sitzen dann in meinem Kurs drinnen und lernen, wie Cheche Petit so schreibt, wie sie selbst schreiben und das fühlt sich schon ein bisschen absurd, das muss ich schon sagen weil es soll eine Hilfe sein Wenn man etwas nicht so gut kann, so wie du sagst mein Englisch wäre nicht perfekt und dein Deutsch ist nicht perfekt, natürlich ist es super, wenn mir Chachapiti dabei hilft.

Aber wenn ich etwas gut kann, dann sollte man meiner Meinung nach auch noch einiges vorsichtiger sein. Dann nimmt man Chachapiti für die Ideengebung vielleicht. Oder wenn einem ein Kartitel einfällt. Aber man muss es nicht. Ich habe das eh vor ein paar Podcasts gesagt, dass manchmal ist Ist der Prozess der Entscheidung wertvoll oder sogar noch wertvoller als die Entscheidung selbst.

Und genau da ist ein Parallel hier zu diesem Thema sehe ich, dass nicht die Übersetzung ist vielleicht das Thema, aber die Zeit die es uns kostet. Und ich sehe einen Trend, Dass die Menschen weniger und weniger mit Echtzeit umgehen können. Wenn du sagst ich muss diese Kassette, dieses Lied in Echtzeit aufnehmen vom Radio, was wir gemacht haben in der Kindheit.

Jetzt tun die Leute es rüberkopieren und das dauert vielleicht fünf Sekunden und dann haben sie das Lied. Sie müssen nicht drei Minuten ein Lied aufnehmen. Man sieht es auch mit den Scooters ich fahre mit der U-Bahn von A nach B, aber die letzten 100 Meter nehme ich mir einen Scooter Das Gehen ist ja mühsam Das dauert ja zehn Minuten mit dem Scooter.

Also wir haben diese Technologien, ob das jetzt ein Scooter ist oder KI oder Technologie. Das ist völlig egal. Ja, und die gibt uns alles so schnell. Und ich glaube, dass wir dann nicht mit Echtzeit so gut umgehen können. Ich glaube, das ist eher so ein Side-Effekt der vielleicht... Stärke Auswirkungen hat, die wir vielleicht nicht berücksichtigt haben.

Vielleicht können die Leute nicht mehr so Gespräche haben wie wir, weil das kommt doch zum Punkt. Oder die KI hätte mir das schon in drei Minuten erzählt, bei dir muss ich jetzt 20 Minuten rum sprechen, bevor ich die Antwort bekomme, die ich will vielleicht. Also diese Abkürzungen was es mit unseren sozialen Skills sind, um auf den Punkt zu kommen, glaube ich das ist etwas, was wir auch berücksichtigen sollten Also definitiv, ich bin das beste Beispiel dafür, also ich bin sicher, dadurch, dass ich sehr viele KI Tools verwende, die Dinge schneller machen für mich, ungeduldiger geworden, definitiv auch ungeduldiger im Zuhören, absolut, oder ewig lange E-Mails, ich habe eine Kundin die schreibt mir ewig lange E-Mails, Also, früher habe ich es quer gelesen, jetzt muss ich wirklich mich zurückhalten, dass ich es nicht in Chez Pity reingebe und sage, pass mir das mal zusammen, sondern dass ich es wenigstens noch quer lese.

Und das hat natürlich Gefahren, weil eins muss ich auch sagen, ich muss mich wirklich zusammenreißen, dass ich das noch Punkt für Punkt mir die geistige Mühe nehme, mir das wirklich herauszudenken, was sie eigentlich geMind hat mit den Formulierungen. Also ich bin überzeugt dass das passiert. Und ich glaube, was aber auch ganz, ganz wichtig ist, wir haben so viele Möglichkeiten mit KI-Systemen.

Ich glaube, dass man auch nicht umhinkommt, egal ob man das Spiel jetzt spielt oder nicht mitspielt, sage ich jetzt einmal, die gesellschaftlichen Änderungen werden kommen durch KI-Systeme Einfach weil KI-Systeme momentan du weißt ja noch, aktiv nutzen die meisten Systeme Das heißt, Wir schalten ein, oder wir gehen auf die Seite.

Aber in Zukunft, so wie es im Navi ja ist oder im Handy-Login oder keine Ahnung, in Wirklichkeit sind die Systeme dann überall drinnen. Aber ich glaube trotzdem, dass wir Menschen noch immer die Freiheit haben, nur weil alles, was technisch geht, müssen wir nicht machen. Also ich bin, das versuche ja immer bei allen meinen Schwungungen, den Kursteilnehmern klarzumachen Ich zeige ihnen, Die Palette von technischen Möglichkeiten und sagt, das heißt aber jetzt nicht, dass ihr eine Telefonie umstellen müsst auf KI.

Das heißt nicht, dass ihr eure E-Mails beantworten müsst oder eure Geschichten erzählen müsst mit KI oder Videos generiert oder Bilder generiert. Es gibt die Möglichkeit, da und da macht es vielleicht Sinn, aber es gibt auch Dinge, da macht es würde es vielleicht von Effektivität her Sinn machen, aber Nicht für das Unternehmen anzieht.

Also gerade im Tourismus Bilder generieren ein klassisches Thema. Gehen tut vieles aber macht es Sinn, ein Bild zu generieren von einer Destination? Der Gast erwartet sich, dass er das dann antrifft. Also nein, natürlich nicht. Stimmt. Und da, glaube ich muss man auch dieses Selbstbewusstsein zu haben und zu sagen, ja, ich weiß, dass es geht.

Ich glaube, das ist wichtig zu wissen, Und dann die Entscheidung zu treffen, ich kann super Texte schreiben, ich schreibe meine Texte selbst. Und ich glaube, das wird in Zukunft dann auch den Unterschied ausmachen. Zwischen diesen, so gut man seine KIs trainiert ist es trotzdem eine trainierte KI, die die Texte schreibt.

Oder dem Text, der drei Rechtschriften da drinnen hat, aber... Der so geschrieben ist was ja ich will dann wieder populär mit meinen e-mails weil rechtschreiben ist nicht so mal stärker ich habe mir was gemeinsam ich glaube ich glaube dass die entwicklung schon sehr spannend ist wirklich spannend und herausfordernd und eigentlich überhaupt nicht absehbar Ja, also in allen Bereichen.

Sogar in einer Studie hat die KI mehr Empathie gezeigt als Therapeutinnen. Also in einem Blindtest, also in einem Test, die Patienten haben nicht gewusst dass es eine KI ist, auf der anderen Seite von der Leitung. Ich glaube, die haben das mit dem Bildschirm gemacht. Also sogar Empathie, wo man gedacht hat, naja, Kreativität Innovation, Empathie, das ist...

Das schafft die maschine nie wir sind auch entscheidungsbäume in wien also wenn du mir sagst dass deine katze krank ist dann werde ich sagen ah das tut mir leid ich hoffe es wird besser also also wenn man empathisch ist aber eine entscheidungsbäume kann man das auch zum teil also es ist ja das ist wir haben schon trainiert mit unseren taten Mit unseren Aussagen, mit unseren Videos und Büchern und Texten und es ist halt ein spiegeliger Gesellschaft mit allen positiven und negativen Eigenschaften muss man auch sagen.

Also es ist natürlich keine Empathie sondern es ist eine gespielte Eine Kopie einer Empathie aber sie haben es super kopiert. Also wenn du jemanden trainierst darf empathisch sein. Also autistische Kinder müssen ja teilweise so Trainings auch machen, dass sie erkennen die Stimmung zum Beispiel vom Gegenüber, weil es ja nicht natürlich ist, wie bei den meisten Menschen.

Und im Prinzip trainieren KI-Systeme das auf die gleiche Art und Weise und versuchen dann ein Muster zu entdecken, wie kann ich dann antworten dass... Mein Gegenüber das als positiv empfindet. Also ja, also ich habe definitiv da Respekt und natürlich die volle Begeisterung, weil ich so fasziniert bin, was alles funktioniert.

Ich glaube, es verbindet uns auch. Ich glaube heute haben wir ganz kurz einen guten Bogen, aber auch ich glaube, das war heute eher so ein bisschen eine persönliche Session für uns. Ja, Euch auch zu zeigen, dass auch wir, die wir uns tagtäglich damit beschäftigen, jetzt nicht so bläugig und blind sind und sagen, ja, alles ist super und bestens und es gibt nur KI-Systeme und die wird die Welt verändern.

Also ich glaube, wir beide glauben, es wird die Welt verändern. Aber dass wir auch sehr kritisch respektvoll gegenüber den Systemen sind.

Danke, das war glaube ich ja sehr, ich glaube, da werden wir noch viel nachdenken wir zwei zumindest. Ja, auf jeden Fall. Über die Entwicklung und wie es weitergeht. Vielleicht schauen wir, hören wir uns das in zehn Jahren nochmal an und sagen dann, wir waren so blauäugig oder wir haben uns das so kritisch vorgestellt, in Wirklichkeit ist ja nichts passiert.

Also irgendwer hat beim Vortrag gesagt, Entschuldige eigentlich haben wir schon abgeschlossen, aber das muss ich euch noch mitgeben. Irgendwer hat ihm zu einem Vortrag gesagt, wenn die Welt untergeht, dann geht er nach Österreich, weil da dauert alles 50 Jahre länger. Und der andere hat gesagt, naja zuerst kommst du in die Schweiz, weil wir diskutieren 20 Jahre, ob man mitmacht beim Weltuntergang.

Also es kann natürlich auch so passieren, dass zwar rundherum alles sich verändert, aber bei uns ist es vielleicht ein paar Jahre länger. Schauen wir mal. Ja, es bleibt spannend. Alles, genau. Alles Gute. Super, schön, dich zu sehen. Bis nächste Woche. Bis nächstes Mal.