#31 Sprengt KI Grenzen?

Eliot Mannoia: Hi und willkommen zur nächsten Folge von Mind/Machine. Heute reden wir darüber, wie KI die Grenzen verschwinden lässt. Mein Name ist Eliot Mannoia, ich bin digitaler Psychologe.

Manuela Machner: Hallo, ich bin Manuela Machner, spezialisiert auf Tourismus und künstliche Intelligenz. Und unser Ziel ist es, euch immer wieder Einblicke zu verschiedensten Themen rund um künstliche Intelligenz zu geben.

Ja, wir haben schon im Vorfeld ein bisschen diskutiert, welche Grenzen da alle verschwinden und ob es wirklich so ist. Ich weiß nicht, wie es euch da draußen geht, aber ich glaube, dass es durch die Möglichkeit, sich mit KI-Programmen Informationen ganz anders zu holen, in einer anderen Qualität und auch auf dem Level, dass man es auch versteht, schon ein großes Potenzial hat, diese herkömmlichen Mauern, über die man vielleicht nicht drübergekommen ist, doch zu übersteigen.

Wie siehst du das, Eliot?

Eliot Mannoia: Ja, also ich kann eigentlich keinen Bereich sehen, der nicht dadurch beeinflusst wird. Allein die Digitalisierung hat schon Leute in ein anderes Zeitalter katapultiert. Ich war in Nepal vor ein paar Jahren, also auch schon fast zehn Jahre, und dort am Berg oben, vier-, fünftausend Meter, hatten sie nicht immer fließendes Wasser, nicht immer Elektrizität, aber sie hatten ein Handy und sie waren mit dem Internet verbunden und sie waren auf Facebook.

Und wir haben sogar damals auch die Familie per Handy, also per WhatsApp oder so, angerufen. Also nicht mal Wasser oder Strom durchgängig, aber trotzdem diese digitalen Tools. Und ich glaube, KI wird da genauso, einfach mit Übersetzen, mit Bildgenerierung, mit Liedern oder egal was, Texte und Content, auch wenn es nicht ihre Muttersprache ist, eine wahnsinnig demokratisierende Wirkung haben.

Manuela Machner: Ja, ich glaube, das ist ja das Schöne dran, oder? Wenn man es schafft, dass das die Leute nutzen und nutzen können und erkennen, was es ihnen auch bringt. Dass wir plötzlich nicht mehr das Thema haben: Aus welchem Land kommst du? Aus welcher Bildungsschicht kommst du? Mit welchem Universitätstitel oder so weiter hast du abgeschlossen?

Ich glaube nicht, dass jetzt jeder alles in allen Ausmaßen kann. Das ist trotzdem nicht der Fall. Aber man kann sich plötzlich selber weiterhelfen, kann Lösungen finden, ohne dass man Spezialist für alles sein muss. Also Beispiel, übrigens etwas, wo KI mich jetzt gerettet hat.

Ja, wirklich. Ich sage es manchmal, man glaubt gar nicht, wozu man KI brauchen kann. Das weißt du auch noch nicht, wir haben noch nicht darüber geredet.

Mir hat letzte Woche eine Biene gestochen. Ja, Bienenstich. Ich habe gedacht, die Biene sticht mich nicht ab. Und das Bein ist so angeschwollen, dass ich wirklich solche Schmerzen in der Nacht gehabt habe und nicht gewusst habe, wie ich tun soll.

Und ich bin nicht die, die freiwillig in ein Krankenhaus fährt, wenn es nicht unbedingt notwendig ist, aber da war es für mich selbst schon fast: Oh mein Gott, das ist nicht normal. Also das ist so extrem. Es war auch in der Nacht. Das heißt, ich habe zwar pharmazeutische Unterstützung in der Familie, aber das nützt mir nichts.

Ich wollte niemanden anrufen und aufwecken. Dann habe ich natürlich, so wie ich früher Google gefragt habe, ChatGPT gefragt: „Ich habe einen Bienenstich, so und so ist das Bein und so weiter. Wie kann mir das helfen? Oder was kann die Ursache sein?" Und dann ist als eine der Fragen gekommen, ob ich histaminunverträglich bin.

Und das bin ich, das weiß ich. Und dann hat es gesagt: „Ja, deswegen kann es sein, dass es so geschwollen ist." Ich soll als eine der ersten Maßnahmen eine Tablette dagegen nehmen. Jetzt bin ich zu Hause, gell, an einem späten Abend und habe mir gedacht, ich habe keine Ahnung, ob ich so eine Tablette habe. Keine Ahnung.

Dann habe ich so eine Medikamentenbox. Jetzt alle Pharmazeuten, ihr hört jetzt bitte nicht zu. Da ist einfach alles drinnen. Ich habe keine Ahnung, was da drinnen ist, was mir eigentlich egal ist. Und dann habe ich die erste Packung gelesen und da sind irgendwelche Dinge draufgestanden.

Nichts aus meiner Sicht, nichts war ein Antihistaminikum. Dann habe ich gedacht: „Na ja." Habe ein Foto gemacht, habe ChatGPT das Foto hinaufgeladen und habe gesagt: „Ist da jetzt ein Antihistaminikum?"

Und ChatGPT hat gesagt: „Natürlich. Dieses und jenes Medikament ist ein Antihistaminikum." Dann habe ich das rausgenommen, weil ich es gelesen habe, habe geschaut, und dann ist da irgendwas gestanden, weil so Asthma oder so allergische Schübe von Pollen oder irgend so was. Also irgendwas, wo ich jetzt für meinen Bienenstich überhaupt nicht überlegt habe.

Dann habe ich den Beipackzettel gelesen und dann steht tatsächlich drinnen, dass das ein Antihistaminikum ist. Das war halt primär ausgelegt für andere Dinge, also nicht für meinen Bienenstich.

Eliot Mannoia: Pollenallergie halt.

Manuela Machner: Ja genau, aber es hat natürlich die Inhaltsstoffe, die mir auch helfen konnten. Und das habe ich dann genommen. Es hat sich ein bisschen besser angefühlt, so schnell hat es dann doch nicht gewirkt. Und am nächsten Tag bin ich beim Arzt, da hat er gesagt: "Ja, Sie müssen dann halt Risperidon nehmen."

Und dann habe ich gesagt: "Ja, damit habe ich mir beholfen." Da hat er gesagt: "Ja, das ist schon gar keine schlechte Lösung."

Und dann habe ich gedacht: "Yay".

Eliot Mannoia: Super.

Manuela Machner: Und ja, jetzt sind wir vom Thema abgekommen, aber die Grenze, ich habe die Grenze überschritten zwischen ich muss ins Krankenhaus und hole mir professionelle medizinische Hilfe.

Eliot Mannoia: Also die Telemed-

Manuela Machner: Weil jetzt gibt keiner den Rat: "Fahr nicht ins Krankenhaus", gell? Also ich habe das

Eliot Mannoia: nicht gesagt. Ich war ja früher Rettungssanitäter. Wir hatten auch schon einmal einen Patienten, der wegen Sonnenbrand uns angerufen hat. Aber ja, die Telemedizin, also die KI in der Medizin und auch da in deinem Use Case, wirklich tolles Beispiel, sehr innovativ von dir auch, dass du an das gedacht hast, im Schmerz in der Nacht.

Also Hut ab, dass du da diese Lösung auch finden konntest. Also Entwicklungsländer, Bildung, Medizin, dann sicherlich auch in der Bildung, dass Personen, die vielleicht nicht Zugriff haben auf diverse Bildungen. Wir sehen es jetzt auch schon, es gibt Coursera, das ist eine Online-Plattform, Coursera.

Echt toll. Da kann man kostenlose Kurse machen. Das gab es schon vor der KI. Also eigentlich, die KI gibt es ja eh schon länger, aber Coursera gibt es jetzt schon seit Langem. Und man kann dort wirklich mit MIT, mit Stanford, Duke, also diverse Universitäten bieten auf dieser Plattform kostenlose Kurse an.

Und jetzt, wenn die KI sich vermehrt auch verbessert und in die Bildung kommt und jeder seinen eigenen Tutor oder wie sagt man das, Mentor oder Unterricht? Lehrer. Lehrer. Dann können auch wieder in Entwicklungsländern, aber auch in allen Ländern die Leute unglaubliche Möglichkeiten bekommen.

Und in der Arbeit, nicht?

Manuela Machner: Ja, und was ich spannend finde, nur ganz kurz zu dem Thema: Jetzt gibt es diese Kurse eben schon länger, aber bis jetzt war ja oft auch das Thema Sprache ein Hindernis. Ich bilde mir ein, dass ich nicht ganz so schlecht Englisch spreche. Aber solche High-Level-Kurse sind für mich oft auch einfach sehr, sehr herausfordernd.

Also wenn die in Englisch gehalten werden. Und dann muss ich sagen, das allein, so Möglichkeiten, dass du, ich möchte jetzt testen, ich habe jetzt zehn Teilnehmer, das Tool, ich muss mir anschauen, wie das heißt, dann schreibe ich es unten in die Description rein. Das hört mit und transkribiert dir das, was der Vortragende vorne sagt, gleich in deiner Sprache.

Du kannst es mitlesen, in Deutsch zum Beispiel. Wenn wir uns vorstellen, was das natürlich dann für die Grenzen bedeutet, dass man zu Wissen kommen kann, sie auch überschreiten kann. Ich finde, das ist schon the next level.

Eliot Mannoia: Und dann haben wir auch in der Arbeit, wenn jeder seinen eigenen KI-Assistenten hat in der Arbeit, dann werden wir nicht mehr nur unsere Abteilungen so streng abdecken wie jetzt vielleicht.

Also wenn wir alle ein bisschen Finanzanalyse machen können, ein bisschen Rechtsprüfung vielleicht, ein bisschen übersetzen, ein bisschen dies und das, dann werden sich auch die HR-Abteilungen und die Firmen ein bisschen anpassen. Ja genau, also...

Manuela Machner: Also da bin ich gespannt.

Eliot Mannoia: Es wird sehr spannend, ja, weil da wird auf sehr vielen Füßen gestiegen werden.

Aber wenn jeder einen KI-Assistenten hat und man kann gleich die Lösung bekommen, warum soll ich? Und es ist die KI vom Unternehmen. Also es ist eine KI, die mit Unternehmensdaten gefüttert ist. Sprich, es sind die Rechtsdaten oder die Policies.

Ja, und wenn ich frage, was ist die Policy für Urlaubsgeld oder ich weiß nicht, Urlaubszeit? Und wenn ich da die Antwort bekomme, das sind die Daten von der Firma, warum soll ich zu HR gehen? Aber dann fühlen sich natürlich Leute auf den Fuß gestiegen. Also es wird-

Manuela Machner: Ich weiß gar nicht, ob das Thema ist, auf den Fuß gestiegen. Ich weiß, ich weiß. Ja, aber wenn es um solche Daten geht, glaube ich, also das ist dann ein internes Google, ich übertreibe jetzt ein bisschen, oder internes GPT.

Eliot Mannoia: Das Orakel.

Manuela Machner: Ja. Aber ich glaube, du sprichst etwas an, was ich im Gesamtkontext ein bisschen gefährlich finde in der Entwicklung, die wir da haben. Wir werden plötzlich alle Experten für alles.

Und da geht es gar nicht so ums Auf-den-Fuß-gestiegen-Fühlen. Wir können ja jetzt hergehen und sagen: Sag mir, wie soll ich, keine Ahnung, einen Workshop für DNA-Züchten halten.

Könnte ich theoretisch machen. Das kann ich gut reden. Jetzt kann ich mich da vorne hinstellen, kann auch ein TikTok-Video machen oder was immer und vielleicht das erzählen, was ChatGPT oder welches Tool auch immer ausspielt. Oder ich bilde mir plötzlich ein, ich weiß, wie eine Finanzplanung für unser Unternehmen funktioniert, weil ich habe jetzt KI und das hat mir das ja erklärt.

Was, glaube ich, ein bisschen eine Gefahr ist: dass echtes Wissen erstens noch immer diese Wertschätzung hat, und dass wir nicht überheblich werden, wenn wir mit KI arbeiten, uns einzubilden, etwas zu wissen, weil wir halt diesen Assistenten in der Tasche haben, der uns Infos gibt.

Das finde ich ein ganz spannendes Thema, aber auch ein ganz gefährliches Thema. Da bin ich gespannt, wie wir in der Gesellschaft auf das reagieren werden. Weil wir sehen jetzt schon diese Influencer, die das machen.

Und wenn in der Firma dann jemand das vorstellt, auf den Fuß gestiegen wird sich sicher auch jemand fühlen. Aber ich glaube, dass das auch der Realität nicht entspricht.

Also wenn jetzt jemand irgendwo herkommt und ich bin, ich sage jetzt, die Technikerin, das war ich zum Beispiel oft in der Firma. Und der sagt: „Ich weiß jetzt viel besser, wie das geht." Ja?

Eliot Mannoia: Ja, ja.

Manuela Machner: Weiß sie es wirklich besser? Oder kommt sie mit einer Liste, die eine KI ihr vorgegeben hat, die vielleicht wirklich gute Aspekte haben mag? Das mag ja gar nicht sein.

Eliot Mannoia: Oder vielleicht noch schlimmer-

Manuela Machner: Wer vertraut dann noch wem?

Eliot Mannoia: Ja, na vielleicht noch schlimmer. Vielleicht kommt sie nicht zu dir, sondern sie macht es genau wie du es gemacht hast mit der Medikamentenkiste. Sie macht ein Foto von dem IT-Problem und löst es gleich, richtig oder falsch, und kommt nicht mal zu dir, genau wie du nicht ins Krankenhaus gegangen bist. Also da ist ein ganz, ja, das wird schwierig, weil-

Manuela Machner: Ja, und weißt du, was das Blödeste sein kann? Es ist cool, wenn sie das Problem gleich löst und dann zu mir in die IT vielleicht kommt, weil sie irgendeinen Stecker nicht richtig reingesteckt hat, dann ist das super, dass sie das selber gelöst hat.

Schwierig wird es, wenn sie den Gesamtzusammenhang nicht kennt. Das ist ja oft das. Weißt du, das ist im Unternehmen auch total schwierig.

Warum? Ich habe so Situationen gehabt, zum Beispiel wo meine Mitarbeiter Dinge gesagt haben, die sie oft nicht verstanden haben, weil sie nicht wussten, was der Gesamtkontext ist, warum ich unbedingt will, dass das soundso gemacht wird. Und jetzt sagt eine KI ihnen, mach das soundso.

Und sie verändern einen Prozess, vielleicht einen kleinen Teil in einem Prozess, und sagen dann, das E-Mail schicke ich nicht mehr so aus, sondern das geht ja viel effizienter soundso und schneller und was weiß ich. Ihr habt aber vielleicht als Führungsposition, als IT-Leiter oder was auch immer, ihr habt im Gesamtzusammenhang überlegt, das ist eine marketingstrategische Entscheidung oder, oder, oder.

Eliot Mannoia: Ja.

Manuela Machner: Und das kann ja das AI-Tool nicht wissen, weil-

Eliot Mannoia: Stimmt.

Manuela Machner: Und da kann natürlich vieles und da wird, glaube ich, auch vieles passieren, wo Leute sich dann bemächtigt fühlen, Entscheidungen selbst zu treffen oder halt Dinge besser machen zu wollen.

Eliot Mannoia: Also wir haben es ja auch in unserer Vorbesprechung besprochen, dass wir jetzt die letzten zwei Jahrzehnte oder so mit Google, also mit der Information der Welt in der Hosentasche rumgelaufen sind, im Smartphone, oder seit 2007 halt.

Also wirklich mit Information, das ist ein Wahnsinn, was für Zugriff wir hatten an Information, und jetzt haben wir Zugriff zu Lösungen. Also es gibt nicht nur die Infos, sondern auch die Lösung, die wir einfach wirklich bei uns haben. Und ich glaube, auch da werden sich die Entwicklungsländer vielleicht schneller dranmachen, weil einfach der Bedarf da ist.

Ich habe das erlebt, ich war in Peru und der Taxifahrer hat mich gegoogelt und hat angefangen, über mich zu erzählen. So: "Ja, du machst das und du machst das." Und ich habe keine Ahnung gehabt, wie er das gewusst hat. Und dann hat er gesagt: "Ja, ich habe dich gegoogelt." Also ganz leicht. Aber man denkt in Europa nicht daran, jetzt andere Leute zu googeln unbedingt.

Und dann war ich in einem Restaurant, ich habe eine Bewertung geschrieben, eh fünf Sterne, aber ich habe gesagt, die Portionen waren ein bisschen klein, und drei Tage später war ich wieder dort und sie haben mich erkannt und haben gesagt: "Ja, bitte, hier größere Portion. Ich hoffe, es ist besser diesmal."

Und haben wirklich dran gearbeitet. Und ich glaube, wenn man reist, merkt man das in Hotels, die sind sehr auf TripAdvisor und Booking.com, also please review, leave a review, also lassen Sie eine Rezension. Ich habe schon bemerkt, dass die Entwicklungsländer schon sehr mit der Digitalisierung da vorne dabei sind und das nutzen, weil das für sie ein Riesenhebel ist.

Wir haben den Wohlstand hier, für uns ist der Hebel jetzt nicht so, mir geht es eh schon gut, aber für die, und da bei den Grenzen ist es auch ein Wahnsinn, was das ermöglicht.

Manuela Machner: Ich glaube, das ist auch dieser Hunger, der wahre Hunger, sage ich jetzt einmal. Also zu sagen, weißt du, ich brauche Lösungen, ich brauche irgendwas, was mir hilft.

Wenn ich ein Problem habe, dann bin ich erfinderisch. Wenn es mir gut geht, dann passt eh alles. Da muss ich ja nichts verändern. Wirklich. Weil ich kann vielleicht was Besseres essen oder ich kann mir vielleicht einen schöneren Urlaub leisten. Ich sage jetzt vom Geld her, aber ich lebe ja in einer gewissen Form von, in Anführungszeichen, Wohlstand, vor allem wenn es die ganze Gesellschaft ist.

Und dann ist Veränderung eher behäbig. Wenn ich natürlich in einer schwierigen Situation bin, habe ich das Gefühl, jede Veränderung kann nur besser sein und mir nur helfen, weil in meiner Situation geht es mir eh schon so schlecht.

Und das macht wirklich viel aus, so wie du sagst. Und die Beispiele finde ich voll krass. Also im Tourismus, wenn man jetzt überlegt, ich kenne keinen Betrieb, der jemals auf die Idee käme, das eins zu eins in der kurzen Zeit so zu reflektieren am Mitarbeiter. Die Mitarbeiter wissen ja gar nicht, wer sie bewertet hat oder schauen nach oder so.

Oder ein Taxifahrer, der sagt: „Ach, du bist die Person." Es wäre schon die Rezeptionistin, die hätte ja meinen Namen, meinen Ort, die könnte mich ja im Hotel auf Facebook oder mal auf LinkedIn anschauen und sagen: „Ah, schön, Frau Machner, dass Sie jetzt heute da sind bei uns. Wie geht es Ihnen? Haben Sie vielleicht einen Workshop in der Richtung? Das würde mich wirklich interessieren." Stell dir vor, die begrüßt mich so.

Also wobei, vom Taxifahrer würde ich mir wirklich Sorgen machen.

Eliot Mannoia: Ja, nein, nein.

Manuela Machner: Und bei einer Rezeptionistin fände ich es vielleicht nett oder charmant.

Eliot Mannoia: Ja, in Lima habe ich mir schon gedacht, ich bin froh, dass ich jetzt nicht irgendwie eine bekannte, berühmte Person bin oder wohlhabend.

Also ich habe gesagt, okay, er hat mich gegoogelt und ist offensichtlich nicht so interessiert. Also es ist schon sicher, aber man hat schon gehört, dass man aufpassen muss mit solchen Sachen.

Manuela Machner: Mit den Daten und so auch alles.

Eliot Mannoia: Okay. Aber es hat mich sehr beeindruckt.

Manuela Machner: Ja, ich glaube, das beeindruckt jeden.

Eliot Mannoia: Mit dem Restaurant, also es war ein kleines Sushi-Restaurant, aber die haben sich wirklich jede Rezension angeschaut und waren dann wirklich reaktiv und haben auch geantwortet: „Thank you for your review." Und die haben das gepflegt, weil die haben gewusst, das ist ein Kanal, der Menschen zu ihnen bringt.

Manuela Machner: Und ein Insider-Tipp für alle Gastronomen, die jetzt zufälligerweise vielleicht zuhören: Das Geilste, Entschuldigung, das Beste, was ihr jetzt noch machen könntet, ist, wenn ihr diese Rezensionen nicht nur beantwortet, Danke sagt, sondern gleich dort einen Text hineinschreibt, SEO-optimiert über euren Betrieb, euren Betrieb noch einmal nennt, weil das bei den ganzen KI-Systemen und Suchmaschinen ganz gut ankommt.

Und umso öfter euer Betriebsname vorkommt, umso besser seid ihr aufgestellt. War nur ein Sidestep.

Eliot Mannoia: Super. Ja, wir sind jetzt eh schon-

Manuela Machner: Na gut, ja, jetzt weiß ich eigentlich nicht mehr, was ich alles zusammenfassen soll. Na doch, ich glaube, ein wichtiger Faktor ist, wir sind wieder vom Thema abgekommen, aber ein wichtiger Faktor ist, dass man KI überhaupt nicht in dieser Grenze sehen kann.

Diese Entwicklung ist keine Entwicklung für eine Abteilung, für eine Berufsgruppe, für einen Kontinent, für ein Land, sondern es ist eine Entwicklung, die darüber hinausgeht und die es aber auch möglich macht, dass wir vielleicht dann mit unserem Denken auch über Grenzen hinweggehen können, damit wir offener sind und auch in der Lage sind, Dinge zu verarbeiten, zu lernen, Neues zu entdecken.

Und der ganz spannende Aspekt, glaube ich, heute war auch das, dass uns auch bewusst sein muss, dass die Länder, die wir vielleicht gar nicht so wahr- und ernstnehmen, also die Entwicklungsländer, die schwächeren Länder auf der Welt, durchaus davon profitieren können und sich das auch zunutze machen können, und dass dann vielleicht der Abstand noch geringer wird, zumindest im Bereich der Bildung, also dass sie es für sich nutzen und was Gutes daraus machen können.

Das ist ja schön, wenn solche Entwicklungen entstehen können. Ja, war wirklich spannend. Ich glaube, da hätten wir jetzt einfach weitergeredet.

Eliot Mannoia: Ja, absolut. Vielleicht holen wir das Thema noch mal ins Boot. Nächstes Mal reden wir über KI und Demokratie und freuen uns, euch dann auch wiederzusehen.

Ciao.

Manuela Machner: Freuen uns. Alles Liebe. Tschüss. Baba.