#33 Macht KI jeden zum Experten?

Manuela Machner: Herzlich willkommen zu unserer neuen Folge von Mind/Machine. Ich bin Manuela Machner, spezialisiert auf KI im Tourismus. Und heute möchten wir gerne reden zum Thema: Wird eigentlich jeder zum Experten mithilfe von KI? Und wir sind schon ganz gespannt, was herauskommt.

Eliot Mannoia: Ja, ich bin der Eliot Mannoia, digitaler Psychologe, fokussiere mich auf den Impact von KI auf uns Menschen.

Und Ziel von unserem Podcast ist einfach, Gedankenanstöße kurz zu inspirieren und Gedanken über dieses Thema ...

Manuela Machner: Ich finde es ja so spannend, wenn du schaust, wie Leute grad auf Social Media sehr, sehr gut Anweisungen geben, wie du erfolgreich sein kannst mithilfe von KI-Systemen.

Du kannst ja Podcasts machen, du kannst ja TikTok-Videos machen und dort viral gehen, indem du einfach ein Konzept nimmst, was für Themen jetzt gerade publik sind, und darüber redest. Und mit Hilfe von KI kannst du das ja einfach so machen, Content schaffen. Also das ist jetzt momentan so einfach das große Thema auf TikTok, Insta und diesen Kanälen.

Also, schaffen wir das, Eliot, dass wir jetzt Geld scheffeln, indem wir irgendwelche Themen recherchieren mit ChatGPT und dann zum Experten werden?

Eliot Mannoia: Ja, also so als Allheilmittel, das alles ermöglicht, sehe ich es noch nicht. Ich sehe es auf jeden Fall als tolles Werkzeug, um uns da zu unterstützen.

Aber ja, die Millionen sind noch nicht da. Aber ich glaube, da wird viel versprochen. Helfen wird es auf jeden Fall. Es ist unglaublich, wie es demokratisiert und jedem die Möglichkeit bietet, ob das jetzt nicht in der Muttersprache ist, plötzlich mit Übersetzungen, oder mit Ideen, Gedankenanstößen für kreative Ideen, oder Ideen, die man hat, dann auch mit generativer KI zu verwirklichen.

Manuela Machner: Ja, das ist so. Aber das hat ja nichts mit Experten zu tun. Also wenn mir jetzt jemand, ich komme ja aus dem Tourismus, wenn dann jemand Konzepte mit ChatGPT für den Tourismus baut und mir dann erklärt, wie mein Geschäft zu laufen hat, dann mag schon viel Gutes drinnen sein.

Ich nutze es ja selbst auch, aber ich bin überzeugt davon, dass das jemanden noch lange nicht zu einem Experten im Tourismus macht. Oder es macht jemanden nicht zum Arzt, weil er von ChatGPT irgendwas gehört hat, oder zu egal welchem Thema, zum Psychologen, weil ChatGPT sagt, so und so läuft es.

Aber ich hab schon ein bisschen das Gefühl, dass das stärker kommt, dass viele Leute sich dann maßlos überschätzen, alles für bare Münze nehmen und sich dann hinstellen und sich auch so sehen.

Eliot Mannoia: Durchaus, ja. Also das Wissen, das einem neue Sachen ermöglicht, und dieses Empowerment, das gibt es schon lange.

Also in der Geschichte, ich glaub, wenn wir vor hundert Jahren oder auch vor fünfzig Jahren schon das machen würden, was wir heute machen können, dann würden wir als schwarze Magie dargestellt werden. Das ist ja unglaublich. Ihr seid ja Außerirdische. Ihr habt so ein kleines Gerät, ein Handy, und was ihr da machen könnt, unglaublich.

Also es ist schon ... Und dann hatten wir vor Kurzem auch, also in den letzten zwei Jahrzehnten, mit Google auch das Phänomen, dass plötzlich auch jeder zum Experten wurde. Die Ärztinnen und Ärzte haben das ja geliebt: „Bitte schauen Sie mal da. Ich hab gegoogelt, ich glaube, das ist das.“

Wir selbst, ja, mit Google. Also da wurde ja auch jeder zum Experten. Und jetzt haben wir eigentlich auch, das haben wir in den letzten Folgen ein paar Mal erwähnt, nicht nur die Suchergebnisse. Also wir haben nicht Möglichkeiten, Information, sondern wir haben Lösungen. Und ChatGPT gibt dir nicht nur eine Liste von Möglichkeiten, sondern gibt dir einfach eine Antwort.

Also das wird das, glaube ich, noch mal verstärken, dass die Personen dann wirklich sagen: „Ja, ja, das weiß ich jetzt.“

Manuela Machner: Ja, aber das Problem ist ja, ChatGPT halluziniert jetzt noch mal, also die Lösungen sind, es ist voll cool. Also ich nutz es ja eigentlich rund um die Uhr. Aber trotzdem, wenn du dich in dem Metier nicht auskennst, dann trau ich mich nicht, die Dinge zu verwenden, ohne sie in irgendeiner Form gegenzuchecken.

Weil das muss man sagen. Also ich sehe ja, wenn ich in meinem Bereich Output bekomme von KI-Systemen unterschiedlichster Art und Weise und ich draufschau und seh, was soll denn das sein? Also es stimmt einfach nicht. Und es ist verschieden oft so ausgeprägt. Manchmal funktioniert es ganz super und dann wieder Dinge, wo du davon ausgehst, das muss richtig sein.

Stimmt nicht. Da musst du Expertise haben, dass du das noch mal gegencheckst oder faktencheckst.

Eliot Mannoia: Ja, ganz wichtiger Punkt. Das ist auch in der Psychologie ein bisschen dieses Confirmation Bias. Also wenn man etwas bestätigt bekommt, was man eh schon denkt. Das kann in dieser Instanz ein bisschen vorteilhaft sein, weil du hast schon eine Ahnung als Experte in deiner Domäne, ob das jetzt Psychologie oder Tourismus ist.

Und dann, wenn du Antworten bekommst, dann weißt du ungefähr, ob das passen sollte. Weil du hast recht. Also wenn ich jetzt in Latein oder in irgendeinem anderen Gebiet, Jus oder Medizin, was sagen würde, würde ich nicht die Möglichkeit haben, das jetzt wirklich alleine zu verifizieren.

Manuela Machner: Und da ist die Frage der Mechaniken oder der Vorgehensweisen: Wie schafft man es, dass Wissen verifiziert wird, noch bevor es vielleicht veröffentlicht oder in die Breite gebracht wird?

Weil die Angst, die ich ein bisschen hab an der ganzen Geschichte, ist, die KI-Systeme lernen ja aus den ganzen Informationen, die im Netz stehen. Umso mehr Falschinformationen im Netz stehen, umso schwieriger wird es dann auch. Also es kann ja ein bisschen eine, wie soll man sagen, eine Spirale sein, weil dann werden viele Unwahrheiten veröffentlicht und wenn es viele Unwahrheiten sind, die ähnlich ticken, dann potenzieren sich ja auch die Falschinformationen.

Eliot Mannoia: Das wird uns natürlich auch noch ziemlich erwischen in den nächsten Jahren, weil wir hatten ja mit Social Media, also Web 2.0, die Möglichkeit, dass plötzlich jeder Content schreiben konnte. Ob das jetzt auf Blogs, Instagram, jeder. Und jetzt mit KI kann man es noch leichter. Man kann es reproduzieren, man kann auch mit Bots und Automation, kann jeder plötzlich so agieren, als ob die Person 50 Mitarbeiter:innen hätte.

Also wir werden viel mehr Content sehen, viel mehr Experten und so einen Information Overload.

Manuela Machner: Ja, ich hab jetzt erst von einer Kollegin gehört, die gesagt hat, dass ... Ich hab zwar gewusst, dass Amazon da ein Regelwerk jetzt aufgebaut hat, weil wir selber veröffentlichen über Amazon KDP und da musst du dann ja definieren, hat deine KI da mitgewirkt und mitgeschrieben.

Aber was das viel Spannendere ist, dass Amazon jetzt gesagt hat, du darfst am Tag nur mehr drei Bücher veröffentlichen.

Eliot Mannoia: Wow, okay. Wirklich? Nicht mehr als drei Bücher pro Tag?

Manuela Machner: Also überleg dir mal. Also ich hab zehn Monate gebraucht für mein Buch und jetzt sagt ... Ich hab schon ein KI-Buch mithilfe von mir geschrieben, ja.

Und wenn du sagst, jetzt darfst du nur mehr drei Bücher veröffentlichen, das heißt, es geht ... Also die Massenproduktion von Content passiert derzeit sehr stark. Also es gibt ja auch irgendwelche Studien, dass Texte, die jetzt veröffentlicht werden, viel länger sind und viel umfangreicher und viel mehr Texte veröffentlicht werden, als das vielleicht noch vor drei Jahren war, weil es natürlich einfacher ist.

Also es ist viel einfacher. Früher hast du dir jedes Wort überlegt, mehr oder weniger, und je nach Talent längere oder kürzere Texte geschrieben. Und jetzt, wenn du was reinschreibst, schreibt der ChatGPT gleich mal so eine ganze Wurscht. Und du veröffentlichst und es wird noch mehr ins Netz gestellt.

Eliot Mannoia: Ja, das Recycling, oder? Also dass wir so viele Daten haben, dass wir irgendwann vielleicht auch mit dem Recycling anfangen müssen, wenn die Speicherkapazitäten nicht rechtzeitig effizienter und kleiner werden und dieser Content-Boom so stark anwächst, wenn jetzt dann auch die generative Videogeneration und solche Sachen kommen.

Das ist ja unglaublich.

Manuela Machner: Ja, bei den Bildern. Also wie viel Aufwand war es bis jetzt, Bilder zu fotografieren? Eigentlich eh keiner mehr mit dem Handy, aber trotzdem, wie viel du da dann hinaufstellst.

Und wie funktioniert das jetzt mit der Generierung von Bildern und jetzt dann auch noch Videos, die ja wirklich das Megathema sind.

Aber die kritische Geschichte, glaub ich, ist, dass das Mindset der Leute ein bisschen eine gefährliche Richtung einnimmt, wenn man innerhalb kürzester Zeit zu jedem Thema seinen Senf dazugeben will. Ich mein, ich bin grundsätzlich ein Mensch, der gern bei jedem Thema seinen Senf dazugibt.

Aber nicht aus dem Expertenmodus, sondern einfach aus dem privaten Manu-gibt-ihren-Senf-dazu-Modus. Also, aber ich sag da nicht, das ist so oder das ist Fakt, sondern ich kann nur sagen, ich empfinde das so oder ich erlebe das so. Und ich glaub, das macht den Unterschied aus. Und den Unterschied in echt macht es einfach, glaube ich, so aus.

Ein Experte hat nicht nur Wissen. Wissen hat die KI, oder vielleicht sicher sogar mehr Faktenwissen. Aber ich bilde mir ein, ich bin Expertin im Tourismus, weil ich Erfahrung, also erlebte Erfahrung habe, weil ich einfach weiß, wenn du mit einem Gast sprichst und dieses und jenes ist, wie reagieren Gäste darauf?

Oder was kann gut funktionieren? Natürlich verändern sich diese Dinge auch, aber du hast einfach Dinge erlebt und ich bilde mir ein, das ist ein Faktor, der dich zum Experten macht.

Eliot Mannoia: Ja, ich würde auch gerne noch was ansprechen, was ein bisschen subtiler ist. Wir haben ja die generative KI, aber dann haben wir auch natürlich systemische, also unternehmensgesteuerte KI, die vielleicht mit Predictive Analytics, Predictive Forecasting, Predictive Einkauf, also die wirklich Warenlager überprüfen und vielleicht Marktpreise, und dann, ob das jetzt angebunden ist an ein ERP-System, also Enterprise-Resource-System.

Oder ein Logistiksystem oder wie auch immer. Ich mein, ich weiß, viele von diesen Systemen sind Automation und sind eher Software, aber die arbeiten jetzt vermehrt mit KI zusammen, insbesondere für die Rechenleistung, auch für Mustererkennung und für dieses Predictive. Und da, wenn die KI zum Beispiel sagt: „Oh, du, der Zuckerpreis ist normalerweise im Herbst hoch.

Bestell doch jetzt drei Tonnen lieber als eine Tonne. Das geht sich mit dem Inventar aus“, und so weiter und so weiter, dann wird der Mensch jedes Mal sicher draufschauen. Aber wenn die KI, und jetzt macht sie sicher auch Fehler, aber wenn es zehnmal hintereinander richtige Entscheidungen sind, wie oft wird der Mensch noch draufschauen?

Irgendwann werden wir sagen: „Ja, das läuft schon automatisiert. Solange kein Fehler ist, schaue ich nicht drauf.“ Oder vielleicht nur eine kurze Unterschrift. Ja, ja, drei Tonnen.

Manuela Machner: Super Sound.

Eliot Mannoia: Also ja, da auch, weil die Menschen passen sich ja an und der Mensch sucht oft den bequemsten Weg. Und wenn die KI schon automatisierten Einkauf und Maintenance und solche Sachen hat, das finde ich dann auch spannend, wer dann der Experte ist. Bei der KI ist es eben nicht die Expertin, der Experte, es wird immer ...

Manuela Machner: Ja, da würde ich dann gleich ansetzen zum nächsten Thema, also nicht zum jetzigen, sondern auch zu einem anderen Thema. Braucht es da noch Experten?

Brauchst du dann diesen Logistikexperten, der das überhaupt noch einschätzen kann, beziehungsweise wird es den dann überhaupt noch geben? Weil wenn zwanzig Jahre die Maschine die Sache macht, dann weiß am Ende keiner mehr, wie damals der Prozess war, dass es so entstanden ist.

Ja, ich glaube, es war ein absolut spannendes Thema heute zum Thema Experten.

Also was macht denn einen Experten eigentlich aus? Wie beeinflusst KI das Wissen und auch diese Selbsteinschätzung: Wann bin ich Experte, wenn ich von einem KI-System alles übernehme oder mich inspirieren lasse, nenn ich es jetzt mal. Und wo geht die Reise hin in die Richtung?

Und so wie du gesagt hast, mit Predictive Analysis beziehungsweise einfach Automatisierungen, wie lange wird es noch notwendig sein, dass in jeder Position ein Experte sitzt oder dass jemand dann auch noch Experte ist? Ich glaub, da haben wir spannende Entwicklungen noch vor uns, ganz ehrlich.

Und das zeigt auch diese ganze Dynamik und die Veränderungen, die wir haben rund um das Thema KI und Gesellschaft.

Eliot Mannoia: Absolut. Also ich glaub, das Thema sollten wir auch noch mal ansprechen. Ich glaub, das ist wirklich eine viel zentralere Frage, Experte, Experten. Nächstes Mal besprechen wir Daten, also Daten von euren Unternehmen, die es online in der Welt gibt, und was man da eben nutzen kann und was für einen Impact das haben kann.

Freuen uns schon auf euch wieder.

Manuela Machner: War cool. Alles Liebe, tschüss. Tschüss.