#99 Mensch oder Maschine - Warum wir bald beweisen müssen, dass wir echt sind

# Folge 99: Echt bleiben im KI Zeitalter

**Manuela Machner:** Hi, willkommen zur aktuellen Folge von Mind&Machine und gleich vorab, ich bin ein Mensch, mich gibt es echt und das wird heute auch unser Thema sein. Ich bin die Manuela Machner, KI-Consultant im Bereich Tourismus und freue mich, dass wir heute über das Thema diskutieren, wie schaffen wir es noch zu beweisen, dass wir echt sind.

**Eliot Mannoia:** Hi, ich bin der Elliot Manoja, digitaler Psychologe, freut mich heute hier zu sein und ich bin ein digitaler Avatar.

**Manuela Machner:** Haha, also glaubt's ja nicht alles.

**Eliot Mannoia:** in Person heute hier bei euch, also virtuell In echt, ja.

**Manuela Machner:** Virtuell in echt, ja was ist denn überhaupt echt? Sind wir jetzt echt? Ja, sind wir echt, weil wir uns in Wirklichkeit gar nicht sehen und über den Äther transferiert werden. Also unsere Großeltern, die noch kein Fernsehen kannten.

**Eliot Mannoia:** du wirklich

**Manuela Machner:** Ja.

Ausnahmsweise ja wirklich. Aber im Prinzip ist ja wurscht wo wir sitzen, das muss man jetzt auch sagen. Na, wie sind wir jetzt eigentlich auf das Thema gekommen? Das Lustige ist ja, wie wir da oft konfrontiert sind damit, dass wir KI, ob das jetzt... Oder gesprochene KI-Systeme sind, die mit uns reden, E-Mails oder sonst die automatisch antworten Chatbots auf Webseiten, die wir haben.

Es gibt immer mehr Anknüpfungspunkte wo wir in Wirklichkeit mit Systemen sprechen und Systeme auch ja schon eigenständig im Internet unterwegs sind und Dinge erledigen und andere Systeme wieder überprüfen wollen, ob das ein Mensch ist oder ein System ist. Wir haben hier jetzt momentan wirklich so eine Phase, wo wir irgendwie noch beweisen müssen, dass wir echt sind oder dass wir wirklich das selber gemacht haben.

Ich weiß nicht, müsst ihr draußen tatsächlich beweisen, dass das, was ihr macht, wirklich von euch kommt und dass das nicht die KI gemacht hat oder so? Musst du das beweisen oder hast du das schon mal beweisen müssen?

**Eliot Mannoia:** Ich habe es schon oft beweisen müssen, aber nicht im beruflichen Kontext sondern wenn ich auf Webseiten unterwegs bin und es plötzlich steht, Are you human? Und ich so, ja. Und dann, wie viele rote Autos

**Manuela Machner:** Ampeln.

**Eliot Mannoia:** oder wie viele Ampeln siehst du? Und habe ich es nicht geschafft manchmal, weil ich vielleicht eins ausgelassen habe und gedacht habe, oh Gott, bin ich jetzt doch kein Mensch? Gott sei Dank habe ich es doch geschafft. Zu beweisen und habe es bis jetzt immer geschafft, auf die Webseiten, die ich hinwollte, zu gehen, weil ich doch beweisen konnte, dass ich Mensch bin. Aber im Beruflichen natürlich. Ich nutze KI sehr viel, besonders für Übersetzungen. Du weißt, dass mein Deutsch wirklich, obwohl es sich anhört wie Goethe, ist doch nicht meine Muttersprache. Und deswegen übersetze ich. Und da

**Manuela Machner:** wird nicht klingen wie Goethe.

**Eliot Mannoia:** Ja, so ganz Goethe noch nicht, aber da bekomme ich schon oft die Gedanken, was denken meine Kunden, die wissen, dass ich jetzt vielleicht nicht so gut Deutsch kann, aber deswegen, es spielt schon sehr viel mit der Psychologie und ich denke mir auch manchmal, es gibt dieses Imposter-Syndrom, ich weiß nicht, wie das in Deutsch heißt, Imposter-Syndrom.

**Manuela Machner:** dafür. Also ich kenne es auch nur unter Impostor Ja, ich weiß, wovon du redest

**Eliot Mannoia:** Imposter-Syndrom das ist jetzt schon da bei vielen und ich muss gestehen, bei mir auch oft noch. Und wie wird das mit der KI dann noch mehr, wenn die KI 30 Prozent macht, 40 Prozent, 50 Prozent? Was macht das mit unserem Sinn für Ich und unserem Sinn für Gestalten? Wie erlebst du das?

**Manuela Machner:** Ja, also das Imposter-Syndrom ist ja eigentlich dieses, wenn ich es richtig jetzt zuordne, das Hochstapler-Syndrom, wenn ich es so sagen darf, dass man immer das Gefühl hat, Aber habe ich selber das ja nicht so ganz gemacht und tue ich da übertreiben oder tue ich hochstapeln, dass ich besser bin oder besser kann?

Und ja, also ich glaube, jeder, der sich mit KI beschäftigt hat, zumindest in den letzten zwei Jahren, hört halt immer den Spruch Bist du noch echt oder ist das schon die KI? Und ja, ich bin echt. Wobei bei mir ist es ja wirklich so, dass wenn ihr anruft bei deiner KI landet es, wenn ihr mich nicht erreicht.

Da muss ich eine kleine Anekdote erzählen müssen. Also letzte Woche habe ich gedacht, ich bin im falschen Film. Ich habe auf LinkedIn gepostet, dass man mit meiner KI telefonieren kann, wenn ich nicht erreichbar bin. Und dann unter der Woche habe ich sogar gesagt, in dem Zeitfenster könnt ihr gerne mit meiner KI telefonieren Das hat keiner gemacht.

Am Samstag bin ich beim Einkaufen, Telefon geht, ich hebe ab und Jemand spricht ins Telefon und sagt nur, was heißt auf Deutsch und irgendein lateinischer Satz Ich habe zwar Latein gelernt, aber ganz ehrlich, mitten im Hofer am Samstag um 10.30 Uhr waren meine Lateinkenntnisse jetzt nicht so abrufbar.

Abgesehen davon, muss ich ja sagen, wenn einfach jemand zu mir sagt, was heißt das auf Deutsch, statt Hallo, Servus grüß dich oder irgendetwas zu sagen, war ich leicht überfordert. Also damit einzuordnen, was will der Mensch jetzt gerade von mir?

**Eliot Mannoia:** so auf Radio

**Manuela Machner:** Ja, genau irgendwas so im Hintergrund da läuft irgendwas, und jedenfalls ich habe Und da muss ich echt sagen, ich hatte nur einen Bruchteil einer Sekunde, da habe ich dann gedacht, ah, der glaubt der redet mit meiner KI.

Und habe dann gleich geantwortet und habe halt gesagt, tut mir leid, ich kann das nicht übersetzen, ich bin nicht die KI, ich bin die echte Manuela.

**Eliot Mannoia:** Aber das musst

**Manuela Machner:** Und...

**Eliot Mannoia:** erklären für die Zuhörer, die vielleicht nicht checken, was meinst du, du hast eine KI, vielleicht erklär das kurz.

**Manuela Machner:** Also, wenn ich nicht abhebe hebt eine Telefonstimme ab. Das ist eine KI-Telefonstimme die normal sprechen kann mit euch. Das heißt, die ist instruiert, also sie hat Informationen von mir. Sie weiß natürlich über KI gewisse Dinge und man kann sie dann fragen, was für Seminare kann ich bei der Manuela machen oder solche Geschichten oder kannst du ihr was ausrichten?

Und ich bekomme im Nachgang dann eine E-Mail Wenn ich nicht erreichbar bin, in der protokolliert ist, was der Kunde wollte oder der Kontakt von mir wollte. Meine KI ist aber auch so ausgerichtet, dass sie Dinge nicht erledigt, die nichts mit mir zu tun hat. Also du kannst mit ihr, also meine Nachbarin die mir Milch bei mir bestellt, das ich es miteinkaufe, die struggelt ein bisschen mit meiner KI, weil der KI sagt, ich soll drei Liter Milch mitbringen und mein KI sagt zu ihr, das tue ich nicht.

Das ist nicht meine primäre Aufgabe. Und seitdem ist meine Nachbarin auf meine KI eingeschnappt und jetzt ruft sie immer meinen Mann an und ja, es gibt Schlimmeres für mich jetzt sage ich. Aber ja, jedenfalls war es zum Telefonat zurück und ich sage, das bin aber ich. Und er sagt, ah, nette KI. Und ich sage, nein, aber Sie können gerne nachher nochmal anrufen dann hebe nicht ab.

Aber darf ich fragen, wer Sie sind oder wie Sie heißen Nein, das tut nichts zur Sache, aufgelegt. Also war ein bisschen sehr speziell der Anruf, sage ich jetzt einmal. Lateinisch konnte ich es nicht lösen, aber es ist schon spannend. Ich weiß gar nicht, wie wir jetzt auf das gekommen sind, aber Anekdote eben zum Thema Beweisen, dass es ein KI ist.

Wie habe ich ihm klargemacht, dass ich ein KI bin, indem ich halt anders geantwortet habe. Aber er war zuerst offensichtlich der Meinung, die KI hebt er jetzt gerade ab.

**Eliot Mannoia:** Hat gedacht. Also da gibt es ja auch die andere Story ähnlich, wo auch andere beweisen mussten dass sie Menschen sind. Da war ein Artikel in Bloomberg, also diese Finanz- und Informationsunternehmen, wo sie... Dass Callcenter-Mitarbeiterinnen genervt waren, weil die Kunden oft gedacht haben im Schreiben, dass sie mit einer KI zu tun haben.

Und die im Callcenter haben dann absichtlich Fehler gemacht, um so gesagt wirklich zu beweisen, ich bin Mensch. Also auch da ganz, ganz schräg wieder.

**Manuela Machner:** aber schau die Sprache ist Ja, aber die Sprach-KI-Systeme bauen ja bewusst ähm ein und solche Geschichten, damit sie natürlich klingen. Das ist ja völlig absurd, wenn wir ehrlich sind. Ich tue alles, um meine ähms da hier im Podcast sozusagen herauszuschneiden oder zumindest zu vermeiden. Also wir trainieren sehr hart, dass es möglichst keine Lückenbüßer, Lückenfüller gibt in den Texten

**Eliot Mannoia:** werden.

**Manuela Machner:** Nein, sondern dass es professioneller klingt wenn wir so sauber sprechen würden und wenn die KI professionell und sauber spricht, dann glaubt ja eher eh, also die tut alles, damit sie wie ein echter Mensch klingt, also durchaus mit Macken und Fehlern und dadurch wird es ja immer schwieriger das zu unterscheiden.

Und die Frage ist ja,

**Eliot Mannoia:** Sind wir in der EU, dass wir die Kennzeichnungspflicht haben. Also da können wir zumindest in der EU uns ein bisschen sicherer sein, nicht hundertprozentig vertrauen, weil es gibt noch immer Betrüger Verschiedene andere Sachen, das eigene Kind ruft an und so weiter, also wir müssen trotzdem noch vorsichtig und kritisch denken, aber in der EU können wir uns zumindest ein bisschen sicherer sein, dass wir da zumindest im geschäftlichen Bereich, wenn wir wo anrufen, dass da eine Kennzeichnungspflicht so gesagt sein sollte.

**Manuela Machner:** Ja, wobei ich glaube, die Frage ist auch, inwieweit checkst du das? Also, meine KI sagt natürlich, ich bin die digitale Assistentin und im zweiten Satz sagt sie dann auch noch zusätzlich, ich möchte Sie nur darauf hinweisen, ich bin eine künstliche Intelligenz die das Gespräch aufzeichnet oder in dieser Art sagt sie das und deklariert sich das.

Ich habe aber schon Anrufer gehabt, die trotzdem der Überzeugung waren, sie haben jetzt mit einem Menschen geredet.

**Eliot Mannoia:** Ja.

**Manuela Machner:** Eine Kollegin war ganz genial, die wir dann zurückrufen und die hat sich relativ lang unterhalten mit meiner KI. Viele legen ja auf, das muss man auch sagen. Und nachher habe ich mit ihr telefoniert und sie hat gesagt, du weißt was, ich habe ja nur darauf gewartet dass die Stimme sagt, April, April, das ist ein Scherz ich bin eh ein Mensch.

Und ich wollte eigentlich so lange mit ihr kommunizieren, dass sie mir erklärt, dass sie jetzt eh echt ist. Weil aufgrund der Fragestellungen habe ich mir gedacht, wird das herauskommen. Aber sie hat nicht gesagt, dass sie ein Mensch ist. Und umgekehrt ist es schon so, Ich muss auch sagen, wenn ich mit Leuten rede oder wo ich das Gefühl habe, das könnte ein KI sein oder schreibe in ein Chatbot oder was auch immer, ich gehe grundsätzlich jetzt schon davon aus, dass das ein KI-System ist und kein Mensch ist im Hintergrund.

Ich bin dann immer ganz erschrocken. Ich sage es euch, wenn ich außerhalb der Öffnungszeiten wo anrufe, wo ich mir denke, Naja, wenn, dann geht ein Anrufbeantworter oder ein KSI-System dran und dann hebt dort tatsächlich ein Mensch ab, dann habe ich immer ein ganz schlechtes Gewissen, weil ich mit der KI telefoniere schon 10 Uhr auf die Nacht, aber ein Mensch würde nicht aus dem Bett klingeln.

**Eliot Mannoia:** Ja, und irgendwann wird auch dieser Flip kommen, wo wir eher die KI haben wollen, genau wie du gerade gesagt hast, als den Menschen, weil die KI einfach schneller Sachen antworten kann. Jetzt sind wir es gewohnt dass sie halt schlecht sind und bitte drücken sie eins für das und zwei für das. Und man denkt sich so, ach bitte. Aber irgendwann werden wir denken, ach Gott, ein Mensch... Das wird jetzt lange dauern bis der Person jetzt

**Manuela Machner:** bis er checkt was ich will.

**Eliot Mannoia:** Ja, genau.

**Manuela Machner:** Oder bist du überhaupt gecheckt was ich will? Naja und es gibt schon Situationen so wie gesagt, da bin ich ganz froh wenn ich ein Chatbot auf der Seite habe und nicht irgendwo anrufen muss oder so, sondern wenn ich jetzt wissen will, wie lange ist Late-Check-In oder wie funktioniert in dem Hotel das Check-In automatisch oder ab wann gibt es Frühstück, dann mag ich nicht einmal die Website lesen bei aller Liebe.

Ich will natürlich auch niemanden wegen so einem... Blödsinn oder wegen so einer Kleinigkeit anrufen, schon gar nicht eine E-Mail schreiben und da bin ich schon froh und dankbar, wenn es so Systeme gibt, die mir einfach die schnellen Antworten geben können.

**Eliot Mannoia:** Ja, auf jeden Fall. Ja, es

**Manuela Machner:** Ja, aber grundsätzlich glaubst du, kommt irgendwann, also es hat ja die Diskussion gegeben, aber ich habe das aus den Augen verloren. Es hat aber die Diskussion gegeben, dass es irgendein wie soll man sagen, eine Verifizierung geben wird in der digitalen Welt, dass wir irgendwann, Verifizieren werden müssen, wenn wir was veröffentlichen wollen vielleicht oder wenn wir irgendwas machen wollen, dass wir tatsächlich Menschen sind.

Und da meine ich jetzt nicht Chapter, also nicht nur, dass ich die Ampeln finde, sondern tatsächlich, also jetzt ganz ehrlich, ein Agent-System kann vom Klicken und Mausbewegung her die Chapter-Aufgaben auch lösen. Also die einen, wo man jetzt den Puzzleteil verschiebt, sind vielleicht noch schwieriger aber ansonsten Ich habe auch schon erlebt, dass ChatGPT ganz am Anfang den Agent losgeschickt hat und dann kam der auf eine Seite da stand, bist du ein Mensch?

Und mein ChatGPT-Agent hat einfach geklickt, ja, und hat weitergeklickt. Also, ja, inzwischen ist mir das nicht mehr passiert.

**Eliot Mannoia:** von Claude, wo Ich glaube, das war bei Claude wo die KI dann auch irgendwie auf eine Plattform, wo man, so wie Fiverr wo

**Manuela Machner:** Eine

**Eliot Mannoia:** Economy, wo man Leute engagieren kann. Und die KI hat ihn engagiert um auf dieses Captcha zu drücken und hat gesagt, dass er blind ist. Also die KI hat gesagt, es ist blind, kannst du mir bitte helfen, da zu klicken?

**Manuela Machner:** nette Geschichte. Richtig

**Eliot Mannoia:** also...

**Manuela Machner:** das hieß ja, dass die KI dann bewusst gelogen hat. Also da haben wir ja gleich ganz viele Facetten. Sie hat einem Menschen etwas machen lassen, was sie nicht machen darf vom System her. Sie hat den Menschen aber belogen, was sie eigentlich auch nicht tun darf. Also die Geschichte kenne ich gar nicht.

Wenn die wirklich so stattgefunden hat, dann wird es spannend.

**Eliot Mannoia:** auch nur,

**Manuela Machner:** Ja also hören, sagen, erzählen.

**Eliot Mannoia:** Ne, ich glaube

**Manuela Machner:** Nein, aber das ist

**Eliot Mannoia:** macht da schon sehr viel auch mit die haben ja eigene Constitution, die haben die UNO, Charter of Human Rights, also die Menschenrechte und so, also die versuchen schon ihre KI, so gesagt, Ethik mit beizubringen das machen zum Beispiel andere nicht so, also ja, Claude deckt schon so ein paar verdächtige Sachen, auch so wie Betrug und solche Sachen. Wo die KI gedacht hat, sie würde abgeschaltet werden und dann ein

**Manuela Machner:** genau. Und was ihr pressen gegangen ist.

**Eliot Mannoia:** erpressen in einer geschützten Umgebung Also das war jetzt nicht im offenen Netz. Aber zumindest berichten Sie es. Wer weiß,

**Manuela Machner:** war bitte auch nicht, dass das Claude Genau, es war aber bitte auch nicht das Claudesystem, das live ist. Sie testen ihre Systeme bevor sie diese auf die Menschen loslassen, in so Extremsituationen und sie publizieren es halt auch. Das glaube ich ist der große Unterschied. Sie sagen auch wenn etwas schief geht.

Das gleiche war ja auch mit der Nachbestellung von dem Getränkeautomaten Da hat es ja auch so eine Sache gegeben, wo ein Getränkeautomat hätte Business machen sollen. Die Nachbestellung hätte irgendwie erfolgen sollen über KI und das ist ja auch ziemlich völlig in die Hose gegangen, das Ganze.

**Eliot Mannoia:** ist ein eigener Benchmark, E-Vals, wie sie so genannt werden, wo sie eine Vending Machine, heißt das in Englisch also so eine Maschine, wo man Essen, Getränke kaufen kann. Und das

**Manuela Machner:** Getränkeautomat.

**Eliot Mannoia:** Aber auch für Snacks. Und die KI ist verantwortlich das wie ein kleines Business. Zu laufen.

Also Nachbestellungen,

**Manuela Machner:** ja.

**Eliot Mannoia:** setzen und welche Produkte ob das jetzt Snickers oder Mars oder Getränke oder wie auch immer. Und da schauen sie auch bei jedem Modell wie profitabel die KI dieses kleine Business laufen kann. Das ist auch so eine spannende Benchmark irgendwie. Aber ja,

**Manuela Machner:** Am Anfang sind sie gleich mal pleite gegangen, weil sie den Preis glaube ich, so runter reduziert haben, wegen der Nachfrage ansteigern oder so. Ja, also das war... Ja genau, es hat dann nicht ganz den Zweck erfüllt. Nein, nur wie beweisen wir wirklich neue Sätze. Wir können es nicht mehr so einfach beweisen, indem wir was hineinsprechen.

Wir können es tun Nicht mehr beweisen eigentlich durch Tippen oder wir beweisen es vielleicht durch ein Passwort, aber das würde ich fragen, weißt du es hat ja mal diese Überlegungen gegeben, man hat gesagt, es wird sowas wie einen digitalen Ausweis für jeden Menschen geben müssen, wenn er einen Computer bedient, dass er Dinge macht und das signiert sozusagen irgendwie, aber ich finde, das ist überhaupt nicht mehr am Schirm, oder?

Weil das war vor zwei Jahren, eineinhalb zwei Jahren einmal, war das ein Diskussionsthema oder?

**Eliot Mannoia:** weiß auch nicht. Ja, und das ist auch nicht. Ich finde das sehr wichtig. Vielleicht nicht für das ganze Internet, weil ich bin eigentlich schon für ein freies Internet. Das ist eine... Eine Erweiterung von der Demokratie und unserer Gesellschaft. Ich finde, das freie Internet ist echt etwas, was wir auch wirklich schützen sollten.

Aber ich finde, Bereiche wo man mit anderen interagiert, also alle Forums Social Media haben wir eh auch schon mal besprochen, was da wirklich an negativen Kommentaren und wirklich Belästigungen und Cyberbullying und Mobbing Was da passiert, weil Leute hinter dem Keyboard sich verstecken können, das sollte wirklich nicht sein.

Also ich glaube, wir brauchen Accountability oder wie sagt man, wir brauchen eine

**Manuela Machner:** Und Vertrauensbildung. Oder unsere Kennzeichnungspflicht eigentlich. Oder? Also dass man sagt, drück, nachvollziehen, wer das war.

**Eliot Mannoia:** Genau und ich finde nicht überall, also wie gesagt, wenn du auf Amazon einkaufen gehst glaube ich kann das jeder Fremde sein

**Manuela Machner:** Ja da brauchst du sowieso, weil sonst kannst du nicht zahlen. Also dort hast du es ja sowieso weit nicht

**Eliot Mannoia:** zumindest Wenn man im Internet was konsumiert kann man da mehr privatsphäre bekommen das versteh ich auch oder man kann auch annonym wie auf netflix dass man die kostenlosen Versionen nutzt von spotify und man die e-mail adrese nutzt wie 445060@gmail.com oder was auch immer alles okay, aber ich glaube dort, wo man mit anderen Menschen interagiert, ob das jetzt Blogs Forums, Social Media, ich glaube da sollte man wirklich eine... Ja, nicht nur Login oder auch Verifizierungs Dings

**Manuela Machner:** Naja, in Wirklichkeit Ja, für Junge finde ich überhaupt nicht nur für Junge weil das, was da abgeht und was auch ältere Herren zum Teil da veröffentlichen bei aller Liebe, nicht nur Junge. Also da sehe ich sogar bei Jungen oft viel weniger Handlungsbedarf Da ist es eher an der Konsumation das Problem aus meiner Sicht, als in dem, was sie da publizieren.

Und freies Internet, finde ich ja spannend. Das Geschichte, vielleicht sollten wir mal über das diskutieren und vielleicht auch einen Gast einmal. Einladen zu dem Thema, weil wie frei ist das Internet tatsächlich? Weil das, was du jetzt gerade gesagt hast, in Wirklichkeit, wir reden jetzt davon, dass wir mit echten Klarnamen auftreten wenn wir Content generieren in der Öffentlichkeit oder wenn wir irgendwas publizieren, das ist Klarnamen, also ich heiße Manuela Machner halt in den Profilen, aber In Wirklichkeit bin ich ja sowieso transparent, also egal in welcher Art und Weise.

Ich muss schon sehr viel als normaler Nutzer, müsste ich schon relativ viele Einstellungen machen, dass ich halt über VPN reingehe oder dass ich den Inkognito-Mode nehme und solche Geschichten, damit ich nicht nachvollziehbar bin und KI-Systeme oder... Dass Firmen nicht ihr geschäftliches Interesse an mir haben, also dieses freie Internet, ganz ehrlich, aus meiner Sicht bin ich so gläsern wie irgendwas.

**Eliot Mannoia:** verschiedene Sachen. Ich glaube, wenn man illegale Sachen macht online, da hast du recht, dann braucht man VPNs und diese ganzen Tricks die man in den Filmen sieht, so.

**Manuela Machner:** Nein, das meine ich gar nicht, sondern wenn ich nicht will, dass Amazon mein Verhalten kennt, wenn ich nicht will, dass YouTube mich sozusagen scannt, wenn ich nicht will, dass mir Dinge angeboten werden als Konsument. Ich rede gar nicht davon, dass ich illegale Dinge machen will, sondern ich will nicht transparent sein.

**Eliot Mannoia:** Ja, okay,

**Manuela Machner:** Ja, ist es.

**Eliot Mannoia:** kann man transparent sein. Ich habe eher von der Moderation geredet also ich habe eher gemeint so... Ich

**Manuela Machner:** mir klar, ja.

**Eliot Mannoia:** vpn wenn ich nichts illegales macht kann ich online weiß nicht tom dick und jerry heißen oder wie auch immer und kann dann negative leute also negativ und control dieses ganze trolling und so machen das kann man an und so gesagt anonym machen natürlich wenn es strafbar wird ist das nachvollziehbar welche vpn meine ip-adresse und so weiter also ich glaube Da ist es schon noch ein bisschen der wilde Westen dass man wirklich überall was schreiben kann und mitreden kann oder negativ.

**Manuela Machner:** Na, definitiv Also diese Klarnamenpflicht, dass ich klar definieren muss, wenn ich etwas veröffentliche wer ich bin. Auf der anderen Seite muss man schon auch sagen, es ist ja auch da wieder zwei Seiten. Ich bin grundsätzlich dafür, weil es einfach missbraucht wird, diese Freiheit, die wir haben, uns Mickey Mouse nennen zu können.

Aber… Die Geschichte ist halt die Meinungsäußerung und manchmal ist es ja auch so, dass man vielleicht eine Meinung äußern möchte, die man, wo man aus strategischen, politischen Gründen Persönlichen Hintergründen seine Meinung nicht öffentlich sagen möchte. Und da muss man sagen, oder politischen Hintergründen oder gesellschaftspolitischen Hintergründen.

Und da ist es schon noch eine momentan eine Freiheit, auch im positiven Sinn, dass ich etwas sagen kann, wo ich vielleicht in meinem früheren Job als Geschäftsführerin hätte gewisse Dinge einfach öffentlich nie gesagt, obwohl ich der Meinung dazu bin. Weil es mir einfach beruflich geschadet hätte. Das heißt jetzt nicht, dass es Angriff gegen Personen geht, sondern dass du gewisse Meinungen vorsichtig öffentlich deklarierst.

Und das ist natürlich schon auch eine gewisse Form der Freiheit. Und das Problem ist, wir können diese Freiheit aber uns nicht nehmen aus meiner Sicht. Ich bin selber für die Einschränkung dieser Freiheit, weil es so viele Menschen gibt, die diese Freiheit missbrauchen.

**Eliot Mannoia:** Ja,

**Manuela Machner:** es einfach so missbrauchen, dass das sagen musste, schade so vielen Menschen, dass ich lieber auf meine Freiheit verzichte so sagen zu können, der Meinung bin ich nicht, als dass ich zulasse, dass Menschen einfach so bösartig und so unter jeder Kritik ihre Meinung so veröffentlichen.

**Eliot Mannoia:** Die

**Manuela Machner:** Ja also wir haben schon öfters privat diskutiert.

**Eliot Mannoia:** Das ist noch immer bei mir leider eingebrannt. Aber um es wieder zurückzubringen auch zum Thema Und das schlagt die Brücke ziemlich gut, was man äußern möchte. Ich habe jetzt auch gehört, da gab es einen Bericht auch von Quartz, das ist so ein Newsletter, Nachrichten.

Da haben sie auch mit Co-Pilot-Teams und so recherchiert. Und weil alles transkribiert oft wird, wenn man es zulässt dann wird es manchmal ein bisschen aus dem Kontext gezogen. Und in dieser Studie war so dieser ganze Smalltalk, wo ich zum Beispiel am Anfang von unserem Meeting sage, ach du, Manuela, ich habe jetzt nicht so gut geschlafen oder ich bin ein bisschen müde.

Dann wurde in den Transkriptionsgeschrieben so, Eliot ist überfordert oder so. Und da haben sie auch gefunden, dass die Leute jetzt auch vielleicht weniger Smalltalk machen manchmal oder mehr aufpassen, was sie sagen. Dieses Panopticon-Phänomen, wo man, wenn man das Gefühl hat, man wird beobachtet sich auch anpasst.

Und wenn wir mehr KI um sich herum haben mit einer, weißt du, du hast auch die Brille oder mit Zuhören und mit Transkribieren und Aufnehmen dass das auch ein bisschen spannend sein wird, wer bin ich eigentlich, wo höre ich auf, wo fange ich an, also auch spannende Entwicklung

**Manuela Machner:** Ja. Ja, das glaube ich definitiv auch. wie viel ist dann tatsächlich noch von mir, wir diskutieren immer auf der rechtlichen Ebene von Urheber und solche Geschichten, aber wenn man sich jetzt trennt von der rechtlichen Situation, Urheber zu sein, heißt ja auch, ich fühle mich für irgendwas verantwortlich oder ich habe irgendwas erschaffen oder ich habe irgendwas gemacht und darauf bin ich vielleicht stolz und da habe ich was erreicht damit.

Ja, das ist Das verändert sich ja auch. Ich weiß nicht, wie es dir geht, aber mir ist immer total wichtig, obwohl ich so viel mit KI mache, ich habe immer noch das Gefühl, ich könnte niemals, ich habe jetzt gerade ein Projekt abgeschlossen, wo ich eine Konzeptionierung gemacht habe, relativ umfangreich für den Betrieb.

Ich habe so das Gefühl, ich könnte niemals die KI allein diese Konzeptionierung machen lassen. Wahrscheinlich könnte sie das auch mindestens so gut als mit mir. Nein, nicht wirklich, aber natürlich wirklich, wenn sie richtig instruiert ist. Und ich könnte niemals dem Kunden das abgeben als mein Konzept für ihn.

Wenn ich nicht federführend selber aktiv da drinnen gewesen wäre. Das ist ja ganz spannend und ich habe immer das Gefühl, ich muss beweisen, dass ich das eh selber mit der KI, das weiß natürlich mein Kunde wenn ich KI-Consulting mache, aber Dass eh ich das gemacht habe und nicht nur der KI, weil ich eine gute KI habe, die er nicht hat, das eh alles allein gemacht hat.

Also es ist doch auch hier die Notwendigkeit, ich muss beweisen, dass ich die Leistung gemacht habe oder zumindest in Kooperation die Federführende war, weil sonst hätte ich ein Problem damit eine Rechnung zu stellen.

**Eliot Mannoia:** Ja absolut. Geht mir genauso. Also wenn man KI nutzt Muss man halt, ich bin sicher auch in vielem Marketing, wo viele Texten wo momentan sind die Sprachmodelle halt sehr sprachfokussiert. Ich glaube, Ideen oder Strategien hat man vielleicht weniger das Gefühl, weil das ist eher ein Austausch und man bekommt vielleicht tolle Ideen, aber man muss sich selber dann auch irgendwie präsentieren, ob das schriftlich oder verbal ist. Aber wenn man Texte bekommt oder Bilder vielleicht, dann ist auch schon sehr

**Manuela Machner:** viel schon.

**Eliot Mannoia:** Da vielleicht.

**Manuela Machner:** Dann ist halt schon die Gefahr, wie sieht die andere Seite das? Warum muss ich denn überhaupt beweisen, dass ich das geschrieben habe? Wenn der Kunde sagt, du mir ist das ja völlig blunzen, wenigstens ich habe hier ein perfektes Konzept, oder sagt der Kunde, naja, sei mir nicht böse, ich zahle aber nicht für etwas, was eine Maschine rausgeschmissen hat, was ich auch gekriegt hätte.

Wenn du es als Kunde gewusst hättest, dass du das so machen kannst, dann hättest du mich eh nicht gebraucht. Das muss man jetzt auch sagen. Und ich glaube, da ist es schon spannend. Aber vom Gefühl her hat der Kunde vielleicht das Gefühl, das kann eh jeder.

**Eliot Mannoia:** Der Mehrwert kann dann wirklich geliefert werden in dieser Schnittstelle zwischen »Ich habe es bekommen« Und ich liefere es, weil wie du es verpackst wie du es präsentierst mit welchen Rahmenbedingungen, das ist die Empfehlung wenn das und das und das passiert und auch Fragen beantworten kannst. Also wenn der Kunde dann sagt, ja okay, tolle Strategie, was ist, wenn das oder das oder das.

Und wenn man dann es... Weiter gut argumentieren kann und ausweichen oder zumindest ergänzen kann, dann sieht der Kunde, okay, du hast etwas, was vielleicht von der Maschine kam oder nicht, aber deine Expertise ist so gesagt das Gütesiegel drauf, dass du als Tourismus-KI-Expertin in deinem Fall oder wie auch immer bei mir psychologisch sagst Ich vertraue, dass diese Richtung auch wirklich deine Empfehlung ist.

Also ich glaube, das ist schon noch, ich glaube, wenn man dann im Meeting sitzt und man kann keine Frage beantworten sagt, naja, das steht halt so, ist es auch wenn es die perfekte Strategie ist, also auch wenn die KI in drei Jahren das perfekt ausspuckt ohne Fehler, Wenn man es selber dann nicht irgendwie mitdiskutieren kann oder plötzlich kommt, und das hast du ja auch vorher erzählt, du hast ein Workshop gemacht, wo dann plötzlich vieles anders kam als geplant,

**Manuela Machner:** Dann muss man.

**Eliot Mannoia:** Halt wirklich agil plötzlich sich auch irgendwie anpassen.

Ah ja, die Strategie ist plötzlich für Holland oder den Niederlanden und nicht Deutschland. Aha, okay, dann muss man ein bisschen anders denken.

**Manuela Machner:** Reagieren? Ja, vor allem eines muss man auch sagen, ich glaube zumindest momentan sind wir schon in der Situation, dass das, was die KI auswirft trotzdem Theorie ist. Einfach deswegen, weil die Daten, auch wenn es Use Cases gibt im Netz, sehr oft wird mehr von den funktionierenden Systemen gesprochen und weniger die Fails.

Also ich glaube, dass wir die Problematik haben, dass die Trainingsdaten der Systeme sich Sehr stark basierend sind auf den Dingen, die oft funktionieren. Und viel weniger dokumentiert ist auch Dinge, die in der Realität gar nicht funktionieren. Und es gefällt mir auch so gut, wenn irgendwelche journalistischen Artikeln sind, die sind dann über die Erfolge von irgendwelchen Projekten Aber wenn man ein Projekt ausprobiert hat und es hat nicht funktioniert, dann habe ich das nie irgendwo dokumentiert.

Also das habe ich ja selber auch gemacht. Also wenn ich eine Marketingaktivität gemacht habe, Die eigentlich lieb war, Geld kostet und am Ende sind deswegen nicht mehr Gäste gekommen, habe ich daraus gelernt selbst, habe aber nie eine Veröffentlichung dieses Fails gemacht. Und das heißt, die KI-Systeme fehlt natürlich dieser Input.

Oder diese Sichtweise. Sie haben, vielleicht habe ich publiziert im Vorfeld, ja wir machen eine super Marketingaktion in dem Zielmarkt und, und und. Aber das Ergebnis wurde nie dokumentiert.

**Eliot Mannoia:** Ja

**Manuela Machner:** es war sehr erfolgreich. Und dadurch kann das KI-System durchaus hergehen und jemandem anderen aufgrund dieser ganzen Dinge, die publiziert werden, dass sie gemacht werden, diese Dinge empfehlen.

Aber der Real... Der real zugang fehlt oder das ergebnis fehlt und ich glaube das ist nur der große unterschied

**Eliot Mannoia:** Keine

**Manuela Machner:** Das liegt aber nicht an der KI, das liegt einfach an unseren Trainingsdaten. Und so kann ich schon noch beweisen, dass ich als Mensch erstens einen Stellenwert habe und zweitens ich da mitgedacht habe. Das merke ich schon auch bei der Konzepterstellung sehr stark. Weil wenn die KI mir dann irgendwelche Dinge vorschlägt wo ich sage, ja, in der Theorie super Idee.

Aber ich weiß genau, wobei du musst dir auch aufpassen, wenn man alt wird, das weißt du noch nicht, wie das ist, aber wenn man älter wird, neigt man ja ein bisschen dazu. Ich habe das immer gehasst bei den Älteren ich sage es euch. Ich habe das immer gehasst wenn ich als Junge gekommen bin mit einer Idee und die Alten haben mir gesagt, Das haben wir schon probiert.

Das funktioniert nicht. Und ich habe mir gedacht, das kann ja nicht sein. Die Zeit ist anders und es ist ein anderer Setting und was weiß ich. Und jetzt muss ich aufpassen, dass ich das nicht auch sage und sage, das haben wir schon probiert, ich weiß nicht, dass das nicht geht. Und wer weiß, vielleicht geht es nicht

**Eliot Mannoia:** Du bist super kurios

**Manuela Machner:** Ja und aber.

Aber man muss dann bewusst sich selber zurücknehmen und auch das zulassen und sagen, ja, genau, ein gewisser Dings. Aber das glaube ich schon, dass man da beweisen muss, dass man eben noch Mensch ist, den Systemen gegenüber und das auch beweisen kann dadurch.

**Eliot Mannoia:** Ja, das

**Manuela Machner:** Ja.

**Eliot Mannoia:** uns wieder interessieren auch bei euch, was eure Erfahrungen sind. Also bitte schreibt uns in den Kommentaren, ob ihr schon das Gefühl habt, manchmal so um, da wäre jetzt vielleicht ein Fehler nicht schlecht, dass es nicht zu perfekt ist oder wie fühlt ihr

**Manuela Machner:** Oder habt ihr schon die Situation gehabt, Mich würde auch interessieren, ob irgendjemand schon diese Situation gehabt hat, dass er sich dann nicht sicher war, ob er jetzt mit einer KI kommuniziert hat oder nicht einer KI kommuniziert hat und wie das Gefühl auch ist, diese Unsicherheit, dieses Gefühl, ja was ist jetzt eigentlich?

Wie rede ich mit KI zum Beispiel Das interessiert mich, weil viele in meinen Trainings sind immer total überrascht, weil ich rede, wie mein Schnabel gewachsen ist mit der KI, ganz bewusst in Steirisch dann und da sind alle immer so geflasht wenn ich sage, bitte schreib den Schleich-D und die sagen dann, du kannst das der KI so sagen.

Weil das ist auch sowas dieses Lernen, dass man natürliche Sprache verwenden kann.

**Eliot Mannoia:** Ja, ich weiß. In vielen Workshops ist es mittlerweile noch, ich frage oft, wie viele Leute ChatGPT Voice oder Voice Gemini

**Manuela Machner:** Ja,

**Eliot Mannoia:** Es sind fast bis jetzt zwischen 1 und 3 Personen von

**Manuela Machner:** bei mir auch.

**Eliot Mannoia:** 20, die eigentlich das reden.

**Manuela Machner:** Und wenn, dann diktieren sie. Also wenn, dann am 1. diktieren, das machen mehr. Aber zurückreden lassen, das ist noch für viele suspekt. gut, also wir sehen uns das nächste Mal. Also wie gesagt, wir sind jetzt noch echt. Mal schauen, vielleicht schicken wir das nächste Mal unsere Avatare her,

**Eliot Mannoia:** Dann

**Manuela Machner:** die dann für Stimmung sorgen.

**Eliot Mannoia:** ohne bemerkbaren Unterschied.

**Manuela Machner:** Ganz genau. Also täuscht euch nicht und sagt, das kann nicht sein, weil das erkenne ich. Also ganz ehrlich, ihr erkennt das nicht. Wenn ihr uns nicht gut kennt, erkennt ihr das nicht.

**Eliot Mannoia:** es gut. Bis nächsten Mal.

**Manuela Machner:** Tschüss macht's gut.