Mensch oder Maschine - Warum wir bald beweisen müssen, dass wir echt sind

[00:00:00] Manuela: Hi, willkommen zur aktuellen Folge von Mind and Machine und gleich vorab: Ich bin ein Mensch, mich gibt's echt, ja. Und das wird heute auch unser Thema sein. Ich bin Manuela Machner, KI-Konsultant im Bereich Tourismus und freue mich, dass wir heute über das Thema diskutieren: Wie schaffen wir es noch zu beweisen, dass wir echt san? [00:00:21] Eliot: Hi, ich bin der Eliot Mannoia, digitaler Psychologe, freut mich heute hier zu sein. Und ich bin ein digitaler Avatar. Nein, also glaub nicht... nein, auch in Person heute hier bei euch, also virtuell in echt. [00:00:43] Manuela: Ja, virtuell in echt, ja. Was ist denn überhaupt echt? Sind wir jetzt echt? Ja, sind wir echt, wenn wir da uns in Wirklichkeit gar nicht sehen und da über den Äther transferiert werden? Also unsere Urgroßeltern... du bist in Wien, ich bin in der Steiermark. Bist du wirklich in der Steiermark? [00:01:01] Manuela: Ausnahmsweise, ja wirklich. Aber im Prinzip ist ja wurscht, wo man sitzen, das muss man jetzt auch sagen. Na, wie wir jetzt eigentlich auf das Thema gekommen... das Lustige ist ja, wie man da oft konfrontiert sind damit, dass wir ja KI – ob das jetzt gesprochene KI-Systeme sind, die mit uns reden, E-Mails oder sonst die automatisch antworten, Chatbots auf Webseiten, die man haben – es gibt immer mehr Anknüpfungspunkte, wo wir in Wirklichkeit mit Systemen sprechen und Systeme auch ja schon eigenständig im Internet unterwegs sind und Dinge erledigen und andere Systeme wieder überprüfen wollen, ob das ein Mensch ist oder ein System ist. Wir haben hier jetzt momentan wirklich so eine Phase, wo wir irgendwie noch beweisen müssen, dass wir echt sind oder dass wir wirklich das selber gemacht haben. Ich weiß nicht, müsst ihr draußen tatsächlich beweisen, dass das, was ihr macht, wirklich von euch kommt und dass das nicht die KI gemacht hat oder so? Musst du das beweisen, Eliot, oder hast du das schon mal beweisen müssen? [00:02:10] Eliot: Ich habe es schon oft beweisen müssen, aber nicht im beruflichen Kontext, sondern wenn ich auf Webseiten unterwegs bin und es plötzlich steht: "Are you human?". Und ich so: Ja. Und dann: Wie viele rote... weiß nicht, Autos siehst du in diesem oder wie viele Ampeln siehst du? Und ich so... und dann habe ich es nicht geschafft manchmal, weil ich vielleicht eins ausgelassen habe. Gedacht: Oh Gott, bin ich jetzt doch kein Mensch? Gott, habe ich es doch geschafft zu beweisen und habe es bis jetzt immer geschafft auf die Webseiten, die ich hin wollte, zu gehen, weil ich doch beweisen konnte, dass ich Mensch bin. Aber ja, im Beruflichen natürlich, ich nutze KI sehr viel, besonders für Übersetzungen. Ja, du weißt, dass mein Deutsch wirklich, obwohl es sich anhört wie Goethe, ist doch nicht meine Muttersprache. Und deswegen übersetze ich und da denke ich mir schon so manchmal... [00:03:04] Manuela: Finger wie Goethe, ja? [00:03:07] Eliot: So ganz Goethe noch nicht, aber ja. Da bekomme ich schon oft die Gedanken: Was denken meine Kunden? Wissen die, dass ich jetzt vielleicht nicht so gut Deutsch kann? Aber ja, deswegen, es spielt schon sehr viel mit der Psychologie. Und ich denke mir auch manchmal, es gibt dieses Imposter-Syndrom. Ich weiß nicht, wie das in Deutsch heißt. [00:03:26] Manuela: Imposter... es gibt kein deutsches Wort dafür. Also ich kenn es nur unter Imposter. [00:03:29] Eliot: Ja, ich weiß, wovon du redest. Also Imposter-Syndrom, ja, das ist jetzt schon da bei vielen. Und ich muss gestehen, bei mir auch oft noch. Und wie wird das mit der KI dann noch mehr, ne? Wenn die KI 30 %, 40 %, 50 % macht – was macht das mit unserem Sinn für Ich und Sinn für Gestalten? Also wie erlebst du das? [00:03:51] Manuela: Ja, also das Imposter-Syndrom ist eigentlich dieses – wenn ich es richtig jetzt zuordne – das Hochstapler-Syndrom. Wenn ich das so sagen darf, dass man das Gefühl hat: Habe ich selber das ja nicht so ganz gemacht? Und tu ich da übertreiben oder tu ich hochstapeln, dass ich besser bin oder besser kann? Und ja, also ich glaube jeder, der sich mit KI beschäftigt hat zumindestens in den letzten zwei Jahren, hört halt immer den Spruch: "Bist du nur echt oder ist das schon die KI?". Und ja, na ja, ich bin echt. Wobei, bei mir ist es ja wirklich so, dass wenn ihr anruft, bei meiner KI landet, wenn ihr mich nicht erreicht. Da eine kleine Anekdote schon erzählen müssen: Also letzte Woche, ich habe gedacht, ich bin im falschen Film. Ich habe auf LinkedIn gepostet, dass man mit meiner KI telefonieren kann, wenn ich nicht erreichbar bin. Und dann unter der Woche habe ich sogar gesagt: In dem Zeitfenster könnt's gern mit meiner KI mal telefonieren. Hat keiner gemacht, ja? Am Samstag, ich beim Einkaufen, Telefon geht, ich hebe ab und jemand spricht ins Telefon und sagt nur: "Was heißt auf Deutsch..." und irgendein lateinischer Satz. Ja, ich habe zwar Latein gelernt, aber ganz ehrlich, mitten im Hofer am Samstag um 10:30 Uhr waren meine Lateinkenntnisse jetzt nicht so abrufbar. Abgesehen davon muss ich ja sagen: Wenn einfach jemand zu mir sagt "Was heißt das auf Deutsch?", statt "Hallo", "Servus", "Grüß dich" oder irgendwas zu sagen, war ich leicht überfordert, also damit einzuordnen: Hä? [00:05:32] Eliot: Aber hast du gedacht, du bist in einer Quizshow? So auf Radio oder so? [00:05:41] Manuela: Na, so was genau. Irgendwas so im Hintergrund läuft... na, und jedenfalls ich habe aber dann, muss ich echt sagen, ich hatte nur in einem Bruchteil einer Sekunde habe ich dann gedacht: Ah, der glaubt, der red't mit meiner KI. Und habe dann gleich geantwortet und habe halt gesagt: Tut mir leid, ich kann das nicht übersetzen, bin nicht die KI, bin die echte Manuela. [00:05:59] Eliot: Aber das musst du vielleicht kurz erklären für die Zuhörer, die vielleicht nicht checken: Was meinst du, du hast eine KI? Vielleicht erklär das kurz. [00:06:06] Manuela: Also ich habe, wenn ich nicht abhebe, hebt eine Telefonstimme ab. Das ist eine KI-Telefonstimme, die normal sprechen kann mit euch. Das heißt, die ist instruiert über... also sie hat Informationen von mir, sie weiß natürlich über KI gewisse Dinge und man kann sie dann fragen: Was für Seminare kann ich bei der Manuela machen? Oder solche Geschichten. Oder kannst du ihr was ausrichten? Und ich bekomme im Nachgang dann eine E-Mail, wenn ich nicht erreichbar bin, in der protokolliert ist, was der Kunde wollte oder der Kontakt von mir wollte. Meine KI ist aber auch so ausgerichtet, dass sie Dinge nicht erledigt, die nichts mit mir zu tun haben. Also du kannst mit ihr... also meine Nachbarin, die Milch bei mir bestellt, dass ich sie miteinkaufe, die struggelt ein bisschen mit meiner KI, weil sie der KI sagt, sie soll 3 Liter Milch mitbringen. Und meine KI sagt zu ihr: Das tue ich nicht, das ist nicht meine primäre Aufgabe. Und seitdem ist meine Nachbarin auf meine KI ein bisserl eingeschnappt. Jetzt ruft sie meinen Mann an. Und ja, es gibt Schlimmeres für mich, jetzt sage ich. Aber ja, jedenfalls war zum Telefonat zurück... und ich sag: "Das bin aber ich". Und er sagt: "Ah, nette KI". Und ich sag: "Nein, aber sie können gerne nachher nochmal anrufen und ich hebe nicht ab". Aber darf ich fragen, wer sie sind oder wie sie heißen? "Nein, das tut nichts zur Sache", aufgelegt. Ja, also war ein bisschen sehr speziell der Anruf, sage ich jetzt da mal. [00:21:27] Eliot: Aber das sind zwei verschiedene... ich würde sagen, das sind zwei verschiedene Sachen. Ich glaube, wenn man illegale Sachen macht online, da hast du recht, dann braucht man VPNs und diese ganzen Tricks, die man in den Filmen sieht. [00:21:37] Manuela: Na, nicht... das meine ich gar nicht, sondern wenn ich nicht will, dass Amazon mein Verhalten kennt. Wenn ich nicht will, dass YouTube mich scannt. Wenn ich nicht will, dass mir Dinge angeboten werden als Konsument. Ich rede gar nicht davon, dass ich illegale Dinge machen will, sondern ich will nicht transparent sein. [00:21:58] Eliot: Okay, da hast du recht, da kann man... ich habe eher von der Moderation geredet. Also ich habe eher gemeint so: Ich kann ohne VPN, wenn ich nichts Illegales mache, online weiß nicht Tom, Dick und Jerry heißen oder wie auch immer und kann negative Leute... also negativ und kann trollen. Dieses ganze Trolling und so machen. Und das kann man so gesagt anonym machen. Natürlich, wenn es strafbar wird, ist das nachvollziehbar auf meine IP-Adresse und so weiter. Also ich glaube, da ist es schon noch ein bisserl der Wilde Westen, dass man wirklich überall was schreiben kann und mitreden kann oder negativ oder genau. [00:22:43] Manuela: Na, definitiv. Also diese Klarnamenpflicht, dass ich jetzt klar definieren muss, wenn ich was veröffentliche, wer ich bin. Auf der anderen Seite muss man schon sagen, es sind ja da wieder zwei Seiten. Ich bin grundsätzlich dafür, weil es einfach missbraucht wird, diese Freiheit, die wir haben, uns Micky Maus nennen zu können. Aber die Geschichte ist halt die Meinungsäußerung. Und manchmal ist es ja auch so, dass man vielleicht eine Meinung äußern möchte, wo man aus strategischen, politischen, persönlichen Hintergründen seine Meinung nicht öffentlich sagen möchte. Und da muss man sagen... gesellschaftspolitischen Hintergründen. Und da ist es schon noch momentan eine Freiheit auch im positiven Sinn, dass ich etwas sagen kann, wo ich vielleicht in meinem früheren Job als Geschäftsführerin gewisse Dinge einfach öffentlich nie gesagt hätte, obwohl ich der Meinung dazu bin, weil es mir einfach beruflich geschadet hätte. [00:26:03] Manuela: Ja, also das glaube ich definitiv auch. Wirkt dann tatsächlich noch von mir so dieses: Wir diskutieren immer auf der rechtlichen Ebene von Urheber und Geschichten. Aber wenn man es jetzt trennt von der rechtlichen Situation: Urheber zu sein heißt ja auch: Ich fühle mich für irgendwas verantwortlich oder ich habe irgendwas erschaffen oder ich habe irgendwas gemacht. Und darauf bin ich vielleicht stolz und da habe ich was erreicht damit. Und das verändert sich ja auch. Also weiß nicht, wie es dir geht, aber mir ist immer total wichtig, obwohl ich so viel mit KI mach... ich habe immer nur das Gefühl, ich könnte niemals die KI allein diese Konzeptionierung machen lassen. Und ich könnte niemals dem Kunden das abgeben als mein Konzept für ihn, wenn ich nicht federführend selber aktiv da drinnen gewesen wäre. [00:27:45] Eliot: Ja, ja absolut, geht mir genauso. Also wenn man KI nutzt, muss man halt... ich bin sicher auch in vielen Marketing... also wo viel Texten... momentan sind die Sprachmodelle halt sehr sprachfokussiert. Ich glaube Ideen oder Strategien hat man vielleicht weniger das Gefühl, weil das ist eher ein Austausch und man bekommt vielleicht tolle Ideen, aber man muss sich selber dann noch irgendwie präsentieren, ob das schriftlich oder verbal ist. [00:28:23] Manuela: Möglich ist es, ja. Und dann ist halt die Gefahr: Wie sieht die andere Seite das? Warum muss ich überhaupt beweisen, dass ich das geschrieben habe? Es kann... wenn der Kunde sagt: "Du, mir ist es ja völlig flunzen, Hauptsache ich habe hier ein perfektes Konzept", oder sagt der Kunde: "Na ja, sei mir nicht bös, ich zahl aber nicht für etwas, was eine Maschine rausgeschmissen hat". [00:29:00] Eliot: Und ich glaube, der Mehrwert kann dann wirklich geliefert werden in dieser Schnittstelle zwischen: Ich habe es bekommen und ich liefere es. Weil wie du es verpackst, wie du es präsentierst, mit welchen Rahmenbedingungen du sagst: Das ist die Empfehlung, wenn das und das und das passiert, und auch Fragen beantworten kannst. Also wenn der Kunde dann sagt: "Ja okay, tolle Strategie, was ist wenn das oder das oder das?". Und wenn man dann weiter gut argumentieren kann und auch ausweichen oder zumindest ergänzen kann, dann sieht der Kunde: Okay, du hast etwas, was vielleicht von der Maschine kam oder nicht, aber deine Expertise ist so gesagt das Gütesiegel drauf. [00:30:54] Manuela: Vor allem muss man auch sagen, ich glaub zumindestens momentan sind wir schon in der Situation, dass das, was die KI auswirft, trotzdem Theorie ist. Einfach deswegen, weil die Daten... auch wenn es Use Cases gibt im Netz, sehr oft wird mehr von den funktionierenden Systemen gesprochen und weniger die Fails. Also ich glaube, dass wir die Problematik haben, dass die Trainingsdaten der Systeme sehr stark basierend sind auf den Dingen, die oft funktionieren. Und viel weniger dokumentiert sind auch Dinge, die in der Realität gar nicht funktionieren. [00:33:33] Eliot: Ja, du bist aber einer der offensten Menschen, die ich kenne. Du bist super kurios, neugierig, offen. [00:33:41] Manuela: Aber man muss dann bewusst sich selber zurücknehmen und auch das zulassen und sagen... [00:33:48] Eliot: Emotional Intelligence, ja genau. Gewisse Dinge. Aber das glaube ich schon, dass man da beweisen muss, dass man ein Mensch ist den Systemen gegenüber und das auch beweisen kann dadurch. [00:34:08] Manuela: Das würde uns wieder interessieren, auch bei euch: Was eure Erfahrungen sind. Also bitte schreibt uns in den Kommentaren, ob ihr schon das Gefühl habt manchmal: "Da wäre jetzt vielleicht ein Fehler nicht schlecht, dass es nicht zu perfekt ist", oder wie fühlt ihr euch dabei? Habt ihr schon die Situation gehabt... mich würde interessieren, ob irgendjemand schon diese Situation gehabt hat, dass er sich dann nicht sicher war, ob er jetzt mit einer KI kommuniziert hat oder nicht mit einer KI kommuniziert hat. [00:35:16] Eliot: Ja, ich weiß, in vielen Workshops ist es mittlerweile noch... ich frage oft: Wie viele Leute ChatGPT Voice oder Gemini Voice nutzen? Es sind fast bis jetzt zwischen eins und drei Personen von zwanzig, die eigentlich das reden. Also schon... und wenn, dann diktieren sie. [00:35:51] Manuela: Na gut, also wir sehen uns das nächste Mal. Wie gesagt, wir sind jetzt noch echt. Mal schauen, vielleicht schicken wir das nächste Mal unsere Avatare her. Dann reden wir vielleicht genauso wie jetzt. [00:35:58] Eliot: Mmh, ohne bemerkbaren Unterschied. [00:36:03] Manuela: Ganz genau. Also täuscht euch nicht und sagt nicht: "Das kann nicht sein, weil das erkenne ich". Also ganz ehrlich: Ihr erkennt das nicht. Wenn ihr uns nicht gut kennt, erkennt ihr das nicht. Macht's gut, bis zum nächsten Mal! [00:36:18] Eliot: Tschüss, macht es gut!