Manuela Machner hat mit HeyGen ein Video auf Chinesisch erstellt, das sie nie gesagt hat. Kostenlos, mit der Vorderkamera, unterbeleuchtet. Eine Freundin bestätigte: perfektes Chinesisch, Lippen synchron. Wenn das Consumer Grade ist, was kommt dann noch?
Weil Betrugsmaschen mit geklonten Kinderstimmen real sind. Betrüger rufen an, imitieren die Stimme von Kindern und bitten um Geldüberweisungen. Manuela Machner hat zu Weihnachten mit ihrer Familie ein Passwort ausgemacht: Wer anruft und etwas außer der Norm braucht, muss das Passwort nennen. Das klingt übertrieben, aber die Fälle gibt es.
Manuela Machner
Manuela Machner hat mit der Vorderkamera ihres Handys, unterbeleuchtet, ein Video auf HeyGen aufgenommen. Das Ergebnis: Sie spricht perfektes Chinesisch, Lippen synchron. Eine chinesischsprachige Freundin konnte keinen Unterschied erkennen. Das war kostenlos, Consumer Grade. Eliot Mannoia: "Für alle, die glauben, sie würden es merken: Nein, ihr merkt es nicht."
Manuela Machner
Früher konnte man KI-Bilder an falschen Händen erkennen, sechs oder vier Finger, das sogenannte Uncanny Valley. Inzwischen haben die guten Programme damit keine Probleme mehr. Auch Falten, Unebenheiten im Gesicht und Lippensynchronität sind kein verlässliches Erkennungsmerkmal mehr. Was bleibt: kritisches Denken und gesunde Skepsis.
Eliot Mannoia
Ein pakistanischer Politiker saß im Gefängnis und konnte seine Wahlkampfrede nicht halten. Er hat den Text geschrieben, und ein KI-Klon hat die Rede in seiner Stimme gehalten. Dazu kommen 60.000 Bots auf Twitter, die Fake News verbreitet haben. Wer einmal in einem Echo Chamber ist, hört nur noch das, was er schon geliked hat.
Eliot Mannoia
"The AI Dilemma" ist eine kostenlose YouTube-Doku vom Center for Humane Technology, den Machern von "The Social Dilemma" auf Netflix. Sie sagen: 2023 war das letzte Jahr für Content Authentication. Man konnte noch durch Video oder Stimme bestätigen, wer jemand ist. Weil man jetzt Stimmen klonen und Gesichter verändern kann, ist diese Möglichkeit vorbei.
Eliot Mannoia
**Manuela Machner:** Hallo und herzlich willkommen bei unserer neuen Podcast-Folge. Ich bin Manuela Machner, Coach für KI und Tourismus, habe das Unternehmen KiNET AI gegründet und beschäftige mich fast rund um die Uhr mit dem Thema Künstliche Intelligenz und wie sie uns helfen kann.
**Eliot Mannoia:** Hi, ich bin Eliot, digitaler Psychologe. Ich folge mit Leidenschaft, wie emotionale Intelligenz, Psychologie, Technologie und KI unser Verhalten beeinflussen. Heute schauen wir uns Deepfakes an. Ein wichtiges Thema, denn dieses Jahr haben wir über vierzig Wahlen weltweit.
**Manuela Machner:** Meine ersten Gedanken: Wir sind alle manipulierbar und alles kann fake sein. Das Vertrauen in das, was man sieht oder hört, ist erschüttert. Ich bin misstrauischer geworden. Und gerade im Tourismus ist das ein heikles Thema. Mit Bildgenerierung kann man alles verändern. Aber wir wollen nichts verkaufen, was der Gast vor Ort nicht erleben kann.
**Eliot Mannoia:** Es gibt eine sehr gute Doku auf YouTube, kostenlos: "The AI Dilemma" vom Center for Humane Technology. Das sind die Leute, die auf Netflix "The Social Dilemma" gemacht haben. Sie sagen: 2023 war das letzte Jahr für Content Authentication. Man konnte noch durch Video oder Stimme bestätigen, wer jemand ist. Weil man jetzt Stimmen klonen und Gesichter verändern kann, ist das vorbei.
**Manuela Machner:** Wir haben zu Weihnachten alle Kinder und Schwiegerkinder zusammengerufen, Handys raus aus dem Raum, und haben ein Familienpasswort ausgemacht. Wenn jemand anruft und etwas außer der Norm braucht, soll er das Passwort nennen. Das hat für Gelächter gesorgt, aber die Fälle gibt es schon: Kinder rufen an und sagen, das Kreditkartenlimit ist ausgeschöpft, kannst du zweitausend Euro überweisen? Wenn ich die Stimme meiner Kinder höre, würde ich das überweisen.
**Eliot Mannoia:** Es gibt Unternehmen, die Videoanrufe von ihren Chefs hatten. Aber es waren nicht die Chefs. Und in Pakistan: Ein Politiker saß im Gefängnis und konnte seine Rede nicht halten. Er hat den Text geschrieben und ein KI-Klon hat die Rede in seiner Stimme gehalten.
**Manuela Machner:** Bei Tools wie HeyGen oder ElevenLabs musst du dich inzwischen verifizieren, indem du ein Wort aufschreibst und ins Video hältst oder hineinsprichst. Aber ich habe gehört, dass es dafür schon wieder Umgehungsmöglichkeiten gibt. Ich habe selbst mit der Vorderkamera meines Handys, unterbeleuchtet, ein Video auf HeyGen aufgenommen. Es hat dann einen Text gesagt, den ich nie gesagt habe, in Chinesisch. Eine Freundin hat gesagt: perfektes Chinesisch, die Lippen haben sich dazu bewegt. Das war Consumer Grade, kostenlos, nicht Hollywood.
**Eliot Mannoia:** Vor einem Jahr haben wir noch gesagt: Schau auf die Hände, schau auf die Ohrläppchen, dann siehst du, ob es ein KI-Bild ist. Die KI hatte oft sechs oder vier Finger. Das Uncanny Valley. Aber inzwischen haben die guten Programme damit überhaupt keine Probleme mehr.
**Manuela Machner:** Es gibt inzwischen auch KI-Systeme, die dich ausziehen können. Taylor Swift war ein Opfer. Du lädst ein Foto hoch und es kommt nackt zurück. Das geht ins Persönlichkeitsrecht. Für alle da draußen: Wenn ihr jemanden so dargestellt seht, geht nicht davon aus, dass die Person das selbst gemacht hat.
**Eliot Mannoia:** Ich glaube, die Medienhäuser werden eine Renaissance haben. Sie haben viel verloren durch Google und Facebook. Jetzt, wo Deepfakes möglich sind, werden Menschen wieder zu vertrauenswürdigen Quellen gehen. New York Times, zum Beispiel. Man lässt sich von TikTok unterhalten, aber für Informationen geht man zu den Medienhäusern.
**Manuela Machner:** Deswegen sind emotionale Intelligenz und kritisches Denken so wichtig. Wir wissen, dass man Stimmen und Videos klonen kann. Für alle da draußen, die glauben, sie würden es merken: Nein, ihr merkt es nicht. Der Mund bewegt sich so, als würde ich in diesem Moment sprechen.
**Eliot Mannoia:** Sechzigtausend Bots auf Twitter wurden benutzt, um Fake News zu verbreiten. Wenn Leute Sachen liken, landen sie in einem Echo Chamber, einer Bubble, wo sie nur noch das hören, was sie schon geliked haben. Für die Demokratie sehr wichtig.
**Manuela Machner:** Zusammenfassung: Überlegt euch ein Familienpasswort. Hinterfragt alles, was ihr seht und hört. Nicht bei der Wurstsemmel, aber wenn es um Geldüberweisungen oder wichtige Entscheidungen geht. Kritisches Denken. Nächste Folge: Digitale Zwillinge von Menschen.