#131 Cybersecurity im KI-Zeitalter: Was Betriebe jetzt wissen müssen

Manuela Machner: Herzlich willkommen zur neuen Folge von Mind/Machine. Mein Name ist Manuela Machner, ich bin spezialisiert auf KI im Tourismus. Heute reden wir aus aktuellem Anlass der letzten Wochen über das Thema Security: Wird KI sozusagen eine Bedrohung für unser Internet? Was bedeutet das für uns als Betriebe? Und wie können wir uns wappnen, oder was sollten wir zumindest am Schirm haben?

Eliot Mannoia: Mein Name ist Eliot Mannoia, digitaler Psychologe. Das Thema Sicherheit ist natürlich auch bei uns fast täglich ein Thema, auch in unseren Workshops und so weiter. Was waren so deine Gedanken, die dir diese Woche durch den Kopf geschwirrt sind, als du das alles mitbekommen hast?

Manuela Machner: Es war ja zu erwarten. Vielleicht ein bisschen zum Hintergrund für diejenigen, die sich nicht so damit beschäftigen: Wir beide sind keine Security-Leute. Falls wir also irgendetwas zu vereinfacht erklären, dann sei uns das nachgesehen. Aber was ist passiert? Vor Kurzem hat es den großen Aufschrei gegeben, dass es in PHP eine Sicherheitslücke gibt.

Manuela Machner: PHP ist dafür verantwortlich, dass Seiten wie zum Beispiel WordPress oder Teile von WordPress funktionieren. Sicherheitslücken an sich hat es ja immer schon gegeben. Wir reden also nicht davon, dass eine Sicherheitslücke durch KI entstanden ist, sondern sie wurde halt gefunden. Wenn vor ein, zwei Jahren so eine Sicherheitslücke aufgetaucht ist, hat es halt ein Update gegeben. Dann hat man das Update gemacht und gehofft, dass keiner vorher die Sicherheitslücke findet und ausnutzt.

Manuela Machner: Ihr müsst euch das so vorstellen, als hättet ihr irgendwo ein Loch, wo etwas hineinkommen kann, oder als wäre eine Tür in eurem Haus offen. Wenn keiner checkt, dass die Tür offen ist, dann kommt im Normalfall auch keiner rein, außer er probiert jede Tür durch. Warum ist es jetzt so anders? Hacker nutzen solche Sicherheitslücken und solche Updates ganz gern, um über sozusagen Reverse Engineering, also das Entwickeln von hinten herauf, herauszufinden, welche Türen offen sind.

Manuela Machner: Das heißt, sobald das Update veröffentlicht wird, schauen sie sich das Update an und denken: „Aha, wo ist eigentlich diese Sicherheitslücke in diesem System? Ich baue jetzt einen Virus oder irgendetwas, das genau diese offene Tür auf jeder Website, oder wo auch immer das Programm verwendet wird, nutzt, und mache etwas Böses." Das kann alles Mögliche sein. In Wirklichkeit war es bisher immer so: Ein Hacker hat das entwickelt, und das dauert. Wenn du selbst so etwas programmieren möchtest, so einen Hackerangriff, um diese offenen Türen zu finden und auch auszunutzen, hast du einfach eine gewisse Zeit gebraucht. Und das war bisher eigentlich immer genug Zeit, dass man als verantwortlicher ITler das Update eingespielt hat, und das war's.

Manuela Machner: Jetzt hatten wir das Problem mit dieser PHP-Lücke. Es wurde bekannt, dass es ein Sicherheitsupdate gab, gibt oder geben wird, und das wurde auch sehr, sehr geschickt gemacht. Das Sicherheitsupdate wurde nicht gleich, wie soll man sagen, auf die Welt losgelassen, sondern es wurde angekündigt, dass es ausgerollt wird. Warum war das so wichtig? Heute können Hacker mit KI-Systemen innerhalb von Minuten solches Reverse Engineering machen. Das heißt, sie finden sehr, sehr schnell die offenen Türen. Und das passiert ja weltweit, PHP wird weltweit eingesetzt, über alle Zeitzonen und über alle Firmen hinweg. Wenn sie also schneller sind, dann können sie sehr, sehr schnell alle offenen Türen von Firmen finden.

Manuela Machner: Und da sind viele große Konzerne hergegangen und haben gesagt: „Wir nehmen unsere Seiten offline." Die haben also wirklich ihre echten Seiten für eine gewisse Zeit, nämlich von dem Moment, als sie wussten, dass das Update kommt, bis sie das Update auch eingespielt hatten, einfach offline genommen, und man hat viele Seiten kurzzeitig gar nicht erreichen können. Viele hatten auch so Sicherheitsseiten online, die Kunden haben es also zum Teil gar nicht gemerkt. Aber das war natürlich ein Riesenaufschrei, weil das, muss man in Wirklichkeit sagen, sicherheitstechnisch echt eine Herausforderung war.

Eliot Mannoia: Allein die Geschwindigkeit und die Skalierung. Die Firma sagt: „Hey, es gibt hier eine Sicherheitslücke." Die machen eh alles richtig, sie lassen es alle wissen. Aber bei mir war es so, dass ich es auch erst später erfahren habe, weil ich den ganzen Tag in Workshops war. Gott sei Dank habe ich dann netterweise von dir und deinem Agenten eine Benachrichtigung bekommen: „Hey, Eliot, schau dir das vielleicht auf deiner Webseite an."

Eliot Mannoia: Anschauen konnte ich es aber erst später. Und genau diese Zeitverzögerung spielt halt der KI in die Hände. Wobei, nicht der KI, die KI ist ja nicht schlecht. Es sind ja die Menschen, die die KI nutzen, um das in dieser Geschwindigkeit auszunutzen.

Eliot Mannoia: Da höre ich zum Beispiel oft: Es geht nur mit stärkerer KI, KI in Schach zu halten, also bei Cyberangriffen, glaube ich. Weil wir Menschen da nicht mehr mitkommen, wenn da hundert Bots, tausend Bots, Millionen Bots unterwegs sind. Das ist einfach eine Skalierung und eine Geschwindigkeit, mit der wir einfach nicht mithalten können.

Manuela Machner: Und ihr dürft jetzt nicht glauben: Meine Website ist ja so klein, die interessiert keinen Hacker. Der Hacker geht ja überhaupt nicht mehr her und sucht euch aus. Bei speziellen Hackerangriffen natürlich, da geht er auf ein Banksystem oder sonst irgendwo hin. Aber in Wirklichkeit schickt er seine Systeme aus, und die suchen die offenen Türen, die suchen: Wo ist PHP drinnen? In dem Fall war es halt PHP, es gibt unzählige solche Möglichkeiten. Das System sucht die offene Tür, versucht, sich anzumelden, und versucht, das zu nutzen. Und was hat der Hacker davon? Wenn er eure Website kapert, kann er sie zum Beispiel dafür nutzen, Dinge von euch auszuschicken oder dort den Virus zu platzieren und von dort aus weiter zu agieren. Wenn er eure E-Mail kapert, sowieso. Das heißt, es geht dem Hacker gar nicht unbedingt nur darum, eure Daten zu holen, es geht sehr oft auch darum, eure Plattform für diese ganzen Geschichten zu missbrauchen. Und ich finde es so spannend, weil, wenn du dir das anschaust: Vielleicht gehen wir alle bald offline.

Eliot Mannoia: Es war ja viel offline. Viele Teile waren offline.

Manuela Machner: Ich war auch betroffen. Ich muss für einen Kunden auf einer Plattform Angebote stellen, und auf dieser Plattform wollte ich ein paar Tage, zwei Tage nach diesem großen Angriff die Abrechnung machen. Diese Plattform ist nach wie vor offline. Ich habe dort aber alle meine Daten hochgespielt, meine Angebotsdaten, und ohne meine Angebotsdaten kann ich keine Rechnungen schreiben. Gott sei Dank hatten die das noch lokal gespeichert. Ich habe dann nachgefragt und für mich wieder gelernt: Ups, die Daten nur im digitalen Raum zu haben, ohne Sicherungskopie und noch dazu bei einem anderen Anbieter, ist vielleicht doch keine so geschickte Idee. Ich selbst sichere meine Daten inzwischen wieder auf einer externen Festplatte, die ich abstecke. Man glaubt es kaum. Und manche Dinge drucke ich mir sogar wieder aus. Ich glaube, dass diese digitale Welt und das, was jetzt über KI möglich ist, natürlich extrem viele neue Herausforderungen mit sich bringt.

Eliot Mannoia: Es werden ja oft, glaube ich, die vier Gefahrenfaktoren besprochen. Das ist Cybercrime, worüber wir jetzt gesprochen haben, dann radioaktive, chemische oder biologische Waffen. Deswegen ist der Impetus, jetzt keine offenen Modelle zur Verfügung zu stellen, schon sehr wichtig, glaube ich.

Eliot Mannoia: Ich bin eigentlich schon einer für offene Modelle, und Open Source finde ich vom Konzept her echt sehr gut. Wenn wir uns den App Store anschauen: Den wollte Steve Jobs, glaube ich, zuerst geschlossen halten. Dann hätten wir heute vielleicht noch immer nur die Taschenlampe oder den Rechner als Apps. Jetzt haben wir Online Banking, Uber, Amazon. Ein offenes System hat also schon oft Vorteile. Aber ich glaube, bei KI ist es eine Ausnahme. Sobald ein 16-Jähriger in seinem Zimmer gefährliche Sachen machen kann, ist es für mich keine logische Schlussfolgerung mehr, dass wir das erlauben.

Eliot Mannoia: Die USA haben jetzt auch ein paar offene Modelle herausgebracht, aber es gab in China offene Modelle mit offenen Gewichten, also, simpel gesagt, Modelle, bei denen man sehen kann, wie sie eingestellt sind. Und da können Leute dann die Sicherheitsmaßnahmen entfernen. Ich glaube, es war Kimi oder Qwen, nein, bei Qwen war es: Vier oder fünf Stunden, nachdem es auf GitHub released wurde, wurden die Sicherheitsvorkehrungen schon entfernt und das Ergebnis zur Verfügung gestellt. Alle konnten es herunterladen, und das finde ich nicht gut.

Manuela Machner: Das Thema sind ja dann natürlich nicht die Systeme an sich, sondern immer, wer sie nutzt beziehungsweise wer sie losschickt.

Manuela Machner: Eine andere Geschichte, die ich gerade erlebt habe, finde ich vorbildlich. Eigentlich ist sie absurd, aber trotzdem vorbildlich: Ich habe gestern eine E-Mail bekommen, nachdem ich an ein großes Unternehmen eine Rechnung gestellt hatte. Ganz klassisch, ich habe die Rechnung per E-Mail geschickt und von der Buchhaltung eine Antwort bekommen, dass ich ihr noch einmal per E-Mail meine Bankdaten schicken soll. Und warum ist das vorbildlich? Es passiert derzeit, dass Rechnungs-E-Mails abgefangen werden. Die landen nie bei dem, dem ihr die Rechnung schickt, die werden gestoppt. Eure Rechnung wird nur insofern abgeändert, dass unten die Bankleitzahl geändert wird, natürlich auf ein Konto eines Betrügers. Über dieser Bankleitzahl steht dann teilweise: „Achtung, neue Kontonummer." Das heißt, der Buchhalter, der das jetzt einliest oder eingibt, gibt diese Kontonummer ein, und er oder sie überweist das dann an ein falsches Konto. Und Achtung: Diese abgeänderte Rechnung kommt dann von eurer Original-E-Mail-Adresse bei eurem Kunden an. Das heißt, er hat de facto gar keine Chance zu sehen, ob diese Bankleitzahl richtig oder falsch ist.

Manuela Machner: Bei einem meiner Kunden, der das auch schon hatte, war der Luxus nur der: Ihr habt ja bei der Bank diese Übereinstimmungsprüfung zwischen Name und Bankleitzahl. Da schreit das Banksystem immer, wenn ihr irgendeinen Tippfehler drinnen habt oder einen Buchstaben groß oder klein schreibt. Das ist dort halt auch passiert, und die Buchhalterin war so umsichtig, den anzurufen, der die Rechnung gestellt hat, und zu fragen: „Ist euch bei der neuen Bankleitzahl ein Fehler passiert?" Es war aber kein Fehler, es war eben die abgefangene E-Mail, und da ist es gut ausgegangen. Der Konzern, bei dem ich jetzt die Rechnung gestellt habe, hat offensichtlich jetzt diese Sicherheitsmaßnahme. Das heißt, sie hat meine Rechnung mit der richtigen Bankverbindung schon, schreibt mir per E-Mail zurück, und ich schreibe ihr meine Bankverbindung im E-Mail noch einmal. Das ist auch Arbeitsbeschaffung, muss man dazu sagen, aber halt eine Variante, um sicherzugehen.

Eliot Mannoia: Verification, Authentication. Das habe ich auch schon gehört. Man kann sich das auch so denken: Größere Firmen haben vielleicht größere oder teurere Firewalls und mehr Sicherheitsmaßnahmen und sind oft schwieriger zu hacken. Also hacken sie sozusagen die Satelliten rundherum, also die Dienstleister für dieses große Unternehmen. Dann kommt die Rechnung, schaut genau gleich aus, kommt von derselben E-Mail-Adresse, und das Einzige, was anders ist, ist die Bankverbindung. Also sehr schwer zu erkennen.

Manuela Machner: Und jetzt müsst ihr euch vorstellen, was das bedeutet. Der Kunde zahlt euch, ihr kriegt das Geld aber nicht, und dann könnt ihr mit dem Kunden streiten gehen. Der Kunde hat gezahlt, ihr habt das Geld nicht bekommen, ihr habt die Leistung erbracht. Und dann ist natürlich die große Frage: Woran liegt es? Wer ist schuld? Wessen Sicherheitssystem war da falsch? Wurde es beim Empfänger abgefangen? Wurde es beim Sender sozusagen falsch ausgeschickt? Ich habe jetzt ein interessantes Video gesehen: Man sollte in seinem E-Mail-Account unbedingt schauen, ob irgendwelche Weiterleitungen eingestellt sind, die nicht ihr selbst eingestellt habt. Angeblich, ich habe es nicht verifizieren können, aber angeblich fängt man sich dann so einen Virus ein, und im Hintergrund läuft in eurem Outlook einfach eine ganz simple Regel, dass Weiterleitungen aktiviert sind. Und die Weiterleitung bewirkt, dass eine E-Mail, sobald „Rechnung" drinnen steht, sozusagen umgeleitet oder weitergeleitet wird. Nachschauen kann man zumindest einmal.

Eliot Mannoia: Guter Tipp. Werde ich nachher gleich selber auch nachschauen. Es wird gefinkelt. Ich glaube, die Tage, an denen wir E-Mails bekommen und gleich sehen, ah, das ist Spam, sind gezählt. Wenn jeder auf der Welt Zugriff auf ziemlich mächtige KI hat, und das gilt auch schon für die heutige KI, kann man E-Mails in einer tollen Sprache verfassen, die sehr stark überzeugt.

Manuela Machner: Ich glaube, über kurz oder lang werden wir uns überlegen müssen, wie wir uns im digitalen Raum identifizieren. Im rechtlichen Kontext haben wir das ja schon, mit der ID Austria. Ich glaube, dass wir das sogar im normalen Kundenverkehr brauchen werden. Ich glaube, dass es irgendwann so sein wird, dass du ganz klassisch eine E-Mail nur mehr verschlüsselt schicken kannst, oder auch Rechnungen oder irgendwelche anderen Geschichten. Es wird einfach eine Trennung notwendig sein, um sicherzustellen, dass gewisse Dinge nicht passieren können, vor allem sobald etwas eine rechtliche oder finanzielle Konsequenz hat.

Eliot Mannoia: Auf jeden Fall. Ich finde, die ID Austria ist da vorbildlich. Das ist ein guter Ansatz und bietet eine gute Lösung für alle Bürgerinnen und Bürger. Ich fände so etwas, ehrlich gesagt, auch im Netz gut. Ich bin ein großer Fan von Net Neutrality, wie man das auf Englisch sagt, also dass das Internet frei bleibt. Das finde ich sehr wichtig.

Eliot Mannoia: Aber auch da gibt es große Sicherheitsthemen, besonders für mich in Bezug auf Teenager, also Jugendliche, die wirklich sehr schnell und sehr leicht Zugriff auf Gewalt haben, oder auf Content, der nicht für sie geeignet ist, etwa nicht jugendfreie Inhalte, oder auch auf Bullying oder Trolle.

Eliot Mannoia: Ich finde, man sollte im Internet überall machen können, was man will, also ohne Identifizierung. Man kann auf Amazon kaufen, man kann in Geschäften kaufen, man kann Reisen buchen, man kann recherchieren, man kann alles lesen, man kann alles machen. Aber ich bin sehr davon überzeugt, dass man sich verifiziert einloggen muss, sobald man irgendwo etwas schreiben möchte, das andere auch sehen, also in Communitys, sprich auf Social Media oder bei Blogbeiträgen.

Eliot Mannoia: Dieses Verstecken hinter einem Keyboard und dann diese Hassbotschaften oder auch Mobbing und Bullying, worunter unsere Jugendlichen manchmal wirklich leiden müssen, das finde ich nicht okay. Sobald man sich in einer Community bewegt, wo man mit anderen Mitmenschen zu tun hat und wo man sich eigentlich prosozial und angenehm benehmen sollte, wäre es, finde ich, angebracht, dass man sich dort auch verifiziert anmeldet. Wie siehst du das?

Manuela Machner: Na klar, absolut. Ich bin ehrlicherweise absolut für eine Klarnamenlösung. Das heißt, es gibt keinen Account, wo ich, keine Ahnung, Häschen heiße oder irgendeinen Spitznamen habe und nicht nachvollziehbar ist, wer oder was ich bin. Bei dem, was du angesprochen hast, Dinge bestellen, Urlaub buchen und so weiter, sind wir ohnehin nie mehr anonym. Ich kann ja nichts anonym bei Amazon bestellen, weil ich da meinen Namen, meine Kreditkarte und zumindest noch meine Adresse bekannt geben muss. Die Illusion, dass wir in Systemen nicht sichtbar sind, ist also sowieso nicht gegeben. Google weiß mehr über uns, als, glaube ich, meine ganze Familie über mich weiß. Da brauche ich nicht einmal die KI von Google zu nutzen, sondern nur einen Gmail-Account zu haben. Und selbst wenn ich dort keinen Klarnamen habe, weiß Google, wo ich mich befinde, weil ich Google Maps verwende, und Google weiß, was ich suche, also was mich interessiert. Und wenn ich YouTube-Videos schaue, sowieso noch mehr.

Manuela Machner: Diese Illusion, dass das jetzt anonym wäre, stimmt in Wirklichkeit nicht. Nur für andere Menschen und für Rechtssysteme ist es so. Das finde ich ja das Schräge. Die großen Konzerne kennen uns. Die könnten wahrscheinlich genau sagen, wo wir gerade sind und was wir tun. Aber ein Richter darf das nicht nutzen. Auf Social Media ist unser Imagebild halt irgendetwas, hinter dem ich mich verstecke. Und das Gleiche gilt für das Schreiben von Bewertungen. Es gibt Menschen, die aus Lust und Laune oder durchaus auch erpresserisch Bewertungen schreiben. Im Tourismus haben wir das teilweise oft. Es gibt Leute, die gehen in ein Restaurant, essen und sagen dann: „Ich zahle nicht. Und wenn du das von mir verlangst, dann schreibe ich eine schlechte Bewertung, die dir schaden wird." Das gibt es. Also muss man schon sagen: Wir brauchen im Internet einfach eine Klarnamenpflicht, so wie wir uns irgendwo am Flughafen einchecken müssen.

Eliot Mannoia: Ich bin voll dafür.

Manuela Machner: Mit einer Klarnamenpflicht wäre auch viel einfacher nachvollziehbar, wenn im Netz etwas Illegales passiert. Es tut mir leid, Leute: Auch wenn ihr etwas hinter einem Fake Account macht, die Systeme wissen genau, dass ihr das tut. Nur ein Richter eben nicht. Wobei die bösen Jungs, sage ich jetzt einmal, immer Möglichkeiten finden werden, die Dinge zu umgehen. Das muss man auch sagen.

Eliot Mannoia: Ein Katz-und-Maus-Spiel bleibt es sowieso, aber wir müssen halt schauen, dass wir da ein bisschen nachziehen. Bei Social Media ist es mittlerweile fast zehn Jahre, ich glaube, seit 2007 oder so, dass wir Social Media so richtig im Mainstream in unserem Leben haben, vielleicht sogar noch länger, wenn man an MySpace denkt. Und wir sind so langsam. Wir sprechen heute, 2026, noch darüber, ab welchem Alter Jugendliche Social Media nutzen dürfen. Das ist mir zu langsam. Wir wissen, dass es nicht gut ist, zumindest in unkontrolliertem Ausmaß.

Manuela Machner: Das ist, glaube ich, ein eigenes Thema. Ob ein Social-Media-Verbot das bringt, was wir uns erwarten, ist halt die große Frage.

Eliot Mannoia: Ich würde das Smartphone noch dazunehmen, also nicht nur Social Media. Ich meine das Smartphone mit Zugriff auf, wie gesagt, Gewalt oder nicht jugendfreie Inhalte. Es geht nicht nur um Social Media. Mit dem Smartphone hat man Zugriff auf wahnsinnig viel. Ich glaube, Tastenhandys für Notfälle sind gut für Kinder, damit sie zumindest die Eltern erreichen können. Ein Tastenhandy mit Snake als Spiel, und ein Smartphone vielleicht erst später. Weil sonst macht es keinen Unterschied.

Manuela Machner: Wie kommst du mit diesen Aussagen bei deinen Nichten an?

Eliot Mannoia: Ich glaube, die wissen gar nicht, dass ich so denke. Aber sie sind Gott sei Dank nicht so viel am Handy, die Eltern machen das sehr, sehr gut. Aber das ist ja das Problem: Wenn es bei den Eltern bleibt, dann ist es wahnsinnig schwierig. Mein Bruder und meine Schwägerin machen das echt gut, aber natürlich sind die Kinder dann am Schulhof, und nicht alle Eltern machen das gleich, und dann haben sie am Schulhof halt Zugriff auf alle möglichen Sachen. Deswegen können wir diese Verantwortung nicht bei den Eltern lassen. Das geht einfach aus logistischen Gründen nicht, weil manche Zugriff haben und manche nicht. Es muss halt, so wie bei Tabak und Alkohol, einfach ab sechzehn sein, finde ich. Das wäre halt meine Meinung.

Manuela Machner: Bei Cybersecurity spielen Kinder natürlich auch eine Rolle. Das Problem ist, dass sie sich hinsetzen und solche Trojaner oder sonst etwas losschicken und aktiv werden können, obwohl sie eigentlich gar nicht wissen, was sie da tun. Das muss man teilweise auch dazu sagen.

Eliot Mannoia: Cybersecurity ist oft auch sehr menschlich. Wenn es nicht um die Masse und um Viren geht, sondern wenn wirklich, sagen wir, gezielt größere Unternehmen angegriffen werden, dann ist es sehr, sehr viel Social Engineering, also dass Menschen manipuliert werden.

Eliot Mannoia: Da gibt es auch eine lustige Studie. Die genauen Zahlen weiß ich jetzt nicht auswendig, aber es war ungefähr so: Wenn ein USB-Stick vor der Firma am Parkplatz liegt, dann heben ihn, ich weiß nicht, vielleicht zwanzig Prozent auf und stecken ihn an. Wenn der USB-Stick aber das Logo der Firma drauf hat, dann stecken ihn, glaube ich, vierzig, fünfzig Prozent an.

Eliot Mannoia: Also so kleine Unterschiede. So nach dem Motto: Ah, ein USB-Stick mit meinem Firmenlogo, und plötzlich stecken ihn gleich einige Leute mehr an. Für solche Kleinigkeiten müssen wir auch ein Bewusstsein schaffen. E-Mails richtig lesen und auf die Kanäle achten. Die Betrüger arbeiten oft mit Zeitdruck. Also: Es ist Freitag, komm, ich brauche die Überweisung jetzt, jetzt, jetzt. Kanäle anschauen, Zeitdruck anschauen. Das sind so ein paar Faktoren, die man im Kopf behalten kann, wenn man unterscheiden möchte, ob etwas echt ist oder nicht.

Manuela Machner: Man muss schon sagen, diese ganzen Fake-Geschichten sind inzwischen so gut. Egal, ob ihr ein Mail bekommt oder sonst etwas: Man sieht in keinem Mail mehr einen Rechtschreibfehler oder schlechtes Deutsch. Und das Design ist von eurer Bank oder von Uber oder von was auch immer, PayPal. Das heißt, man hat fast keine Möglichkeit mehr, es zu erkennen. Selbst E-Mail-Adressen können gefakt sein. Manchmal hat die E-Mail-Adresse halt einen Bindestrich, wo eigentlich keiner hingehört, oder einen Mini-Tippfehler, den man gar nicht wahrnimmt. Erstens hat man meistens Zeitdruck. Und zweitens: Wenn das in den realen Ablauf eingebettet ist, dann ist es ganz kritisch.

Manuela Machner: Booking.com hat ja das Problem, dass offensichtlich Daten von Buchungen nach außen gegangen sind. Das heißt, Gäste kriegen jetzt in Wirklichkeit von Hackern E-Mails, die besagen: „Du kommst ja übermorgen zu uns ins Hotel, von dann bis dann."

Eliot Mannoia: In Kärnten oder was? Also ganz genau.

Manuela Machner: Genau, ganz genau. Das richtige Hotel, das richtige Datum, die richtige Anzahl der Personen, der richtige Betrag, den ihr gebucht habt. Und dann heißt es, mit dieser Buchung hat irgendetwas nicht geklappt: „Bitte hinterlege deine Kreditkarte noch einmal, offensichtlich funktioniert deine Kreditkarte auf Booking nicht mehr. Geh gleich in deinen Booking-Account hinein." Der Link ist natürlich dabei, du gehst rein, loggst dich gefühlt in deinem Booking-Account ein und gibst dort deine Kreditkarte frei. In Wirklichkeit gibst du die Kreditkarte irgendeinem Fake-Konto frei.

Manuela Machner: Überlegt euch einmal: Ein Hacker kennt meinen Urlaub, meine Aufenthaltsdauer, wie teuer das ist und welches Hotel das ist. Das ist natürlich schon extrem. Und es ist, ob am Handy oder am Computer, schnell passiert, auf den Link zu klicken, anstatt über die App oder über die Website zu gehen. Ich habe auch so eine E-Mail bekommen. Ich wusste ja, dass es solche Dinge bei Booking gibt, und selbst ich war verunsichert. Ich bin dann natürlich in die App gegangen und habe dort nichts gesehen. Und das ist dann ja auch so eine Situation für dich, weil du ja im Booking dann nichts siehst. Bei PayPal hatte ich auch so eine Situation. Du siehst auf der Plattform nichts, keine Benachrichtigung, gar nichts. Heißt das jetzt, es war fake, oder hat irgendetwas nicht funktioniert? Selbst ich habe dann meinem Betrieb direkt über Booking in der App geschrieben und gefragt: „Ist alles in Ordnung mit der Buchung?" Und natürlich war alles in Ordnung. Der hat sich gefragt, warum ich nachfrage. Das führt also schon zu Unsicherheiten.

Eliot Mannoia: Auf jeden Fall. Wir übernehmen hier auch keine Haftung, bitte. Aber wenn man googelt, gibt es, ich glaube, auch von Google, so etwas wie Check my Link oder Check my Site. Da kann man manchmal Links checken, wenn man den Link vorsichtig kopiert und nicht draufklickt. Aber ich würde das wirklich mit Vorsicht genießen.

Eliot Mannoia: Ich kopiere auch manchmal etwas hinein. Zum Beispiel habe ich für mein Buch, das ich geschrieben habe, E-Mails von Agenten erhalten, also von bekannten Agenten. Eine hat wirklich gut ausgeschaut. Da war ich wirklich so: „Ah, okay." Ich habe sie kopiert und einfach ChatGPT oder Claude gefragt: „Wie schaut's aus?" Und ich habe dann auch eine gute Analyse bekommen. ChatGPT hat mir zum Beispiel gesagt: „Auf der Webseite dieses Agenten schreiben sie, dass ihr Name oft missbräuchlich benutzt wird und dass sie eigentlich nie so Kontakt aufnehmen würden", und so weiter und so weiter. Also auch da können ChatGPT oder Claude manchmal helfen, eine E-Mail für euch ein bisschen einzuschätzen. Man kann, wie gesagt, manchmal auch Links testen, aber auch das bitte mit Vorsicht genießen.

Eliot Mannoia: Was du gemacht hast, finde ich super. Also einfach gleich in die eigentliche App reingehen, die E-Mail komplett stehen lassen und einfach in Booking.com oder auf Amazon schauen.

Eliot Mannoia: Ich habe auch einmal einen Anruf bekommen, dass irgendwer in England mit meinem Konto einen Gutschein über zweihundert Pfund gekauft hat. Ich wurde sogar weiterverbunden: Zuerst hat eine Dame gesprochen, dann wurde ich zu einem Mann weiterverbunden. Die arbeiten da schon sehr gut, auch mit Bürogeräuschen im Hintergrund und so. Die machen das schon ziemlich gut. Und weil ich zehn Jahre in England gelebt habe, war ich da so: Okay, mein Konto habe ich damals hier in England aufgemacht. Das war also schon gut gemacht. Die haben mich da länger drangehalten, als mir lieb war. Aber: immer gleich in der App nachschauen.

Manuela Machner: Oder einfach hinterfragen. Ich habe ja von PayPal einen Anruf bekommen, aber den hat meine KI abgefangen. Meine KI-Telefonie hat dann festgestellt, dass das andere übrigens auch eine KI war, die angerufen hat, und natürlich war es nicht PayPal. Und das Genialste war: Ich sehe ja das Protokoll von dem, was meine KI telefoniert und spricht. Die andere KI hat halt gesagt, es gehe um vierzig Euro, und wenn ich diese Bezahlung nicht möchte, dann müsse ich sagen: „Ja, ich möchte das nicht", oder irgendetwas mit Ja halt. Meine KI hat gesagt: „Das klingt aber nach einem Betrugsversuch. Ich treffe keinerlei Aussage für Frau Machner." Und die andere KI hat die Antwort nicht verstanden und gesagt: „Ja, Sie haben aber noch immer nicht Ja gesagt."

Eliot Mannoia: Die versuchen manchmal auch, die Stimme zu klonen.

Manuela Machner: Ja, um im Hintergrund so etwas wie einen Vertragsabschluss zu haben. Und meine KI hat gesagt: „Ich sage das sicher nicht, und ich lege jetzt auf, weil das offensichtlich ein Betrugsversuch ist." Das habe ich auch cool gefunden, dass meine KI verstanden hat, dass das ein Betrugsversuch sein könnte. Das muss man echt sagen.

Eliot Mannoia: Es wird aufregend. Da werden wir, glaube ich, noch einiges erleben. Die synthetischen Stimmen werden besser.

Manuela Machner: Definitiv. Dann wieder mehr per Post, gell?

Eliot Mannoia: Aber die Millionen überweist du heute noch, Manuela? Bitte. Es ist Freitag.

Manuela Machner: Ich komme in Wien vorbei. Im Köfferchen bringe ich dir das, in kleinen Scheinen, weißt du.

Eliot Mannoia: Genau, eben analog.

Manuela Machner: Aber noch ganz kurz: Hat sich bei dir etwas im Denken geändert? Ich muss sagen, für mich hat sich schon etwas verändert. Ich glaube schon, dass zum Beispiel der Strom für eine gewisse Zeit vielleicht ausfallen wird, oder solche Dinge. Hat sich bei dir das verändert, dass du glaubst, du solltest jetzt ein Radio mit Batterie haben, damit du im Notfall Infos kriegst? Dass du aufgeladene Ladegeräte haben solltest, damit du dein Handy anstecken kannst, falls das noch geht? Dass du einen Gaskocher zu Hause hast, damit du dir im Notfall auch zwei Tage lang etwas Warmes zum Essen machen kannst? Denkst du inzwischen in die Richtung?

Eliot Mannoia: Nein. Ich habe mir damals während Covid eine Powerbank besorgt, die solar aufladbar ist. Ich weiß nicht, wie effektiv das ist. Und ein Radio, eines, das man aufkurbeln kann. Aber sonst habe ich jetzt keine Konservendosen, kein Wasser für fünf Tage und keinen Gasherd oder so. Eigentlich auch dumm, oder? Ich habe nur ein Radio und eine Batterie, zum Essen und Trinken habe ich nichts. Ich bin, glaube ich, kein guter Prepper. Hast du so etwas?

Manuela Machner: Wir haben sowieso fürs Campen so einen Gaskocher. Und ich habe eine meiner Töchter aufgehetzt: Die haben auch einen Gasgriller, das Gas war leer, und sie waren zu bequem, sich eine neue Flasche zu holen, weil sie eh nicht mehr grillen. Und ich habe gesagt: „Na ja, aber im Notfall könntet ihr euch dann etwas zum Essen richten, etwas Warmes." Und jetzt ist sie wirklich deswegen das Gas tauschen gegangen, nicht weil das Gas fürs Grillen in der nächsten Saison leer ist, sondern für den Fall, dass der Strom ausfällt. Ich muss sagen, ich bin ja überhaupt nicht der Typ, der irgendwie für Notfälle vorbereitet ist. Für mich hat sich aber in den letzten Monaten schon etwas verändert, sodass ich mir gedacht habe: Na ja, ich glaube, dass irgendwann zum Beispiel ein Stromausfall passieren kann, dass das einfach relativ realistisch ist. Wodurch auch immer, ob über Netzüberlastung oder über Hackerangriffe.

Eliot Mannoia: Ich war, ich glaube im Sommer, in einem Restaurant im ersten Bezirk in Wien, und da ist der Strom ausgefallen. In der Stadt habe ich das auch noch nie erlebt, und ich glaube, das waren schon zwanzig Minuten oder so.

Manuela Machner: Ich habe das auch in einem Restaurant am Land erlebt. Das war kein Security-Thema, da ist wirklich der Strom ausgefallen, weil die ihren Strom selbst über Wasserkraft produzieren, keine Ahnung wie genau, aber jedenfalls kommt die Stromleitung nicht vom großen E-Werk. Und das war der Super-GAU. Das war ein recht großes Restaurant, wir hatten gerade etwas bestellt, und die Kellnerin kommt zurück und sagt, sie kann uns die Getränke und das Essen nicht geben, weil der Strom weg ist. Dann habe ich gesagt: „Na ja, sie kann uns ja wenigstens die Getränke geben."

Manuela Machner: Das ging aber nicht, weil sie nicht bonieren konnte und die Schankanlage nicht funktioniert hat. Dann haben wir gesagt: „Na bitte, gib uns irgendeinen Salat." Hat sie gesagt: „Das geht nicht, weil in der Küche kein Licht ist, die Küche hat ja keine echte Beleuchtung." Und sie hatten gerade den Super-GAU.

Manuela Machner: Sie hatten eine Busgruppe, die sie in einer halben Stunde erwartet haben, und hatten das Essen zum Teil schon vorbereitet. Sie waren mitten in der Vorbereitung für die Busgruppe und wussten überhaupt nicht, was sie tun sollen, wenn fünfzig Personen kommen und das Essen halb vorbereitet ist. In der Gastronomie macht man ja die unterschiedlichsten Vorbereitungsstufen. Sie wussten gar nicht, was los ist und was zu tun ist, und konnten uns weder etwas zum Essen noch zum Trinken geben, weil sie über die Schankanlage nicht einmal Mineralwasser oder Leitungswasser herunterlassen konnten. Da steht dann wirklich alles.

Manuela Machner: Es war ja ein ganzer Bereich ausgefallen. Sie haben dann bei einem angeschlossenen Betrieb, der weiter weg war, nachgefragt, wie das bei ihnen ist. Dort hat der Strom funktioniert, und sie haben gefragt, ob sie Plätze haben. Sie haben dann tatsächlich das vorbereitete Essen mit Autos zum anderen Betrieb gebracht, und das Personal ist mitgefahren, weil es wusste, was fertig ist. Die haben zusammengearbeitet, deswegen ist das auch rechnungstechnisch gegangen. Und als der Bus vor der Haustür stand, wurde dem Busfahrer gesagt, er muss bitte zur nächsten Adresse weiterfahren. Das war halt Troubleshooting am Limit. Und sie haben alles am privaten Handy telefoniert, weil das Restaurant natürlich eine zentrale Telefonanlage hat, aber die zentrale Telefonanlage hängt am Strom.

Eliot Mannoia: Wir sind schon sehr verwöhnt. Ich habe das eh schon sehr oft erlebt, auch in Ägypten und in Nepal, wo es oft Stromausfälle gab. In manchen Ländern ist das leider noch fast ein tägliches Phänomen. In Europa sind wir es halt gewohnt, dass das nicht so oft passiert.

Manuela Machner: Blackout-Szenarien können also passieren. Und das könnte natürlich auch durch Cyberangriffe passieren. Das muss uns auch bewusst sein, auch wenn die Großen natürlich extrem darauf bedacht sind, alle Sicherheitsmaßnahmen einzuhalten.

Eliot Mannoia: Es bleibt spannend. Schaut einfach, dass ihr ein bisschen etwas zum Essen habt, vielleicht ein paar Liter Wasser zu Hause. Aber wir wollen auch niemandem Angst machen. Ich glaube, wenn ein Stromausfall kommt, wird er jetzt auch nicht so lange andauern. Und wir haben schon einiges miteinander geschafft, ob das jetzt Covid war oder auch andere Krisen. Wenn wir zusammenhalten, dann werden wir das als Gemeinschaft schon schaffen, da haben wir in Österreich eh ein Glück.

Eliot Mannoia: Gut, dann freuen wir uns auf die nächste Folge, auf euch nächste Woche. Alles Liebe.

Manuela Machner: Bis zur nächsten Folge.

Eliot Mannoia: Ciao.