Alle Episoden

Folge #82

Gefahren der KI - Verantwortung auf Autopilot

05.09.2025
41 min
Gefahren der KI - Verantwortung auf Autopilot
0:0041:00

Über diese Folge

KI ist kein Terminator – die echte Gefahr ist subtil.Eliot Mannoia und Manuela Machner diskutieren in dieser Folge von Mind/Machine über Risiken, die uns im Alltag betreffen: Deepfakes, Desinformation, Machtfragen und die Bequemlichkeit des Menschen.Du lernst, wie Fehler sich in Systemen potenzieren, wie KI Vertrauen untergräbt und warum Verantwortung abgeben die größte Gefahr sein kann. Die Folge gibt dir konkrete Gedankenhilfen, wie du Kontrolle behältst.Eliot Mannoia ist digitaler Psychologe bei BrandKarma.Manuela Machner ist KI-Expertin im Tourismus bei KiNET.ai.Mehr zu BrandKarma: ⁠https://www.brandkarma.at⁠Mehr zu KiNET.ai: ⁠https://www.kinet.ai⁠Darüber sprechen wir:• Warum Deepfakes nicht nur Lügen verbreiten, sondern auch echte Inhalte infrage stellen.• Wie Bequemlichkeit dazu verleitet, Entscheidungen ungeprüft an KI zu delegieren.• Welche Gefahren durch Missbrauch in Politik, Kriegsführung und Cyberangriffen entstehen.• Welche Rolle Motivation 3.0, Sinnsuche und neue Jobprofile in einer KI-geprägten Gesellschaft spielen.• Warum Transparenz und menschliche Kontrolle unverzichtbar sind.Fazit: KI wird mächtig. Die echte Gefahr ist nicht die Maschine, sondern der bequeme Mensch. Deshalb braucht es bewusste Kontrolle, klare Ziele und kritisches Denken.FAQsWas ist die größte Gefahr bei KI im Alltag?Bequemlichkeit und Verantwortung abgeben führen zu schlechten Entscheidungen.Warum sind Deepfakes problematisch, wenn ich eh skeptisch bin?Sie untergraben Vertrauen auch in echte Inhalte und verwirren die Bewertung.Kann KI Politik besser machen?Sie kann Szenarien simulieren, entscheiden sollen weiterhin Menschen mit klaren Zielen und Werteverständnis.Werden Roboter alle Jobs ersetzen?Jobs verändern sich, Sinn und neue Rollen entstehen, Aufsicht bleibt menschlich.Wie behalte ich Kontrolle über KI-Tools?Setze klare Ziele, prüfe Quellen, nutze KI für Ideen und Szenarien, entscheide selbst.Links:Eliot Mannoia, BrandKarma: ⁠https://www.brandkarma.at⁠Manuela Machner, KiNET.ai: ⁠https://www.kinet.ai⁠

Transkript

00:00:00 mind machine emotionale Intelligenz trifft künstliche Intelligenz ein Podcast mit Elliot 00:00:05 manoer und Manuela Machner hallo und willkommen zu einer 00:00:09 neuen Folge von mindind machine ich bin der i von der mind Seite ja und ich bin 00:00:14 von der technischen Seite also die Machine machine side super wir haben ja letzte Woche haben wir über 00:00:19 KI Assistentin gesprochen was geht was gibt es abseits davon also KI Assistentin für uns persönlich ist 00:00:25 natürlich sehr spannend was können wir mit KI auch im Unternehmen einsetzen und da reden wir über predictive Analytics 00:00:31 predictive maintenance Automation digital Twins und so weiter wo fangen 00:00:36 wir an Manuela ja ich denke das ist eine ganz spannende Geschichte weil viele noch gar nicht verstanden haben was sie 00:00:42 eigentlich im Unternehmen wirklich damit anfangen können ich meine man merkt den Unterschied finde ich extrem von den Branchen ich weiß nicht wie es Dir geht 00:00:49 also die Industrie ist da ja vorne weg und auch man merkt bei die Entwickler also ich komme aus dem Tourismus der 00:00:55 Tourismusbranche nicht so interessant oft für die Entwickler weil in der Produktion halt viel mehr auch Budget 00:01:01 dahinter liegt weil dort schon erkannt wird wie wichtig es ist gerade diese Wartungsbereich diese Analyse von den 00:01:07 ganzen Daten ganzer wichtiger Faktor ist ich weiß nicht welche Beispiele also ich habe jetzt letzte Mal eines gehört das 00:01:13 habe ich sehr spannend gefunden in der Pharmaindustrie da ist es darum gegangen dass in einem Labor mit aufgezeichnet 00:01:20 wird über unterschiedlichste Videokameras die die die Abfolge also die Produktion und dadurch automatisiert 00:01:27 dokumentiert wird also in der Pharmaindustrie muss man offensichtlich jeden Handlungsschritt genau dokumentieren um auch zu verhindern dass 00:01:34 es zu Verunreinigungen kommt oder irgendetwas halt nicht funktioniert und das ist sehr zeitaufwendig und wenn der Mitarbeiter natürlich seine Tätigkeit 00:01:42 unterbricht oder heute alles genau dokumentieren muss und das macht jetzt die KI also die KI beobachtet dich dokumentiert was passiert und wenn 00:01:50 irgendwo das Risiko einer vunreinigung oder was kommt dann wird dieses Element sozusagen aus der produktionsschine 00:01:57 herausgenommen und da ist richtig einspanungspotenzial dahinter ja also so ähnlich da auch 00:02:03 vielleicht mit digitalen Zwillinge wie man da anhand von sensoric Daten und alles mögliche historische Daten 00:02:10 sensoric realtime Daten wirklich eine digitale Kopie erschaffen kann von einem 00:02:16 Ökosystem oder eine eine entity ja ob das jetzt eine Stadt ist ich glaube Stadt Wien z.B die 00:02:23 experimentieren auch mit einem digitalen Zwilling wo sie dann alle möglichen Daten 00:02:29 Bewegungsdaten Verkehrsdaten Wetterdaten und so einfüttern ich weiß dass die Feuerwehr in Österreich ich weiß nicht 00:02:36 mehr welches Bundesland hat auch damit experimentiert und die haben alle möglichen Daten Wind und Wetter und 00:02:43 Feuer und konnten dann äh mit diesem digitalen Zwilling äh digital auch Szenarios planen die 00:02:50 konnten dann sagen okay was ist jetzt wenn der Wind von Südwest statt von Süden kommt was ist wenn der Wind um 10 % stärker ist wie würde das das vorer 00:02:58 beeinflussen wie können wir uns darauf vorbereiten wie können wir verschiedene Übungen planen also richtig 00:03:05 wirklich tolle Use Cases auch da diese Mengen an dat und verschiedene Arten von Daten mit dieser der Power von 00:03:12 KI dass diese Rechenleistung wirklich gut modulieren zu können also super spannend ich glaub genau das ist es was du gesagt hast in dem Moment wo man mit 00:03:20 viel Daten arbeitet hat man die Möglichkeit diese dann auch zu nutzen weil ich weiß nicht wie wie es wie es Euch da draußen geht aber ich kann mir 00:03:28 erinnern egal in welcher Position ich war also wir hatten immer Daten Daten produziert Daten ohne Ende ob das jetzt statistische Daten waren oder Daten die 00:03:36 uns eigentlich oft gar nicht so bewusst waren strukturierte und unstrukturierte also ist ja leichte sage jetzt im Tourismus mit Nächtigungszahlen zu 00:03:44 arbeiten als mit irgendwelchen unstrukturierten Themen und man hat oft wirklich nicht die Zeit oder die MSE 00:03:51 diese Daten dann auch zu nutzen und das ist total schade weil man da die dadurch sich ja einerseits viel Arbeit sparen 00:03:59 könnte aber auch andererseits ich finde es ja diese Analyse so spannend also dieser vorcast was wird das für eine 00:04:06 Auswirkung haben also wenn ich wenn du hernimmst so eine eine eine stadtthematik wie wird der Verkehr fließen wenn ich die eine Straße Sperre 00:04:14 z.B welche Auswirkungen wird es dann haben auf den auf die u-bahntaktung wie wird es auf die die Parkplatzsituation sich 00:04:22 auswirken also man kann einfach über diese vorcast Möglichkeiten durch die 00:04:28 Datenanalyse sehr viel vorhersagen und bis jetzt glaube ich hat ist es oft gescheitert anderseits an der 00:04:36 Rechenleistung das war ja immer ein riesen Thema und natürlich auch an der Zeit die du investieren musst und das 00:04:43 geht jetzt definitiv mit vielen Tools sch sehr viel einfacher ja und es gibt auch diverse Player Markt die da wirklich 00:04:50 versuchen diese verschiedene Datenquellen zu connecten da gibt's diese diese auch ein tolles Unternehmen 00:04:57 nexio die da wirklich versuchen verschiedene Daten interoper operabel zu machen und und miteinander zu verbinden 00:05:05 dann gibt's die Deo also die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die to be a good one. The more I learn, the more I realize how much more there is to discover. It's a journey of continuous growth and adaptation, much like the ever-evolving landscape of AI itself. 🚀

Weitere Folgen