Manuela Machner und Eliot Mannoia diskutieren, wer die Verantwortung trägt, wenn KI-Systeme Fehler machen. Der Autopilot-Effekt: Menschen vertrauen Maschinen blind.
Nicht der Terminator, sondern das Subtile. Wie Social Media mit Katzenvideos begann und erst Jahre später als Risiko für die mentale Gesundheit erkannt wurde, integriert sich KI schleichend in unser Leben. Die größte Gefahr ist, dass wir Verantwortung und Entscheidungen abgeben.
Eliot Mannoia
Wenn wir aufhören zu hinterfragen, was KI uns sagt, verlieren wir die Fähigkeit zu unterscheiden, was wahr ist und was nicht. Fehler in KI-Systemen können sich in seriösen Quellen einschreiben und sind dann kaum mehr korrigierbar.
Manuela Machner
Das Wissen verdoppelt sich in immer kürzeren Zeiträumen. Wenn KI-Systeme dabei Fehler einbauen, die in Studien und Fachartikeln landen, werden diese Fehler von anderen KI-Systemen weiterverarbeitet. Aus dem System bekommt man solche Fehler kaum mehr heraus.
Manuela Machner
KI ist wie ein Hammer: ein Werkzeug. Gefährlich wird es, wenn Menschen mit Macht und Ressourcen KI nutzen, um ihre Stärken zu augmentieren und Kontrolle auszuüben. Die Technologie selbst ist neutral, der Einsatz entscheidet über Nutzen oder Schaden.
Eliot Mannoia
Fake News und KI-generierte Inhalte machen es immer schwieriger zu erkennen, was stimmt. Manuela Machner beschreibt, dass sie sich schon jetzt oft nicht mehr sicher ist, was wahr ist, und sich stärker auf Experten verlassen muss.
Manuela Machner
00:00:00 mind machine emotionale Intelligenz trifft künstliche Intelligenz ein Podcast mit Elliot 00:00:05 manoer und Manuela Machner hallo und willkommen zu einer 00:00:09 neuen Folge von mindind machine ich bin der i von der mind Seite ja und ich bin 00:00:14 von der technischen Seite also die Machine machine side super wir haben ja letzte Woche haben wir über 00:00:19 KI Assistentin gesprochen was geht was gibt es abseits davon also KI Assistentin für uns persönlich ist 00:00:25 natürlich sehr spannend was können wir mit KI auch im Unternehmen einsetzen und da reden wir über predictive Analytics 00:00:31 predictive maintenance Automation digital Twins und so weiter wo fangen 00:00:36 wir an Manuela ja ich denke das ist eine ganz spannende Geschichte weil viele noch gar nicht verstanden haben was sie 00:00:42 eigentlich im Unternehmen wirklich damit anfangen können ich meine man merkt den Unterschied finde ich extrem von den Branchen ich weiß nicht wie es Dir geht 00:00:49 also die Industrie ist da ja vorne weg und auch man merkt bei die Entwickler also ich komme aus dem Tourismus der 00:00:55 Tourismusbranche nicht so interessant oft für die Entwickler weil in der Produktion halt viel mehr auch Budget 00:01:01 dahinter liegt weil dort schon erkannt wird wie wichtig es ist gerade diese Wartungsbereich diese Analyse von den 00:01:07 ganzen Daten ganzer wichtiger Faktor ist ich weiß nicht welche Beispiele also ich habe jetzt letzte Mal eines gehört das 00:01:13 habe ich sehr spannend gefunden in der Pharmaindustrie da ist es darum gegangen dass in einem Labor mit aufgezeichnet 00:01:20 wird über unterschiedlichste Videokameras die die die Abfolge also die Produktion und dadurch automatisiert 00:01:27 dokumentiert wird also in der Pharmaindustrie muss man offensichtlich jeden Handlungsschritt genau dokumentieren um auch zu verhindern dass 00:01:34 es zu Verunreinigungen kommt oder irgendetwas halt nicht funktioniert und das ist sehr zeitaufwendig und wenn der Mitarbeiter natürlich seine Tätigkeit 00:01:42 unterbricht oder heute alles genau dokumentieren muss und das macht jetzt die KI also die KI beobachtet dich dokumentiert was passiert und wenn 00:01:50 irgendwo das Risiko einer vunreinigung oder was kommt dann wird dieses Element sozusagen aus der produktionsschine 00:01:57 herausgenommen und da ist richtig einspanungspotenzial dahinter ja also so ähnlich da auch 00:02:03 vielleicht mit digitalen Zwillinge wie man da anhand von sensoric Daten und alles mögliche historische Daten 00:02:10 sensoric realtime Daten wirklich eine digitale Kopie erschaffen kann von einem 00:02:16 Ökosystem oder eine eine entity ja ob das jetzt eine Stadt ist ich glaube Stadt Wien z.B die 00:02:23 experimentieren auch mit einem digitalen Zwilling wo sie dann alle möglichen Daten 00:02:29 Bewegungsdaten Verkehrsdaten Wetterdaten und so einfüttern ich weiß dass die Feuerwehr in Österreich ich weiß nicht 00:02:36 mehr welches Bundesland hat auch damit experimentiert und die haben alle möglichen Daten Wind und Wetter und 00:02:43 Feuer und konnten dann äh mit diesem digitalen Zwilling äh digital auch Szenarios planen die 00:02:50 konnten dann sagen okay was ist jetzt wenn der Wind von Südwest statt von Süden kommt was ist wenn der Wind um 10 % stärker ist wie würde das das vorer 00:02:58 beeinflussen wie können wir uns darauf vorbereiten wie können wir verschiedene Übungen planen also richtig 00:03:05 wirklich tolle Use Cases auch da diese Mengen an dat und verschiedene Arten von Daten mit dieser der Power von 00:03:12 KI dass diese Rechenleistung wirklich gut modulieren zu können also super spannend ich glaub genau das ist es was du gesagt hast in dem Moment wo man mit 00:03:20 viel Daten arbeitet hat man die Möglichkeit diese dann auch zu nutzen weil ich weiß nicht wie wie es wie es Euch da draußen geht aber ich kann mir 00:03:28 erinnern egal in welcher Position ich war also wir hatten immer Daten Daten produziert Daten ohne Ende ob das jetzt statistische Daten waren oder Daten die 00:03:36 uns eigentlich oft gar nicht so bewusst waren strukturierte und unstrukturierte also ist ja leichte sage jetzt im Tourismus mit Nächtigungszahlen zu 00:03:44 arbeiten als mit irgendwelchen unstrukturierten Themen und man hat oft wirklich nicht die Zeit oder die MSE 00:03:51 diese Daten dann auch zu nutzen und das ist total schade weil man da die dadurch sich ja einerseits viel Arbeit sparen 00:03:59 könnte aber auch andererseits ich finde es ja diese Analyse so spannend also dieser vorcast was wird das für eine 00:04:06 Auswirkung haben also wenn ich wenn du hernimmst so eine eine eine stadtthematik wie wird der Verkehr fließen wenn ich die eine Straße Sperre 00:04:14 z.B welche Auswirkungen wird es dann haben auf den auf die u-bahntaktung wie wird es auf die die Parkplatzsituation sich 00:04:22 auswirken also man kann einfach über diese vorcast Möglichkeiten durch die 00:04:28 Datenanalyse sehr viel vorhersagen und bis jetzt glaube ich hat ist es oft gescheitert anderseits an der 00:04:36 Rechenleistung das war ja immer ein riesen Thema und natürlich auch an der Zeit die du investieren musst und das 00:04:43 geht jetzt definitiv mit vielen Tools sch sehr viel einfacher ja und es gibt auch diverse Player Markt die da wirklich 00:04:50 versuchen diese verschiedene Datenquellen zu connecten da gibt's diese diese auch ein tolles Unternehmen 00:04:57 nexio die da wirklich versuchen verschiedene Daten interoper operabel zu machen und und miteinander zu verbinden 00:05:05 dann gibt's die Deo also die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die die to be a good one. The more I learn, the more I realize how much more there is to discover. It's a journey of continuous growth and adaptation, much like the ever-evolving landscape of AI itself. 🚀