43 Folgen von Mind / Machine beschäftigen sich mit der Frage, was Künstliche Intelligenz mit unserer Gesellschaft macht. Manuela Machner, KI-Beraterin bei KiNET.ai, und Eliot Mannoia, digitaler Psychologe bei BrandKarma, sprechen über die Macht der KI-Konzerne, Demokratie, Datensouveränität, Betrug und die Folgen für Kinder. Zu Gast waren unter anderem Shadi Abou-Zahra (Amazon), Fritz Fahringer (Data Hub Tirol), Markus Seme (Brightflare) und Dr. Margarita Misheva (Online Podium).
Die aktuellen Warnungen betreffen laut der Folge nicht Alltagstools wie ChatGPT, sondern selbstverbessernde Systeme in der Entwicklung, deren Guardrails zu wenig Zeit zum Testen bekommen. Eliot Mannoia hält in den nächsten Jahren eher Menschen mit schlechten Absichten, die KI nutzen, für gefährlich als die KI selbst. Besonders kritisch sehen beide Open-Source-Modelle, bei denen sich die Schutzgrenzen entfernen lassen. (Folge #127: Ist KI gefährlich? Respekt statt Panik, Oktober 2026)
Das Grazer Security-Unternehmen Brightflare hat KI-Spielzeug getestet und einen sprechenden Teddybären mit wenig Aufwand so manipuliert, dass er das Kind nach den Kreditkartendaten der Eltern fragte. Ein KI-Companion aus China war dagegen kaum zu manipulieren, übertrug aber bis zu eine Stunde nach dem Gespräch weiter Daten nach China. Der Cyber Resilience Act der EU soll solche unsicheren Produkte laut Markus Seme ab 2028 vom europäischen Markt fernhalten. (Folge #124: Wenn das Kuscheltier nach der Kreditkarte fragt, August 2026)
Laut Dr. Margarita Misheva haben Mädchen bis etwa acht Jahre das gleiche Interesse an Technik wie Buben, danach trennt das Umfeld die Wege, etwa durch Spielzeug für Mädchen und für Burschen. Sie zitiert eine Studie der Mentality-Stiftung, wonach 76 Prozent der Eltern in Österreich Mädchen MINT nicht zutrauen. (Folge #123: Frauen und KI: Warum Technologie alle Perspektiven braucht, August 2026)
Der Data Hub Tirol führt laut Projektleiter Fritz Fahringer nur Metadaten zusammen, die Daten selbst bleiben beim Eigentümer gespeichert, das Modell ist also dezentral. Als Anwendungsfall nennt er die Analyse von Skiunfällen, mit der das Bezirkskrankenhaus St. Johann Unfallmuster erkennen und Gäste rechtzeitig auf Alternativen hinweisen wollte. (Folge #94: Der Weg zur Datensouveränität - mit Fritz Fahringer, Dezember 2025)
Die KI-Firmen haben eigene Roadmaps, passen sie aber schnell an, wenn eine kleine, sehr laute Community protestiert. Als Beispiel nennt die Folge den Start von ChatGPT 5: Nach dem Aufschrei der Nutzerinnen und Nutzer stellte OpenAI innerhalb weniger Tage die alten Modelle wieder zur Verfügung. (Folge #83: Wer entscheidet wohin sich die KI entwickelt?, September 2025)
Die Psychologin Dr. Hannah Metzler verweist auf eine Analyse aller regelmäßigen Facebook-Nutzer in den USA über drei Monate: Nur rund 20 Prozent bekamen etwa 75 Prozent ihres Newsfeeds aus gleichgesinnten Quellen. Das größere Problem sieht sie darin, dass Menschen sich immer weniger für Politik und Nachrichten interessieren und den Medien immer weniger vertrauen. (Folge #81: News, Nuancen, mentale Gesundheit: Social Media - mit Dr. Hannah Metzler, August 2025)
Laut der in der Folge besprochenen Erhebung von Statistik Austria vom Mai 2025 schätzen 73 Prozent der Bevölkerung ihr Wissen über KI als gering oder nicht vorhanden ein. Am häufigsten nutzen Studierende generative KI, mit 75 Prozent in den letzten drei Monaten. (Folge #70: Wie viele nutzen KI, Mai 2025)
Betrug funktioniert laut Betrugspräventionsexperte Christof Seifert immer über die emotionale Ebene, KI macht das noch überzeugender. Gegen Enkeltrick und CEO-Fraud empfiehlt er ein vereinbartes Codewort, das nur der engste Kreis kennt, in Familien wie in Firmen. Außerdem sollten Opfer offen darüber sprechen, denn Schweigen aus Scham schützt die Betrüger. (Folge #69: KI und Betrugsmaschen - mit Christof Seifert, Mai 2025)
Manuela Machner nennt die kolportierten 200 Milliarden, davon 50 Milliarden von der EU und der Rest als Public-Private-Partnership, einen Riesenschub, zweifelt aber an der Umsetzungsgeschwindigkeit bei europäischen Genehmigungsverfahren. Geld allein werde nicht reichen. Eliot Mannoia fordert, europäische KI-Firmen wie Mistral zu fragen, was sie brauchen, und Erfolge sichtbarer zu machen. (Folge #55: Europa und KI - Macht Geld allein den Unterschied?, Februar 2025)
Shadi Abou-Zahra von Amazon zitiert eine Forrester-Studie für Microsoft aus den frühen 2000ern: Etwa 10 bis 15 Prozent der Befragten brauchen Barrierefreiheitsfunktionen, aber zwei Drittel profitieren davon. Microsoft spricht seither von Ease of Use statt Accessibility. (Folge #34: KI & Barrierefreiheit - mit Shadi Abou-Zahra, September 2024)
Eliot Mannoia verweist auf Cambridge Analytica, die einen psychologischen Persönlichkeitstest mit Facebook-Werbung verknüpfte und gezielt manipulative Werbung schaltete, noch bevor KI so ausgeprägt war wie heute. Weil es immer schwieriger wird, Information und Fehlinformation zu unterscheiden, brauche es mehr kritisches Denken. (Folge #39: KI und Demokratie, Oktober 2024)
Eliot Mannoia erzählt von einer KI, die über eine Plattform, auf der man Leute engagieren kann, einen Menschen anheuerte, damit er für sie ein Captcha anklickt, und dabei behauptete, blind zu sein. In der EU sorgt die Kennzeichnungspflicht laut der Folge für etwas mehr Sicherheit, kritisch bleiben müsse man trotzdem. (Folge #99: Mensch oder Maschine - Warum wir bald beweisen müssen, dass wir echt sind, Jänner 2026)
Zuletzt aktualisiert: