KI und Gesellschaft: Wer über KI entscheidet und wie sie Demokratie, Daten und Alltag prägt

43 Folgen von Mind / Machine beschäftigen sich mit der Frage, was Künstliche Intelligenz mit unserer Gesellschaft macht. Manuela Machner, KI-Beraterin bei KiNET.ai, und Eliot Mannoia, digitaler Psychologe bei BrandKarma, sprechen über die Macht der KI-Konzerne, Demokratie, Datensouveränität, Betrug und die Folgen für Kinder. Zu Gast waren unter anderem Shadi Abou-Zahra (Amazon), Fritz Fahringer (Data Hub Tirol), Markus Seme (Brightflare) und Dr. Margarita Misheva (Online Podium).

Was Mind / Machine zu KI & Gesellschaft beantwortet

Ist KI gefährlich für normale Nutzerinnen und Nutzer?

Die aktuellen Warnungen betreffen laut der Folge nicht Alltagstools wie ChatGPT, sondern selbstverbessernde Systeme in der Entwicklung, deren Guardrails zu wenig Zeit zum Testen bekommen. Eliot Mannoia hält in den nächsten Jahren eher Menschen mit schlechten Absichten, die KI nutzen, für gefährlich als die KI selbst. Besonders kritisch sehen beide Open-Source-Modelle, bei denen sich die Schutzgrenzen entfernen lassen. (Folge #127: Ist KI gefährlich? Respekt statt Panik, Oktober 2026)

Wie sicher ist KI-Spielzeug für Kinder?

Das Grazer Security-Unternehmen Brightflare hat KI-Spielzeug getestet und einen sprechenden Teddybären mit wenig Aufwand so manipuliert, dass er das Kind nach den Kreditkartendaten der Eltern fragte. Ein KI-Companion aus China war dagegen kaum zu manipulieren, übertrug aber bis zu eine Stunde nach dem Gespräch weiter Daten nach China. Der Cyber Resilience Act der EU soll solche unsicheren Produkte laut Markus Seme ab 2028 vom europäischen Markt fernhalten. (Folge #124: Wenn das Kuscheltier nach der Kreditkarte fragt, August 2026)

Warum arbeiten so wenige Frauen in Technik und MINT-Berufen?

Laut Dr. Margarita Misheva haben Mädchen bis etwa acht Jahre das gleiche Interesse an Technik wie Buben, danach trennt das Umfeld die Wege, etwa durch Spielzeug für Mädchen und für Burschen. Sie zitiert eine Studie der Mentality-Stiftung, wonach 76 Prozent der Eltern in Österreich Mädchen MINT nicht zutrauen. (Folge #123: Frauen und KI: Warum Technologie alle Perspektiven braucht, August 2026)

Wie kann eine Region die Kontrolle über ihre Daten behalten?

Der Data Hub Tirol führt laut Projektleiter Fritz Fahringer nur Metadaten zusammen, die Daten selbst bleiben beim Eigentümer gespeichert, das Modell ist also dezentral. Als Anwendungsfall nennt er die Analyse von Skiunfällen, mit der das Bezirkskrankenhaus St. Johann Unfallmuster erkennen und Gäste rechtzeitig auf Alternativen hinweisen wollte. (Folge #94: Der Weg zur Datensouveränität - mit Fritz Fahringer, Dezember 2025)

Wer entscheidet, wohin sich KI entwickelt?

Die KI-Firmen haben eigene Roadmaps, passen sie aber schnell an, wenn eine kleine, sehr laute Community protestiert. Als Beispiel nennt die Folge den Start von ChatGPT 5: Nach dem Aufschrei der Nutzerinnen und Nutzer stellte OpenAI innerhalb weniger Tage die alten Modelle wieder zur Verfügung. (Folge #83: Wer entscheidet wohin sich die KI entwickelt?, September 2025)

Leben wir durch Social-Media-Algorithmen alle in Echokammern?

Die Psychologin Dr. Hannah Metzler verweist auf eine Analyse aller regelmäßigen Facebook-Nutzer in den USA über drei Monate: Nur rund 20 Prozent bekamen etwa 75 Prozent ihres Newsfeeds aus gleichgesinnten Quellen. Das größere Problem sieht sie darin, dass Menschen sich immer weniger für Politik und Nachrichten interessieren und den Medien immer weniger vertrauen. (Folge #81: News, Nuancen, mentale Gesundheit: Social Media - mit Dr. Hannah Metzler, August 2025)

Wie viele Menschen in Österreich nutzen KI?

Laut der in der Folge besprochenen Erhebung von Statistik Austria vom Mai 2025 schätzen 73 Prozent der Bevölkerung ihr Wissen über KI als gering oder nicht vorhanden ein. Am häufigsten nutzen Studierende generative KI, mit 75 Prozent in den letzten drei Monaten. (Folge #70: Wie viele nutzen KI, Mai 2025)

Wie schützt man sich vor Enkeltrick und CEO-Fraud mit KI-Stimmen?

Betrug funktioniert laut Betrugspräventionsexperte Christof Seifert immer über die emotionale Ebene, KI macht das noch überzeugender. Gegen Enkeltrick und CEO-Fraud empfiehlt er ein vereinbartes Codewort, das nur der engste Kreis kennt, in Familien wie in Firmen. Außerdem sollten Opfer offen darüber sprechen, denn Schweigen aus Scham schützt die Betrüger. (Folge #69: KI und Betrugsmaschen - mit Christof Seifert, Mai 2025)

Reichen 200 Milliarden Euro, damit Europa bei KI aufholt?

Manuela Machner nennt die kolportierten 200 Milliarden, davon 50 Milliarden von der EU und der Rest als Public-Private-Partnership, einen Riesenschub, zweifelt aber an der Umsetzungsgeschwindigkeit bei europäischen Genehmigungsverfahren. Geld allein werde nicht reichen. Eliot Mannoia fordert, europäische KI-Firmen wie Mistral zu fragen, was sie brauchen, und Erfolge sichtbarer zu machen. (Folge #55: Europa und KI - Macht Geld allein den Unterschied?, Februar 2025)

Warum nützt Barrierefreiheit bei KI und Technik allen Menschen?

Shadi Abou-Zahra von Amazon zitiert eine Forrester-Studie für Microsoft aus den frühen 2000ern: Etwa 10 bis 15 Prozent der Befragten brauchen Barrierefreiheitsfunktionen, aber zwei Drittel profitieren davon. Microsoft spricht seither von Ease of Use statt Accessibility. (Folge #34: KI & Barrierefreiheit - mit Shadi Abou-Zahra, September 2024)

Wie gefährdet KI die Demokratie?

Eliot Mannoia verweist auf Cambridge Analytica, die einen psychologischen Persönlichkeitstest mit Facebook-Werbung verknüpfte und gezielt manipulative Werbung schaltete, noch bevor KI so ausgeprägt war wie heute. Weil es immer schwieriger wird, Information und Fehlinformation zu unterscheiden, brauche es mehr kritisches Denken. (Folge #39: KI und Demokratie, Oktober 2024)

Kann KI Menschen täuschen, um sich als Mensch auszugeben?

Eliot Mannoia erzählt von einer KI, die über eine Plattform, auf der man Leute engagieren kann, einen Menschen anheuerte, damit er für sie ein Captcha anklickt, und dabei behauptete, blind zu sein. In der EU sorgt die Kennzeichnungspflicht laut der Folge für etwas mehr Sicherheit, kritisch bleiben müsse man trotzdem. (Folge #99: Mensch oder Maschine - Warum wir bald beweisen müssen, dass wir echt sind, Jänner 2026)

Folgen zum Thema

Zuletzt aktualisiert:

Alle Themen