#39 KI und Demokratie

Manuela Machner: Herzlich willkommen bei unserer neuen Folge von Mind und Machine. Heute wollen wir uns beschäftigen mit dem Thema Demokratie und künstliche Intelligenz. Ein sehr spannendes und durchaus auch kontroversielles Thema. Ah ja, und ich bin die Manuela Machner. Dabei beschäftige ich mich mit künstlicher Intelligenz und Tourismus.

Eliot Mannoia: Und hi, mein Name ist Eliot Mannoia, digitaler Psychologe, und ich fasziniere mich für die KI und die Menschen. Und unser Ziel von diesem Podcast, diesem kurzen Format, ist, euch Gedankenanstöße zu geben und zu inspirieren in diesem spannenden Thema. Ja, Manuela, Demokratie, ein ganz, ganz breites und wichtiges Thema dieses Jahr.

Wir haben über vierzig Wahlen dieses Jahr. Also es ist ein ganz wichtiges Jahr für die Demokratie. Was sind so deine ersten Gedanken, wenn du KI und Demokratie hörst?

Manuela Machner: Na ja, künstliche Intelligenz macht natürlich Risiken auf, die es einfach früher in der Form nicht in dem Ausmaß zumindest gegeben hat. Ob das jetzt das Thema Manipulation ist, ob's Informationsbubbles sind, ob's, wie soll man sagen, ob man das Gefühl hat, alles ist echt, weiß man oft nicht mehr.

Ja, aber ich hab das Gefühl, dass es grad bei uns in Österreich schon so ist, dass die Leute Gott sei Dank zu wenig wissen, wie sie KI einsetzen könnten, um das auch politisch oder wahltechnisch in dem Ausmaß einzusetzen. Ich hoffe, dass da meine Vermutung richtig ist. Also manchmal ist es vielleicht gar nicht so schlecht, wenn man nicht überall ganz vorne dabei ist in der technologischen Entwicklung.

Aber es ist natürlich schon so, es gibt schon viele Möglichkeiten auch der Manipulation oder der Veränderung der Demokratie. Aber es hätte auch positive Beispiele. Also ich glaube, dass einfach, vielleicht gar nicht durch KI, sondern durch diese ganzen technischen Möglichkeiten, die einhergehen, direkte Demokratie ja viel einfacher umsetzbar wäre.

Ja, wir könnten ja wirklich zu jedem Thema theoretisch per Knopfdruck unsere Meinung äußern und unser Stimmungsbild abgeben und können uns dann nicht mehr verstecken, indem wir sagen, na, die Politiker haben diesen ganzen Mist gebaut, sondern dann müssten wir zugeben, dass wir konkret diesen Mist mitverantworten müssen.

Also es gäbe, glaube ich, da schon auch spannende Ansätze dazu. Wie läuft's bei dir? Also was hast du da für einen Eindruck?

Eliot Mannoia: Ja, also eigentlich sehr ähnlich. Also es kommen bei mir schon eher die Risiken leichter zuerst in Gedanken. Was mich überrascht, ich bin eher der Optimist normalerweise, aber wenn's um Demokratie geht und Information und Missinformation, ich glaube, da sind es die Risiken, die zuerst bei mir sind.

Ich denke da sehr an Cambridge Analytica, diese Firma in England, die damals mit Facebook-Werbung und Ocean, diesem psychologischen Persönlichkeitstest, das heißt Ozean, es gibt einen Persönlichkeitstest in der Psychologie. Das haben sie mit Facebook verbunden und haben wirklich sehr, sehr gezielte manipulative Werbungen dann geschalten, wo man auch dazu sagt, dass es auch irgendwie mit Brexit zu tun hatte oder geholfen hat für einen Brexit oder auch dem Trump im ersten Wahljahr zu helfen.

Also und das war, bevor die KI so ausgeprägt war wie jetzt. Also auf jeden Fall wichtig. Aber was du dann auch erwähnt hast, die Möglichkeiten, wir haben's auch in den letzten Folgen noch ein bisschen besprochen mit demokratisierender Technologie. Also die KI ermöglicht wirklich jedem, viel mehr Wissen und Informationen zu haben, und vielleicht das gekoppelt mit einer Blockchain-Technologie und so weiter, wo man vielleicht dann gewährleisten kann, okay, hat jeder gewählt?

Jetzt machen wir's in vielen Ländern noch mit Fingerabdruck. Vielleicht können wir mit Blockchain und KI dann vielleicht, mit der Rechenleistung, viel sicherere Arten von dem Wahlvorgang irgendwie gewährleisten.

Manuela Machner: Entschuldige, ich muss lachen. Du redest von Fingerabdruck. Ich meine, wenn du in Österreich in ein Wahllokal gehst, dann haben die wirklich diesen Zettel, wo sie das Hakerl machen, dass ich dort war.

Einen händischen Zettel, einen ausgedruckten Zettel. Das heißt, sie müssen danach das ja irgendwie digitalisieren. Also davon, dass ich einen Pass mithabe, den Wahlzettel mithabe, dass ich da, also ja, so. Wir sind noch nicht einmal beim Fingerabdruck, geschweige denn.

Eliot Mannoia: Nein, nein, in den Entwicklungsländern nutzen sie den Fingerabdruck.

Manuela Machner: Ja, aber wenn du jetzt sagst, in den Entwicklungsländern können sie mit Fingerabdruck wählen und wir wählen mit einer Stricherlliste, übertrieben formuliert, dann kriege ich jetzt voll die Panik.

Eliot Mannoia: Ja.

Manuela Machner: Na, Entschuldigung, aber es stimmt schon.

Eliot Mannoia: Ja, also in Amerika nutzen sie schon digitale, aber dann war ja dieser Skandal mit Florida, dass da irgendwie die Systeme vielleicht irgendwie nicht stimmten. Ich glaube, die Firma hat sogar einen Streitkampf, also einen

Manuela Machner: Einen Prozess, oder?

Eliot Mannoia: Einen Prozess, genau.

Manuela Machner: Prozess.

Eliot Mannoia: Und haben da auch gewonnen.

Manuela Machner: Vor Gericht gehabt.

Eliot Mannoia: Also ich finde, back to the thinking, in meiner Ansicht, also als Psychologe, wir müssen kritisches Denken und diese Soft Skills in den Schulen weiter vertieft unterrichten.

Mehr, mehr, mehr kritisches Denken, mehr Soft Skills, weil es wird einfach schwieriger und schwieriger, Missinformation und Information zu unterscheiden. Da möchte ich aber ganz kurz auch sagen: Missinformation hatten wir auch schon seit langer, langer Zeit, denn schon die Könige haben uns durch Religion, also die haben die Religion genutzt, um uns zu manipulieren.

Also die haben da auch das verzerrt. Dann die Presse. Der Mark Twain hat damals schon gesagt: „Wenn ich die Zeitung nicht lese, bin ich nicht informiert. Wenn ich die Zeitung lese, bin ich falsch informiert." Also Missinformation gab's schon seit langer Zeit. Das ist jetzt nicht unbedingt so neu, aber es ist einfach prävalenter und breiter und leichter, und jeder kann.

Nicht nur die, die eine Printing Press haben oder die was drucken können, sondern jetzt kann eigentlich mittlerweile jeder Sechzehnjährige, egal wo, auf Social Media irgendwas anfangen.

Manuela Machner: Aber weißt du, was ich so spannend finde, was du sagst, das ist das Thema kritisches Denken. Ich glaube, dass wir maßlos unterschätzen, wie wichtig das ist, und maßlos unterschätzen, wie uns das bis zu einem gewissen Grad auch abtrainiert wird, weil es ist ja schon so, dass du von der Schulbildung an angefangen mehr oder weniger konform sein sollst.

Also es gibt eine Meinung, es gibt eine Wahrheit, es gibt eine Tatsache. Und wenn ich mir aber KI-Systeme anschaue, die sind das Allerletzte, was das betrifft, zumindest die Sprachmodelle, mit denen wir arbeiten. Ob das jetzt ChatGPT ist oder wie sie auch alle heißen, Claude und Co.

Die sind ja nicht so, dass sie sagen, du machst was falsch. Also die sagen mir nie: Achtung, das ist Blödsinn, was du sagst. Oder Achtung, die Aussage ist... Also sie sagen dir vielleicht schon, na ja, es ist irgendwie, und vielleicht ist es ja doch richtig, aber eigentlich ist es falsch.

Also zuerst sagen sie mir, wie gut es ist, und dann sagen sie vielleicht, dass das inhaltlich einen Fehler hat, aber so dieses, also du kannst ja mal versuchen, mit einem ChatGPT echt zu diskutieren oder kontroversiell zu diskutieren. Das wird nicht klappen, weil er auch nicht darauf ausgerichtet ist.

Ich meine, ich möchte auch nicht, dass der mir sagt, wie dumm ich bin. Also ich möchte es ja als Mensch auch gar nicht. Aber die Gefahr ist natürlich schon, dass wir es uns noch mehr abgewöhnen, also dass wir einerseits noch mehr das Gefühl haben, wir haben immer recht, oder das, was wir glauben, ist immer richtig, weil es widersprechen uns vielleicht immer weniger Menschen, und auch eine KI widerspricht uns nicht.

Das ist die eine Geschichte. Und das andere, was ich sehr stark sehe, ist, dass wir immer stärker, egal auf welchem Kanal, in diesen Informationsbubbles sind, die uns wieder bestätigen und unsere Gedanken kennen.

Eliot Mannoia: Ja.

Manuela Machner: Und da wird's dann immer schwieriger, da noch herauszukommen. Ich habe gerade vorher erzählt, der Wahlkampf in den USA, Kamala Harris, von der ich vor zwei Wochen nicht einmal gewusst habe oder vor vier Wochen nicht einmal gewusst habe, wer das ist.

Auf TikTok ist mein Kanal voll, und ich würde sie sofort wählen. Ja, Leute, ich habe keine Ahnung von ihr. Ich will sie sofort wählen. Ich meine, das darf man ja eigentlich nicht sagen, aber ich bin begeistert von der Frau. Aber ich weiß nicht, ob ich, wenn ich's jetzt vom Kopf her gesteuert überlege, müsste ich jetzt sagen, ich müsste mich beschäftigen mit ihren Kernaussagen.

Wofür steht sie eigentlich ein? Was sind ihre Ziele und Zwecke? Und selbst abgesplittet vom Thema Donald Trump. Aber selbst ohne den Faktor Donald Trump würde ich sie jetzt wählen, rein emotional gesehen. Und dann sieht man, irgendwas hat da gut funktioniert in ihrer Kommunikation, und die ganzen Bubbles meiner Kanäle spielen mir das aus und bestätigen mir meinen Glauben oder meine Einstellung.

Ja, eigentlich.

Eliot Mannoia: Ich glaube, es ist auch eine andere Kraft, die auch auf uns wirkt, die oft vernachlässigt wird. Ich hab's schon ein paar Mal erwähnt, und die Bubbles, das ist absolut richtig, was du erwähnt hast. Und was dazugekommen ist, glaube ich, ist diese Urbanisierung, also Urbanization, also dass wir von Stämmen und von unseren Dörfern in die Stadt gezogen sind die letzten hundert, hundertzwanzig Jahre und wir unabhängiger sind.

Wir brauchen einander nicht. Ich habe einen Kühlschrank, ich habe eine Heizung. Du hast einen Kühlschrank, du hast eine Heizung. Ich brauche dich nicht, du brauchst mich nicht. Und diese Urbanisierung treibt auch Individualization. Und jeder wohnt so in seinen Schachteln in den Städten und ist in seinen Bubbles.

Und das verstärkt noch diese Situation. Weil wenn du in deiner Bubble wärst auf TikTok, aber du bist im Dorf, wo du dich noch mit anderen auseinandersetzen musst, vielleicht mit dem Bäcker, mit dem Schmied, und ja. Du hast nicht alles selbst erledigt, sondern du musst dich auf andere verlassen, dann wäre das vielleicht auch schwieriger.

Also wir haben die Bubbles und diese Urbanization, finde ich. Und ich glaube, da ist KI, oder ohne KI, oder Tech eher ein neutraler Wegbegleiter. Aber es ist, glaube ich, dieser gesellschaftliche Wandel in Urbanization und diese Bubbles, die durch Technologie verursacht werden, die wirklich uns und die Demokratie wirklich gefährden, indem wir einfach alle so unabhängig sind in diesem Wohlstand.

Manuela Machner: Ja, und das stimmt schon, weil so wie du sagst, du redest ja mit keinem mehr darüber, also weniger als früher. Also früher war's zwangsläufig, da hast du dann diskutiert über das Plakat von dem Politiker oder was auch immer. Das erledigen jetzt die Plattformen oder Leute auf Plattformen für einen, und man sagt dann: „Ja, der hat recht. Das war ja Blödsinn, was der gesagt hat", oder wie auch immer. Aber ich hab selber nicht mehr diesen Faktor: Hast du das gesehen? Und was sagst jetzt du dazu? Sondern ich höre mir die Meinungen an und denke mir: Ja, passt. Der hat meine Meinung, und ich muss nicht mehr interagieren. Und ich weiß nicht, grad das Thema Demokratie ist ja sehr stark in Richtung Politik auch ausgerichtet.

Das ist nun einmal so, weil wir sehr stark abhängig sind von unseren politischen Vertretern. Und ich finde, dass auch der politische Diskurs auf der persönlichen Ebene immer stärker abnimmt. Also es wird entweder verteufelt oder verallgemeinert oder gesagt: „Ja, lasst mich mit der Politik in Ruhe oder mit den Politikern."

Aber eigentlich die Auseinandersetzung damit erfolgt ja auch immer weniger. Wir sind, wenn wir dann vor einer Wahl stehen, einfach abhängig von Informationen, die wir uns wie auch immer zusammenholen. Und früher, ich meine, so wie du gesagt hast, das heißt nicht, dass man früher richtig informiert war. Die Medien haben auch früher je nach Couleur oder nach bezahlter Werbung, keine Ahnung.

Auch da sind wir ja schon in irgendeiner Form manipuliert worden. Aber wir haben ja viel mehr noch dieses gehabt: Du hast in der Firma noch geredet über die Wahl oder über die Personen. Und jetzt ist einerseits ein bisschen so eine Ermüdung, Demokratie ist Standard, das kommt noch dazu. Also wir haben Demokratie, und alles, was wir haben, ist nicht mehr ganz so viel wert oft.

Also das Gefühl hab ich auch, weil wenn du die Wahlbeteiligungszahlen anschaust, dann kannst du nur sagen, es ist irre. Wir lassen alles mit uns machen, weil Politik und Demokratie entscheidet ja über unser Leben in Wirklichkeit. Also wenn die Rahmenbedingungen, du hast's ja dann gesehen im Iran, wo die Frauen nicht mehr ohne Kopftuch aus dem Haus gehen durften und dann verurteilt und getötet wurden.

Das war eine nicht demokratische Entscheidung natürlich, aber es war eine politische Entscheidung. Und also wenn wir da nicht mehr drüber reden, was wir wollen, wohin wir wollen, wenn wir nicht teilnehmen an dem demokratischen Prozess, dann ist ja die Gefahr auch sehr groß, dass sie sich selbst abschafft.

Eliot Mannoia: Ja.

Manuela Machner: In Wirklichkeit.

Eliot Mannoia: Ja, und ich lese auch grad ein Buch über

Manuela Machner: Weil wenn weniger ist

Eliot Mannoia: Also ich lese dieses Buch gerade, The War on Kindness.

Manuela Machner: Noch mal, ich habe es nicht verstanden.

Eliot Mannoia: The War on Kindness. Also ein ziemlich gutes Buch über Empathie auch und so. Und da wird auch erzählt, wenn man weiter entfernt ist von Personen, dann reduziert das auch oft die Empathie. Und wie gesagt, im Dorf, ich bin vielleicht für diese politische Meinung, aber ich kenne dich, Manuela, du bist ja meine Nachbarin, dir geht es gerade nicht so gut.

Du hast eine andere Meinung oder du hast andere Bedürfnisse. Dann hat man da auch mehr Verständnis. Aber jetzt wieder durch diese Urbanisierung, wenn wir alleine wohnen in unserer eigenen Wohnung, dann kann ich wirklich nur meine eigenen politischen Interessen verfolgen, weil ich sehe die anderen Menschen weniger und habe da weniger Empathie für ihr Leiden oder ihre Bedürfnisse.

Also ja, ich glaube, die Gesellschaft

Manuela Machner: Aber weißt du, was noch ist? Also ich glaube, das ist, dass das nicht nur, meine politischen Interessen vertreten, hast du gesagt. Wer vertritt noch politische Interessen? Also ganz ehrlich, also auch am Land. Also es gibt schon die, die in irgendeiner Partei sind oder zur Wahl gehen und immer treu sind einer Partei oder irgendeinem Thema.

Aber wenn du dich unterhältst mit den Leuten, es ist eine Frustration vielleicht da. Es gibt vielleicht dieses, das geht gar nicht politisch, oder mich ärgert irgendeine politische Entscheidung oder Entwicklung oder was auch immer. Aber ich finde, dass es eine Minderheit der Menschen ist, die überhaupt noch ein politisches Statement haben oder politische Überzeugung als solche.

Sie haben vielleicht auch Überzeugung, was für sie richtig und falsch ist. Also ich glaube auch da. Und da ist natürlich dann die Manipulation viel, viel einfacher, weil ich habe eine Meinung, ich bin für das oder für jenes, und dann, wenn der so nach mir redet oder ich das Gefühl habe, er redet so nach mir bei meinem TikTok, das dann so ausspielt, oder mein Instagram oder mein Facebook, dann sage ich: Okay, der spricht von meinen Ängsten oder der spricht mich an, dann wähle ich den.

Und was noch eine spannende Geschichte sein wird, ist natürlich, als ein ganz anderer Fall, wenn Politiker KI einsetzen. Also wir wissen ja von Redenvorbereitungen, also bei aller Liebe, da wissen wir, dass schon ChatGPT natürlich auch viel mithilft, dass die Reden jetzt vielleicht doch mehr Inhalte bekommen.

Eliot Mannoia: Jeden Tag.

Manuela Machner: Aber die Frage ist: Wie bilden sich dann die Politiker ihre Meinung? Sind dann diese Analysen, die automatisiert von KIs erstellt werden, sind das dann die Wegweiser in Zukunft? Heißt das, also ich glaube, wir können auf das nicht im Detail eingehen, aber heißt das, dass irgendwann die KI unseren Politikern sagt, wofür sie sich in Zukunft am geschicktesten einsetzen sollen?

Und wodurch ist das wieder mithilfe von Bias und Co beeinflusst? Wobei bei manchen Dingen wär's

Eliot Mannoia: Ja, absolut. Guter Punkt.

Manuela Machner: Ja, ich glaube, das ist fast ein Endlosthema, wenn wir's zusammenfassen wollen. Also ich glaube, um diesen Bogen zu spannen: Grade das Thema Demokratie und KI ist, glaube ich, einer der Punkte, der primär auch in der Gesellschaft, bei denen, die sich damit beschäftigen oder mit KI beschäftigen, ein Sorgenthema ist.

Weil es schon durch die technischen Möglichkeiten auch mehr Möglichkeiten gibt, dass es Manipulation gibt, dass es wissentliche oder unwissentliche Manipulation gibt. Ich meine, es gäbe auch den schönen Aspekt, dass man sagt, man könnte mehr direkte Demokratie durchführen mithilfe von diesen technischen Systemen, aber in Wirklichkeit sind das die Ängste, die uns da eher beherrschen.

Die große Frage ist: Wie wird das weitergehen? Wo ist die Kritikfähigkeit der Menschen? Wie wird diese gefördert, unabhängig von medien- oder KI-manipulierten Geschichten, sondern einfach diese Kritikfähigkeit fördern und fordern. Und auch das Spannende wird sein, inwieweit KI nicht nur von der Politik eingesetzt wird, sondern inwieweit auch KI Einfluss auf die Politik hat. Ich glaube, da wird's viele spannende Diskurse allgemein geben, die aber, egal wie wir uns mit Politik auseinandersetzen oder nicht, in Wirklichkeit ganz viele Auswirkungen haben werden auf unser Leben.

Eliot Mannoia: Ja, ganz, ganz wichtiges Thema. Etwas, was wir sicherlich auch vielleicht ein anderes Mal wieder besprechen werden. Nächstes Mal sprechen wir wieder, auch sehr passend, über Mensch im Mittelpunkt, Human Focus, Human in the Loop, und freuen uns, wenn wir euch nächste Woche wiedersehen.

Ciao.

Manuela Machner: Alles Liebe. Macht's gut. Ciao.