Wir tracken Schlaf, zählen Schritte und gehen ins Fitnesscenter, um die Rolltreppe zu kompensieren. Gleichzeitig trainieren wir Maschinen, menschlicher zu wirken. Eliot Mannoia hat zwei Jahre dazu geforscht. Das Ergebnis ist sein Buch "Friction". In dieser Folge sprechen wir über künstliche Menschen, Hyper-Independence und warum wir bewusst Widerstand einbauen müssen.
Friction bezeichnet bewussten Widerstand gegen reibungslose KI-Optimierung. Nicht jeder Prozess soll effizienter werden, weil Reibung oft Lernprozesse und menschliche Verbindungen erzeugt.
Weil Effizienz nicht immer das Ziel ist. Manche Prozesse haben Wert durch ihre Langsamkeit, ihre Fehleranfälligkeit oder ihre menschliche Komponente.
KI-Systeme, die menschliches Verhalten so gut imitieren, dass die Grenze zwischen Mensch und Maschine verschwimmt. Das wirft Fragen nach Authentizität und Vertrauen auf.
Bewusster Widerstand schafft Raum für menschliche Entscheidungen, verhindert blinde Abhängigkeit und stärkt die Fähigkeit, KI kritisch zu hinterfragen.
Diese Reflexionsfragen aus Folge 112 helfen euch, euren eigenen Grad an "künstlicher Menschlichkeit" zu erkennen und bewusste Entscheidungen über Technologie und Widerstand zu treffen.
Hi und willkommen zur nächsten Folge von Mind/Machine. Mein Name ist Eliot Mannoia, digitaler Psychologe und heute reden wir über den künstlichen Menschen, Artificial Humans.
Grüß euch, hallo, ich bin Manuela Machner, spezialisiert auf KI und Tourismus. Und jetzt musst du ja gleich gestehen wir reden ja aus einem ganz bestimmten Grund über das Thema. Für alle, die es nicht wissen, der Eliot hat ein Buch geschrieben, gratuliere Eliot Ja, also ich sage es euch, jeder, der so etwas gemacht hat, weiß, was das heißt.
Und in dem Buch geht es ja auch über eigentlich den künstlichen Menschen oder wieviel ist der Mensch noch nicht künstlich. Also was erwartet uns in der Zukunft und worüber hast du da geschrieben? Was sind die Themen?
Ja, vielen Dank. Also Zukunft würde ich gleich mal sagen, es ist schon fast Gegenwart. In vielen Hinsichten sind wir schon so gesagt künstliche Menschen. Und das hat mich einfach so fasziniert die letzten Jahre. Ich arbeite schon zwei Jahre dran.
Aber es war ein richtiges Leidenschaftsprojekt. Und die Forschung hat mich in ganz surrealen komischen Orten und Studien gebracht. Also alles, was ich von China, Japan, Amerika, auch in Wien. Und ja, um es vielleicht mal kurz auf den Punkt zu bringen, warum künstliche Menschen, warum werden wir oder sind wir zum Teil schon artificial humans, weil ich habe bemerkt was für skurrile Sachen wir schon machen, die sehr irgendwie künstlich sind.
Also wir nehmen zum Beispiel während dem Tag die Rolltreppe und gehen dann am Ende vom Tag ins Fitnesscenter, um auf Stiegen zu steigen. Wir tracken unseren Schlaf. Wir zählen unsere Schritte. Und auch da. Es ist spannend, dass wir dann Braintraining machen.
Wir müssen uns weniger merken und deswegen zahlen wir wieder. Auch hier eine zentrale Prämisse vom Buch ist, dass wir zweimal für Technologie zahlen. Wir zahlen einmal für die Rolltreppe und dann ein zweites Mal für das Fitnesscenter oder einmal für das Handy, das unsere Telefonnummern speichert und dann zahlen wir ein zweites Mal für Braintraining-Apps oder Sudoku-Puzzles, um unser Gehirn auf Trab zu halten.
Also irgendwie nähern wir uns, die Maschine nähert sich eher uns an, also wie wir sein sollten, die Idealvorstellung von uns vielleicht auch. Und wir werden immer maschineller oder nutzen immer mehr Maschinen um uns noch mehr zu optimieren.
Bis hin eben, wie optimiere ich den Arbeitsalltag? Am besten gefällt mir in Outlook Fokuszeit, wenn die Outlook mir Fokuszeit einträgt dass ich konzentriert arbeiten sollte in dem Zeitraum. Das sind ja so Dinge, da bin ich mir dann oft nicht sicher, wer bestimmt über wen.
Ja, genau, das ist beim Buch war es mir auch sehr wichtig, also ich schreibe eigentlich in einer sehr anthropologischen, eher neutralen und eher beobachtenden Art, aber nicht beobachtend von außen, sondern ich bin selber drin. Sechs Stunden am Buch geschrieben oder acht Stunden am Tag und dann gehe ich auch ins Fitnesscenter. Also ich bin Teil dieser Sache. Ich bin ein künstlicher Mensch.
Also es ist auf jeden Fall nicht anti-tech, es ist eher pro-human und ich habe das auch jetzt nicht irgendwie alarmistisch geschrieben, sondern es ist eher so, ja, wir haben viele Vorteile, wir leben länger, der Lebensstandard verbessert sich, aber es gibt auch Nachteile oder Side-Effekte. Bei mir ging es eher um Bewusstsein schaffen, dass wir einfach künstliche Grenzen setzen werden müssen, weil die natürlichen Grenzen einfach vermehrt wegfallen.
Was meinst du damit?
Naja, so was du auch erwähnt hast mit Fokuszeit oder auch mit Stiegensteigen. Wir müssen bewusst Sachen machen, weil wir jetzt vielleicht nicht mehr wie früher acht Stunden oder zwölf Stunden am Land arbeiten oder auf den Füßen sind.
Was mir wirklich eine Gefahr ist: nicht die Terminatoren machen mir Angst. Was mir heute Bedenken macht, ist diese Hyper-Independence, also diese Unabhängigkeit. Dass wir in unserer eigenen Wohnung leben, dass wir unseren eigenen Kühlschrank haben, eigene Heizung, dass wir Netflix haben, also wir müssen nicht ins Wirtshaus gehen, um Entertainment zu haben. Wir haben einfach diese Unabhängigkeit und ich sehe es als große Gefahr, weil niemand denkt, dass Amazon oder Netflix oder Kühlschrank eine Gefahr ist, aber es ist die Summe von diesen kleinen Sachen, die uns diese Unabhängigkeit ermöglicht, dass wir dann einfach vielleicht uns einander nicht mehr brauchen.
Und früher musste man vielleicht Konflikt lösen. Auf andere verlassen, dich verlassen musstest und es war ein Konflikt, dann musstest du den Konflikt lösen. Und jetzt kannst du unfollow, unmatch und bist auf andere weniger angewiesen.
Naja, ich glaube, das Thema ist diese Unabhängigkeit von der Gesellschaft. Dem gesellschaftlichen Zusammenleben. Einerseits fördert das die technologische Entwicklung natürlich, weil man jetzt natürlich online das Essen bestellen kann. Und umgekehrt entstehen genau dadurch wieder diese technologischen Entwicklungen verstärkt.
Weil das ist ja keine Unabhängigkeit, von der du sprichst. Es ist eine Unabhängigkeit von anderen Menschen. Es ist aber eine Abhängigkeit von Technologie. Also es hat sich einfach gedreht. Früher waren wir abhängig von Menschen und nicht von Technologien.
Und jetzt wechselt die Abhängigkeit. Also wir haben sehr wohl eine Abhängigkeit, aber eine subtile Abhängigkeit, eine, die uns gar nicht so bewusst ist, außer wenn der Strom ausfällt oder das Internet ausfällt.
Wie würde ChatGPT die Menschen unterwerfen? Er hat gesagt, er würde den Leuten das Leben besonders bequem machen. Er würde schauen, dass die Entscheidungen von ihm getroffen werden. Er würde einfach das Denken übernehmen. Er würde den Alltag übernehmen, die Planung übernehmen. Und einfach die Abhängigkeit da machen. Und damit hätte er die Macht.
Das Buch heißt übrigens Friction. Reibung oder Widerstand. Weil alles so nahtlos und reibungslos ist, ist bei mir die Idee, dass man halt irgendwo bei manchen Sachen wieder ein bisschen Widerstand einbauen muss.
Und leider halt künstlich, weil wir halt künstliche Menschen geworden sind und werden, müssen wir halt durch den Wohlstand halt künstliche Widerstände wiederherstellen.
Ich finde es total spannend, wenn das funktioniert. Ich finde, weil du das sagst diese Reibung künstlich dazu verfügen. Ich habe manchmal das Thema, die Claude ist zum Beispiel so oft zu schnell. Ich will oft noch mit ihm diskutieren und er liefert schon die Antwort und das will ich ja gar nicht. Da ist genau dieser Entscheidungsprozess findet nicht statt.
Also ich habe es wirklich in vielen Domänen gefunden, also von Lernen zu Daten zu Lärmmanagement in Gebäuden zu Lärm von elektrischen Autos bis hin zu Fitness Tracker oder unserer Gesundheit im Büro. Also es war wirklich eine spannende Reise.
Ja, ich glaube, wenn uns bewusst ist, dass wir da halt ab und zu Bremsen die in unserem Interesse sind, einbauen, dann kann uns das wieder ein bisschen mehr Kontrolle geben über unser Leben.
Und es gibt einen Typ, der sehr spannend ist, der Andy Clark. Er ist so ein Technophilosoph. Und er hat das cool beschrieben mit einer Analogie. Genau wie das Mikrobiom, unser zweites Gehirn ist im Körper, nennt er es das AIOM. Und sagt einfach, genauso wie unser Mikrobiom unser zweites Gehirn ist, dass unser AIOM unser Ecosystem von Nudges ist, dass wir darunter genudged werden von verschiedenen Social Media oder Recommendation Engines auf Amazon oder von Netflix.
Also für alle da draußen, jetzt lesen wir das Buch von Eliot. Friction könnt ihr es auf Amazon kriegen, weil er traut sich eh wieder keine Werbung zu machen, zu seinem eigenen Buch.
Ist aber leider nur in Englisch.
Ja, zu relativieren. Ich glaube, die meisten von uns können so viel Englisch dass wir das verstehen können, das Buch. Ich finde es spannend, einfach die andere Perspektive zu sehen und nicht nur über das klassische AI-Thema und ChatGPT zu unterhalten, sondern auch auf die Auswirkungen in unserer Gesellschaft.
Und auch, dass es den Widerstand braucht, um etwas zu erreichen und dass wir Menschen eigentlich das auch brauchen in unserem täglichen Leben. Also, Buch bestellen Amazon, ihr werdet es jetzt in den Show Notes finden, in den Verlinkungen und ja, schreibt es dazu, wie es euch gefallen hat, was ihr für Fragen dazu habt, wir freuen uns.
Alles Liebe! Ciao.