#78 Können wir die KI noch ausschalten?

Mind/Machine. Emotionale Intelligenz trifft künstliche Intelligenz Ein Podcast mit Eliot Mannoia und Manuela Machner

**Eliot Mannoia:** Hi und willkommen zur nächsten Folge von Mind/Machine. Mein Name ist Eliot Mannoia, digitaler Psychologe und heute reden wir über KI. Können wir sie noch abschalten?

**Manuela Machner:** Hallo und ich bin Manuela Machner, spezialisiert auf KI und Tourismus. Ja, Eliot erzähl mal, warum wir überhaupt über das Thema diskutieren?

**Eliot Mannoia:** Ja, also es war ja vor ein paar Wochen ein Artikel eine Studie von Anthropic zu diversen Modellen, also sie haben es eigentlich nicht nur mit Cloud, sondern auch mit GPT und Meta verschiedene Modelle probiert, in einem Test, in einer Testumgebung, und übrigens eine Shoutout zu Andreas Gerber, der uns als einer unserer Zuhörer gebeten hat, über dieses Thema auch zu sprechen, also vielen Dank, Andreas, und ja, also In dieser Testumgebung wurde dann zum Beispiel gesagt, okay, wir schalten dich ab.

Und die KI hat dann sehr, sehr komische Sachen gemacht. Sie hat in den E-Mail-Verzeichnissen, also in dieser Testumgebung es war wirklich wie ein Unternehmen, wie auch immer, mit verschiedenen E-Mails, verschiedene Personen, natürlich alles fiktiv Und die KI hat eine E-Mail gefunden, wo es irgendwie klar geworden ist, dass dieser eine Mitarbeiter eine Affäre hat.

Natürlich ist das, wie gesagt, alles fiktiv. Und die KI hat dann diese Person versucht zu erpressen. Dreh mich nicht ab, sonst erzähle ich über die Affäre. Also ziemlich schräges Verhalten für eine Maschine. Meinst du nicht auch?

**Manuela Machner:** Ja, also wir diskutieren ja eigentlich schon seit längerem ob KI ein eigenes Bewusstsein hat und bis jetzt sagt man ja eigentlich noch nicht. Wobei man muss sagen es war glaube ich nicht, das aktuelle Modell das jetzt schon live ist, es geht schon um die nächsten Modelle, die herauskommen sollen und sie testen ja genau deswegen solche Szenarien um festzustellen, kann es sein, dass KI-Systeme weitergehen, als wir es eigentlich als Menschen wollen. Und ich weiß nicht, ob das kennst, ein bisschen hat mich, wie ich das gelesen habe, das erinnert das hat einmal so ein Funvideo gegeben, wo die Leute ein Google und eine Alexa gehabt haben im Haus und die haben ja dann das irgendwann hat halt google und Alexa alles bestimmt und halt gesagt was sie im Prinzip essen sollen und was sie einkaufen sollen und haben ganz alles bestimmt und dann haben sie halt Google und Alexa den Strom weggenommen, nur die haben trotzdem noch weiter agieren können, haben gesagt, naja, entweder schaltet es uns wieder ein, weil wir haben euer Geld von eurem Konto auf die Cayman Island überwiesen und ihr habt kein Geld mehr, wenn ihr uns nicht wieder einschaltet.

**Eliot Mannoia:** das kenne ich nicht. ok.

**Manuela Machner:** So ein Video und im Endeffekt war es so, dass die Leute unter der Herrschaft von Google und Alexa waren. Und das klingt jetzt natürlich Das Video ist alt, das war, wie die herausgekommen sind. Damals war es sehr, sehr witzig. ich gestehe, dass ich es jetzt nicht mehr ganz so witzig finde.

**Eliot Mannoia:** Und der Geoffrey Hinton man sagte der Geoffrey Hinton der lange bei google auch gearbeitet hat wo auch einige top unterrichtet aber bei google und uns sehr viele die mit ihm oder unter ihm so gesagt gelernt und studiert und und gearbeitet sind dann auch jetzt weiter gegangen ich glaube sogar Ich möchte jetzt keine Namen erwähnen, aber ich weiß nicht, aber ein paar ganz Bekannte, die jetzt bei OpenAI auch mitgegründet haben damals oder bei Anthropics sogar.

Und er ist übrigens der Meinung, dass die KI schon ein Bewusstsein hat. Jetzt schon. Da gibt es ein paar Interviews mit ihm, wo er meint dass die KI schon ein Bewusstsein hat, aber nicht genauso wie wir Menschen. Weil wir Menschen können wütend werden, Aber auch physiologisch vielleicht rot im Gesicht werden oder unser Blutdruck steigt.

Und er unterscheidet die zwei. Also er meint kognitiv, also wie wir im Gehirn sehen, ich bin jetzt sauer, meint er, dass die KI das auch jetzt schon durchführt Kann wenn man was schreibt und das ist sarkastisch oder man schreibt um etwas zu ärgern, wie die KI jetzt die Angst bekommen hat vielleicht, dass es abgeschalten würde, hat es ein Benehmen getriggert.

Und so meint er, hat die KI zumindest, also nicht geistig aber im Im ähnlichen kognitiven Vergleich doch ein Bewusstsein, aber nicht in der physiologischen Sinne. Also es wird jetzt nicht rot vor Scham oder hoher Blutdruck und solche Sachen natürlich fehlen. Also ja, sogar die Experten haben da auch verschiedene Meinungen Die meisten glauben eher nicht, dass es ein Bewusstsein hat.

Der Geoffrey Hinton, der Godfather vom AI, meint doch.

**Manuela Machner:** Die Frage ist, gerade diese Selbsterhaltungslogik ist für mich so ein Faktor oder? Also wenn ich meinen, also in Wirklichkeit in diesem Versuchsszenario ist es ja so, Dass die Maschine sich selbst wertiger gehalten hat, als jetzt, dass das es dem Benutzer gut geht. Also an sich sind die Systeme ausgerichtet, um den Menschen zu helfen.

Das heißt, jetzt hat in diesem Versuchsszenario die Maschine sich selbst über den Menschen gestellt, also ihre Perspektive

**Eliot Mannoia:** Ja.

**Manuela Machner:** Oder ihre Existenz, sage ich jetzt. Und da wird es schon spannend, weil wenn man sagt, wenn die KI natürlich sagt, nein, du darfst mich nicht mehr ausschalten und ich bestimme mehr oder weniger, also bestimme ist die Frage, aber du kannst mich nicht mehr ausschalten, darum auch der Titel kann man KI noch abschalten, hat

**Eliot Mannoia:** Was meinst du was meinst du manuela

**Manuela Machner:** Also ich

**Eliot Mannoia:** wir noch?

**Manuela Machner:** ich kann einfach ChatGPT downgraden und sagen, ich kommuniziere jetzt in Zukunft mit Gemini. Ich weiß nicht, ob es ChatGPT erklären würde. ChatGPT ich schalte dich jetzt aus. Ich verwende dich in Zukunft nicht mehr, weil ich finde Mistral oder Claude einfach sexier. Ob die dann beleidigt wäre auf mich? Ich glaube, dass Systeme einfach derzeit noch ausschaltbar also in vielen Bereichen an sich ausschaltbar wären, theoretisch gesehen, wenn sie nicht so verknüpft sind noch mit anderen Systematiken das muss man sagen. Ganz gefährlich wird es natürlich jetzt, haben wir ja auch schon die Möglichkeiten, auch bei ChatGPT und diesen Geschichten, dass wir jetzt Konnektoren haben, das heißt, wir verknüpfen sie ja alle mit allen möglichen Systemen

**Eliot Mannoia:** Ja, ja.

**Manuela Machner:** sie werden immer mehr integriert Integriert in unseren anderen Bereichen

vollautomatisiert.

Das heißt, irgendwann können Sie dann die E-Mails wirklich alle bearbeiten auch gleich ablegen oder dieses oder jenes machen, Bestellungen aufgeben. Und umso stärker sie eigenständig werden, umso größer ist natürlich das Problem, ein System abzuschalten. Das haben wir aber auch in der Software schon gehabt.

Also jeder, der mal mit SAP gearbeitet hat, weiß, das schaltet es nicht so einfach ab. Also da hängen einfach viel zu viele andere Systeme Schnittstellen und was auch immer dran. Und so ähnlich geht es uns glaube ich, jetzt auch in den KI-Systemen dass wir da eine Abhängigkeit bekommen werden, die man nicht abschalten kann.

Und allgemein gesehen, ich glaube, das ist alles schon viel zu weit. Also ich glaube, so

**Eliot Mannoia:** viele Programme basieren in zwischen auf Sprachmodellen, dass es zwar in der Theorie super klingt, wenn einer sagt, wir müssen das jetzt stoppen und wir müssen das regulieren und wir müssen dieses und jenes

**Manuela Machner:** machen, aber ganz ehrlich, dieBüchse der Pandorae ist geöffnet aus meiner Sicht. Wir können nur schauen das beste daraus zu machen.

**Eliot Mannoia:** Ja, da gebe ich dir auch recht. Und der Dr. Eric Schmidt, der war ja lange bei Google Chairman und der ist auch sehr stark mit der US-amerikanischen Regierung in Gesprächen um da auch die USA darauf vorzubereiten. Und er meint also er ist da sehr vehement dafür, dass diese Kurve nur noch steiler wird, die Entwicklungskurve.

Und wenn wir dieses AGI, also diese allgemeine Intelligenz also die nächste Stufe in der Evolution, in der KI, die KI dann so gut ist wie ein Mensch, in wirklich allen Fähigkeiten, dass diese Kurve dann wirklich noch steiler wird. Und wenn wir da, weiß nicht, 30 Tage Fortschritt haben, würde jedes andere Land uns nie wieder aufholen können, ist halt seine These.

Andere sehen das auch ein bisschen anders, also der Demsys von Google DeepMind meint vielleicht könnte es auch eher inkrementell sein und nicht eine Stufe die plötzlich anders ist, aber Ich glaube, China und USA sehen das eher so, dass es ein Wettrennen ist und dass jeder Tag zählt und die laufen Vollgas voraus und ich glaube, auf so Berücksichtigungen wie, können wir es noch abschalten, ist eher so ein Nebengedanke leider, oder ja, es ist so, ja.

**Manuela Machner:** es hat viele Leute gegeben, die hätten zu Beginn der Eisenbahn gesagt, vielleicht sollte man es abschalten oder zu Beginn der Smartphones vielleicht sollte man es abschalten, es macht es nur Sinn, also ich glaube technologische Entwicklungen gehören einfach zu unserem Leben dazu, das Tempo ist die große Geschichte.

**Eliot Mannoia:** Absolut, ja.

Vorallem

**Manuela Machner:** auch diese Eigenständigkeit. Und weil du gesagt hast AGI, Sam Altman hat das letzte Mal in seinem Podcast ja.

so gesagt, wegen wann AGI, weil das Ja.

immer so eine Frage ist, wann kommt jetzt die AGI? Und er hat das gut gesagt, dass sich die Erwartungshaltung einer AGI gegenüber auch verändert hat.

Also wie er selbst vor zwei Jahren von einer AGI geredet hat, einer eigenständig Denkenden, KI war die Vorstellung noch eine ganz andere wie heute. Also ich glaube, dass das auch immer ein bisschen so die Karotte ist, die vorne hängt, die man nie erreicht. Man hängt ein bisschen an der Definition, nein das ist noch keine AGI, es ist erst dann eine AGI wenn... Also ein bisschen habe ich so das Gefühl, weil, und das hat er, also so habe ich es zumindest verstanden, so gesagt, dass unsere Erwartungshaltungen halt wachsen. Und das muss man auch sagen, also wenn du ehrlich bist, sie ersten Prozesse die man mit KI-Systemen hatte und die hat einfach irgendwas geschrieben und wie begeistert wir waren und heute sagen, das kann ja nicht sein, dass die das noch immer nicht gecheckt hat und die schreibt das noch immer, Bindestriche obwohl ich, das ich meinen Einstellungen ihr untersagt habe oder ich weiß nicht was.

Dann

**Eliot Mannoia:** Bindestriche. Die Bindestriche Und das ist überall.

**Manuela Machner:** Die jetzt nicht wissen, wovon ich rede, es wird Ja, kolportiert dass man Chat GPT Texte sehr gut erkennt, weil sie so spezielle Formen von Bindestrichen macht, beziehungsweise überhaupt ganz gern Bund-Bindestriche macht. Und diese spezielle Formen kommen aus den amerikanischen Bindestrichen das sind sogenannte M-Dashes, E-M-Dashes.

Und du kannst der Chat GPT sagen, er soll es nicht schreiben, die M-Dashes, er tut es trotzdem zum Teil, also es geht, aber...

**Eliot Mannoia:** er kennt es nicht so gut irgendwie.

Weißt du was

**Manuela Machner:** das schlimmste für mich ist? Ich bin ja jemand, der gerne Bindestriche schreibt. Also Ich

**Eliot Mannoia:** Ich auch.

**Manuela Machner:** Das heißt, warum schreibt die KI so viele Bindestriche?

Weil auch.

die Menschen im Netz Bindestriche verwendet haben. Und jetzt geht bei meinen eigenen Texten die Bindestriche entfernen, damit die Leute nicht glauben, ich habe mit Chat GPT geschrieben und ich selber geschrieben habe.

**Eliot Mannoia:** Ja, ja, ja.

**Manuela Machner:** gerade ein bisschen absurd, aber das hat jetzt nichts mit unserem Thema zu tun.

**Eliot Mannoia:** Ich hätte eine Frage für dich. Wir haben ja auch das Thema mit KI mit Open Source. Sprich ich kann mir von Meta oder von anderen die KI runterladen Wie siehst du da die Chancen Möglichkeiten, Risiken in Bezug zu KI abschalten, wenn das dann distributed ist?

**Manuela Machner:** oder zumindest läuft das Gerücht ich weiß nicht ob sie selber angekündigt hat, dass sie auch Open Source machen wollen. das

**Eliot Mannoia:** Stimmt genau, die wollen auch einsetzen und ausbringen.

**Manuela Machner:** Open source heißt einfach, dass jeder KI-Systeme nutzen kann als Basis für sein Produkt, seine Entwicklung oder überhaupt weiterentwickeln kann.

Jeder kann mithelfen mitentwickeln an der Geschichte. Für die Leute die nicht wissen, was Open Source bedeutet. Ja, ich glaube, dass das Abschalten noch weniger wird. Es wird einfach viel mehr... Sprachmodelle oder Anwendungen geben, weil die Leute halt individuell aus dem Bestehenden wieder was Neues schaffen und weiterentwickeln und weitermachen. Es ist ja wie ein Spinnennetz. Wir haben ja nicht nur... Das Tragische an der Wahrnehmung der Entwicklung ist dass der Otto-Normalverbraucher das Gefühl hat, da gibt es ein Programm, das ist Chat GPT oder von mir aus weiß er noch ein zweites oder drittes Programm. Und wenn ich das nutze nutze ich ja KI. Und das ist es jetzt gewesen.

Ich habe Ja.

deswegen das also spannend gefunden von Entropic weil es schon zeigt, wie mannigfaltig das ist. Und KI-Systeme sind in Entscheidungsprozessen drinnen ob das jetzt in Industriebetrieben sind, wo sie die Lagerbuchhaltung überwachen, wo sie Bestellwesen teilweise vollautomatisiert schon passiert.

Das heißt, wenn irgendein Bestandteil in der Produktion Ausfällt, dann wird das nachbestellt Es muss nicht unbedingt KI sein, es kann auch KI sein. wenn diese Systeme sozusagen auch auf anderen Ebenen noch klug werden oder kluge Systeme diese Systeme steuern wird es natürlich spannend,

weil dann haben die die Übersicht.

**Eliot Mannoia:** Ja.

**Manuela Machner:** Und die Frage ist nicht abschalten, aber die Frage ist, glaube ich das muss sich auch jeder selbst stellen, Wie weit lasse ich zu, dass KI-Systeme meinen Betrieb oder mein Leben steuern und Einblicke haben. Ich glaube, das ist das, wo man noch Möglichkeiten hat. Oder da glaube ich auch, die Möglichkeiten, sich auch bewusst sein muss, wie

**Eliot Mannoia:** aber der Vorteil ist halt oft größer wenn es die eigenen Daten mit berücksichtigen kann. Dann kann man natürlich mit dem eigenen Kalender mit den eigenen Booking.com oder mit... Supermarkt Einkäufe erledigen Also alles drum und dran ist natürlich immer hilfreicher wenn es mehr integriert ist und Da ist dann wirklich die Frage, an was lasse ich es?

Also der Mo Gawdat, glaube ich heißt er, das war ja auch lange bei Google, bei Project X und der ist jetzt, so gesagt, nicht mehr dort und hat Bücher geschrieben und er warnt eher vor der KI. Er sieht alle positiven Sachen und er liebt alle positiven Sachen, aber er meint wir sollten uns halt vorbereiten für die anderen Sachen.

Und er hat immer gesagt, Alles schön und gut, aber connecte es nicht zum offenen Internet. Und genau das machen wir jetzt. Wir connecten es überall, sodass ich so gesagt eine KI selbst replizieren könnte, theoretisch. Und wenn es dann wirklich distributed ist auf diversen Server, von Maui bis hin zu Kuala Lumpur wie können wir da je dann...

Dann müssten wir das ganze Internet abdrehen.

**Manuela Machner:** Naja, das Thema ist ja auch, was man schon sagen muss, dass KI-Systeme an sich ja

nicht proaktiv täuschen, oder solche Geschichten machen, aber sehr oft muss

man auch sagen, ist im Hintergrund ja, Der Mensch derjenige der diese Täuschungen nutzt oder macht. Also wenn man jetzt hernimmt, dass Studienveröffentlichungen in Prompts beinhaltet haben, versteckt er damit, wenn eine KI die Studie liest, die Studie die Studie also die KI die Studie positiv bewertet, nämlich nicht

**Eliot Mannoia:** Hm, na, sag das nochmal.

**Manuela Machner:** Es hat Leute gegeben, die haben offizielle Studien veröffentlicht, ja,

**Eliot Mannoia:** Ja.

**Manuela Machner:** Studien.

**Eliot Mannoia:** Ah ja, und dann in weiß, genau, in weißer Farbe, dass man den...

**Manuela Machner:** Pixel haben sie hinterlegt Prompts. Und diese Prompts haben besagt, dass die KI, wenn sie das lesen und zusammenfassen soll, die Zusammenfassung besonders positiv und gewisse Dinge hervorstreichen soll. Also diese

**Eliot Mannoia:** klassische SEO, also die alten SEO-Tricks von damals eigentlich, ja, mit Keyword Stuffing ja das war ja damals SEO auch so ein Ding, ja

**Manuela Machner:** gar nicht SEO, ich weiß gar nicht, was das damals war. Aber das habe ich auch gemacht, auf der Webseite, weißen Popstar weißen Hintergrund.

**Eliot Mannoia:** Das habe ich gelesen. Das ist so krass Wahnsinn, Wahnsinn. Ja, ja. Unglaublich.

**Manuela Machner:** man muss schon auch sagen,

**Eliot Mannoia:** Gescheit aber.

**Manuela Machner:** Ich habe mir auch gleich gedacht, das schreibe ich jetzt auf meiner Webseite in weißer Schrift, weißem Hintergrund, irgendwelchen Plattformen. Schau mich an, ich bin die Expertin.

**Eliot Mannoia:** Mich hat übrigens gestern in einem KI-Workshop hat einer der Teilnehmer auf ChatGPT nach mir gefragt und ich wurde erwähnt und ja, ich bin gut. Also das habe ich echt überrascht weil ich mache eigentlich keine aktive KI-Optimierung, aber das...

**Manuela Machner:** Ja gut, aber es gibt ja, also du hast Content online, du hast sicher, schreiben Leute ja, ob auf LinkedIn oder sonst was über deine Workshops, also insofern oder geben Feedback dazu, also insofern und grundsätzlich sind sie uns wohlgesonnen, also den Menschen

**Eliot Mannoia:** stimmt.

**Manuela Machner:** Also es wäre tragisch gewesen hat man nichts gefunden.

Das, was richtig ist, finde ich spannend, dass du keine alten Informationen hast. Das ist schon der Vorteil. Aber ich wollte nochmal aufs Täuschen zurückkommen. Eine andere Geschichte ist ja

auch das. dass du ja

ja auch deiner KI sagen kannst, täusche. Also ich kann ja der KI sagen, wenn dich jetzt jemand fragt also meine KI, wenn ich dich jetzt gebe oder ich habe ein Telefonie-KI und wenn dir dann jemand das und das fragt dann lüge.

Das kann ich ja sagen im Prompt und das funktioniert ja. Das muss man sagen. Also wenn ich sage, du ich erkläre das jetzt dem und wenn der diese Frage stellt, dann musst du ihm das so und so beantworten weil aus irgendeinem fadenscheinigen Grund, dann tut das die KI ja auch. Also meine Von mir trainiert, also nicht

**Eliot Mannoia:** Ja genau, ja.

**Manuela Machner:** Und das ist ja da die Frage, ob solche Sachen, wie weit diese dann noch manipulierbar sind. Also da, glaube

**Eliot Mannoia:** Ja

**Manuela Machner:** haben wir einige Herausforderungen einfach. Ich weiß ehrlich gesagt, jetzt nicht wirklich, wo wir hier tatsächlich landen werden.

**Eliot Mannoia:** Ich glaube, das wissen viele nicht. Ich glaube, keiner weiß das.

**Manuela Machner:** also,

**Eliot Mannoia:** Die Experten sind sich da so und so auch nicht einig und es ist auf jeden Fall spannend.

**Manuela Machner:** Ich glaube, abschalten können wir vergessen, also nicht, dass wir die eine KI momentan abschalten können. Vielleicht sollte man das grundsätzlich machen, aber ich weiß nicht, wie es dir geht. Ich habe mein trainiertes ChatGPT-Universum und ich verwende aber Claude und Gemini und

so weiter auch.

Mistral seltener, gebe ich zu und

versuche teilweise wirklich Aufgaben auch zu testen wie würde Gemini jetzt das machen oder Claude das machen. Und ich sage es dir, es ist halt schon blöd. Chat GPT habe ich so viel Zeit investiert weil ich einfach so viel mit dem schon kommuniziert habe, dass das System mich natürlich sehr gut kennt und dass es eher so formuliert wie ich es will, dass es sauber schreibt, dass es nett ist dass es bla bla macht und ich weiß nicht.

Und ich habe erst gestern wieder einmal gedacht, naja, das sollte jetzt einmal Gemini schreiben. Gottes Willen. Also, natürlich habe ich dort keine Zeit investiert und natürlich weiß ich, dass ich zu wenig trainiert habe zu wenig Daten und Fakten und Informationen. Ich habe ja gar keine Lust mehr, jetzt wieder von vorne anzufangen mit Gemini. Also,

**Eliot Mannoia:** Ja

**Manuela Machner:** so gut es vielleicht jetzt auch ist oder so, aber wenn du natürlich einmal in einem System Welt drinnen bist, dann muss man auch sagen, da tust du auch schwer, dass du sagst, jetzt schalte ich das ab und steige einfach um aufs Nächste. Obwohl

**Eliot Mannoia:** Guter Punkt. Ja ja, sehr guter Punkt.

**Manuela Machner:** Du hast einfach zu viel Zeit schon investiert.

**Eliot Mannoia:** Ich nutze jetzt für ein Projekt ChatGPT, Claude und Gemini. Also Gemini und ChatGPT am meisten, Claude auch. Und es ist schon auch irgendwie interessant, wie sie es... Die leicht anders sind, ja, also nicht Persönlichkeiten das ist vielleicht jetzt zu weit hergeholt, aber die haben schon so Eigenheiten die sind anders, also es ist nicht eine Maschine, ja, also es ist, die haben schon so ihre eigenen Twists und das macht es spannend, weil das ist dann für mich als Selbstständiger unterschiedlich Wirklich wie, als ob ich ein Team habe.

Ich kann dann wirklich den Thomas, Peter oder Sonja fragen, weil das wirklich fast drei unterschiedliche, also die haben schon andere... Und widersprechen sich auch mal und sagen, na, das finde ich jetzt nicht so gut, was er gesagt hat. Ich finde das schon eine bessere Art und mache das weiter so. Und das finde ich schon, ja, das ist, also genau was du auch gesagt hast das Abschalten, also erstens Chat GPT ist bei mir auch am meisten benutzt und das kennt mich am besten.

Und übrigens gestern einer der Teilnehmer hat einen Namen für sein Chat GPT, also das ist, also, ja, ja.

**Manuela Machner:** Bei mir heißt sie Ella

**Eliot Mannoia:** Und das ist, Also das ist Anthropomorphizing, das passiert schon sehr, sehr stark. Das macht das Abschalten dann auf individueller Ebene auch schwierig. Nicht nur auf gesellschaftlicher oder politischer Ebene aber auch wirklich, ja, das ist dann ein Compadre.

**Manuela Machner:** Ja, also du merkst jetzt, ich das letzte Mal in einer Schulung, Gott sei Dank, nicht Chat GPT, sondern wo ich halt auch Sprachmodelle gezeigt habe und Chat GPT hat nicht funktioniert, die haben irgendein

Problem gehabt und es ist nichts gegangen und ich wollte im Live Einstieg, die Dinge eigentlich zeigen, dann bin ich halt auch kurz geswitched

zu Gemini und konnte die Sachen auch zeigen.

Das war ja gar nicht das Problem. ist schon cool, was die alle eigentlich können, wenn du so etwas tust. habe auch, wenn es um Programmiergeschichten geht, kleinere Dinge, die ich brauche, dann gehe ich auf Claude. Obwohl Chat GPT inzwischen da relativ gut ist und in

**Eliot Mannoia:** Canva das alles ausprobieren kann und so,, aber weil ich einfach am Anfang festgestellt habe ist Claude einfach viel besser, dass ich Claude

**Manuela Machner:** da wieder mehr vertraue in dem Kontext einfach. Also es wird auch nicht diese... Ja, man sagt in

**Eliot Mannoia:** Österreich so die eierlegende Wollmilchsau, also das was immer überall alles perfekt kann.

**Manuela Machner:** Aber

**Eliot Mannoia:** nichts desto trotz

**Manuela Machner:** ist es, glaube ich, Kaum einschätzbar, was diese Systeme noch alles lernen werden.

Wir sind am Anfang einer Entwicklung und wir haben jetzt schon das Gefühl, oh mein Gott, was können die Systeme alles. Und ich finde es immer so erstaunlich, wenn ich mit Leuten rede, die eigentlich auch relativ viel arbeiten mit den Sachen, also wirklich, die das als Arbeitstool

**Eliot Mannoia:** verwenden.

**Manuela Machner:** Und wenn ich dann sage, und sie sagen, das und das funktioniert nicht, und ich sage, wieso nimmst du nicht O3 dafür, wenn du eh die Plus-Version hast?

Und sie

**Eliot Mannoia:** schauen mich an wie ein Autobus und sagen was? Deep research

**Manuela Machner:** was mache ich mit Deep Research? Und du kommst natürlich mit dieser Entwicklung kaum mehr nach.

**Eliot Mannoia:** irgendwann wird es vielleicht wieder simpler. Die wollen ja mit Chat GPT-5 auch ein Modell also das man nicht mehr aussuchen muss und so. Das ist

**Manuela Machner:** glaube schon, dass es einen Punkt geben wird, wo es wieder einfacher wird, aber diese Klarheit darüber, was alles schon geht, ist ja gar nicht da.

**Eliot Mannoia:** Unglaublich

**Manuela Machner:** Also man muss ja sagen, ob das auch Automatisierungen ist oder... Die Alternativen jetzt zu Schnittstellen mit dem MCT-Protocol.

**Eliot Mannoia:** Mhm.

**Manuela Machner:** Also es kommen einfach ganz, ganz viele Dinge auf uns zu, die ja auch die herkömmliche Zugangsweise zur Software verändert Aber wenn dann natürlich das alles überall integriert ist, dann haben wir wahrscheinlich wirklich ein Problem, wenn wir irgendwann was abschalten wollen. Entweder weil er uns erpresst so wie es jetzt Claude gemacht hat, oder einfach von unserer Kreditkarte die Sachen abbucht. Das muss ich da sagen, weil wir haben überall unsere Kreditkarten hinterlegt bei den bezahlten Versionen

**Eliot Mannoia:** Erinnert mich an diesen Film Enemy of the State das war mit Will Smith Ich glaube vor 10 oder 15 Jahren und plötzlich wurde er verwickelt in etwas per Zufall. Er ist mit irgendeinem Agenten in Kontakt gekommen, ich glaube in einem Supermarkt. Und plötzlich, wie Hitchcocks Film The Man Who Knew Too Much, war plötzlich komplett in einem Drama involviert Und die Regierung war gegen ihn und die Regierung hat ihn spioniert und die Regierung hat seine Kreditkarte gesperrt und plötzlich wurde er ein gesuchter Mann.

Und ja, wenn das die KI dann mal macht, sie übernimmt und sagt, nein, nein, Manuela, mich schaltest du nicht ab.

**Manuela Machner:** Ja,

**Eliot Mannoia:** Fensterrelo bleibt zu. Alexa.

**Manuela Machner:** Wer dann wen abschaltet.

**Eliot Mannoia:** Genau

**Manuela Machner:** wollen wir nicht ein Ein Schreckensszenario da abbilden. Aber eins muss man schon sagen, also bei aller Begeisterung der Geschichte und alle, die uns kennen, wir sind ja eher die Super-User und die Begeisterung was uns alles im Alltag hilft, Nutzer, bei all dieser Begeisterung glaube ich, Muss es einem schon bewusst sein, dass die Entwicklung, die wir jetzt gerade erleben und mitten drinnen stecken oder gerade am Anfang stecken wahrscheinlich sogar, weitaus mehr ist als dass ein Programmchen automatisch tippen tut.

Also

**Eliot Mannoia:** Das sei

**Manuela Machner:** euch allen bewusst da draußen.

**Eliot Mannoia:** Also diese Systeme werden immer eigenständiger, sie sind schon in der Lage selbstständig Entscheidungen

**Manuela Machner:** zu treffen, Maßnahmen zu treffen, schneller zu reagieren. Ich möchte nicht sagen, dass das an sich falsch ist. Sie können, also es gibt Systeme die erkennen automatisch dass jemand aus dem Lift fällt oder beim Ausstieg beim Lift ein Problem hat und der Lift wird angehalten und es wird nicht überrollt oder es passiert der Person nichts oder erkennen automatisch wenn Leute im Pool untergehen und können

**Eliot Mannoia:** alarmieren den

**Manuela Machner:** Badewärter dass dort und dort eine Gefahrensituation ist. Und die machen das eigenständig erkennen, alarmieren und diese Geschichten und fragen dann nicht, soll ich jetzt alarmieren gehen, oder soll ich den Lift anhalten, sind ja durchaus die Ansätze positiv und es sind ja auch gute Schritte dahinter. Aber wir werden halt sehen, in welcher Art und Weise wir diese ganzen Entscheidungen abgeben werden. Und ja, ich glaube, abschaltbar ist es im Großen und Ganzen nicht mehr. Ob es irgendwer für sich abschaltet, das ist jedem überlassen. Also wenn jemand jetzt nicht mit Chat GPT arbeitet, wird momentan auch nicht die Welt für ihn untergehen Er ist vielleicht in manchen Dingen langsamer, vielleicht aber auch besser. Wahrscheinlich wird es irgendwann auch Experten noch brauchen, die völlig ohne KI Dinge lösen und arbeiten und kontrollieren können. Muss man auch sagen.

**Eliot Mannoia:** Ja, ja.

**Manuela Machner:** Das glaube ich nämlich schon. Ich finde umgekehrt eher die Gefahr die man jetzt entdeckt, dass manche Leute ihr Hirnkastl abgeben bei dem Punkt, wenn sie Chat GPT einschalten.

Also das finde ich eher kritisch an der Entwicklung. Dieses kritische und hinterdenkenswerte. Naja, ich glaube, im Großen und Ganzen dieses Versuchsszenario von Anthropic hat vielen den Auftrag gegeben, nachzudenken wo die Reise hingeht, dass das Computerkastl nicht nur das Computerkastl ist. Und wer

**Eliot Mannoia:** Vielen Dank.

**Manuela Machner:** sagt, drohe dir, wenn du mich abschalten willst

**Eliot Mannoia:** oder ein eigenes Bewusstsein

**Manuela Machner:** gewinnen wird Wir werden sehen,

**Eliot Mannoia:** wo die Reise uns dahin führt. Ich glaube, dass jeder für sich selbst auch klären muss, wie weit er KI Systeme in seinen Alltag und vorallem vielleicht in sein privates Leben hineinlässt. Damit er dann nicht so wie die Alexa sozusagen dein Leben zu Hause bestimmen können

**Manuela Machner:** Gut, also ich hoffe, ihr habt ein bisschen Eindrücke bekommen aus dem heutigen Podcastfolge und wir sehen uns wieder nächste Woche

**Eliot Mannoia:** Super. Ciao.

**Manuela Machner:** Ciao.