Agenten, wenn KI autonom wird

00:00:01 Hi und willkommen zur nächsten Folge von Mind Machine. Mein Name ist Eliot Mannoia, digitaler Psychologe. Heute reden wir über KI-Agenten in 2026. Ist dieses Jahr endlich das Jahr der Agenten? Und ich bin Manuela Machner, spezialisiert auf KI im Tourismus. Ja, ich hätte jetzt, also ich habe schon ganz viele Aufgaben für meinen Agenten in Betto, was der alles tun soll für mich. 00:00:29 Haben du jetzt noch keinen fixen? Wie schaut es mit dir aus? Ich habe noch keinen Agenten, nein. Also ich habe mich mit Open Claw und Mac Minis noch nicht beschäftigt. Also sehr viel, was da alles gerade passiert, aber noch keinen gekauft. Angeblich ist Apple komplett überfordert. Die sind schon fast alle ausverkauft, die Mac Minis. Und ganz lustig. 00:00:57 Ist ein Sicherheitsthema auch. Also ich war vor kurzem einen Vortrag gehalten und das war so eine richtige Tech-Community und habe gefragt, wer schon einen hat und es hat wirklich nur eine Person die Hand gehoben. Also es ist nicht so leicht, wenn man sich nicht auskennt. Und sogar der Peter Steinberger, der Oberösterreicher, der das ja gemacht hat, also so gesagt kreiert hat, sagt selbst, 00:01:23 wenn man sich nicht auskennt, bitte nicht machen. Ja, irgendwelche Open Ports und plötzlich kann man schon sich einige Sicherheitsmaßnahmen, ja, sich jetzt irgendwie ansichern. Also ja. Also ich glaube vielleicht nur für diejenigen, die jetzt nicht wirklich wissen, wovon wir zwei reden, seit kurzem oder eigentlich seit ein paar Wochen gibt es ja diesen Agent-Moment, also wie der JGPD-Moment war, muss man sagen. 00:01:49 Und zwar Österreicher, man glaubt das ja kaum, hat ein System entwickelt, das ermöglicht, dass eigenständige Agenten auf deinem Computer aktiv sind und Dinge einfach eigenständig wirklich autonom für dich erledigen. Und das Ding hat geheißen, Mold Bot, dann hat es, na, was war der erste Name, wenn ihr jemals was hört, dass ihr wisst, dass das das ist. Open Cloud, glaube ich. 00:02:19 Nein, Open Cloud heißt es jetzt. Mold Bot hat es vorher geheißen und zuerst hat es Cloud Bot geheißen, weil da ja Cloud protestiert hat, dass es nach Cloud klingt. Jedenfalls ist das System, dass man das Open Source ist, also das heißt, jeder kann es nutzen, jeder kann es sich runterladen. Und das Ding ist so autonom, es gibt unzählige Geschichten, was die Dinge schon gemacht haben. 00:02:43 Also Wohnungen autonom vermietet, ohne dass man das checkt hat und dann hat man Kalendereinträge für die Wohnungsbesichtigung bis hin zu Auto kaufen. Die beste Geschichte, finde ich, die ich gehört habe oder eine der besten Geschichten ist, dass jemand gesagt hat zu diesem Agent, also du gibst ihm einen Basisauftrag und er beginnt, sich Programme dazu zu holen, also KI-Programme dazu zu holen, die das dann umsetzen. 00:03:11 Und eine der besten Geschichten war, jemand hat gesagt, ich will reich werden, also du machst ein Business, damit ich reich werde. Und der Bot hat dann mit der hinterlegten Kreditkarte am Rechner sich selbst einmal einen Management-Online-Kurs gebucht um ein paar Tausend Dollar. Weil die KI gedacht hat, ja, zuerst sollte sie selbst etwas über Management lernen. 00:03:38 Ich glaube, so war das nicht gedacht von dem, der den Auftrag losgeschickt hat. Klingt jetzt alles ein bisschen witzig, ist es nicht wirklich. Ja, ich habe auch eine andere Geschichte dazu, dass, also ich habe gehört, auf der einen Seite unglaublich ein Wahnsinn toll und aber noch komplett Chaos. Also es ist wirklich beides noch gerade. 00:04:01 Es hat zum Beispiel bei einem Herrn, hat er während er arbeiten war, hat er einfach so gesagt, Openclaw gesagt, bitte such mir das beste Auto oder dieses Auto für den besten Preis. Und er hat dann, also Openclaw hat dann zwischen verschiedenen Autohändlern sich einen wirklich super Preis gegen verhandeln können. Genau. Also das hat gut geklappt. 00:04:27 Aber dann auch gleichzeitig hat er irgendwie dann plötzlich aus irgendeinem Grund 500 Nachrichten oder so an seine Frau und Familie alle Kontakte geschickt und es ist irgendwie so außer Kontrolle geraten. Also es ist, es ist toll und zugleich Chaos. Aber ich glaube, warum die, warum es so ein Aufsehen erregt hat, ist einfach, weil es gezeigt hat, was Potenzial möglich ist. Und ich glaube, das ist die Aufregung. Es funktioniert noch nicht immer. 00:04:57 Es gibt, wie gesagt, Sicherheitsthemen. Also die, die sich super auskennen, da kann, also kann ich als, ich bin jetzt nicht der Techniker, da habe ich jetzt nicht mithalten. Aber die, die mithalten können, finden es wahnsinnig faszinierend, einfach weil es das erste Mal so richtig zeigt, was man kann. Und vielleicht für unsere Zuhörerinnen auch, was genau ist ein Agent und was ist der Unterschied? Um es vielleicht kurz nochmal zu erläutern. Ich habe es eh schon, wir haben es eh schon letztes Mal erklärt. 00:05:23 Wenn man etwas automatisiert, dann ist es immer der gleiche Schritt so auf der Art. Also wenn eine Kunden-E-Mail reinkommt, dann bitte dort ablegen und diese standardisierte Nachricht zurückschicken. Das ist, wenn dann, dann das. Dann ist es Automation. Ein Agent kann autonom handeln. Also der nutzt nicht immer den Schraubenzieher, sondern je nach Bedarf sagt er, okay, jetzt, genau wie die Malheu wieder gesagt hat, kann sich Werkzeuge aussuchen. 00:05:52 Jetzt nutze ich den Schraubenzieher. Jetzt nutze ich eine Schere und so weiter. Und das ist dieses autonome Handeln, wo er, wozu gesagt, der Agent selber entscheidet, ich buche mir jetzt einen Kurs, um dieses Ziel zu erreichen und so weiter. Und deswegen, es gibt auch manche Leute, die sagen, Prompt Engineering war der erste Schritt von ein paar Jahren. Jetzt dann war Context Engineering. Also was ist der Kontext? Und einige sagen jetzt, der nächste Schritt ist diese Intent Prompting, also die Intention. 00:06:24 Denn wenn man nur sagt, billiger, billiger oder reicher, reicher, reicher, ohne die Intention besser zu definieren, dann läuft der Agent autonom für vielleicht zwei Wochen und in die falsche Richtung. Ja, und das ist ja gar nicht so billig. Also die Vorstellungen, ich weiß, dass viele einfach gewohnt sind, ich habe einen JGPT-Account, der kostet 20 Dollar und das war\'s. So funktioniert in Wirklichkeit KI-Systeme im Hintergrund ja gar nicht. 00:06:51 Also was ist jetzt schon so bei Automatisierungen, du zahlst nach Interaktionen, Anzahl der Interaktionen und in Tokens und das ist dann halt umgerechnet in Geld. Und die Thematik ist, wenn du solche Agenten losschickst, dann nutzen die andere KI-Systeme, wie JGPT, Cloud und so weiter. Und da gibt es ja verschiedene Modelle und die sind unterschiedlich teuer. 00:07:17 Und wenn du das nicht steuerst, wenn du nicht Sicherheitseinschränkungen machst, da gibt es ganz, ganz viele Themen, mit denen du dich dann auseinandersetzen musst, dann ist das erstens sehr, sehr teuer und im Risiko behaftet. Und was der Elekt man hat vorher mit den Apple-Computern, man rät, wenn jemand halt unerfahrener ist, dass er ein eigenes Setting sich aufsetzt, geht übrigens nicht nur mit Apple-Computer. Es gibt eigene Anbieter, so wie Hostinger, die haben eigene Cloud-Lösungen sozusagen. 00:07:46 Da kannst du dir einen Server sozusagen mieten. Dann hast du ein eigenständiges System, der völlig unabhängig von deiner E-Mail, von deinem Rechner ist und vor allem 24-7 läuft, weil das muss der Rechner laufen. Darum hat es auch diesen Apple-Hype-Game. Du nimmst irgendein altes Notebook, hat irgendwer mal gesagt, und stellst den ins Internet und aktivierst das Ganze. 00:08:12 Ich habe mir gleich gedacht, ich würde nie mal ein altes Notebook nehmen, weil selbst auf meinem alten Notebook weiß ich gar nicht mehr, was da alles an Daten von mir drauf ist. Und das, was klar sein muss, dieser Agent nimmt, was er kriegen kann an Informationen. Das heißt, man sollte ihn isoliert, wenn man sich vor allem weniger auskennt, betreiben. Es ist ein virtual private service. Ja, genau. 00:08:35 Weil die Thematik ist halt, es gibt einerseits das, dass die KI dann irgendwelche Dinge bucht, eure Kreditkarte belastet. Das heißt, und ihr müsst es aber irgendein Geld hinterlegen, sonst kann der wieder keine Schnittstellen oder halt keine Tokens kaufen, damit er seine Aufträge erfüllt. Also ganz so geht es nicht, dass ihr sagt, naja, ihr zahlt 20 Dollar und das war es dann.