Singularität - Überholt uns die KI gerade selbst?

00:00:00 Hi und willkommen zur nächsten Folge von Mind Machine. Mein Name ist Eliot Mannoia, digitaler Psychologe und heute reden wir über die Singularität. Sind wir in der Singularität? Ja, ich bin Immanuela Machner, spezialisiert für KI und Tourismus und ich habe die Frage nicht verstanden. 00:00:24 Ja, ich verstehe es auch nicht so ganz. Und ehrlich gesagt, viele Expertinnen sind sich auch nicht so ganz einig, was es ist, wie man es definiert, wo wir uns gerade befinden. 00:00:39 Ich definiere es gerade kurz mal für uns. Also, die Künstliche Intelligenz in dem Bezug ist die sogenannte technologische Singularität ein hypothetischer Zeitpunkt, an dem die KI die menschliche Intelligenz übertrifft und sich so schnell selbst verbessert, dass die weitere Entwicklung für Menschen unvorhersehbar und unkontrollierbar sind. 00:01:02 Ja, also ein hypothetischer Zeitpunkt, an dem die KI menschliche Intelligenz übertrifft und sich so schnell selbst verbessert, dass die weitere Entwicklung für die Menschen unvorhersehbar und unkontrollierbar wird. Puh, ja. Und es sind sich einige Experten, also der Dr. Alex Wiesner-Grosner, Peter Diamandes und David Blondin, das sind so ein paar. 00:01:31 Der David Blondin zum Beispiel, der unterrichtet Advanced Algorithmische Algorithmen auf der MIT und Stanford und Harvard. Und ja, also auch ein toller Podcast, den ich empfehlen kann, Moonshots. Und ja, die sind sich so die Meinung, dass wir uns in dieser Phase befinden. Warum? Weil es auch dieses Recursive Self-Improvement gerade gibt. Das ist wieder in Englisch. Ich habe es übersetzt, weil ich kenne es leider nur in Englisch. 00:01:57 In Deutsch heißt es die rekursive Selbstverbesserung. Also dieses Selbstverbesserung der Maschinen. Und seit letztem Sommer, vielleicht könnt ihr euch erinnern, im Sommer kam ja mit Google DeepMind Alpha Evolve, wo im Paper gestanden ist, es optimiert seinen eigenen Trainingsprozess. Das war schon so das Erste, die Erste in Dienst. Und seitdem ist es einfach schneller und schneller geworden. 00:02:21 Und seit Dezember sagen auch viele von den Frontier-Modellen, dass sie KI nutzen, um KI zu verbessern und bauen. Wir haben Cowork von Claude innerhalb von, glaube ich, zehn Tagen, haben sie gesagt, haben sie das gebaut, weil sie sehr stark KI genutzt haben. Ist auch ein Prozess in der KI-Welt, den sie Destillieren nennen. Also wie man Alkohol destilliert, ich glaube, das ist auch in Deutsch das Wort, destillieren. 00:02:48 Dass wenn ein erwachsenes Modell oder ein bestehendes KI-Modell ein neues Modell trainiert. Und deswegen glauben sie, dass wir uns in dieser Phase gerade befinden und dass wir es nur nicht checken, weil wir gerade drinnen sind. Und wenn wir in zehn Jahren zurückblicken, werden wir vielleicht sagen, oh ja, stimmt, jedes Woche kam ein neues Modell draus. Und diese Beschleunigung, die wir gerade spüren, wird nur noch schneller. 00:03:17 Ich meine, wie nimmst du das wahr? Ja, ich glaube, das, was ich da eher wahrnehme, ist diese Selbstreflexion ja schon auf Tool-Ebene. Also wenn du, gerade weil du jetzt Claude Coburg angesprochen hast oder wenn du dir auch Claude Code anschaust, da siehst du dann ja auch wirklich dieses, er probiert Dinge aus, er kriegt Fehlermeldungen zurück, er probiert es wieder aus auf eine andere Art und Weise, er holt sich. 00:03:47 Also für mich ganz, ich gebe es zu, ein bisschen spooky, wenn mein Claude Code dann sagt, ja, er braucht jetzt irgendein Programm dafür, dass er das jetzt lösen kann. Ich suche mir das jetzt. Und dann siehst du halt, dass er auf GitHub geht und sich dann das Programm sucht und nimmt und dann damit weiterarbeitet. Und ich habe gar nicht gewusst, welche komischen Programmchen es gibt. 00:04:14 Ich muss es dann noch bestätigen, also es ist schon so, dass er mich ständig fragt, darf ich das jetzt verwenden? Und ich habe ehrlicherweise keinen Plan, was ich da okay sage. Also solange es nicht ganz absurd klingt, also ich experimentiere da, so wie die Programmierer da draußen, ich weiß nicht, was ich tue. Aber ich tue halt einmal. Und die Aufgaben sind jetzt nicht solche, die ich sage, ja, wenn es nicht funktioniert, funktioniert es halt nicht. 00:04:39 Aber diese Selbstreflexion oder auch dieses Lernen tun, sich das Werkzeug suchen, das Werkzeug selbst nehmen, das erlebe ich jetzt schon auf der Tool-Ebene. Und das ist natürlich auf der großen Ebene nur eine andere Kategorie. Und ich glaube, dass das total, ob das jetzt die Agentsysteme sind, die tun das ja auch nichts anderes in Wirklichkeit. 00:05:05 Ich glaube, dass wir diesen Punkt des eigenständigen Arbeitens und Selbstverbesserns von KI-Systemen, dass wir schon drinnen sind, das glaube ich auch. Ich glaube, dass das einfach aber nicht das ist, was wir, glaube ich, immer überall erwarten, ob das jetzt AGI war. Wir haben ein Jahr nur über, wann kommt AGI gesprochen? Heute redet kein Mensch mehr drüber. Wann kommt tatsächlich AGI? Weil es in Wirklichkeit eh keine Rolle spielt, weil es eine Entwicklung ist. 00:05:33 Und wahrscheinlich kann man viele Dinge ja nicht mit einem Datum, Start und Ende wirklich beziffern oder irgendwo festmachen. Ich glaube, dass die Entwicklung an sich einfach so anders läuft immer wieder, dass man die Begrifflichkeit im Vorfeld noch gar nicht sich überlegt hat für das, was dann tatsächlich passiert. Und wir sind da schon in einer spannenden Zeit. 00:06:00 Ja, und es sind doch die Definitionen, genau wie du sagst, so unterschiedlich. Manche glauben, dass richtiges AGI, also richtiges allgemeine, also AGI, dieses Artificial General Intelligence, also ein allgemeines Wissen, also so gut wie ein Mensch, also nicht nur in einer Sache gut, sondern wirklich eine Maschine, die, so gesagt, wirklich menschliche Fähigkeiten nachhören kann, nur dann passieren kann, wenn es auch verkörpert ist, sprich mit Roboter, glauben manche zum Beispiel, ja. 00:06:28 Die anderen sagen, es ist allein geistig schon auch AGI möglich. Also es sind auch die Experten, haben sich dann verschiedene Meinungen. Ich glaube, wenn der Alan Turing heute mit JGPT reden würde, dann wäre das für ihn schon, und er fragt Mathe oder er fragt Biologie oder er fragt Geschichte, und allein das Reden und das Sehen, also die Kamerafunktion, glaube ich, würde er schon das AGI bezeichnen. Also es ist, ja. Ja, ich glaube, das war unvorstellbar, glaube ich. 00:06:58 Ja, aber der Punkt, glaube ich, von dieser rekursiven Selbstverbesserung ist dieser Multiplikator-Effekt, ja. Weil wenn jetzt schafft die KI noch nicht unbedingt immer neue Sachen, ja. Aber wenn wir vielleicht in ein paar Monaten schon den Punkt erreicht, wo es neue oder schwierige Mathe lösen kann, oder schwierige neue Physikprobleme, neue biologische Sachen, ja, so wie das Alpha-Protein-Falten und solche Sachen, ja, 00:07:27 dann passiert dieser Schneeball-Effekt, wo es plötzlich Sachen lösen kann in so vielen Branchen, ja. Also das wird crazy. Ja, und ich glaube, das wird auch völlig unterschätzt, weil die Leute sagen, ich höre halt immer das Thema KI, naja, es ist ja nur eine Kopie von den Dingen, die wir im Netz stehen haben. 00:07:52 Und das ist de facto derzeit noch so. Also das sind natürlich über die gelernten Daten Dinge produzieren, ob das jetzt Bilder oder Musik oder Texte klassischerweise sind. Aber spannend ist es natürlich, wenn sie, selbst da muss man ja schon sagen, wenn sie Dinge in komplett neuer Art und Weise verknüpfen, die wir halt überhaupt noch nicht verknüpft haben miteinander, 00:08:19 dann frage ich mich auch, weil die Leute sagen, das ist nicht kreativ. Naja, wenn keiner von uns auf die Idee gekommen ist, ich weiß nicht, Weintrauben gern zu lassen, dass dann ein Wein draus wird, ja. Wenn da keiner auf die Idee gekommen wäre und das würde jetzt eine KI machen, ist sie dann kreativ, ja. Also ich glaube, dass wir das gerne herunterspielen, das was KI-Systeme tatsächlich in der Lage sind