#87 Von der Rollbahn ins Rechenzentrum: Flughafenberater wird KI-Gründer

Eliot Mannoia: Hi, willkommen zur nächsten Folge Mind/Machine. Heute freut es uns sehr, den Dima Rubanov bei uns zu haben. Er ist unter anderem Gründer mit dem Matthias Neumeier von Branding 5, Oscar Stories, Laura, Frag das PDF, also wirklich Serial Entrepreneur. Tolle Erfahrungen aus diversen Hintergründen und es freut uns wirklich, da mehr von ihm heute zu erfahren.

Wir haben natürlich die Manuela Machner, Expertin im KI- und Tourismusbereich, auch mit wahnsinnig viel Erfahrung und toller Expertise. Ich bin Eliot Mannoia, digitaler Psychologe, und es freut uns heute, euch da zu haben. Du, Dima, danke für deine Zeit, dass du heute auch mit uns bist als Serial Entrepreneur, weil das sind ja alles Startups, die wirklich parallel laufen, also wie du schläfst und so ausschaust, als ob du gut geschlafen hast.

Also du schaust echt frisch aus. Wie bist du zu diesem Punkt in deinem Leben gekommen? Was ist so dein Background?

Dima Rubanov: Also erstmal vielen Dank, vielen Dank Eliot und vielen Dank Manuela für die Einladung. Freut mich sehr, heute bei eurem Podcast dabei zu sein.

Gleich zu deiner Frage, wie bin ich dahergekommen? Der Matthias und ich, wir waren in der Schule gemeinsam, sind acht Jahre lang im Gymnasium nebeneinander gesessen. Haben schon mit 13 eigentlich unser erstes Internet-Startup gehabt.

Das war damals ein V-Bulletin-Forum. Da ging es um Politik, sogar Filmanimation, um unterschiedlichste Dinge. Und dann haben wir immer mehr Kategorien dazu getan, weil uns irgendwie alles interessiert hat. Und mit 13 haben wir eigentlich schon ein bisschen angefangen zu programmieren und die ersten Erfahrungen gesammelt, natürlich nicht so tief wie jetzt, und als wir älter geworden sind, also von 13, 14, 15, 16, 17, hatten wir immer weniger Interesse daran, sondern irgendwann sind andere natürliche Interessen in dem Alter gekommen.

Und dann haben wir das Forum einfach irgendwann, wenn ich ehrlich bin, zugemacht, obwohl es eigentlich relativ gut gelaufen ist. Dann haben wir maturiert und ich habe Wirtschaft studiert auf der WU in Wien und habe einen Master in Finance gemacht, also Master in Finance in England, und habe parallel währenddessen als Flughafenberater gearbeitet. Während Matthias Jus studiert hat und eine Marketingagentur gegründet hat. Das heißt, wir sind dann nach der Schule ein bisschen getrennte Wege gegangen und haben erst während Covid wieder zueinander gefunden. Wir haben angefangen zu programmieren, weil wir eine Idee gehabt haben für eine App. Das ist weder Oscar, das ist weder Faktor Speed 11 noch Branding 5. Wir haben einfach eine Idee gehabt und haben das Ganze reverse engineert. Das heißt, wir haben gesagt, das muss eine App sein für iOS und Android. Wir können nicht separat die beiden, also es gibt ja unterschiedliche Programmiersprachen für die beiden, sondern wir brauchen ein Konzept, das beides kann, das war React Native. Für React Native brauchen wir React, dafür brauchen wir JavaScript, für das brauchen wir allgemeine Programmierkenntnisse. Haben uns einen Plan über ein Jahr gemacht, wie wir das lernen, haben es dann gelernt während Covid einfach, haben jeden Tag gesagt, wir machen jeden Tag vier Stunden den Kurs und so, und haben es dann programmiert, unsere Jobs hingeschmissen und seitdem sind dann andere Startups entstanden.

Eliot Mannoia: Und was war diese App, die ihr so gesagt native auf Android und iOS erstellt habt? Das habe ich jetzt nicht so ganz verstanden.

Dima Rubanov: Naja, also wir wollten eine App machen, die hieß HeyQQ. Das steht für Hey Quick Question. So heißt auch unsere Firma noch. Also die Firma wurde gegründet während Covid, um diese App zu bauen, weil wir dafür auch eine Förderung bekommen haben und so weiter. Und es ging darum, dass wir mitbekommen haben, also ich wollte damals einen Segelschein machen, und habe im Internet versucht zu recherchieren, wie das geht, und dann bist du irgendwie bei FSB1, FSB2 oder so heißen die, Küstenpatent, wie weit darfst du von der Küste, und recherchiere drei Stunden, verstehe gar nichts, und dann habe ich mir gedacht, ich rufe einen Freund an, der das kann, der einen Segelschein hat. Hab ihn angerufen, hab gefragt, welchen soll ich da machen. Und innerhalb von fünf Minuten war das erklärt, und dann haben wir uns gedacht, es wäre doch cool, eine App zu haben, wo du eine Frage stellen kannst und kriegst sofort von einem Menschen, der sich zu diesem Thema auskennt, eine Antwort. Und das war genau der Zeitpunkt, als ChatGPT rausgekommen ist, jetzt gibt das die Antwort, und damit ist unsere Idee relativ obsolet geworden. Und das wollten wir eben für iOS und Android rausbringen, und wenn man das native machen würde, müsste man für Android in einer eigenen Programmiersprache und für iOS wieder in einer eigenen Programmiersprache das machen, und wir haben gewusst, das geht sich nicht aus, dass wir da separat an den beiden arbeiten, das ist ein Blödsinn, und haben ein Konzept gesucht, das für beide das gleichzeitig macht.

Manuela Machner: Also im Prinzip war es das Trainingsprojekt, damit ihr Programmieren gelernt habt.

Dima Rubanov: Ganz genau, und so haben wir es gemacht.

Manuela Machner: Normalerweise hast du ja oft bei Start-ups die Problematik, dass sie super Programmierer sind, wenn sie in dem IT-Umfeld sind, aber entweder überhaupt keine Ahnung von Marketing haben oder überhaupt keine Ahnung von Wirtschaft haben. Bei euch ist es ja, ihr habt ja einerseits beide die Kompetenzen plus jetzt auch noch offensichtlich die technische Kompetenz. Da habt ihr ja einen absoluten Vorteil, oder?

Dima Rubanov: Absolut. Das hören wir auch immer wieder, oder das wissen wir beide, dass einfach, wenn wir irgendwelche Pitch Decks vorbereiten, als wir Investment gesucht haben und so weiter, da tu ich mir als ehemaliger Berater im Finance-Bereich relativ leicht, das so aufzubereiten, dass das verständlich ist oder dass alle wichtigen Dinge drunter sind. Genauso ist es beim Matthias, sein Gespür für Marketing, für das, was gut funktioniert, das kann ich nie haben. Oder wenn ich das alleine machen würde.

Eliot Mannoia: Gute Mischung! Die Kommunikation und Beratung.

Dima Rubanov: Absolut.

Eliot Mannoia: Und viele wissen es nicht, ich fand das spannend, vielleicht nur ganz kurz dazu, du warst ja in welchem Land und hast da wirklich beim Bau vom Flughafen live beraten.

Dima Rubanov: Das habe ich in vielen Ländern gemacht, ja, aber unter anderem eines der längsten Projekte, bei dem ich dabei war, das war in Ruanda in Kigali, in Afrika. Das war ein super spannendes Projekt, hat lang gedauert, typisches Beraterleben, immer wieder hinfliegen, dort sein, wieder zurückkommen, sehr, sehr facettenreich. Also ein wirklich spannender Job, auch ein super spannendes Team, sehr cooler Chef, alles, also kann mich nicht beklagen über irgendwas, aber ich war schon immer so jemand, der einfach was Eigenes machen wollte. Ich wollte immer ein eigenes Unternehmen gründen. Und irgendwie mit 18, 19 sagst du das so und du träumst davon vielleicht mit 15, dann studierst du und während du studierst ist es einfach so ein, ja, es wird schon werden. Und es war schon immer mein Traum. Ich habe mir immer schon gedacht, ja, ich würde gerne selbstständig sein oder irgendwas Eigenes machen. Und irgendwie in der Schule träumst du davon und denkst dir so, ja, ich werde mal selbstständig und werde eine eigene Firma haben und so weiter. Und dann machst du mal das eine Praktikum, das andere, studierst und während dem Studium denkst du dir so, ja, das wird schon, das kommt ja alles später in den Weg. Du kannst ja noch nicht jetzt selbstständig sein oder zumindest machen, das ist ja weniger.

Und du denkst dir, ja, ich mache das später. Und dann machst du einen Master, wo sich alle danach bei irgendwelchen großen Banken bewerben. Und wenn viele Leute um dich herum das Gleiche tun, dann wird das für einen auch irgendwie normal. Man bewirbt sich dann auch, obwohl man immer diesen Traum gehabt hat.

Und dann kann ich mich erinnern, bin ich immer wieder zu Banken gegangen, habe mich beworben und ich bin dann immer so rausgegangen, wenn du mit, ich weiß nicht, acht, neun Leuten in so einem Lift stehst und wieder runterfährst. Also das soll jetzt nicht abwertend klingen, keinesfalls, sondern es ist einfach, ich glaube, zu jedem Abschnitt im Leben gehört die eine Phase.

Und da war es dann bei mir so, in der Phase, also in den Zwanzigern, habe ich mir immer gedacht, ich möchte was Eigenes machen. Später, wenn man irgendwie so Erfahrung gesammelt hat, wird es vielleicht so sein, dann werde ich vielleicht sagen, ich hätte gern eine größere Firma, ich möchte, dass die Firma wächst oder so.

Das ist sehr individuell, finde ich. Oder manche Leute sagen, ich möchte lieber ein Teil einer größeren Maschine sein und Teil von McKinsey zum Beispiel sein.

Manuela Machner: Aber ich finde es voll spannend, so wie der Eliot gesagt hat. Also ich gestehe, ich habe mich nicht so ganz auf dich vorbereitet, aber allein die Brands, die der Eliot vorher genannt hat, die sagen mir alle was.

Mir war aber gar nicht bewusst, zum Beispiel Laura, dass ihr da dahinter steckt. Wie funktioniert das, dass man hergehen kann?

Und sicher, ich sage, das sind jetzt keine kleinen ChatGPT-Anwendungen, wo man ein Custom-GPT hat, das man nett einbaut irgendwo und anders verkauft. Weil das erlebt man momentan auch sehr, sehr oft.

Wie schafft man das eigentlich, so multitaskingmäßig, also so unterschiedlichste Dinge aufzurollen?

Dima Rubanov: Um ehrlich zu sein, ist das sehr schwer zu beantworten. Es ergibt sich, ja, also natürlich, wenn das eine Projekt wie HeyQQ, wo wir gemerkt haben, ja, das wird nichts, ich meine, keiner wird da jetzt irgendwie mit den Leuten telefonieren, wenn ich das bei ChatGPT eingeben kann und das Ding antwortet mir sofort.

Das wussten wir sofort, dass das Projekt wahrscheinlich tot ist. Und dann ist eben, also wir haben schon davor mit GPT-3 noch angefangen zu arbeiten und wussten, was es kann. Und hatten dann die Idee, machen wir personalisierte Gute-Nacht-Geschichten zu diesem Thema, weil es ja so ein Zeitfaktor war. Es ist gerade groß geworden und wir hatten diese Idee. Das hat gut funktioniert. Und dann mit der Erfahrung aus Oscar Stories, wir haben ja knapp 100.000 User mittlerweile, haben wir uns die Geschichten angeschaut und haben gemerkt, hey, zum Beispiel wenn du eingibst für einen Fünfjährigen, kommt das Wort Antagonist vor.

Wird ein Fünfjähriger wahrscheinlich nicht verstehen. Haben gemerkt, das kommt relativ oft vor. Dann schaust du dir die Geschichten an und merkst, dann probiere ich das bei ChatGPT und sage, ich erkläre eine Geschichte für einen Fünf- oder Sechsjährigen. Ganz normal oder mit einem anderen LLM. Und da kommen trotzdem Wörter vor, die nicht so gut sind.

Das war mal so die Observation hier und wir haben uns gedacht, warum machen wir nicht ein eigenes Fine-Tuning eines Open-Source-Modells auf genau das, damit es Geschichten schreibt, aber basierend auf einer Sachtextformel, Flesch-Reading und so weiter, da gibt es gewisse Readability-Metriken, die man nehmen kann, und feintunen ein Modell, damit eben genau das nicht passiert, sondern eben die Readability-Metriken, Satzlänge, Struktur, Wortlänge und so weiter, eben genau.

Manuela Machner: Darf ich fragen dazu? Weil ich habe Projekte gemacht mit Unternehmen, die spezialisiert im Tourismus für Familienangebote zum Beispiel sind. Kommt ganz klar, genau das, was du nämlich jetzt gesagt hast, richtig schöne Geschichten kann ja ChatGPT nicht schreiben, weil genau das passiert, dass trotz allem Worte vorkommen, die vielleicht nicht so sind, oder Satzlängen oder wie auch immer. Und sie sagen, du brauchst das Know-how von Menschen, die sich damit auseinandergesetzt haben mit Bildung im Kindesalter und und und. Wie seid ihr dann damit umgegangen? Weil jetzt seid ihr doch sehr aus dem Entrepreneurship-Bereich und wirtschaftlichen Bereich und man braucht jetzt trotzdem irgendwo ein Know-how aus, sage ich jetzt, Familiengeschichten schreiben oder Kindergeschichten schreiben.

Dima Rubanov: Ja, wir haben eine Partnerschaft gehabt mit der Fachakademie für Sozialpädagogik in München und die haben da dieses Know-how quasi extern reingebracht, genau, ja.

Manuela Machner: Danke, weil ich glaube, genau das ist der Faktor, wenn KI so eigenständig entsteht aus sich heraus, also nur mit der KI und dem KI-Wissen, dann fehlt ein Aspekt.

Dima Rubanov: Ja, absolut. Es ist ja, sagen wir so, wenn man sich jetzt ein Modell anschaut, es gibt ja große Modelle und kleine Modelle. Jetzt zum Beispiel, es gibt ein Mistral mit 24 Milliarden Parametern, aber es gibt auch Modelle mit nur einer Milliarde Parametern. Das ChatGPT, was wir kennen, also GPT-4 oder sowas, weiß man jetzt nicht genau, wie viel das ist, das wird nicht veröffentlicht, aber das sind 600 oder sowas.

Also es gibt zum Beispiel DeepSeek, das große Modell von DeepSeek hat 600 Milliarden Parameter, also das R1, weiß ich jetzt nicht, aktuell per 25. September, weil da kommt immer wieder ein neues raus, ja. Und natürlich, je größer diese Modelle sind, desto mehr Wissen haben sie. Das heißt, das ist mir schon mal passiert, dass ich auf einem Raspberry Pi, das ist so ein ganz kleiner Computer, mal probiert habe, ein ganz kleines Modell aufzubringen, und ich frage das Modell, wer ist Eminem beispielsweise, also ein berühmter Rapper, kennt glaube ich jeder, so wie Michael Jordan oder sowas, und da kommt einfach irgendein Text daher, also wirklich.

Hat nichts mit dem zu tun. Aber es kommt ein Text, ja, weil das Modell eben dazu da ist, um eben den nächsten Token zu simulieren, ja. Und sowas Ähnliches kann auch, nicht ähnlich, aber ich meine grundsätzlich kann auch ein großes Modell eben bei spezifischen Domänen ohne Zugriff auf Internet sehr schnell an Grenzen stoßen, ja.

Oder einfach falsch antworten. Es wird ja im Trainingsverlauf, OpenAI hat letztens so ein Paper rausgebracht, also ich möchte jetzt nicht zu tief darauf eingehen, aber sie haben da relativ genau aufgeschrieben, warum Halluzinationen und so weiter passieren und wie das passiert, dass einfach was Falsches rauskommt, weil einfach ein Modell nicht belohnt wird, wenn es sagt, es weiß es nicht, deshalb redet es irgendwas.

Eliot Mannoia: Und aus diesem Grund auch, soweit ich das damals mitbekommen habe, wir haben ja auch damals mit Frag das PDF gemeinsam kooperiert, auch mit der FH St. Pölten, super Projekt. Da kann ich mich erinnern, ihr habt ja auch gesagt, dass viele KIs so wie das menschliche Gehirn funktionieren, sehr gut am Anfang, sehr gut am Ende, aber die Mitte nicht so gut, und das war ja dann euer Ansatz mit Frag das PDF, dass das da wirklich gut ist. Kannst du uns da auch ein bisschen erklären, was Frag das PDF ist und wie ihr da so an die Sache herangegangen seid, dass da wirklich auch, wenn es um Zusammenfassung oder Recherche geht, wirklich der ganze Text berücksichtigt wird?

Dima Rubanov: Ja, also schau, wenn du jetzt beispielsweise ein PDF hast, das hat 800 Seiten, du weißt, was ein Token ist. Ein Token, das könnte sein jetzt das Wort Hallo oder das HA oder nur der Buchstabe H oder HAL, und wenn jetzt zum Beispiel das Modell sieht HAL, dann weiß es, okay, zu 99,9 Prozent ist wahrscheinlich ein LO und nimmt den Token.

Dann ist wahrscheinlich ein Leerzeichen oder vielleicht ist ein Token LO Leerzeichen. Und das sagt dann immer so die Token voraus. Das bedeutet, je mehr du da reingibst in das Modell, desto schwieriger wird es für das Modell im Kontextverlauf, dann quasi genau zu sein. Das bedeutet, wenn du jetzt rein theoretisch ins Kontext-Window 800 Seiten reinkopieren würdest und das als Nachricht einschiebst und sagst, fass mir das zusammen, Doppelpunkt, und dann kommen 800 Seiten Text, oder du haust da von mir aus auch ein PDF rein ins Chatfenster, dann kommt das irgendwann einfach in den Kontext und wird irgendwie so zusammengefasst.

Ja?

Und da entstehen natürlich Fehler, das macht es ungenau. Das bedeutet, je länger die Konversation geht, desto schlimmer wird es. Ich habe letztes Mal ausprobiert, beispielsweise bei ChatGPT die Konversation so lang zu machen, bis mein Browserfenster 1,8 GB an RAM verbraucht hat. Jedes Mal, wenn ich was geschrieben habe.

Und dann ist am Ende gekommen, so ja...

Eliot Mannoia: Geht nicht mehr. Context out of range.

Dima Rubanov: Conversation too long, Punkt, start the new, so ciao. Ja, genau. Siehst du? Und das heißt, wir mussten das vermeiden, wie können wir das vermeiden? Und hier verwenden wir die sogenannte RAG-Technologie. Stell dir vor, wir nehmen ein 800-Seiten-Dokument, das kann nicht einmal NotebookLM, da wurde jetzt eine lange Review in einem Blog über uns geschrieben, KI Spot hat das wirklich getestet, 800-Seiten-Dokument bei uns rein, und das wird dann so gesplittet in einzelne Chunks, die semantisch miteinander funktionieren. Diese Chunks werden vektorisiert. Was bedeutet vektorisieren? Stell dir eine XY-Achse vor und das Wort, ich weiß nicht, Kugelschreiber hätte die Koordinaten 4 und 5. Das heißt, das Wort Kugelschreiber in Zahlen verwandelt hätte die Koordinaten 4 und 5. Und das Wort Bleistift ist etwas Ähnliches, auch Schreibware, hätte die Koordinaten 4 und 6 zum Beispiel. Aber das Wort T-Shirt hätte die Koordinaten minus 10, minus 20, also wäre ganz weit weg davon. Und jetzt stellt euch ein Koordinatensystem vor, das eben diese Chunks auf nicht zwei Dimensionen, sondern 1536 Dimensionen, also mit Semantik, Zeit, Intent, in Zahlen verwandelt und auf einem Koordinatensystem darstellt. Und somit ist der Text nicht ein Text, sondern er ist gesplittet in hunderte oder tausende Chunks.

Und wenn du eine Frage stellst, dann verwandeln wir die auch in Zahlen. Und suchen uns die Chunks raus, die in diesem Koordinatensystem in der Nähe sind, und fragen das System noch einmal, beantworte diese Frage anhand dieser 10 Chunks zum Beispiel. Und somit laden wir nicht das gesamte Dokument in den Kontext, sondern nur einen kleinen Teil und sind somit einfach wesentlich genauer. Somit funktioniert das bei 800 Seiten, 1000 Seiten, was auch immer.

Eliot Mannoia: Das ist sicher effizienter und nachhaltiger wegen der Rechenleistung, wenn nur die Koordinaten infrage gestellt werden, die so gesagt relevant sind gerade.

Dima Rubanov: Absolut, ganz genau.

Eliot Mannoia: Und ihr nutzt ein Open-Modell oder...

Dima Rubanov: Nein, wir nutzen im Moment OpenAI-Modelle. Wir können auch Gemini verwenden. Das wird jetzt demnächst eingebaut als Option, falls es jemandem besser gefallen sollte. Wir haben auch probiert, eben kleinere Modelle im Browser laufen zu lassen.

Das funktioniert schwer. Da braucht man schon einen guten Computer, man braucht einen guten Laptop.

Und wenn ich ehrlich bin, aus Unternehmerperspektive ist das, wenn jemand auf einem relativ schwachen Rechner sitzt und Frag das PDF aufmacht und das lokale Modell starten will und das geht nicht, wird es sicher nicht zu einem Rechner-Default geben.

Manuela Machner: Das heißt aber, es läuft online? Bei euch in der Cloud wahrscheinlich, oder? Und das Sprachmodell ist nur die Verarbeitung, die semantische vorne, im Frontend eigentlich, aber im Hintergrund habt ihr das aufgebaut mit euren Vektor-Analysen im Prinzip.

Dima Rubanov: Ganz genau. Ja, so funktioniert das.

Manuela Machner: Gleich die Frage, die jeder jetzt mir stellen würde, wenn ich das nämlich jetzt in meinen Kursen präsentieren würde, weiß ich, dass der Erste aufzeigt und sagt, Datenschutz.

Dima Rubanov: Ja, gute Frage. Wir haben bei uns einen Privacy-Modus eingebaut, bei dem zum Beispiel die PDF-Dokumente nicht bei uns am Server gespeichert werden. Also das ist mal das Erste, was man verwenden kann. Aber sowohl das Vektorisierungsmodell von OpenAI als auch der OpenAI-Endpoint selbst ist in Schweden und in Frankreich auf Azure, also innerhalb der EU und somit DSGVO-konform.

Manuela Machner: Okay. Und es trainiert auch nicht die KI, die Oberfläche, die verwendet wird. Weil das ist ja, grade bei großen Studien oder wenn es firmeninterne Analysen und Dokumente sind, eines der schwierigsten Themen, muss man sagen. Abgesehen davon, dass ChatGPT und Co. die Analysen eh nicht wirklich sauber schaffen.

Dima Rubanov: Ja, absolut. Nein, nein, sicher. Das wussten wir auch. Das ist ja auch so ein Punkt, als wir noch mit Eliot mit den Studentinnen gearbeitet haben, da haben wir doch gesagt, ja, Frag das PDF ist für Studentinnen und Studenten und das ist der Fokus und so weiter. Ja, und dann haben wir irgendwann ein Onboarding eingebaut und die Leute gefragt, was bist du?

Doktorand, Bachelorstudent, Masterstudent, Berufstätig und so weiter. Über 50 Prozent sind Berufstätige. Also, das war die komplett falsche...

Manuela Machner: Meine Daten übrigens, ja. Ich habe mich interessiert.

Dima Rubanov: Super.

Eliot Mannoia: Ja, kann es wirklich nur empfehlen, fragdaspdf.de. Wir werden es dann eh auch in den Kommentaren hinzufügen.

Manuela Machner: Ja, super.

Eliot Mannoia: Spannend. Ich finde es wirklich sehr innovativ, wie ihr das gemacht habt und dass man sich dann da auch...

Dima Rubanov: Danke, danke.

Eliot Mannoia: DSGVO-konform arbeiten kann, aber auch ein europäisches und österreichisches Unternehmen unterstützen kann und dann wirklich auch gewährleisten kann, dass man da bei einem langen Dokument vertrauen kann, dass da wirklich alles berücksichtigt wird, ob das jetzt für Analysen, Zusammenfassungen, folgende Entscheidungen ist, dass man da mehr Vertrauen hat. Also super. Dann, ja, zum Frag das PDF, gibt es noch etwas, was du hinzufügen würdest?

Dima Rubanov: Nein, nein, ihr seid die Hosts, wenn ihr noch Fragen habt. Also ich glaube, ihr kennt eure Zuseherinnen, Zuschauer, Zuhörerinnen, wie auch immer, besser als ich.

Manuela Machner: So spannend, weil es doch wieder etwas ganz anderes ist, wenn du es jetzt mit Laura vergleichst. Also wenn man in einem, wie soll man sagen, in einem Denkschema, also man lebt ja normalerweise, jemand ist eben spezialisiert. Also Frag das PDF ist für mich sehr, also alles hat mit Daten zu tun, aber sehr analysetechnisch.

Wie bist du zu Laura gekommen? Also wie seid ihr auf die Idee von Laura gekommen, bitte?

Dima Rubanov: Wie gesagt, Laura ist einfach das kindgerechte LLM. Das ist passiert aus Oscar heraus, wie ich vorhin gesagt habe, wo wir gemerkt haben, mit der Zeit, ja, da ist anscheinend die Sprache vom Standard-ChatGPT doch nicht so kindgerecht, und haben uns dann gedacht, machen wir da ein eigenes Modell dafür.

Und Frag das PDF haben wir eigentlich dazwischen entwickelt. Also bei Matthias und mir ist es schon so, wir bauen ziemlich gern Sachen und sind an vielem interessiert. Also mich persönlich zum Beispiel interessieren sehr viele Dinge. Ich mag Radfahren, Mountainbiken, ich habe einen Privatpilotenschein, ich gehe gerne schnorcheln, Segeln, Fotografie, also sehr viel. Und so ist es dann auch beim Programmieren. Man hat so viele unterschiedliche Techniken, die es da draußen gibt, die man gern mal alle probieren würde. Und natürlich, was mitgespielt hat bei Frag das PDF, weil wir waren ja, um ehrlich zu sein, nicht das erste Produkt weltweit, das das so gemacht hat.

Aber als ich dann gesehen habe, die Domain fragdaspdf.de ist frei, habe ich mir schon gedacht, hey, wenn das nicht ein Zeichen ist.

Eliot Mannoia: Weißt du, welche Use Cases von Frag das PDF, wenn das 50 plus Prozent Berufstätige sind, habt ihr da so die typischen Use Cases?

Dima Rubanov: Ja, also die meisten arbeiten einfach mit langen Dokumenten. Viele machen das für Hobbys, ja. Es gibt auch sicher ein paar, die irgendwie, also ich kann ja nicht sehen, welche Dokumente, wer welche Fragen stellt oder so, ja. Aber was wir zumindest von Leuten sehen, wenn irgendwo ein Fehler auftaucht oder sowas und sie uns dann ein PDF zuschicken, dann ist das meistens über irgendwelche Hobbys oder sowas.

Aber teilweise auch, es bleibt auch manchmal so, ja, das ist ein Vertrag, kann ich dir nicht senden, da ist irgendwas schiefgelaufen oder sowas. Das kann auch mal passieren. Also eigentlich unterschiedlichste Use Cases. Ein sehr beliebtes Feature bei uns ist die Zusammenfassung. Das ist ein sehr wichtiger Punkt, wo ein sehr langes Dokument reingeladen wird und man sagt, dann fassen wir das zusammen.

Aber auch zum Beispiel, übersetze mir die Seite 4 oder übersetze mir Seite 1 bis 15 oder sowas. Das heißt, alles Mögliche.

Manuela Machner: Aber ist es dann trotzdem auch das Sprachmodell, dass ich Fragen genauso stellen kann wie bei NotebookLM oder ChatGPT zu dem Dokument, und kann ich dann auch weiterarbeiten mit den Ergebnissen?

Dima Rubanov: Ja, du kannst Fragen stellen und natürlich weiterarbeiten. Das heißt, du kannst dann eine Frage stellen und dann sagst du, jetzt schreibe mir ein Gedicht dazu. Das geht natürlich.

Manuela Machner: Klassiker, ja. Also nicht nur die klassische Zusammenfassung.

Dima Rubanov: Ja, das ist wie ein Chat. Stell dir vor, du hast auf einer Seite das PDF, wo du scrollen kannst, wo du die Seiten siehst, und daneben hast du eben das Chatfenster.

Manuela Machner: Das, was auch das Spannende ist, ist, wenn die KI nichts findet, dass sie auch sagt, dass sie nichts findet, oder?

Dima Rubanov: Absolut, ja. Das sagt sie dann auch. Sie sagt dann, ja, sorry, steht hier nicht drinnen, weil wir eben, wie ich gesagt habe, wir suchen uns ähnliche Sachen, die dazu, es kann ja natürlich auch passieren, dass diese Vektoren im Space komplett weit entfernt sind. Da würde sie einfach sagen, sorry, das steht in dem Dokument nicht drinnen.

Manuela Machner: Aber im Gegensatz zu den klassischen LLMs, die dann aus ihrem Wissensfundus die Antwort anreichern, obwohl das nie in dem Dokument war.

Dima Rubanov: Ja, genau. Das ist bei uns, also bei Leuten, die Frag das PDF verwenden, eher ungewollt. Also das ist eben genau das Feature, weil sonst würden die meisten einfach, wenn einem das wurscht ist, dann verwenden sie ChatGPT, ja.

Eliot Mannoia: Habt ihr dann auch so einen Prozentsatz, wo ihr wisst, ob die Halluzinationsrate bei euch geringer ist oder weniger?

Dima Rubanov: Haben wir nicht, aber es ist schon so, dass es ein sehr hoher Prozentsatz sein wird, weil wir eben bei jeder einzelnen Frage dann sagen, antworte mir auf diese Frage aus diesen Informationen. Wenn es in diesen Informationen nicht drinnen steht, sag, dass es da nicht drinnen steht. Also außer das Modell glitcht genau in dem Moment, was nicht passiert, wenn wir ehrlich sind. Ich meine, wer viel ChatGPT oder wer viel OpenAI oder Anthropic oder was immer verwendet, dem ist sicher schon einmal ein Glitch passiert. Also der Matthias hat einmal eingegeben, schreib mir eine E-Mail, und darunter ist plötzlich halb Rezept, halb Jibberish, Kuchen rausgekommen. Das ist aber einer aus 100.000 Fällen, Millionen Fällen wahrscheinlich, ja.

Eliot Mannoia: Na, sehr spannend. Also vielleicht können wir den Matthias und den Dima überreden, dass sie uns vielleicht ein paar Promo-Codes geben, um mal Frag das PDF auszuprobieren, dann können wir das in den Kommentaren auch dazugeben.

Dima Rubanov: Ganz leicht, ganz leicht. Ich werde euch einen Promocode zuschicken für einen Monat gratis. Sehr gerne.

Eliot Mannoia: Super.

Manuela Machner: Cool, da würden sich, glaube ich, auch unsere Trainees einmal freuen, das auszuprobieren, weil das ja auch wirklich, muss man sagen, im Business-Kontext ein großes Thema ist. Wie kann man das machen und wie glaubwürdig ist das Ganze.

Dima Rubanov: Ja, ja, absolut kein Problem.

Manuela Machner: Was mich noch interessieren würde jetzt, jetzt habt ihr da schon fertige Produkte, gibt es irgendwas in der Pipe, was du schon verraten möchtest? Ich kann mir jetzt nicht vorstellen, dass ihr nicht neue Ideen habt und ganz andere Dinge wieder habt.

Eliot Mannoia: Firma? Wir haben ja nicht mehr angesprochen.

Manuela Machner: Ui, jetzt darfst du es wahrscheinlich nicht verraten, aber in welchem Themenspektrum?

Dima Rubanov: Ja, also wir haben...

Manuela Machner: Anfangen?

Dima Rubanov: Also das könnte man wahrscheinlich auch für Tourismus verwenden. Das wäre Branding 5, was wir noch machen. Das läuft auch parallel. Das ist eigentlich das Produkt bei uns, was den meisten Umsatz macht. Das ist ein Tool, mit dem man innerhalb von, also unter einer Stunde, das ist ein Prozess, den man durchgeht auf der Webseite, und erstellt dann ein Brand Positioning und eine Marketing-Strategie.

Das heißt also, man kriegt eine Brand Identity, Brand Archetype, Brand Values, Brand Voice, es macht eine SEO-Analyse, schaut sich dann die Webseite an, analysiert Konkurrenten, die es auf dem Markt gibt, schaut sich deren Webseite an, schaut sich deine Webseite an, falls man eine hat, ja, wenn nicht, ist auch kein Problem, und ist auch relativ hart, muss ich sagen.

Also manchmal sagt es einem wirklich direkt, ja, deine Webseite schaut aus wie aus 2014.

Manuela Machner: Weißt du, warum das total spannend ist? Ich beschäftige mich ganz, ganz stark mit dem Thema Suche neu, also wie sich die Suche aufgrund der KI-Systeme verändert. Und mein Ansatz in dem ganzen Kontext ist, dass bevor man jetzt tausend GEO-Tipps und was auch immer einbettet, muss man einmal klar sehen, wie wird die Brand oder wie wird das Unternehmen in der digitalen Welt wahrgenommen. Und der erste Schritt muss einmal die Analyse sein, bevor ich übergehe, einfach, wie soll man sagen, panisch irgendwelche Dinge zu tun, die der Brand vielleicht gar nicht nutzen.

Weil was ich in der Realität erlebe, ist, dass Unternehmen sich selbst oft gar nicht als Brand sehen und gar nicht wissen, wie sie wirken. Sie glauben, sie verkaufen Wellness.

Und ich habe schon bei solchen Analysen erlebt, sehr lieb, dass sie sagen, sie wollen sich positionieren in Wellness, aber in der digitalen Welt werden sie als Wanderhotel wahrgenommen oder als Familienhotel wahrgenommen. Und erst wenn ich die Analyse habe, und ich finde das einen ganz spannenden Ansatz, weil ich glaube, dass es nicht nur in Richtung Marketing relevant ist, also klassisches Marketing, sondern auch in Richtung Positionierung, auch in den ganzen KI-Systemen und so weiter, dass man seine Brand aufräumt, sauber macht.

Dima Rubanov: Absolut, absolut. Und das hat mir eben der Matthias beigebracht. Ich wusste es ja auch früher nicht. Das ist das Ding, wenn man irgendwie nicht aus dieser Welt kommt, dann sind diese Dinge einfach absolut fremd für einen. Man hat da noch nie drüber nachgedacht. Und er hat früher als Brand-Consultant auch mal gearbeitet und kennt sich in diesem Thema super aus natürlich.

Und er hat mir irgendwann so etwas Ähnliches gesagt, wenn ich jetzt sage GoPro, woran denkst du? Und es ist dann sofort Dreck, Boom, irgendwie Action oder sowas. Wenn du denkst Red Bull, irgendein Fallschirmsprung oder sowas. Und dann plötzlich sage ich, ich weiß nicht, Dove. Und dann sofort so Ruhe, diese Feder, die so runterfliegt, Shampoo oder so, und das ist natürlich, das sind jetzt riesengroße Brands, ja, aber wenn ich jetzt zum Beispiel sage, wenn Linsberg Asia Therme, also Therme Hotel, das eigentlich eine Adults-Only-Therme ist, plötzlich orange Farben überall hätte, weiß ich nicht, ob das so Luxury-Feeling hätte, ja.

Manuela Machner: Ja, aber genau das sind die Punkte. Das heißt aber, das nächste Produkt muss dann ein Finance-Produkt sein, oder?

Dima Rubanov: Hatten wir schon die Idee? Ja, ja, wir hatten schon eine Idee. Und tatsächlich haben wir ein Produkt, wofür wir uns interessieren würden. Das ist in der Aviation-Branche. Aber das verrate ich euch dann, wenn es soweit ist. Aber im Moment, leider haben wir wirklich sehr viel zu tun und vieles kann auch ein Traum bleiben, sagen wir so.

Manuela Machner: Sitzt ihr jetzt in Österreich, wenn ich fragen darf?

Dima Rubanov: Ja. Wir sind in Wien, ja. Sind beide in Wien.

Wir träumen immer wieder davon, mal länger im Ausland zu bleiben.

Nein, nein, ich meinte so mal einen Monat irgendwo von außen. Also irgendwo vom Strand aus zu arbeiten, und haben das auch tatsächlich probiert jetzt im April. Da war ich in Thailand und der Matthias in Korea und in Japan.

Aber aus der Workation ist eher so eine Nur-Vacation geworden, was auch okay ist.

Eliot Mannoia: Ihr habt es euch, glaube ich, auch verdient.

Dima Rubanov: Ja. Ja, das stimmt.

Eliot Mannoia: Wie beeinflusst euch so Vibe-Coding und jetzt diese ganzen Coding-Fortschritte in diesen ganzen Tools, ob das jetzt Codex von OpenAI ist oder Claude oder sogar diese ganzen Tools, Windsurf und wie die alle heißen.

Dima Rubanov: Windsurf, ja. Cursor, ja. Es ist mega geil, kann ich nur sagen. Es ist wirklich sehr cool, was es kann. Es macht den Prozess einfach zehnmal schneller, wenn nicht mehr schneller. Ja, du musst dir vorstellen, sagen wir mal so, du arbeitest als Programmierer mit einem Framework für Web, das ist ein Next.js Framework, ja, zum Beispiel.

Also man nimmt Next.js und das ist das Framework, was dir das Backend und Frontend für Branding 5 machen kann. Und dann verwendest du dort Libraries. Und eine, diese Library könnte eine Scraping-Library sein, weil du irgendwas scrapen möchtest währenddessen. Ja, und dann musst du Puppeteer runterladen.

Und früher war das so, du musst auf die Webseite gehen, musst dir die Dokumentation durchlesen, musst diese Codesnippets kopieren, musst es ausprobieren, dann geht es nicht, du musst dich da voll einlesen. Ja, und jetzt kannst du es einfach mit einem Prompt machen und sagen, installiere mir Puppeteer und mach das mit diesem Scraper.

Und du baust dann drüber, und es gibt natürlich sehr viele diese Beispiele von wegen, dass die KI einen Code schreibt, der nicht so gut ist. Das stimmt, das macht sie auch teilweise. Aber einfach, ich finde, wenn du die Basis selbst machst oder mit Human Oversight, dann ist die Zeitersparnis einfach so enorm, dass ich es mir eigentlich kaum noch vorstellen könnte, ohne das zu arbeiten, bin aber extrem froh, dass ich es ohne das gelernt habe, weil ich merke einfach selbst beim Umgang mit KI beim Coden, ich merke einfach, wenn ich ehrlich bin, dass ich teilweise schon ein schlechterer Coder werde, weil ich einfach nicht überlege, ja, ich gebe ein, schau es mir an, ob es geht, wenn es nicht geht, gebe ich es noch einmal ein, manchmal streitest du dich da so mit der KI hin und her, bis es dann geht.

Ja, manchmal schreibt die KI aber auch 40 Zeilen Code, obwohl es in drei geht, und wenn du eben coden kannst, dann sagst du ihm so, was machst du da? Mach das gescheit und ich zeig es dir mal genau, mach bitte das so und so, und dann funktioniert das eigentlich super.

Eliot Mannoia: Ja, und es wird immer noch besser.

Manuela Machner: Also wie du gesagt hast, das wird spannend werden. Du hast jetzt noch Coden gelernt, also richtig Hardcore, und kannst noch einschätzen, was da in dem Code drinnen steht, wenn du drüber schaust, oder wenn ein Fehler sich nach einem dritten Mal Korrektur doch nicht auflöst, dann musst du den Code im Detail anschauen und sagen, wo verrennt er sich jetzt eigentlich?

Du kannst es noch einschätzen.

Dima Rubanov: Mhm, ja.

Manuela Machner: Was ich schon sehe, diese No-Coding-Tools, die vieles erleichtern, macht es natürlich leichter, aber Menschen, die jetzt plötzlich irgendwas Tolles machen können aus nichts, die stehen dann natürlich an, und die Frage wird natürlich sein, wie werden Junge das tatsächlich noch lernen müssen, brauchen in der Zukunft für Programmierung, und werden wir dann irgendwann überhaupt nicht mehr wissen, was da passiert.

Dima Rubanov: Ja, wie soll ich sagen? Auch etwas, worüber ich viel überlege. Also grundsätzlich, als ich angefangen habe zu programmieren, war es so, ich dachte mir, wenn ich da jetzt irgendwas dahercode und das online stelle, dann wird das sofort eine Million User haben. Weil ich meine, ich kenne keinen einzigen Programmierer, das muss sofort einschlagen bis zum Gehtnichtmehr. Das ist die super tolle Idee, die ich da gehabt habe. Aber dann merkst du, ja, ich meine, ich komme auch vielleicht aus einer Schule, wo es nicht viele Programmierer gibt, ich kenne den Matthias und vielleicht jetzt durch die Branche noch ein paar andere, aber bevor ich angefangen habe, ich kenne 50 Anwälte und 30 Ärzte aus meiner Schulstufe und 400 Consultants, aber sonst eigentlich kaum jemanden, und deshalb dachte ich so, wenn ich diesen Skill kann, dann bin ich golden. Aber in Wirklichkeit merkst du dann, ja, auch früher etwas zu programmieren, und das ist auch etwas, wo viele Programmierer stecken bleiben, habe ich das Gefühl, dass sie coden da irgendwas in ihrem Elfenbeinturm, machen sehr viel und schreiben dann Tests und Unit-Tests und das ist der Super-Code, hat aber null User.

Keiner verwendet das, keiner kennt dich. Ist super im Backend, das Backend sieht keiner, super secure, okay. Aber Marketing ist King in dem Fall. Ja, es gibt Leute, ich meine, ich weiß nicht, es gibt ja diese bekannten amerikanischen YouTuber, die dieses Prime-Getränk gemacht haben. Die verdienen ja damit angeblich Millionen.

Ich habe das mal gekostet, das ist ja Wahnsinn, das kannst du nicht trinken.

Manuela Machner: Herr Mateschitz, jetzt mit Red Bull, war nicht so schlecht, das Getränk, also man muss Gummibärchen mögen, um es trinken zu können.

Also ich glaube, da hast du schon recht. Ja, das mit dem Verrennen und so ist sicher so. Also ich kenne auch genug Programmierer, ich war mit einem Nerd verheiratet. Also ich hoffe, er hört da gerade nicht zu.

Eliot Mannoia: Ist ein Kompliment.

Manuela Machner: Aber er hat das sehr erfolgreich auch gemacht, weil er für Kunden programmiert hat, aber ich kenne aus dem Umfeld wirklich viele, wahrscheinlich sehr viele sogar, und habe das sehr stark erlebt, wie das oft ist, dieses Nerdige, so wie du sagst, also ich muss den Code da verbessern und da testen, und eigentlich programmiere oder entwickle ich es am Kunden vorbei oder am Nutzen vorbei.

Und da hab ich jetzt viel mehr Möglichkeiten, weil du kannst einfach etwas rauswerfen und schauen. Ich meine, du brauchst ja nur bei den Großen schauen, die Updates von OpenAI oder Apple sind ja oft auch nur, ich werf einmal was raus und schaue, ob der Markt sich aufregt und sagt, das funktioniert nicht, und mach dann ein Update.

Dima Rubanov: Absolut. So soll es auch sein, finde ich. Matthias und ich sind sehr dieses Iterative, so ja, wir hauen einmal was raus, schauen, ob es geht.

Manuela Machner: Mal, was man daraus lernt.

Eliot Mannoia: Also ich möchte auf jeden Fall tausend Fragen noch stellen. Mir ist nur deine Zeit auch bewusst, weil ich glaube, die ganzen Parallelprojekte sind ein Wahnsinn, was sich bei dir jetzt sicherlich in deiner Inbox tut. Gibt es etwas, was wir vielleicht noch nicht angesprochen haben, wo du denkst, hey, das wäre sicherlich noch interessant?

Eines, was auf jeden Fall noch spannend wäre, wenn es sich ausgeht, was wir im Vorgespräch angesprochen haben wegen Biases, also auch mit den Kindern und was ihr da gemacht habt.

Dima Rubanov: Ja, natürlich kann ich machen. Bias, also das Thema Bias in der KI ist ein Thema, ja, also Bias, die Vorurteile, genau, Vorurteile ist ein Thema, das uns auch einfach mit der Arbeit an Oscar Stories aufgefallen ist, wo wir einfach gemerkt haben, wenn man jetzt ein Kind hinzufügt, die Lisa, und die hat einen Bruder, und ich möchte eine Geschichte über die Lisa, aber mit dem Bruder als Nebenfigur. Vielleicht ist der Bruder gerade auf Schullandwoche oder sowas. Und ich möchte dann eine Geschichte über die Lisa haben.

Und dann, ich kann jetzt nicht sagen in einem signifikanten Prozentsatz oder sowas, aber in einem großen Prozentsatz, so dass es auffällt, passiert es dann so, dass die Lisa irgendwie zum Opfer wird und der Bruder sie retten kommt. Aus irgendeinem Grund. Oder dass der Bruder eben dann doch die Hauptrolle übernimmt und die Geschichte leitet.

Und das ist natürlich etwas, wo wir uns gedacht haben, hey, wie können wir das vermeiden? Das heißt, wir haben bei Laura auch das Modell auf Bias trainiert. Es ist natürlich fast unmöglich, Bias aus dem LLM rauszukriegen. Also da brauchen wir uns nichts vormachen. Das ist extrem schwer. Wir haben also GenBit Score, das ist ein Score, der quasi Bias innerhalb von Texten misst.

Natürlich, wenn man jetzt sagt, ich habe einen Text über Einstein, dann ist der Text biased, weil Einstein ist ein Mann, dann ist das ein Bias. Also ein Vorurteil oder ein Bias gegenüber männlich. Es gab ja auch diesen einen Vorfall, dass wenn man zum Beispiel bei Gemini, ich glaube, es war von Google ein Modell, wo man gesagt hat, mach einen deutschen Offizier oder sowas, und der war dann schwarz zum Beispiel.

Manuela Machner: US-Präsidenten.

Dima Rubanov: US-Präsident, genau, genau. Ja, und man darf Einstein zu einer Frau machen, aber es wäre gut, wenn man eben nicht das Mädchen in x Prozent der Fälle immer in eine Opferrolle drängt. Das heißt, wir haben versucht, in unsere Trainingsdaten geschlechtsneutrale Texte reinzunehmen, so viel wie möglich, um eben das zu vermeiden.

Haben auch bessere Ergebnisse als die herkömmlichen Modelle in Bias-Metriken. Und ja, aber das ist natürlich ein Trainingsdatenproblem. Also ich meine, es ist so, wenn man jetzt sagt, Ruler, tell a story about the Ruler. Ja, wer waren die meisten Ruler? Natürlich gab es ein paar Frauen. Also nicht ein paar, sondern sehr, sehr viele.

Aber die KI ist einfach nun mal ein Transformermodell, was den nächsten Token voraussagt. Und irgendwann wird das einfach in die Richtung gezogen.

Manuela Machner: Ja, weißt du, was das Problem ist? Also das ist natürlich ein Thema, das mich voll beschäftigt. Und das Problem, das ich da nur sehe, ist, ihr geht aktiv dagegen vor, das ist super, nur das Problem ist, dass die Realität mit den großen Sprachmodellen, die machen diese Geschichten, wo Mädchen die Opfer sind und die Burschen die Helden, und diese Geschichten werden publiziert, veröffentlicht, weil inzwischen ist es ja so einfach und schnell, Content zu generieren, Content zu veröffentlichen, und ich erlebe, dass diese Bias sich immer mehr selbst verstärken dadurch, weil natürlich die Trainingsdaten immer mehr Trainingsdaten sind, die genau das auch wieder darstellen. Also man sieht es auch immer in der Bildgenerierung, ich mache ganz viele Bildgenerierungen oder relativ viele Bildgenerierungen.

Und wenn du da nicht dagegen wirkst, dann wird die Frau immer so lange Haare, braune Haare, hübsch und Modelmaße haben, und ein Mediziner wird immer ein Mann sein. Und diese ganzen Geschichten, und es ist einfach sehr bequem, wenn du jetzt nicht aus deinem Setting heraus, aus deinem, keine Ahnung, Unternehmenssetting heraus sagen musst, na, unsere Bilder müssen divers sein oder Texte oder wie auch immer, dann wird es einfach noch einmal multipliziert und herausgeschossen. Und da sehe ich eine Entwicklung, die das Entgegenwirken der Bias noch einmal erschwert, weil immer mehr Daten das noch mehr verstärken. Das Gefühl habe ich zumindest.

Dima Rubanov: Klingt absolut plausibel, muss ich sagen. Also ich glaube, du bist nicht die Einzige, die das Gefühl hat.

Manuela Machner: Aber es ist super, wenn Unternehmer überlegen, wie es aussieht. Wie seid ihr eigentlich draufgekommen? Das hätte mich jetzt interessiert. Hat irgendwer gesagt, Leute, eure Geschichten, meine Töchter oder was auch immer, oder seid ihr selbst aus eurem Lesen draufgekommen?

Dima Rubanov: Also wir machen ja regelmäßig Qualitätschecks, schauen uns die Geschichten an und haben sie immer wieder gelesen, und dann irgendwann liest du es so, hey, okay, ist einem nicht aufgefallen, zweites Mal, okay, ist wurscht, ja, und dann liest du es irgendwann so ein drittes, viertes, fünftes Mal und dann denkst du dir so, hm.

Weird, komisch, ja. Und einfach so mit der Zeit ist es einfach wirklich aus unseren Geschichten aufgefallen. Dann haben wir natürlich versucht, das mit Prompting wieder gut zu machen. Das geht auch schon, indem du dem Modell wirklich sagst, weil am Anfang war der Anfangsprompt, wir haben hier eine komplette Library of Prompts, einen Agent dahinter, der die Geschichten zusammenbaut. Das unterscheidet uns auch sehr stark von der Konkurrenz, weil nämlich, wenn du es bei ChatGPT standardmäßig eingibst, schreibe eine Geschichte über die Manuela, einmal, dann zwei, drei, vier, fünf, zehn Mal, dann werden drei, vier sehr ähnlich sein. Wir haben aber eine ganze Prompt-Library mit über 1000 Storyblöcken, wo wir dann sagen, ich erzähle eine Geschichte über die Manuela, die gerade am Mond mit dem Eliot, der am Saturn sitzt, einen Podcast aufnimmt, zum Beispiel. Also solche Sachen, ja, und das heißt, das würfeln wir zusammen, um eben nicht immer das Gleiche zu haben.

Eliot Mannoia: Also ich sehe so ein bisschen ein Muster bei euren Lösungen, dass ihr so gesagt die Power von den Engines, von den LLMs nutzt, aber immer Zwischenfilter, wo wirklich eure Intelligenz und eure Patente so gesagt liegen, weil da wirklich dann, ob das jetzt mit RAG-Technologie ist oder mit gescheiten Vektor-Technologien, einfach dafür sorgt, dass das, was der User bekommt, wirklich akkurater und fairer und auch mit wenigen Vorurteilen ist.

Kann man das so...

Dima Rubanov: Ganz genau, ganz genau, weil ich finde allgemein, also natürlich dadurch, dass ich mit diesem Thema so viel arbeite, ich denke da schon sehr viel drüber nach, also auch, bist im Fitnesscenter oder so und dann kommen die unterschiedlichen Gedanken, bist in der U-Bahn, kommen die unterschiedlichen Gedanken. Und du merkst ja schon, wie die KI unser Leben allgemein verändert.

Und ich habe auch mal dieses Buch gelesen, ich hätte nicht gerne, dass die KI meine Kreativität für mich übernimmt, dass ich mehr Zeit habe, die Wäsche zu machen. Ich hätte gern, dass die KI meine Wäsche macht, damit ich mehr Zeit für Kreativität habe. Weißt du, was ich meine?

Manuela Machner: Ja.

Dima Rubanov: Und allein wie ich sehe, wie viele Leute einfach ChatGPT oder eins dieser klassischen Modelle für Research verwenden, das musst du dir einmal überlegen, welche Macht du diesem Modell gibst. Ich meine, allein Google, wenn du jetzt zum Beispiel sagst, also Eliot beispielsweise, deine Firma, ja, wenn Google heute entscheidet, dass sie dich nicht mehr zeigen, ich meine, falls viel Traffic über das kommen würde, dann ist dein Business theoretisch weg. Aber stell dir vor, jetzt sagt ein LLM, dass jedes Mal, wenn man nach etwas fragt, nicht nach etwas, aber nach einem spezifischen Use Case, dass dann deine Firma quasi dort aufscheint oder eine gewisse Antwort aufscheint oder sowas. Das hast du ja beispielsweise bei DeepSeek mit dem Tiananmen Square schon gesehen, dass es selbst zensiert und sagt, nein, das sage ich nicht.

Da können Tatsachen verdreht werden, da kann alles passieren. Ich meine, noch vor drei Jahren, wenn ich etwas wissen wollte, sei es jetzt Geschichte oder irgendein Research, dann habe ich das bei Google eingegeben in einer Form, habe vier, fünf Webseiten angeklickt, habe es vielleicht noch einmal eingegeben in einer anderen Form, habe noch einmal drei, vier Webseiten gescraped, dann merke ich, ah, okay, gut, dem vertraue ich nicht, da ist das Design schlecht, kann unterschiedlichste Gründe haben, aber habe immerhin drei, vier Quellen herangezogen, um mir eine Meinung zu bilden. Heutzutage, wie oft hörst du den Satz, ja, ChatGPT, bitte, hat er es gesagt.

Eliot Mannoia: Der kürzeste Weg.

Dima Rubanov: Und ja, es gibt dir die Quellen an, ja, aber ich habe keine Ahnung, ob das überhaupt stimmt.

Eliot Mannoia: Deswegen sind auf jeden Fall menschliche Aspekte wie Geduld oder wie kritisches Denken und andere Sachen sehr, sehr wichtig.

Dima Rubanov: Aber das ist das Ding, frage ich mich, ob das... Ich meine, heutzutage, das siehst du ja auch viel in Amerika, da sagt ein Influencer mit drei Millionen Followern irgendeine absolut falsche Information. Das Ding kriegt 40 Millionen Views. Wenn er es korrigiert, ja, das ist nicht so spannend, das kriegt eine Million Views.

Aber das heißt, 39 Millionen Leute haben es ihm schon geglaubt. Weißt du, was ich meine?

Eliot Mannoia: Es ist wichtig.

Manuela Machner: Das haben wir ja in allen Medien.

Dima Rubanov: Ja. Die KI ist nur so mächtig, weil sie so viel Wissen hat und dieses Gefühl. Also früher, wie ich aufgewachsen bin, haben die Leute gesagt, glaub nicht alles, was im Internet steht, weil jeder kann eine Website machen, dann kam Google, glaub nicht alles, was in Google steht, weil eben überall kann eine...

Manuela Machner: Website sein, ich glaube nicht alles, was auf Wikipedia steht, weil das kann nicht wahr sein, und heute sagen wir, glaub nicht alles, was die KI sagt.

Dima Rubanov: Genau.

Manuela Machner: Ich glaube, wir haben die Thematik immer schon gehabt, die Gefahr jetzt ist, so wie du gesagt hast, ich musste mir die Dinge immer noch durchlesen. Ich musste noch immer eine Zusammenfassung selbst irgendwie aus dem, was ich gelesen habe, für mich machen. Also damit ich es nutzen konnte. Das heißt, ich habe vielleicht auch falschen Quellen geglaubt, aber ich habe zumindest insofern darüber nachgedacht, dass ich aus dem ganzen Webseiteninhalt dann einen Satz für mich gefunden habe.

Und jetzt brauche ich nicht einmal das mehr, weil jetzt gibt es mir den Satz und es ist bequem und einfach und das Risiko gehe ich ein, ob ich es glaube oder nicht. Und das ist eben das Kritische, so wie du sagst.

Dima Rubanov: Ja. Genau. Was wir derzeit erleben, in dem ganzen Komplex. Ich hoffe, dass die Menschheit da ein bisschen, wie soll ich sagen, nicht den BS-Filter komplett verliert, sagen wir so.

Manuela Machner: Da kannst du eine eigene Folge machen, weil die große Frage für mich ist, wie kannst du noch einen Filter haben, wenn du das Wissen nicht mehr hast?

Eliot Mannoia: Da wird es sehr philosophisch.

Dima Rubanov: Absolut.

Eliot Mannoia: Ich glaube, da braucht man auf jeden Fall noch eine nächste Folge. Also ich finde es auf jeden Fall super spannend, dass du bei uns warst, Dima. Sehr viel gelernt. Ich finde es wahnsinnig wichtig, was ihr, also sprich Matthias und du, mit den diversen Unternehmen macht. Wirklich versucht, faire und genauere KI-Systeme, ob das jetzt für jugendliche Kinder oder für Eltern mit Kindern, Studierende oder Berufstätige ist, von Laura und Oscar Stories bis hin zu Frag das PDF und dann auch mit dem Brand Positioning. Also wichtig, wichtig, was ihr macht, und ein toller Beitrag auch zur Gesellschaft, und ich finde es super, auch ein österreichisches Jungunternehmen. Also echt, echt vielen Dank für deine Zeit. Ich weiß, sie ist sehr kostbar. Manuela, hast du noch was?

Manuela Machner: Danke, dass du da bist, das ist echt cool, außerdem hab ich jetzt noch ganz viele Fragen an dich.

Dima Rubanov: Danke. Vielen, vielen Dank für die Einladung. Vielen Dank, Manuela. Vielen Dank, Eliot, dass ich da sein durfte. Vielleicht sehen wir uns ja wieder.

Manuela Machner: Dann alles Liebe bis zur nächsten Folge von Mind/Machine.

Dima Rubanov: Ciao.