#42 KI Forschung für Unternehmen - mit Ruben Hetfleisch

Mind Machine. Emotionale Intelligenz trifft künstliche Intelligenz Ein Podcast mit Elliot Manoja und Manuela Machner.

Herzlich willkommen bei der neuen Folge von Mind and Machine. Mein Name ist Manuela Machner und ich bin spezialisiert auf das Thema künstliche Intelligenz und Tourismus. Hi, Elliot Manoja, digitaler Psychologe und heute freut es mich wahnsinnig, den Ruben Hetfleisch vorzustellen, als Gast zu begrüßen zu dürfen.

Ruben ist Research Associate bei Fraunhofer Austria, wo er sein Doktorat macht in Bezug auf Trustworthy AI und da werden wir heute auch sehr viel darüber reden. Dann ist er auch noch AI-Founder bei seinem Startup Klartext, wo er schwierige Dokumente rechtliche und Versicherungsdokumente so inklusiv wie möglich macht, dass wirklich jeder Mann, jede Frau das auch wirklich gut verständlich lesen kann.

Dann ist er auch noch Lead Generative AI Community bei AI Austria, wo er im Besuch auf Generative AI da wirklich Diese Abteilung, so gesagt, in der AI Austria vorwärtsbringt und da mehr unter den Menschen bringt. Hallo Ruben vielen Dank, dass du heute bei uns bist. Hi Elias, hi Manuela. Ja, erstmal vielen Dank, dass ich da sein darf.

Wir hatten ja schon so viele super interessante Gespräche im Vorhinein deswegen finde ich es auch mal toll, dass wir einen aufnehmen. Ich glaube, das war lange überfällig Freut mich, hier zu sein. Super. Vielleicht kannst du mal uns ein bisschen erklären, für die, die vielleicht das Fraunhofer-Institut nicht so gut kennen, um deine Tätigkeit dort als Research Associate.

Trustworthy AI, was macht das so, was sind so ein bisschen die Forschungen die ihr da treibt und wie schaut ein Tag bei dir aus? Genau also ein Tag sieht ziemlich bunt bei uns aus. Also generell Fraunhofer ist ein angewandtes Forschungsinstitut. Das heißt, wir sind nicht wie bei der Uni, dass wir nur Grundlagenforschung machen, sondern wir bewegen uns immer intensiv Zwischen Grundlagenforschung und der Industrie.

Das heißt, wir wollen möglichst spannende Themen erarbeiten, aber auch in einem Horizont von drei, vier, fünf Jahren wirklich industrierelevant und industrieready bekommen. Und da ist natürlich KI ein riesen riesen Thema. Und da ist auch genau mein Steckenpferd sage ich jetzt mal, Trustworthiness of AI, besonders im Bereich Sprachmodelle.

Und mit was wir uns hier im Kern beschäftigen, ist wirklich, dass wir versuchen, Halluzination, das heißt sogenannte Falschantworten oder Antworten des Sprachmodells die nicht auf faktischem Wissen sich beliefern, die natürlich zu vermeiden. Und was wir da machen, ist im Prinzip, dass wir mit neuartigen Datengrundlagen arbeiten.

Sogenannten Wissensgrafen, das sind keine relationalen Datentabellen, ohne jetzt zu tief einzusteigen, aber es sind keine normalen Tabellen, sondern kann man sich ein bisschen die Netze vorstellen und die ermöglichen es wirklich, bei einer Antwort sich dann auf diese zu beziehen und dann auch wirklich praktisches Wissen aufzugeben, wo dann eine feste Datenbasis dahinter steht und halt nicht einfach nur irgendeine Gespinnerei des Sprachmodells.

Genau, so im Grunde genommen. Wie ein Tag bei mir aussieht, das ist ganz, ganz unterschiedlich. Natürlich mit zu vielen administrativen Meetings wie das bei jeder Arbeitsstelle meistens der Fall ist. Aber nee, ansonsten ist es relativ spannend und abwechslungsreich, weil wir halt wie gesagt arbeiten.

Zwischen Industrieprojekten und zwischen Forschungsprojekten immer hin und her wechseln Und das macht es extrem spannend, weil wir wirklich in den Forschungsprojekten sehr tief reingehen können und uns auch wirklich Sachen angucken können, die vielleicht nie industrie-relevant werden, aber vielleicht wirklich grundlagenforschungstechnisch sehr interessant sind.

Da kann ich auch gleich von einem Forschungsprojekt gerne ein bisschen was erzählen. Genau. Und dann haben wir wirklich die Industrieprojekte wo wir wirklich in den hoch innovativen Unternehmen reingehen und dann konkrete Fragestellungen beantworten weil einfach konkrete Probleme meistens in der Produktion vorhanden sind.

Genau. Und so sieht im Prinzip neben meinem eigenen kleinen Unternehmen und AI Austria mein Tag aus. Genau. Also ziemlich ausgefüllt klingt das zumindest, oder? Ziemlich ausgefüllt, ziemlich ausgefüllt, aber ich will mich nicht beschweren, weil es super abwechslungsreich ist und man auch einfach mit super vielen tollen Menschen zu tun hat.

Also es mir macht Spaß. Ich liebe, was ich mache. Das merke ich. Ja und ich finde es spannend, was du sagst. Ich mache das ja im Kleinen, also ich habe meine kleinen Betriebe ich löse für die nichts, ich zeige ihnen nur was. Und du hast die großen. Was ich spannend finde, ist diesen... Einerseits den Forschungsansatz, den du hast, aber andererseits auch, dass du die wirkliche Welt noch siehst.

Ich sehe Forscher oft sehr abstrakt. Die entwickeln in ihren Kämmerchen, sage ich jetzt einmal. Und wenn sie einmal rausgehen, checken sie gar nicht, dass die Welt sich verändert hat und das, was da rauskommt, gar nicht mehr relevant ist. Und ich finde es super, dass du das verbindest. Absolut, absolut und da muss ich auch ein bisschen, wenn ich da von meinem Arbeitgeber schwärme, aber das war auch der Grund, warum ich mich in Deutschland als Fraunhofer Die Fraunhofer-Gesellschaft ja noch ein bisschen größer.

Genau, und das ist wirklich eigentlich das Schöne auch, warum ich mich deswegen dafür entschieden habe, weil meine Erfahrung in universitären Instituten war meist, dass halt sehr interessante Themen gemacht werden, aber dann, wenn man da rausgeht, weiß man eigentlich in der Industrie nicht so wirklich, okay, wie können wir das wo anbringen?

Das wird hier wunderbar verbunden und ich glaube, das ist auch genau das, was es dann braucht, um wirklich Mehrwert zu schaffen für die Gesellschaft. Und wie siehst du, also es ist wirklich angewandt das finde ich super bei euch, wo siehst du so da das Potenzial die Risiken aus deiner Sicht oder aus Forschersicht?

Jetzt im Bereich auf künstliche Intelligenz oder generell gesehen? Nein auf KI. Auf KI gesehen, vor allem bei der Angewandtheit von unserer Wissenschaft habe ich manchmal das Gefühl, dass das Problem ist, dass Firmen sich... Nicht trauen neuartige KI-Projekte zu realisieren. Und das ist auch vielleicht sogar ein europaweites Phänomen von Unternehmen, dass sehr neuartige Technologien oftmals sich nicht getraut werden, wirklich in die Anwendung zu bringen und dort auch wirklich mal ein reales Projekt auf die Beine zu stellen.

Das heißt, daran müssen wir immer kämpfen. Das wird sich halt immer wieder auf Bewertes zurückgezogen Und da ist einfach die Hürde in Europa, vielleicht im Gegensatz zur USA oder sogar vielleicht im Gegensatz zu China, ein bisschen höher, mal zu sagen, hey, das ist eigentlich eine geile Idee, wenn man das jetzt mal so sagen kann.

Aber wir wissen nicht ob sie funktioniert, aber wir probieren es aus, weil wenn es funktioniert, wäre es super cool. Genau, und das ist oftmals das Problem, dass da wirklich viel Überzeugungsarbeit notwendig ist, gerade im Bereich KI-Förderung Was extrem schade ist, weil die Möglichkeiten halt immens sind und ja, einfach diese Willingness von zehn Projekten vielleicht auch mal fünf in den Sand zu setzen, aber die fünf, die dann was werden, die sind dann halt großartig.

Ich glaube, da fehlt uns ein bisschen der Mut, manchmal in Österreich, in Deutschland, aber auch generell in Europa Wobei, das ist schon unser Mindset, also diese Vorsicht und diese fehlende, also Scheitern ist was ganz so Schlechtes bei uns in Europa, das merkt man halt wirklich bei so Projekten ganz, ganz stark, also derweil ist Scheitern im echten Leben ja immer ein Teil einer Entwicklung, also wenn ich nicht gescheitert bin, weiß ich nicht, was ich besser machen kann, aber bei uns ist das Ganze ein...

Ganz schlechte Geschichte und Risikobereitschaft. Ich habe jetzt bei einer Tagung gehört, vielleicht hast du da auch Erfahrung, da haben sie gesagt, ja, also Österreich, Deutschland, Schweiz und so weiter, ganz schwierig, aber dass zum Beispiel die ehemaligen Ostländer durchaus bereiter sind, Riskanter oder schneller, irgendwas auszuprobieren.

Vielleicht weil sie ein wenigeres Gefühl haben, was zu verlieren oder einen Status zu verlieren Weiß nicht, hast du da Erfahrungen in die Richtung? Ja, das kann wirklich gut auch sein, dass wir da vielleicht das einfach stärker in unserer Kultur haben, weniger Risiko bereit zu sein. Hat ja auch durchaus seine Vorteile und ich glaube auch Assets Richtung Datenschutz, der wirklich aus Europa maßgeblich getrieben wird, Es ist super wichtig, nur das Problem ist, Wenn uns auf der technologischen Seite die anderen Player überholen und abhängen, dann finden wir uns am Ende in einer Abhängigkeitssituation, wo wir deren Werte aufgedrückt bekommen.

Und das ist das, was ich auch halt immer wieder und was jeder Mensch in Europa eigentlich gerade widerfährt. Wir haben jetzt vor 20 Jahren, sage ich mal, als Europa das Internetrennen schon deutlich verloren oder die ganze Welt hat es gegen die USA verloren. Jetzt ist das Thema, wir wollen Google und Meta unsere Datenschutzwerte auftragen, weil die letzten 20 Jahre hat Europa wahnsinnig gut über Datenschutz gesprochen.

Das Problem ist aber, ganz am Ende des Tages hat Google und Meta so eine Übermacht, dass wir uns eigentlich deren Werte fast aufdrücken lassen müssen. Oder auch einfach, um wettbewerbsfähig zu sein, einfach beide Augen zudrücken müssen, weil wir halt deren Systeme benötigen und brauchen. Und das würde ich mir manchmal wünschen, dass das mit der KI nicht mehr in dem Ausmaß besteht.

Ich glaube, wir werden trotzdem in diese Abhängigkeit ein bisschen reinlaufen, weil einfach die großen Player jetzt woanders sitzen. Aber ich glaube, wenn wir hier ein bisschen risikobereiter wären, Auch wirklich ein bisschen fortschrittlicher werden und da rede ich gar nicht auch zum Beispiel davon, nur Startups mit Geld auszustatten, aber auch wirklich einfach neuartige Ideen sei es von Forschungsinstituten, sei es von firmeninternen Personen, die Ideen haben oder sei es von Startups, dass das Unternehmen und auch die Führungsebenen in den Unternehmen sich einfach mehr und mehr entscheiden würden, da ein bisschen Risiko zu gehen, um einfach ein bisschen schneller zu sein, weil ich glaube, Nur dann schaffen wir es auch irgendwie als Europa unsere Werte in die Welt zu tragen.

Das ist so ein bisschen so meine Erfahrung und das merke ich halt im Alltag dass das halt sehr schwierig ist bei Unternehmen manchmal da durch die Backsteinwand irgendwie durchzukommen und zu sagen, hey, lasst uns doch mal was Cooles probieren. Aber es existiert die Angst auch nicht, oder? Ja Ich entschuldige die Unterbrechung, aber es existiert die Angst irgendwie nicht, dass du sagst dass dir das ein Konzern auch sagt, wir müssen unbedingt auf diesen Zug aufspringen irgendwo.

Leute was haben wir für Ideen Wie können wir schneller werden, effizienter werden, besser werden? Wo kann uns vielleicht KI helfen? Muss ja auch nicht KI sein, aber wo kann uns Innovation helfen? Also irgendwie, wir sind gesettelt, wir sind vielleicht satt in einer gewissen Art und Weise Und das führt ein bisschen dazu, oder?

Absolut, absolut. Und das ist ja die Sache, jeder guckt ja nur auf sich. Und für das eigene Unternehmen, man ist zufrieden es läuft gut, ist das auch richtig. Aber das Problem ist, wenn das dann eine gesellschaftliche Größe annimmt, dann brauchen wir aber diese Player, die halt sagen, hey, wir müssen voranschreiten weil...

Und gesamtgesellschaftlich gesehen auf Europa funktioniert das dann nicht mehr so, dass wir sagen, okay, läuft okay, wir bleiben jetzt mal voran. Und das wollte ich auch anschließen eben noch, dass man auch wirklich sagen muss, es gibt ja einzelne Player sehr wohl, die das machen. Also... Ich will jetzt keine Firmen nennen, obwohl es eigentlich nur positive Werbung ist, aber wir haben einige Player, die wirklich sehr fortschrittliche Sachen ausprobieren auch gerade so als Beispiel Multi-Agent-Frameworks, das heißt wirklich mehrere Sprachmodelle die interagieren und da sehr fit sind.

Meiner Meinung nach bräuchte es mehr von diesen Playern, die den Mut haben. Und das können sich halt oft nur große Konzerne leisten, Und da ist halt auch die Frage, wie können wir vielleicht sogar politisch unterstützen, dass immer mehr Unternehmen den Mut auch finden und vielleicht auch unterstützt werden dabei.

Wir haben ein Ziel unseres Podcasts, das ja auch zu inspirieren. Hast du da vielleicht ein paar Anwendungsfälle, die du vielleicht teilen darfst vielleicht ohne Firmen zu nennen, aber so ein paar spannende Anwendungsfälle Also ich würde einen herausheben hier und den darf ich nämlich auch nennen und zwar haben wir bei Fraunhofer ein großes Projekt bei Infineon gemacht und die haben schon relativ frühzeitig, ich sage jetzt mal beim Sprachmodell Hype, wirklich uns kontaktiert und gefragt, hey, wie können wir da was machen?

Und dort haben wir jetzt zum Beispiel einen relativ coolen Maintenance-Chatbot. Den hat auch der Projektzuständige Daniel Valtina bei der ersten GenAI-Veranstaltung präsentiert. Genau, da haben wir einen Maintenance-Chatbot mit denen in Kooperation realisiert. Und das ist halt total cool, weil sowas ermöglicht dass im Prinzip ein Instandhalter der vielleicht auch schon neu ist in seinem Beruf oder eine Maschine nicht so gut kennt, trotzdem diesen Chatbot hat, um hinzugehen und zu sagen, hey, hallo Chatbot.

Ich habe hier dieses und jenes Problem, was kann ich tun? Und dann bekommt er wirklich eine fundierte Meinung zurück und Hilfe, was er tun soll oder an wen er sich wenden soll. Und das sind halt dann wirklich Benefits und Vorteile, die man dann wirklich real in der Produktion hat, die halt super sind und wo es sich halt komplett ausgezahlt hat, dass jemand schon ganz früh beim Hype, wo ich sage jetzt mal der Sprachmodell Hype gerade erst begonnen hat, Ja, und noch nicht gesettelt war und klar war, wie viel bringt es wirklich?

Da hat sich in Finland schon entschieden, hey, lasst uns da ein Projekt machen und es hat sich komplett ausgezahlt weil jetzt sind sie auch ready und benutzen das System, während andere gerade noch am Evaluieren sind. Was ich toll finde bei solchen Projekten ist jetzt für meine kleinen Betriebe wenn so Innovationen passieren, so wie du gesagt hast, die sind meistens sehr teuer und umfangreich und und und und.

Aber in der Wirklichkeit ist das der erste Schritt und Wenn die Dinge dann funktionieren, wenn sie standardisiert sind, dann sind sie auch skalierbar und dann wird das ja dann auch heruntergebrochen für uns Kleine sage ich jetzt einmal, oder für die Kleinen und dann sind die Dinge bewährt und funktionieren, weil im kleinen Umfeld haben wir oft das Problem, gerade im Tourismus, wo ich zu Hause bin, Dass viele Lösungen einfach noch nicht verfügbar sind.

Also die Entwicklungen gehen eben auf die großen Budgets, weil dort halt auch so viel Forschung noch passiert. Und wir sind aber sehr abhängig von den fertigen Produkten da. Also weil da geht es nicht mehr. Und darum ist es also wichtig. Und das Gefährliche das sehe ich schon auch, ist, Wenn solche Produkte dann nicht existieren im österreichischen oder deutschsprachigen Raum, was passiert dann?

Die Kunden sagen, naja gut, aber es gibt ja die technische Möglichkeit, ich nehme das Produkt, das aus den USA kommt oder woanders her, ist ja egal, Sprache spielt sowieso keine Rolle mehr und dann kaufe ich das halt dort ein. Und ob ich meine Daten dann in die USA ausdecke, naja der Datenschutzbeauftragte...

Denn das, ja, da schreibe irgendwas rein, keine Ahnung, ich tue eh keine Person hat bezogen darauf oder so und ich nutze das dann, weil ich halt auch keine Alternative habe momentan zu momentaner Zeit. Ja das ist genau der Punkt, man hat dann keine Alternative und ist dem eigentlich dann ausgeliefert und dann ist der Datenschutz wieder ganz hinten und das ist genau das, was ich auch vorher meinte.

Dann werden auch auf einmal unsere Werte im Sinne der Wettbewerbsfähigkeit Einfach ganz nach hinten gestellt. Das heißt, wir hätten uns direkt von Anfang an eigentlich Gedanken machen können, wie können wir sowas selber machen als Gesellschaft, dann müssen wir vielleicht am Ende unsere Werte nicht hinten anstellen.

Und ich glaube, da gilt es wirklich die Balance zu finden zwischen Technologischen fortschritt wirklich auch sachen ausprobieren und halt trotzdem auf unsere werte gucken ich glaube wir können der regulative muskel ist in europa immer sehr stark deswegen wird immer sehr sehr zur zum datenschutz und zu den werten gezogen aber ich glaube dann brauchen wir ein bisschen besseres gleichgewicht wenn wir auch jetzt von produkten reden klartext Toller Name.

Ich meine, es sagt eigentlich schon sehr, sehr viel aus, aber vielleicht kannst du uns von deiner Startup erzählen und wie du hier mit einem europäischen Produkt für Inklusion wirklich auch ein Produkt schaffst Sehr gerne, sehr gerne. Genau, Klartext ist ein bisschen, ich habe lange Zeit im Sozialwesen gearbeitet, nebenberuflich und Klartext ist ein bisschen daraus entstanden so ein bisschen etwas der sozialen Gesellschaft zurückzugeben und meine Passion sozusagen mit KI zu verbinden und alles hat gestartet damit, Dass ich mir mit einem Freund Gedanken gemacht habe, weil ich habe quasi eine Mail bekommen von einer Bank mit einem Angebot für ein zusätzliches Produkt.

Ich sage jetzt mal, ich verschweige mal die Bank, aber es war Drei-Seiten-Fleece-Text. Und dann habe ich mich gefragt, erstens mal aus einer Marketing-Sicht, ist das bescheuert weil keiner hat so viel Zeit dass er sich Drei-Seiten-Fleece-Text durchliest. Ja, und dann habe ich mir auch Gedanken gemacht, ich bin, würde ich sagen, ein durchschnittlich intelligenter Mann.

So, ich habe jetzt wirklich, ich habe mir dann die Arbeit gemacht, habe eineinhalb Stunden diesen Text durchgelesen und nach eineinhalb Stunden habe ich im Grunde genommen ein bisschen verstanden um was es eigentlich geht. Und da habe ich mir gesagt, wenn man wirklich aber vielleicht nicht mit komplizierten Texten tagtäglich arbeitet, wie ich das tue oder gewisse Beeinträchtigungen hat, Sprache oder der Sprache nicht mächtig ist.

Wir haben mittlerweile viele Bürger mit Migrationshintergrund, wo es nicht selbstverständlich ist, dass sie muttersprachlich Deutsch sprechen und es ist eine komplizierte Sprache und da haben wir uns gedacht, hey, da braucht es doch eigentlich in Zeiten von Sprachmodellen, von Natural Language Processing von KI, braucht es eigentlich eine Lösung, die solche Texte vereinfacht.

Das war im Prinzip der Grundstein für Klartext und dann viele Recherchen später. Sind wir auch darauf geschossen, dass es Gott sei Dank eine Regulatorik gibt, die nächstes Jahr auch schlagend wird, die Banken und Finanzdienstleistungen verpflichtet Produktinformationen vereinfacht darzustellen. Das ist das B2-Niveau was dort verpflichtet wird.

Und darauf spezialisieren wir uns quasi, dass wir ein Produkt schaffen, eine Software, die komplizierte Finanztexte Sei es ein Kontovertrag, sei es ein Kreditvertrag auch Versicherungsprodukte automatisiert vereinfacht. Und das ist leider nicht mit einer ZGPT-Lösung getan, weil da super viele Probleme auf einen zukommen, aber es ist super spannend und da sind wir jetzt mit dem ersten POC am Start und legen da los und freuen uns total, weil ich glaube, das sind genau die Sachen, das ist dann am Ende das Schöne dass es nicht nur...

Für die Inklusion gut ist, von Menschen, die beeinträchtigt sind, sondern wirklich der ganzen Gesellschaft zugutekommt, weil jedes Mal, wenn wir unser Produkt vorführen und am Ende der vereinfachte Text auskommt, es sitzt uns nie jemand gegenüber, der sagt, wow, der Text ist ja viel zu einfach, sondern jeder ist begeistert davon, dass der Text so einfach zu verstehen ist.

Und das ist eigentlich der Kern der Sache, dass die Informationen bei den Menschen ankommen und das tut jedem zugute und genau, darum geht Speckler. Zugänglichkeit und Barrierefreiheit wirklich für manche essentiell ist, aber für alle hilfreich ist. Exakt. Hatten den Shadi bei uns vor ein paar Wochen, der ist für Barrierefreiheit bei Amazon zuständig Und er hat das wirklich sehr schön gesagt.

Also ja, es macht einfach die Benutzerfreundlichkeit für alle. Ja ja,, ja ja ja,, ja.

Brutal interessant ist, weil wenn ich keinen Drei-Seiten-Fleece-Text bekomme, sondern vielleicht tatsächlich nur eine Seite mit Bullet Points, die wichtig sind für mich, dann hätte ich vielleicht das Produkt, was sie mir damals geschrieben haben, auch wirklich angenommen. Habe ich nämlich am Ende nicht, weil ich nur die Hälfte verstanden habe.

Und ich glaube, da werden die Unternehmen ein bisschen zu ihrem Glück gezwungen, was aber auch okay ist und genau. Aber diese ganzen Signale schicken doch so viel mit, ja, also auch aus psychologischer Sicht, ja. Wenn man drei Seiten Text bekommt, die nicht verständlich aufbereitet sind, ja. Oder ich mache jetzt gerade für eine Bank, Namen wenig auch nicht, auch eine Analyse Und da haben sie zum Beispiel auf einer Seite glaube ich, drei, vier oder fünf Asterix-Sterne.

Und das ist das Angebot aber das sind Sterne. Und das sind so kleine Signale, die dann immer sagen, okay... Was ist dir dann doch nicht kostenlos oder was ist dabei nicht im Paket? Also es sind so Signale die mitgeschickt werden, die die Leute spüren. Und das ist auch nicht wirklich zielführend für ein Unternehmen.

Eher Vertrauen ist einer der wichtigsten Ich glaube, Sachen stehen unter diese Überregulierungen von diesen, gerade die Branchen sind ja extrem reguliert das muss man sagen, also das ist ja nicht so dass die Marketingabteilung nicht wüsste dass das gescheiter ging, sondern es ist halt auch wirklich so, dass dort die Anwälte drinnen sitzen, die alles abholen Und ich finde das ja ganz spannend, wenn ich ein AGB oder was inzwischen unterschreibe oder unter Anführungszeichen auch abhackele, online bei meinen Tools, ich spiele mir inzwischen jedes AGB, zumindest das Chachapiti rein und zeige mir, wie schaut das Nutzungsrecht aus und was steht da drinnen.

Auch wenn es natürlich fehlerantäglich ist, aber früher habe ich es abgehackelt und das war es, wie ist es gewesen. Und ich finde da schon oft spannend, was da alles rauskommt. Und welchen Nutzungsbedingungen wir doch alle zustimmen weil du vorher ja gesagt hast, Datenschutz. Ich finde es sehr so lieb und nett.

Ich musste einen Datenschutzbeauftragten in meinem letzten Unternehmen haben. War vorgegeben, juristisch was wir alles durften und nicht. Und wenn ich dann schaue, wo wir über das Hackel setzen und sagen, alles akzeptieren, damit wir überhaupt ein Tool verwenden können. Und wenn du dir das dann durchliest, Designerschaft zu verwenden.

Muss man ganz ehrlich sagen. Als Nutzer ignorierst du das zu 80 Prozent, weil du es nicht verstehst. Mehr. Und weil du die Zeit nicht hast und weil du es verstehst. Ich kann mich nicht erinnern, weil ich das letzte Mal eine AGB durchgelesen habe. Die wird immer nur angehakt und es wird halt einfach blind vertraut.

Was eigentlich total schade ist, weil es vielleicht ja tatsächlich, wie du sagst interessant ist mal zu wissen, was unterscheidet eigentlich die AGB maßgeblich von anderen AGBs. Nur das Problem ist ja meistens, du kennst dich aus, du gibst dann in ChatGPT die Frage ein. Viele wissen ja noch nicht mal, was soll ich überhaupt der AGB fragen?

Was kann da überhaupt drin stehen? Und ja ist eine spannende Sache. Und diese ganzen Verträge, auch wie du gesagt hast auch beim Marketing, die haben ihre Komplexität aus einem Grund. Da steht eine Legal-Abteilung dahinter und die sagt, nein, wir müssen auf der sicheren Seite sein. Und das ist auch wirklich ein Zwietrust, das ist die Challenge, die wir gerade facen wie einfach dürfen wir die Verträge machen, dass die Informationen wirklich noch eindeutig sind, aber dass sie trotzdem irgendwie verständlich sind.

Und aktuell wird so gelöst, dass man halt zu dem Originalvertrag dann einfach dieses einfachere Beiwerk dazu macht, aber der richtige Vertrag noch unterschrieben wird. Kann sich aber in Zukunft ändern, weil die Inklusion wird nur größer werden und die Accessibility soll noch weiter ausgeprägt werden und da sind wir erst am Start jetzt mit der Regulierung nächsten Jahres.

Aber ja, die Legal-Abteilung fällt bei unserer Demonstration immer als erstes um. Alle anderen sind begeistert die Legal-Abteilung die schwitzt. Die schwitzt, ja. Aber dass allein, dass das möglich sein soll, so herunterzubrechen dass es juristisch noch richtig ist und verkaufstechnisch brauchbar, das finde ich auch sehr spannend, die Herausforderung.

Das ist wirklich sehr spannend und sehr vielfältig kann ich dir sagen, aber es ist halt Also ist ein Thema, was wirklich bei mir Leidenschaft erweckt und deswegen bin ich da echt gespannt, was da mit Klartext noch nächstes Jahr vorangeht Die Regulierung wird ja erst nächstes Jahr schlagend und ich glaube, dann geht es richtig los, weil viele Banken und Versicherungen haben es noch nicht auf dem Schirm.

Und man merkt jetzt... Aber trifft ja nicht nur Bankenversicherungen. Also dieses Barriere-Dingsbums-Gesetz, entschuldige das ist so ein langes Wort, trifft ja, glaube ich, alle Unternehmen ab zehn Mitarbeiter. Also ich selbst tue bei meinen touristischen Betrieben jetzt schon sagen, Achtung, ihr müsst einfache Sprache verwenden, oder Variante mit einfacher Sprache.

Ihr müsst Alttexte machen in den Bildern und, und und und. Also es trifft ja auch kleinere Betriebe bei zehn Mitarbeitern aus Baltimore Ja, es trifft eigentlich alle Betriebe letztendlich und vor allem halt auch die mit intensiver Kundenkommunikation, aber ja, dass ein kleiner Betrieb das ich sage jetzt mal verschläft, dass da nächstes Jahr eine Regulierung kommt, ist glaube ich noch okay, aber dass auch die größeren Betriebe da noch nicht aufgewacht sind, das ist dann schon eher bedenklich, aber es kommt so langsam, das große Erwachen, wir merken es wirklich von Monat zu Monat kommt das, Die Awareness für Accessibility, das Bewusstsein für Accessibility immer mehr.

Und das freut mich ganz extrem, dass da jetzt richtig Schwung kommt in die Thematik. Wobei man die Betriebe ein bisschen in Schutz nehmen muss. Also die ganzen Regulatorien die derzeit in Kraft treten, ob das das Datenthema ist, ob es AI ist, ob es Barrierefreiheit ist. Also man muss schon sagen, es ist auch eine herausfordernde Zeit für die Betriebe Ja, extrem, extrem niss.

Dann das ganze Nachhaltigkeitsreporting. Also in den großen Unternehmen werden jetzt einige Ressourcen freigemacht werden müssen für die ganze Regulatorik. Genau, ich fand es halt trotzdem scheinbar, dass die Inklusionsregulatorik oder Accessibility-Regulatorik da ein bisschen in der Prioritätsliste nach unten geschoben wurde.

Aber da hast du einfach komplett recht. Ja, viele Unternehmen sind überfordert Und man muss ja auch sagen, der Staat wirft ja oft Regulatoriken hin und weiß dann selber aber nicht, wie sie dann letztendlich markttechnisch umgesetzt werden. Merkt man ja auch daran, dass dann irgendwelche Regularien immer wieder verschoben werden und aufgeschoben werden, weil es praktisch gar nicht möglich ist.

Genau, aber deswegen wollen wir im Prinzip mit unserem kleinen Unternehmen oder noch kleinen Unternehmen dafür sorgen, dass es einfach möglich ist und automatisiert möglich ist, Um dann auch wirklich zu sagen, hey, ihr habt hier Tools, die ihr nutzen könnt, um wirklich die Regulatorik zu beantworten und konform zu sein und auch dem Endnutzer dann einen Gefallen zu tun.

Und ich glaube, das ist genau das, was bedarf. Und ja, sei es Datenschutzthematiken, sei es Accessibility oder auch Nachhaltigkeitsberichterstattung. Genau, ja. Ich freue mich drauf. Also ich freue mich in der Zukunft... Alle AGDs verstehen zu können. Ja. Vielleicht wird es sogar als Stimme vorgelesen Ich habe bitte nur zusammengefasst und nicht die Zehn Seiten AGBs gehört.

Das wird der neue Herr der Winger-Teil ansonsten. Ja, genau. Wobei was du mit Notebook LM machst, ein Podcast draus ich sage es euch, da klingen auch AGBs voll spannend. Ich Steuerhandbuch jetzt gerade in einem Podcast umgewandelt und ich wusste nicht, wie spannend Steuern sein können. Gut, dann ist das nächste Thema für den nächsten Podcast ja schon fest, AGBs.

Genau. Ja, wir sind eh schon knapp mit der Zeit, ein paar Minuten haben wir noch. Sind da irgendwelche Sachen, die du gerne noch irgendwie, wir sind jetzt eh schon im gesellschaftlichen Bereich angekommen eigentlich. Ist da etwas, wo du meinst, KI, das ist noch etwas Wichtiges das wir gesellschaftlich irgendwie angehen?

Boah, das ist eine breite Frage. Ich glaube, kommt ziemlich viel bei mir hoch, aber ich glaube... Genau, eines der großen Themen ist wirklich die Bewusstseinsschaffung. Dass wir wirklich Bewusstsein schaffen in der Gesellschaft für KI, was es kann, was es nicht kann, wo wir vorsichtig sein müssen. Also wir hatten vor ein paar Jahren den Skandal mit Cambridge Analytica, politische Beeinflussung.

Ich glaube, da müssen die Menschen wirklich sensibilisiert werden. Hey, was macht KI? Wie ist der Informationsdurchfluss Was sind Deepfakes? Ist jedes Interview, was ich sehe, real oder auch nicht? Genau. Und ich glaube, bei der Bewusstseinsschaffung und Manuela, da bist du ja in dem Bereich auch massiv tätig, Gott sei Dank, da braucht es ganz, ganz viel.

Und neben dieser Bewusstseinsschaffung, glaube ich ist auch ein großer Weg, dass wir einfach das ganze Education System, die ganze Lehre auch ein bisschen umstellen. Weil wenn ich in die Schulen gucke und in die Studiengänge, Dann finde ich ist da noch zu wenig KI drin. Und das Problem ist, künstliche Intelligenz ist nicht nur wichtig für Leute, die Informatik studieren, sondern es ist wirklich mittlerweile für fast jeden Bereich wichtig und es wird auch in jedem Bereich wichtig sein.

Und das ist dann egal, ob du Mediziner bist, ob du Jurist bist, ob du vielleicht einfach nur Handwerker bist, weil gerade dort kann es wirklich an der Wurzel extrem viel Nutzen schaffen. Genau, oder ob du Manuela im Tourismus bist. Und da würde ich mir wünschen, wenn eigentlich in jedem Handwerk und in jedem Studium KI noch mehr Wichtigkeit bekommt und noch mehr Priorisierung, weil es wird das Instrument sein, mit dem wir alle arbeiten in ein paar Jahren, wenn nicht jetzt schon.

Ja, es ist ja interdisziplinär. Also es ist ja so schwierig, weil auch viele Lehrer glauben halt, das macht der Computerlehrer, der IT-Lehrer soll das machen und mich betrifft es nicht und das betrifft aber auch jedes Fach aus meiner Sicht. Und wenn man es richtig einsetzen würde, würde man richtig, richtig einen Vorteil auch für die Schüler oder die Studenten herausarbeiten können.

Und wir haben da halt auch wieder diese europäische Sichtweise Zuerst einmal verbieten oder regulieren, ohne uns damit auseinanderzusetzen. Und da lässt man ja auch die Menschen allein, also auch die Lehrer lässt man ja ein bisschen alleine mit was sollen sie eigentlich tun? Wie gehen sie es an? Was sind die ersten Schritte?

Da gibt es einfach keine zentrale Strategie Es gibt sehr engagierte Einzelpersonen aber es fehlt halt an der zentralen Strategie. Aber das ist ja nicht nur in der Bildung so. Ja, das ist nicht nur in der Bildung, das zieht sich generell durch. Es muss halt immer von oben eigentlich durchgedrückt werden.

So sehe ich es. Also auch an der Uni muss halt der Dekan irgendwann ein Machtwort sprechen und sagen, hey, wir brauchen jetzt mal 5% mehr KI-Fächer im Studium. Und genauso sind es dann bei den staatlichen Instituten die auch die Bildung vorschreiben, was die Schulen zu lehren haben. Und ich glaube, da braucht es einfach auch große zentrale Entscheidungen Die auch ein bisschen Mut erfordern aber die, glaube ich, notwendig sind, um uns da aktuell zu halten, genau, um uns auch zu wappnen, weil es ist am Ende auch wirklich ein Thema der Allgemeinbildung, genau.

Auch wenn man vielleicht nicht damit arbeitet, wie geht man als Bürger damit um? Absolut, ja. Wenn ich ein Bild sehe, was passiert dann bei mir? Glaube ich alles, was ich noch sehe? Glaube ich alles, was ich noch höre? Wie gehe ich mit Informationen um? Also erlernt diese Bildungsthematik oder Bildung meine ich jetzt nicht in Bildungsschule sondern einfach dieser Umgang.

Ja exakt ganz wichtig. Ja, absolut, und deswegen... Ja, deswegen ist es ganz wichtig, dass es ganz, ganz viele Manuelas gibt, nicht nur im Tourismusbereich, sondern in jedem Bereich. Genau, wo wir dann im Prinzip als Forscher sage ich jetzt mal, dir, Manuela, den Input geben und du ihn auch wirklich dann auf die bürgerlichste Ebene bringen kannst, weil wir hatten es eingangs schon vor dem Podcast besprochen, es gibt ja super viele Menschen, die gar keine Erfahrung haben mit Tourismus Mit KI oder mit die noch nicht mal wissen, was ein Chat ist und die muss man abholen und da muss es ankommen, weil sonst profitiert nicht die ganze Gesellschaft und das ist nichts in der Sache.

Super, ich glaube, das ist eh schon fast eine perfekte Zusammenfassung würde ich sagen. Also wir haben ja heute sehr stark über Bewusstsein schaffen gesprochen. Angefangen vom Fraunhofer-Institut und wie ihr auf Industrieebene auch mit Anwendungsverhältnissen und Aufklärung arbeitet, bis jetzt zum Schluss auch auf bürgerlicher Ebene und der europäische Einstellung zu vielleicht Risiken oder mal Scheitern oder Sachen ausprobieren und Wie vielleicht, wenn wir ein Produkt wollen, das jetzt verfügbar ist, dann vielleicht unsere Werte eher nach hinten gereiht werden, um Zugang zu diesem Produkt zu bekommen, auch wenn das von außerhalb Europa ist.

Also wirklich super spannende verschiedene Themen besprochen, auch was du mit Klartext machst, echt super. Wir brauchen auf jeden Fall mehr Inklusion auf allen Ebenen also wirklich toll und auch mit AI Austria. Also damit Generative AI und das ist glaube ich zu dritt hier, wie wir mehr Bewusstsein schaffen für die KI und wie es eigentlich in allen Bereichen uns sehr stark verändern wird.

Also nicht nur im IT-Bereich Informatik-Bereich. Also vielen, vielen Dank, Ruben, für deine Zeit und dein Wissen und deine Insights Vielen Dank für die Einladung Immer interessant mit euch zu sprechen. Gerne wieder. Hat mich sehr gefreut. Alles Liebe. Tschüss

Untertitelung. BR 2018