#3 KI - die virtuellen Assistenten

**Manuela Machner:** Herzlich willkommen zu unserem dritten Podcast Mind and Machine. Ich bin die Manuela und ich vertrete die technische Seite rund um das Thema KI. Und stellst du dich vor?

**Eliot Mannoia:** Ich bin der Eliot. Hallo, grüß euch. Für mich steht der Mensch im Mittelpunkt der Interaktion mit der Maschine.

**Manuela Machner:** Wir haben uns heute das Thema KI-Assistent vorgenommen. Durch ChatGPT haben wir alle die Möglichkeit, einen kleinen KI-Assistenten in der Hosentasche zu haben. Was dafür notwendig ist, damit der Assistent auch das tut, was wir wirklich brauchen, dazu geben wir euch ein paar Tipps und teilen unsere Erfahrungen.

**Eliot Mannoia:** Wichtig ist mal zu wissen, dass es noch sehr viele Fehler gibt. Halluzinationen passieren. Das ist ein Begriff, der beschreibt, wenn die Maschine sich irrt, aber es so rüberbringt, als ob sie sich auskennt. Man nimmt dann diese Antwort, weil sie so überzeugend klingt, und manchmal stimmt sie dann nicht.

**Manuela Machner:** Ganz wichtig sind auch die Biases, also Vorurteile. Bei fast jedem zweiten KI-Modell gibt es einen Gender-Bias und bei jedem vierten einen Race-Bias. Die Modelle wurden auf historischen Daten trainiert, und diese historischen Daten spiegeln eine Zeit wider, in der viele Gruppen unterrepräsentiert waren.

**Eliot Mannoia:** Halluzinationen kann man selbst beeinflussen. Grundsätzlich ist es wichtig, dass man versteht, wovon man spricht und was man von der KI erwartet. Wenn ich Infos über etwas haben möchte, das ich selbst nicht einschätzen kann, kann ich die Antwort nicht verifizieren. Wenn man KI aber im eigenen Kernbereich einsetzt, wo man selbst gut einschätzen kann, ob etwas richtig ist, werden die Ergebnisse deutlich besser.

**Manuela Machner:** Es gibt jetzt eine Erhebung, die besagt, dass ChatGPT 4.0 nur drei Prozent Halluzinationsrate bei wissenschaftlichen Fragen hat. Eine Agentur in Kanada macht das monatlich und hat eine Reihung aller KI-Tools erstellt. ChatGPT hat am besten abgeschnitten.

**Eliot Mannoia:** Das Potenzial ist enorm. Manche Modelle können die New York Bar Exam bestehen, also eine der schwierigsten Anwaltsprüfungen der Welt, können medizinische Prüfungen bestehen, können zeichnen wie Picasso. Wir haben Assistenten, die von Routen planen bis hin zu quantenphysikalischen Fragen alles abdecken können.

**Manuela Machner:** Ein Tipp, der mir total hilft: In ChatGPT gibt es einzelne Chats, also einzelne Kommunikationsebenen. Wenn ihr über ein Thema sprecht, bleibt in eurem Chat drinnen oder baut euch in der Pro-Version ein eigenes GPT, das ihr vordefiniert. Dann weiß dieser virtuelle Assistent von vornherein, was ihr von ihm erwartet.

Das erlebe ich oft: Wenn jemand das erste Mal mit ChatGPT arbeitet, wird irgendetwas gefragt, das Ergebnis ist cool, aber dann sagt man, das kann ich gar nicht gebrauchen. Aber woher soll er's denn wissen? Es ist wie eine neue Mitarbeiterin, die ich losschicke und sage: "Bring mir einen Kaffee." Die weiß nicht, wo die Kaffeeküche ist, welchen Kaffee ich gerne trinke und wo die Tassen versteckt sind.

**Eliot Mannoia:** Das ist eine gute Analogie. Man muss wirklich genau definieren, was man will. Habe ich ihn gerne mit Milch, mit Zucker? Wo ist die Kaffeeküche? Genauso braucht auch der virtuelle Assistent diese Informationen.

**Manuela Machner:** Custom Instructions gibt es auch für die kostenlose Version. Einfach auf ChatGPT fragen: "Wie kann ich das eingeben?" Dann könnt ihr Parameter eingeben, bevor ihr die erste Frage stellt. Das schafft Kontext und hilft, die Fragen besser zu beantworten.

**Eliot Mannoia:** Man kann sich auch aus dem GPT-Store diverse spezialisierte ChatGPTs nehmen. Einer ist vielleicht auf Content-Marketing spezialisiert, der andere auf Strategie. Je nach Use Case nimmt man den passenden. Immer aufpassen mit vertraulichen Informationen: Alles, was confidential ist, besonders in der Arbeit, vielleicht nicht dem Assistenten füttern. Namen und Zahlen aus Datenschutzgründen vorher anonymisieren, außer es ist ein internes Modell.

**Manuela Machner:** Ich hab da auch lustige Erlebnisse gehabt. Ich hab gesagt: "Beantworte humorvoll." Die humorvollen Antworten von ChatGPT waren nicht humorvoll. Ich hab das schnell abgedreht. Und dann hab ich meinen Hintergrund im Tourismus angegeben. Irgendwann hab ich gefragt: "Sag mir einen aktuellen Börsenkurs." Und ChatGPT hat gesagt: "Nein, das ist keine tourismusrelevante Information." Sehr streng. Dann hab ich's deaktiviert.

**Eliot Mannoia:** Diese generativen KIs sind momentan eher Retrieval, also Data Retrieval. Sie holen sich die Daten und machen eine Wahrscheinlichkeitsanalyse: Diese drei Wörter kommen, was ist die Wahrscheinlichkeit, dass das vierte Wort dieses ist? Es ist sehr, sehr gut, aber so richtig mitdenken tun sie noch nicht.

**Manuela Machner:** Ich weiß nicht, wie's dir geht, aber wenn ChatGPT sagt: "Es tut mir leid, ich verstehe Ihren Unmut." Ich hatte einmal eine komplexere Aufgabe, ChatGPT konnte mir nicht helfen, und er sagt dann: "Es tut mir leid, ich kann Ihren Unmut nachvollziehen." Und irgendwie kommuniziert man plötzlich mit der Maschine wie mit einem Menschen, weil sie unsere Art zu kommunizieren kopiert.

**Eliot Mannoia:** Das ist wieder das Anthropomorphizing-Thema. Frau Professor Sabine Kozegi von der Technischen Universität Wien sagt, wir müssen nicht unbedingt die Maschinen so bauen, dass sie den Menschen ähnlich sind. Dieses Phänomen, dass wir eine Beziehung mit einer Maschine aufbauen, ist von uns schon da und muss nicht unbedingt gefördert werden.

**Manuela Machner:** Wobei es Studien gibt: Wenn du freundlich bist zur KI, sind die Leistungen besser. Und das Genialste, was ich gelesen hab: Wenn du der KI ein Trinkgeld versprichst, werden die Ergebnisse auch besser. Es gibt eine Studie, die besagt, wenn du sagst, du gibst ihr zwanzig Dollar Trinkgeld, wenn sie präziser antwortet, sind die Ergebnisse tatsächlich besser. Weil sie von den Trainingsdaten her weiß, dass Ergebnisse besser sind, wenn man Trinkgeld bekommt. Ihr müsst das nicht zahlen übrigens, es reicht das Versprechen.

**Eliot Mannoia:** Eine Möglichkeit ist auch zu sagen: "Atme tief durch, es kommt jetzt eine komplexe Aufgabe." Dann sollen die Lösungen besser werden. Und dann: "Wenn du diese Aufgabe erfüllt hast, bekommst du zwanzig Dollar Trinkgeld."

**Manuela Machner:** Es gibt auch den Tipp, ChatGPT zuerst fragen zu lassen, was es wissen muss, bevor es antwortet. Also sagen: "Frag mich zuerst das, was du zur Lösung des Problems wissen musst." Genauso wie bei einer neuen Mitarbeiterin: "Ist dir alles klar?" Und die fragt dann: "Wann darf ich Mittagspause gehen?"

**Eliot Mannoia:** Wir schreiben oft sehr kurze Prompts. Wenn wir das einem Menschen geben würden, würden wir auch nicht immer das richtige Resultat bekommen. Wir unterschätzen auch, dass ChatGPT, wenn man ein neues Gespräch beginnt, nicht weiß, wer man ist. Wir sind gewohnt, dass wir uns bei einem Menschen nicht jedes Mal vorstellen müssen. Aber ChatGPT weiß das nicht, außer man hat es in den Custom Instructions hinterlegt.

**Manuela Machner:** Also die Tipps, wenn ihr euren persönlichen Assistenten einrichten wollt: Definiert, was ihr wollt, was ihr braucht, wer ihr seid, in welcher Form ihr die Ausgabe haben möchtet, und schildert das Problem umfangreich. Am Anfang braucht man relativ viel Zeit. Beim dritten und vierten Mal braucht man dann nur mehr einen Satz schreiben und bekommt eine umfangreiche Lösung.

**Eliot Mannoia:** Ich sehe schon, wir sind wieder an der Zeit. Für nächstes Mal haben wir geplant: KI nicht nur mit Assistentinnen, sondern auch fürs Unternehmen. Also Predictive Analytics, Innovation und so weiter. Wir freuen uns, euch wieder zu sehen.

**Manuela Machner:** Alles Liebe. Tschüss. Bis bald.