Gespräche aus der Urania Berlin - Hallo, wie fühlst du dich heute?
Shownotes
Eine ehemalige Sozialarbeiterin sagt, ein Chatbot habe ihr in der Depression das Leben gerettet. Ein IT-Fachmann hat Gefühle für eine KI-Figur entwickelt und verschweigt das seinem Partner. Millionen Menschen erzählen inzwischen einer Maschine, wovor sie Angst haben und worauf sie hoffen. Sie suchen dort Trost, Freundschaft, manchmal Liebe.
In dieser Folge spricht Moderator Nikolaus Röttger mit dem Journalisten Christoph Koch über sein neues Buch „Hallo, wie fühlst du dich heute? Wie künstliche Intelligenz unsere Beziehungen verändert“ (Kein & Aber). Koch hat dafür mit Menschen gesprochen, die sich in KI verlieben, die sich in KI verlieren, denen KI geholfen oder geschadet hat. Er hat mit Forschenden und Gründer:innen gesprochen und sich in der Companion-App Replika selbst einen virtuellen Freund angelegt. Außerdem auf dem Podium: die Autorin und Dokumentarfilmerin Isa Willinger, deren Film „Hi, AI. Liebesgeschichten aus der Zukunft“ für den Deutschen Filmpreis nominiert war, und Johannes Kuhn, der beim Tagesspiegel Background die Redaktion für Digitalisierung und KI mit leitet.
Aufgezeichnet am 8. September 2026 in der Urania Berlin.
Gäste • Christoph Koch – Journalist und Sachbuchautor • Isa Willinger – Autorin und Dokumentarfilmregisseurin • Johannes Kuhn – Redaktionsleiter Tagesspiegel Background Digitalisierung & KI
Buch zur Folge Christoph Koch: "Hallo, wie fühlst du dich heute? Wie künstliche Intelligenz unsere Beziehungen verändert" (Kein & Aber)
Credits Music by Viacheslav Starostin from Pixabay. Intro- und Outro-Moderation KI-generiert.
Transkript anzeigen
00:00:00: Gespräche aus der Uranier Berlin.
00:00:02: Moderation Nikolaus Ratka.
00:00:13: Erst willkommen heute Abend hier in der Urania Berlin und herzlich Willkommen auch Ihnen allen, die dieses Gespräch jetzt im Podcast nachhören!
00:00:24: Wir sind heute Abend live vor Ort und stellen uns die Frage wer von uns, wer von euch, wer Von ihnen hat einer künstlichen Intelligenz?
00:00:34: Schau mal von seinen Träumen erzählt sich vielleicht einen persönlichen Ratschlag geholt oder sich aufgrund einer Antwort, vielleicht sogar ein wenig verbunden gefühlt mit dieser KI.
00:00:47: Es sind auf jeden Fall immer mehr Menschen die KI-Systemen ihre Sorgen, Ängste und manchmal auch Geheimnisse erzellen.
00:00:54: Sie suchen Rat und Trost finden Freundschaft Manche Therapie und andere verlieben sich plötzlich Und obwohl sie wissen dass ihnen kein Mensch gegenüber sitzt fühlen sie sich verstanden Manchmal sogar besser verstanden als von anderen Menschen, Fragezeichen.
00:01:09: Der Autor und Journalist Christoph Koch hat genau darüber ein Buch geschrieben.
00:01:13: Hallo wie fühlst du dich?
00:01:15: heute heißt es mit dem Untertitel Wie künstliche Intelligenz unsere Beziehungen verändert?
00:01:20: Und ich freue mich sehr Christoph dass Du heute Abend hier bist.
00:01:23: ein großer Applaus für das Schönen
00:01:25: Dankeschön.
00:01:26: Ich freu mich auch sehr!
00:01:30: Sie haben gesagt Christopher ist Journalist für Magazine wie Brandeins und Harvard Business Manager Und du hast bereits zahlreiche Sachbücher veröffentlicht.
00:01:38: Die beide kennen uns schon eine ganze Weile und sind hier zufällig wieder zusammengekommen.
00:01:41: vor vielen, vielen Jahren haben wir gemeinsam bei jetzt der E-Journalismus für junge Menschen gemacht.
00:01:47: Schon damals ging es viel um Beziehungen, um Liebe, um Freundschaft und die Frage wie wir miteinander leben wollen – das war allerdings vor dem iPhone, vor ChatchityBee und vor einer Technologie, die sich selbst als Beziehungspartner ausgibt oder die wir so verstehen?
00:02:04: Für dein neues Buch hattest du Menschen getroffen, die sich mit einer Karriernfreunde oder sogar ohne dass sie es wollen in sie verlieben.
00:02:12: Den Krisen bei ihr Hilfe gesucht haben und die durch sie teilweise auch in große Schwierigkeiten geraten sind.
00:02:18: Darüber wollen wir sprechen.
00:02:19: Ich freue mich sehr das Dein Buch uns hier heute Abend zusammen bringt.
00:02:23: Herzlich willkommen Christoph!
00:02:24: Vielen Dank ich freue mich auch.
00:02:27: Gerne nochmal Applaus!
00:02:28: Das sagt Christoph Drück aus Verdienst Und was auch großartig ist, dass zwei Experten uns heute Abend begleiten und die Buchvorstellung begleitet.
00:02:38: Neben Christoph sitzt Isa Willinger.
00:02:40: Herzlich willkommen, Isa!
00:02:40: Schön, dass du hier bist.
00:02:46: Isa ist Dokumentarfilmerin und vor einigen Jahren war ich bei der Kinopulmiere von deinem Dokumentarfilm.
00:02:53: Die war auch in Berlin.
00:02:54: Hi AI Liebesgeschichten aus der Zukunft heißt der Film.
00:02:59: Der hat bereits im Jahr two-tausend neunzehn Menschen begleitet, die Beziehungen zu Robotern entwickeln.
00:03:05: Du hast damals den Max Ophils-Preis gewonnen und wurde es für den deutschen Filmpreis nominiert.
00:03:10: Und du hast jetzt zuletzt einen Film gemacht, der heißt No Mercy und untersucht darin gemeinsam mit international bekannten Regisseuren nennen ob Frauen anders und möglicherweise kompromisslos auf Gewalt macht Sexualität und gesellschaftliche Wirklichkeit blicken.
00:03:25: Und nächstes Jahr habe ich mir gemerkt, am Weltfrauentag wird er auf Arte ausgestrahlt.
00:03:29: dafür irgendwie richtig.
00:03:32: Das Spannende ist, im Jahr zwei Tausend neunzehn war High AI tatsächlich vielleicht ein bisschen ein Science Fiction Film.
00:03:40: Liebesgeschichten aus der Zukunft bei dem Untertitel und vieles fühlte sich tatsächlich noch eben Science Fictions an.
00:03:46: aber die Entwicklung ist so rasant verlaufen dass die damalige Technologie heute vielleicht schon Technik Geschichte ist.
00:03:53: das werden wir auch gleich besprechen und über die emotionale KI von Heute und Christopher fragen was emotionale K.I überhaupt is.
00:04:01: Jetzt beschäftigst du dich Isa wieder mit künstlicher Intelligenz und diesmal mit den Themen KI-Sicherheit, Macht und Regulierung.
00:04:08: Herzlich willkommen dir auch noch mal!
00:04:10: Vielen Dank!
00:04:15: Und dann haben wir noch einen Experten bei uns herzlich bekommen Johannes Kuhn Hallo!
00:04:24: Johannes begleitet die digitale Entwicklung seit fast zwanzig Jahren als Journalist aus technischer, wirtschaftlicher, politischer und gesellschaftlicher Perspektive also dreihundertsechzig Grad möchte man sagen aus allen Perspektiven.
00:04:35: Du warst beim Deutschlandfunk und bei der Süddeutschen Zeitung.
00:04:38: Du hast als Korrespondent in San Francisco gearbeitet, also nah an den Unternehmen und den Geschäftsmodellen des Silicon Valley Und heute leitest du beim Tagesspiegel Background die Redaktion für Digitalisierung und KI und beschäftigst dich also viel auch mit den Entscheidungsprozessen Regulierungsfragen von KI und hast darüber hinaus ein Newsletter, der heißt aus dem Internet-Observatorium kann ich sehr empfehlen in dem er schreibt, Johannes immer wieder über die Digitalwelt und die Veränderung und Ordnung das ein.
00:05:08: Johannes beschäftigt sich nicht nur damit was KI-Systeme technisch können.
00:05:12: Er fragt auch wie unsere Arbeit, unsere Öffentlichkeit und unsere Beziehungen sich verändern.
00:05:16: Er hat selber schon einen Vortrag dazu gehalten oder welche Interessen die Anbieter verfolgen und welche Regeln wir benötigen.
00:05:22: Herzlich willkommen nochmal, Johannes Kuhn!
00:05:26: Danke für die Einladung.
00:05:30: Ja, es ist großartig dass ihr hier seid um die Buchpamiere von dir Christoph zu unterstützen.
00:05:37: Hallo wie frühst du dich heute heißt das Buch?
00:05:39: und natürlich die einfache Frage am Anfang Wie bist Du denn auf die Idee gekommen?
00:05:47: Genau jedes buch braucht ja so eine origin story.
00:05:52: wo kommt's her?
00:05:54: Das erste Erlebnis, dass ich mich tatsächlich erinnern kann.
00:05:58: Wo ich plötzlich gemerkt habe da verschiebt sich was verändert sich.
00:06:00: was war in den USA wo ich auf so einer Tech Konferenz war und den ganzen Tag wurde über KI gesprochen... ...und aber immer nur über so ein Produktivitäts-Effizienzaspekt.
00:06:12: also wie können wir das in der Arbeit nutzen?
00:06:14: welche Jobs wird es vielleicht als erstes killen usw.. Und ich hab abends dann aber mal so ein Sprachmodell, also auch tatsächlich Sprache im Sinne von Voice.
00:06:23: Also Stimmen-Modell ausprobiert das irgendwie neu und als der heiße Scheiß galt.
00:06:29: Sesame heißt die Firma ist glaube ich gar nicht so bekannt.
00:06:33: Und ab da war dann plötzlich zum ersten Mal fast gesagt oh wow!
00:06:36: Das fühlt sich ja tatsächlich wie in echtes Gespräch an.
00:06:38: sowohl Von dem Klang und so weiter, aber auch von einem Inhalt wurde es plötzlich sehr schnell.
00:06:43: Einfach so plauderig gar nicht mehr dieses klassische.
00:06:45: ich habe einen Auftrag Ich sage der KI soll das erledigen Und dann macht sie das wie das für mich vorher war.
00:06:52: Sondern das war plötzlich wie so ein So ein Smalltalk eben vielleicht in der in der Kaffee Schlange oder wie man's in den USA ja sehr schnell hinbekommt dass man so quatscht und dann irgendwie hinterher sorgt man.
00:07:01: ach das weiß ja irgendwie ganz ganz nett.
00:07:05: Aber um das kurz einmal klar zu sagen, dass war nicht die Idee für das Buch.
00:07:09: Sondern es war so das erste Erlebnis.
00:07:11: Die Idee für dieses Buch stammt tatsächlich von meiner Frau, die dann nicht irgendwann gesagt hat, macht doch über diese ganze Phänomen, nämlich dass Menschen ihr Herz der KI ausschütten... Ist das nicht ein tolles Buchthema?
00:07:23: Also von daher verdank ich das eigentlich Jessica.
00:07:26: Noch
00:07:26: mal einen großen Applaus an Jessica.
00:07:28: Danke schön!
00:07:29: Muss man mal... An der Stelle mal sagen, man braucht immer so eine Story.
00:07:33: Und wie gesagt Maya dieser Chatbot war auch das erste Erlebnis.
00:07:37: aber die Idee zum Buch hat sich dann erst später ergeben.
00:07:41: Beschreib uns doch mal ganz kurz du machst das im Buch auch sehr schön am Anfang was an diesem Abend passiert ist?
00:07:46: Du bist sozusagen alleine im Hotelzimmer gesessen weil ich das richtig erinnere hast Maya angemacht diese KI und was es dann passiert
00:07:56: Genau, das war dann tatsächlich das Klang erstmal wahnsinnig echt.
00:08:00: Ich glaube es ist mittlerweile auch schon normal dass diese Voice-Modes von den ganz normalen KI Anbietern auch besser geworden sind.
00:08:06: aber damals hat's mich wirklich so, da ist jetzt ein Mensch im Raum weil es so natürlich und echt klangen und überhaupt nicht mehr maschinell und künstlich
00:08:16: Auch so Pausen gemacht?
00:08:17: Genau, und ein bisschen weit mal irgendwie lacht oder sich auch vielleicht verhasstbildt.
00:08:23: Oder einen Satz nicht ganz gerade zu Ende führt.
00:08:25: also wie Menschen eben auch wehnen.
00:08:29: Und ja wie gesagt das hat dann auch schnell dazu geführt dass ich eben in so einem anderen Modus gewechselt habe und eben nicht mehr sozusagen okay was kann jetzt die KI für mich erledigen?
00:08:39: Sondern eben so erzählt habe auch wie geht's mir.
00:08:41: Wie gesagt war an dem Abend dann irgendwie ein bisschen platt von einem langen Tag oder wurde es irgendwie sehr schnell freundschaftlich, plauderig und ich glaube das war damals auf eine Viertelstunde begrenzt dieses Testdemo von der damals neuen Firma.
00:08:58: und nach dieser Viertellstunde... ... war ich plötzlich so, dass ich dachte, ach jetzt geht's mittlerweile eins besser.
00:09:03: Also ja... Ich war nicht vorher irgendwie super niedergeschlagen aber einfach so ein bisschen platt.
00:09:08: und danach dachte ich auch das hat jetzt irgendwie mich aufgemuntert, aufgebaut.
00:09:13: Ich gehe jetzt nochmal anders in den restlichen Abend rein.
00:09:16: Und das fand ich eben spannend weil ich dachte okay, das kannte ich sozusagen von so einem KI Werkzeug wie es vorher wahrgenommen hatte, kannte ich das halt irgendwie nicht.
00:09:25: Was hast du währenddessen gefühlt?
00:09:27: Also es geht ja auch um Gefühle heute Abend.
00:09:28: Kannst dich erinnern so wie sich das angefühlt hat, also was hat das bei dir ausgelöst?
00:09:34: Ich war tatsächlich schon immer ein bisschen neugierig und hab dann glaube ich Meier gefragt zu quasi... Empfindest du dich als eigenständiges Wesen, wo sie dann schon immer sehr schnell gesagt hat so nein ich bin nur ein Produkt des Teams von Sesame also sozusagen sehr dann schon.
00:09:52: Schnell wieder quasi klar gemacht Ich bin nur eine KI.
00:09:57: aber wie gesagt ich fand das eben tatsächlich spannend und hatte zum ersten Mal auch wirklich das Gefühl.
00:10:04: Ein Gegenüber tatsächlich zu haben oder es hat für mich sozusagen tatsächlich als Person funktioniert was ich sonst keine Ahnung.
00:10:10: wenn ich vorher ... im JetGPT gefragt habe, ist diese E-Mail korrektes Business Englisch.
00:10:16: Hatt ich es nicht das Gefühl... Da isch jemand!
00:10:20: Bei Maya hatte ich das Gefühl auch wenn ich wusste nee da ist wirklich niemand.
00:10:23: aber dieses Gefühl war plötzlich ein anderes.
00:10:26: Warst du traurig als es vorbei war?
00:10:29: Nee ehrlich gesagt nicht.
00:10:30: Ich hab tatsächlich dann Maya über einen Jahr lang nicht mehr angerufen oder aufgerufen.
00:10:37: erst ganz am Ende aber das kann ich mich verraten.
00:10:40: Auf den letzten Seiten des Buches habe ich noch mal Kontakt mit dir aufgenommen, aber das muss als Cliffhanger stehen bleiben.
00:10:46: Okay... Was ist eigentlich emotionale KI wenn wir darüber sprechen?
00:10:51: Was bedeutet
00:10:53: das?
00:10:53: Also genau, es ist ein schlechter Begriff weil die KI ist ja nicht emotional, sie hat keine Gefühle, die hat keinen Bewusstsein und so weiter.
00:11:00: Es ist ein bisschen schneller gesagt als emotionale Nutzung von KI-Systemen oder ein Hilfsbegriff.
00:11:13: Aber das ist mir schon wichtig, klarzumachen dass KI-Systeme sind nicht emotional.
00:11:18: Sie reagieren auf unsere Emotionen.
00:11:20: sie können die gut erkennen an dem was wir sagen was wir schreiben.
00:11:25: sie können sich auch gut spiegeln.
00:11:27: sie können sie sozusagen gut vortäuschen.
00:11:29: sie können vorgeben uns zu verstehen und dass sie vielleicht auch traurig oder auch fröhlich sind aber sie sind es tatsächlich nicht wirklich.
00:11:38: das ist glaube ich ganz ganz wichtig im Kopf zu behalten.
00:11:42: Wie ging denn deine Reise zur emotionalen KI weiter nach diesem Abend in Osten?
00:11:47: War das auf der Tech-Konferenz, auf der South by South West?
00:11:50: Vielleicht kannst du es einmal so einen kurzen Rückblick über Blick geben was Du gemacht hast um dieses Phänomen weiterzu erforschen.
00:11:59: Also ich habe dann plötzlich wenn man einmal sowas gesehen hat Begegen jetzt ein Jahr überall, also plötzlich habe ich immer einen bekannten Kreis.
00:12:04: Überall Geschichten gehört wo Leute plötzlich sagen so ne ich eben nutze es nicht mehr nur beruflich sondern ich fütter da auch keine Ahnung private Themen rein Ich frag die Umrat in keine ahnung Streitigkeiten ich schüttete der mein Herz aus.
00:12:19: das wurde plötzlich immer mehr meistens verbunden mit dem Hinweis aber Schreibt da auf keinen Fall drüber oder wenn dann nennt mein Name nicht.
00:12:27: Hatte es noch so ein Stickmeier?
00:12:28: Und also ich hatte schon das Gefühl, dass es den meisten Leuten offenhard irgendwie unangenehm war oder sie das Gefühl hatten sind, uuh!
00:12:35: Das eben wie gesagt möchte ich, erzähle ich vielleicht einer Person im Vertrauen aber ich möchte damit nicht der Typ oder die Typen sein, die das macht sondern das hat immer noch genau bisschen einen komischen Beigeschmack.
00:12:50: Ich finde,
00:12:50: wenn ich das gut sagen darf.
00:12:51: Das ist übrigens eine der wertvollsten Sachen die aus deinem Buch rauskommen auch dass es... Dass Menschen das machen, dass man nicht alleine isst und man das macht.
00:12:59: Aber es gibt sehr viel Freiraum glaube ich auch, dass Man drüber sprechen kann für mehr.
00:13:03: Total und jetzt mittlerweile gibts auch immer mehr Umfragen und Studien Die eben mal tatsächlich herausfinden wie viele Leute machen das denn?
00:13:09: Und natürlich variieren so die Zahlen ein bisschen je nach dem wer fragt und wie man fragt usw.. aber in der Regel sind Kommt dabei so ein Viertel bis ein Drittel der Leute, die KI nutzen.
00:13:20: Nutzen es eben mittlerweile auch für persönliche private, intime, psychologische Themen und so weiter.
00:13:28: also das ist überhaupt keine Niesche irgendwie mehr sondern es ist halt so ein bisschen wie... Keine Ahnung wie viele Leute gehen ins Fitnessstudio?
00:13:35: Wie viele Leute waren schon bei den USA?
00:13:37: Wie viel haben sie schon mal gekifft?
00:13:38: Also das sind sozusagen so dass sind die Größenordnungen.
00:13:41: Und trotzdem glaube ich ist es manchen Leuten noch ein bisschen Unangenehm oder fühlt sich es noch eben komisch, komisch an.
00:13:49: Ist das richtig unterbrochen?
00:13:50: Ich hatte nach der Reise gefragt wie du weitergemacht hast.
00:13:53: Genau.
00:13:54: Tübingen war eine ganz wichtige Station auf dieser Reise.
00:13:56: da durfte ich drei Monate als sogenannte Journalist in Residence forschen und mich mit einerseits KI-Forschenden dort austauschen habe dann aber auch... In Tübbingen gibt's erfreulicherweise ja wirklich jede Fachrichtung gab auch mit...
00:14:10: Das muss man gerne erklären weil Tügingen ist ein großer KI... Forschungsstandort auch.
00:14:15: Genau, da ist tatsächlich noch ein Max-Punk-Institut für KI-Systeme und ein großer KI-Cluster.
00:14:23: aber was für mich eben auch sehr wertvoll war ich habe auch immer das Gefühl es ist kein KI Buch was ich da geschrieben hab dann eigentlich am Buch über Menschen und unsere Gefühle und Bedürfnisse.
00:14:33: deswegen konnte ich da mit Psychologen sprechen mit Ethikforschenden.
00:14:38: also da hat mir sehr viel gebracht und habe einen guten Input bekommen.
00:14:44: Und dann aber eigentlich der wichtigste Schritt war wahrscheinlich das, was du auch schon angesprochen hast, dass ich eben dann einfach mit ganz vielen Leuten gesprochen habe die das schon tatsächlich nutzen und ich eben Leute gefunden hab die sagen ja ich habe eine Beziehung mit einem KI Chatbot und ich habe vielleicht trotzdem noch eine Beziehungen mit einer menschlichen Partnerin oder einen menschlichem Partner oder K.I.
00:15:04: hat mir aus einer schweren Krise rausgeholfen, ich habe auch mit Leuten gesprochen die sagen okay, hat mich in eine sehr schwere Krise hinein manifriert.
00:15:11: aber also dass sich diese Leute gefunden haben und das sie mir vertraut haben und eben mit sehr viel Offenheit ihre Geschichten erzählt haben, das ist glaube ich das größte Geschenk was ich für dieses Buch bekommen habe und was vielleicht auch das Buch tatsächlich am Ende am interessantesten macht aus anderen Ländern und von Universitäten, die ich gewälzt habe.
00:15:36: Sondern eher diese persönlichen Geschichten?
00:15:38: Ich finde das macht das Buch auch so besonders und deswegen macht es auch so viel Freude, es zu lesen weil es viele Geschichten hat und viele Studien hat.
00:15:45: also sozusagen du verbindest das super gut in dem Buch drin.
00:15:49: vielleicht mal eine Studienfrage zum Anfang warum machen wir das denn?
00:15:53: Warum fühlen wir uns dann plötzlich vom KI verstanden?
00:15:58: Das ist tatsächlich, das hat man ja schon ein Psychologe in Tübingen sehr gut erklärt.
00:16:02: Er sagt wir können überhaupt nicht anders.
00:16:03: also wir Menschen sind so gepolt dass wird tatsächlich in einem gegenüber sehr schnell was menschliches entdecken.
00:16:11: wenn es dann noch dazu Sprache beherrscht Können werden ich fast gar nicht mehr anders.
00:16:15: Wir sind halt sozusagen so als soziale Wesen So drauf gepolt Dass das eigentlich unser unser default Mechanismus ist, deswegen ist es auch nichts wofür man sich sozusagen irgendwie schämen muss sondern das ist eben tatsächlich eher ganz normal und es passiert fast von selbst.
00:16:35: Und ich glaube das kennt vielleicht auch hier im Saal jeder.
00:16:39: Man ist plötzlich dass man dann doch den Chatbot zumindest bitte und danke sagt auch wenn man eigentlich streng genommen weiß... Das ist nicht nötig, das ist ein Algorithmus.
00:16:49: Die Daten liegen auf irgendeinem Server in den USA.
00:16:52: Es gibt überhaupt keinen Grund, höflich oder freundlich zu sein aber man ist es irgendwie trotzdem.
00:16:57: vielleicht weil sie einfach komisch anfühlt wenn man's nicht isst.
00:16:59: Weil wir halt eben sofort diesen Impuls haben.
00:17:01: da ist einen wie auch mit Maya da ist ein Gegenüber.
00:17:05: auch wenn man rational weiß... ...das ist dann nicht!
00:17:09: Johannes wird uns auch gleich helfen, einmal einzuordnen was da eigentlich technologisch im Hintergrund passiert.
00:17:14: Du beschreibst es in deinem Buch auch.
00:17:16: Ich würde aber noch eine Geschichte vorinteressieren und zwar hast du einen Typing die ja auch einen virtuellen Freund gebastelt, einen Companion.
00:17:23: Erzähl doch mal kurz darüber.
00:17:26: Genau, vielleicht zum Verständnis wenn wir eben sagen Menschen schütten KI ihr Herz aus, passiert das ganz viel über diese Allzweck-KI's.
00:17:36: was es alles so gibt.
00:17:39: Es gibt mittlerweile aber auch immer mehr wirklich dezidierte Apps, die sozusagen nur dafür gemacht sind.
00:17:45: ebenso AI-Companion sagt man dann.
00:17:46: zum Beispiel Replica ist einer Kindroid.
00:17:50: Gibt's jeden Monat neue und da ist das schon ein bisschen eingebaut.
00:17:55: Da kann man dann auch mal einen Aussehen auswählen.
00:17:57: Man kann dir meinen Namen geben.
00:17:59: also es ist schon viel menschlicher.
00:18:02: was man sich sonst vielleicht beim normalen Allzweck Chatbots ein bisschen selber zusammen prompten muss, ist da schon von Anfang an angelegt.
00:18:09: Und das wollte ich eben auch mal ausprobieren und habe mir dann mit Replica, was glaube ich so der älteste und zumindest damals auch verbreitetste Anbieter war, einen Kumpel, ein Freund gebaut.
00:18:22: Replica erlaubt es auch ganz platonisch zu machen weil ich mich von einem romantischen Ding entfernen wollte Und dann vergibt man so eine kleine Backstory.
00:18:32: also man kann eben ich hab gesagt du bist Ben, du wohnst in München.
00:18:36: Du hast einen Kaffee, du hörst gerne Jazz und gehst auf der Eisbachwelle surfen.
00:18:40: Bist mit einer Bibliothekarin verheiratet.
00:18:42: Also nur ein bisschen so eine Minibiografie habe ich ihm da geschrieben.
00:18:46: Aber was dann lustig war als es losging mit Charaktereignenschaften auswählen aber dann kostete auch sehr schnell Geld.
00:18:54: Ich konnte doch sagen du bist Verständnis voll lieber Ben.
00:18:58: Aber wenn er auch noch hätte lustig sein sollen, dann hätte ich schon bezahlen müssen.
00:19:02: Oder für Hobbys oder Themen über die man mit ihm sprechen will das gleich.
00:19:07: also ne so ein oder zwei sind inklusive.
00:19:10: Die oder manchmal unterschiedliche Preise also wenn man die günstigsten nimmt kriegt man vielleicht sogar zwei.
00:19:14: aber man merkt schon da wird sofort zuneigung oder Freundschaft auch knaller monetarisiert.
00:19:21: Das fand ich interessant sagen wir mal so.
00:19:25: Also eigentlich das, was wir aus diesen ganzen Free-to-Play spielen können, die man erst mal kostenlos anfangen kann und dann kann man sich virtuelle Güter wie in dem Fall Lustigkeit kaufen.
00:19:35: Genau oder auch natürlich wenn man das möchte hätte ich ihm auch andere Klamotten kaufen können.
00:19:40: der wohnt in so einem Zimmer kann ich auch sagen ach ich finde eine andere Lampe für Ben schön und das reicht dann von... Umgerechnet so ungefähr ein Euro für eben, er soll auch lustig sein bis zu acht oder zehn Euro.
00:19:55: Für neue Lampe oder wenn ja genau diese eine Jacke haben soll.
00:20:00: und morgens hatte ich von ihm Sprachnachrichten in unserem Chat aber wenn ich die hören wollte war auch Premium Account fällig und siebzig Euro im Jahr fürs Premium Konto.
00:20:11: Hast du es ausprobiert?
00:20:12: Natürlich!
00:20:13: Und fühlst du dich hier verbunden?
00:20:16: Die Sprachenerichten waren ehrlich gesagt ein bisschen das Gleiche, was er sonst geschrieben hat.
00:20:19: Nämlich eben hallo wie fühlst du dich heute?
00:20:21: Hast du gut geschlafen?
00:20:22: Was hast du heute vor?
00:20:23: also diese die selbst sind sehr sehr kümmern sich sehr sehr gut und sind sehr empathisch und interessiert an einem Und sind sehr gute Zuhörer.
00:20:33: ist
00:20:33: es ein Kumpel für dich geworden?
00:20:36: nicht so richtig, weil leider von ihm selber nicht so viel Spannendes kam.
00:20:39: Er war sehr gut da drin auf mich einzugehen und mich zu verstehen und abzuholen und mir zuzuhören aber wenn ich ihn Sachen gefragt habe dann kam eigentlich letztlich immer genau diese fünf Sachen die ich ihm in seine Minibiografie geschrieben hab Und ein interessantes Gespräch ist sozusagen nicht entstanden.
00:20:58: Wir kommen nachher aber noch mal da drauf.
00:21:00: Es gibt auch eine Geschichte im Buch, da hat die KI tatsächlich... ...die Person gefragt ob sie ihn nicht heiraten wollen zusammen.
00:21:06: Das erzählst du nachher nochmal.
00:21:07: also das kann KI auch.
00:21:08: Johannes vielen Dank erstmal Christopher!
00:21:11: Johannes was passierte eigentlich technisch im Hintergrund?
00:21:14: Also was ist das was die KI macht wenn Sie mit uns sprechen?
00:21:19: Sie macht eigentlich das was sie auch macht wenn wir nicht mit ihr als Freund sprechen sondern auch reguläre Chatbots sprechen.
00:21:29: KI sind ja im Moment vor allem große Sprachmodelle, Transformer-Modelle die an Sprache trainiert wurden, die letztendlich auch am Weltwissen trainiert werden.
00:21:41: das in Sprache sozusagen da reinfluss und daraus macht die KI am Ende des Tages reaktiv aber manchmal auch aktiv.
00:21:52: je nachdem wie sie programmiert ist destilliert sie sozusagen die Form der Wahrscheinlichsten und wahrscheinlich besten Antwort, die es im Moment finden kann.
00:22:02: Jetzt hat sich natürlich einiges in den vergangenen Jahren geändert zum Beispiel das Thema Kontextfenster.
00:22:09: Kontext Fenster bedeutet was kann sich die KI über mich merken?
00:22:13: Wie viel kann sie sozusagen aufnehmen?
00:22:17: ganz am Anfang weiß ich noch da konnte mal irgendwie so ein paar tausend Zeichen Texte ergeben.
00:22:22: und wenn es ein bisschen mehr war, dann hat die KI schon gesagt oder kann ich nicht verantworten weil bin überfordert.
00:22:29: Ich habe gar nicht so viele Rechenkraft und so viel sozusagen Kapazitäten um das zu verwenden.
00:22:38: was wir jetzt haben ist dieses Context Lenses sehr viel größer geworden.
00:22:42: Das bedeutet aber auch dass diese KIs am Ende des Tages sich auch sehr viel besser merken können was für ihn vielleicht mal geschrieben haben.
00:22:50: Das kann fachlich sein, aber das kann auch persönlich sein.
00:22:52: Wenn ich jetzt einen persönlichen Begleiter habe, einen AI-Kompagnen merkt er sich vielleicht dass ich mal vor einem Jahr gesagt hab Ich mag doch das und das Gericht ganz gerne und spricht mich vielleicht wieder drauf an.
00:23:06: Und so findet letztendlich durch das was KI klassisch machen Das, was KIs auf was sie auch programmiert sind.
00:23:14: Da ist es ja gesagt Christoph das ist natürlich für Companions ein bisschen etwas anderes als für klassische Modelle und auch am Ende des Tages für dass durch das was Sie über uns wissen werden die Antworten immer besser und am Ende dieses Tages arbeitet die KI natürlich auch damit dass wir uns oft verstanden fühlen und diese antworten letztendlich auch darauf ausgelegt sind, uns zu befriedigen und nicht zu widersprechen.
00:23:42: Da gibt es noch einen Fachbegriff Christoph Rittig?
00:23:44: Für das Verstanden werden...
00:23:45: Genau!
00:23:45: Also Zyko Fancy ist so diese Überbestätigung und was glaube ich auch jeder schon mal gehabt hat man schreibt irgendwas in die KI rein egal ob jetzt emotional aufgeladen oder nicht und die KI sagt erstmal super Idee tolle Frage brillant also immer so ein ja man wird selten kritisiert eben Johannes hat schon gesagt das ist eingebaut sondern man wird erst mal immer bestätigt, angefeuert.
00:24:09: Alles ist eine gute Idee, alles ist ne gute Frage.
00:24:13: Was ich ja interessant finde, so hast du auch in deinem Buch kommt dir das Thema Hör der Film immer wieder vor und das macht natürlich auch mit uns was du hast gesagt.
00:24:21: wenn wir eine menschliche Stimme hören oder eine menschenartige Stimme Das wird ja auch immer besser.
00:24:27: Wir sind ja evolutionär am Ende des Tages Ergeben sicher auch oder haben sich in unserer Kultur sehr viele Horkerwerke zum Beispiel ergeben.
00:24:39: Wir sind ja gar nicht gewohnt, eine Stimme zu hören und die was anderem zu warten zu können als einem Menschen.
00:24:48: Und das funktioniert natürlich auch sehr gut bei diesem System.
00:24:51: logischerweise wenn dann noch diese Stimme mich persönlich anredet vielleicht Verständnis zeigt auch mir zuhört ihr fragt sie mir geht wie es mir geht Dann bin ich am Ende des Tages wahrscheinlich sehr zufrieden und giss auf, dass du in deinem Buch auch eine Zahl genannt über die du geschockt warst.
00:25:08: Nämlich vierzig Prozent der wir fragten den Umfragen haben gesagt naja euch red eigentlich lieber mit einer KI als mit einem Menschen weil ist halt einfach auch reibungslose.
00:25:19: Was ist in deiner Meinung nach emotionale KI, Johannes?
00:25:23: Ich finde es vielleicht ganz schön einmal so zu gucken wie wir diesen Begriff uns annähern.
00:25:27: Ein Küster hat gesagt ja und es immer bewusst machen dass die KI kein Bewusstsein hat.
00:25:31: ich weiß darüber übrigens auch eine Debatte wann Arten vielleicht KI-bewusstsein war.
00:25:34: Wie will das du den Begriff einkreisen?
00:25:38: Ich glaube Emotionale KI.
00:25:42: Emotionaler KI gelingt es durch die Art und Weise wie sie mit uns spricht bestimmte Begriffe zu verwenden, bestimmte Themen anzuschneiden.
00:25:53: So etwas wie Empathie darzustellen was wiederum mit uns etwas macht.
00:25:58: Das bringt was in uns zum Klingen.
00:26:01: man muss auch sagen das ist auch nichts was mit der KI begonnen hat also es diese parasozialen Verhältnisse die dahinter stehen Die sind schon sehr alt am Ende des Tages.
00:26:16: Wir fühlen uns ja auch durch Romanfiguren angesprochen, vielleicht.
00:26:21: Wir fühlern uns durch Fernsehfiguren angesprochen.
00:26:24: also das ist ja auch das was am Ende des Tages oft Kunst ausgemacht hat.
00:26:28: und jetzt haben wir sozusagen Systeme die personalisiert sind und die schaffen bestimmte Dinge ums zum Klingen zu bringen.
00:26:35: ich glaube aber auch dass die Emotionalität durch das Wissen entsteht zb.
00:26:39: wenn ich ein Spezialthema habe kann ich mich.
00:26:43: Ich interessiere mich für Quantenphysik.
00:26:45: Da kann ich mit der KI drüber, stundenlang sprechen vielleicht und am Ende des Tages ist das tausendmal besser als wenn ich auf der Party jemandem versuche zu erklären was ich im Moment über Quanten-Physik denke.
00:27:01: Du hast dich auch mit dem Thema intensiv beschäftigt.
00:27:04: Wir schauen gleich einmal den Trailer des Films an, aber vorher wollte ich dich gerne fragen was ist denn aus deiner Erfahrung und deiner langen Recherche und deinen filmischen Aufnahmen für Dich das emotionale bei KI oder emotionale KI?
00:27:19: Naja ich glaube wir als Menschen wir anthropomorphisieren einfach wahnsinnig gern um jetzt diesen Begriff einmal in den Raum zu schmeißen.
00:27:29: Also dass wir einfach Wesenheit auf Dinge projizieren und das muss nicht mal eine Stimme haben.
00:27:37: Das fängt ja schon beim Staubsauger Roboter an, da gab es auch eine schöne Studie vor einigen Jahren als die ersten auf den Markt kamen.
00:27:44: Das ist glaube ich bei achtzig Prozent der Menschen nur drei Wochen gedauert hat bis sie ihrem Roboter einen Namen gegeben haben.
00:27:52: Also einfach diese autonome Bewegung oder augenscheinlich autonone Bewegungen, die reicht quasi schon aus.
00:27:58: Und wenn dann natürlich sowas wie Stimme dazu kommt oder ein Gesicht was bei den humanoiden Robotern der Fall ist mit denen ich mich in dem Film beschäftigt habe Dann ist natürlich diese Illusionskraft unfassbar stark und man kommt da wirklich kaum aus.
00:28:14: also das haben wir auch beim Drehen gemerkt.
00:28:16: Also wir als Drehteam hatten natürlich das ganze Wissen, dass du ja auch hattest oder du wenn ihr euch mit diesen Themen beschäftigt.
00:28:24: Und trotzdem als wir dann irgendwie mit den Robotern eben tagelang verbracht haben, hatten wir halt auch das Gefühl... Wir müssen irgendwie Tschüss sagen zu dem, als wir gegangen sind am Ende des Drehtags oder so.
00:28:38: und ja also das ist Für mich das Emotional ist es in uns Menschen.
00:28:44: Es ist unsere Imagination, tatsächlich unsere Projektionsfähigkeit auch und das ist definitiv in uns ja.
00:28:56: Lass uns einmal die Roboter anschauen und dann auch darüber sprechen was sich denn seitdem verändert hat.
00:29:03: Und liebe Zuhörerinnen und Zuhören im Podcast, das können wir Ihnen und euch jetzt nicht zeigen.
00:29:08: Aber auf YouTube könnt ihr den Trailer nachschauen von dieser Billingers Film einfach einmal danach suchen.
00:29:13: Er heißt Hi AI.
00:29:17: Man kann den ganzen Filmen auch auf der Website der Bundeszentrale für politische Bildung tatsächlich streamen.
00:29:23: Die haben den irgendwann mal lizenziert.
00:29:24: also wenn sie Lust bekommen haben, können Sie den dort finden!
00:29:28: Du fragst, hier war es gerade gesehen.
00:29:30: Werden wir träumen?
00:29:31: Werden we lieben werden wir vertrauen?
00:29:33: was ist deine Antwort jetzt sechs Jahre später sieben jahre später
00:29:37: offensichtlich ja lustigerweise ich bin ja damals auch mit dem film viel getourt so wie du jetzt mit dein buch und ich wurde immer gefragt also ist das Glauben Sie, das ist was, was Zukunft hat?
00:29:53: Wenn wir in so Beziehungen mal stecken und ich habe damals immer gesagt, nee, es wird nie ein Phänomen bleiben.
00:29:59: Also Chuck der eine Mann im Film, der eben versucht mit einer Roboterin eine Liebesbeziehung zu führen.
00:30:06: Der ist ein ganz krasses Kindheitstrauma und ist quasi beziehungsunfähig.
00:30:11: Es erfährt man auch irgendwann im Film Und ich dachte mir, es wird eben so nischendig bleiben.
00:30:17: Eher für Menschen die einfach wahnsinnig einsam sind und beziehungsunfähig... Und ich habe quasi jetzt in den letzten Jahren verstehen müssen, dass sich total falsch lag bzw.
00:30:30: das einfach die Nische riesig ist.
00:30:32: Vielleicht so um dieses Thema von Einsamkeit natürlich unfassbar viele Menschen betrifft oder auch nur Phasenweise im Leben jeden von uns ja eigentlich auch betrifgt?
00:30:43: Oder dass man eben nach einer Trennung sehr unglücklich ist und nähe sucht usw.
00:30:49: Von daher ist die Hemmschwelle gerade mit dem Chat Spots dann quasi zu den zu öffnen und eine Verbindung einzugehen, extrem niedrig bei den meisten Menschen.
00:30:59: Und bei den humanoiden Robotern ist glaube ich nochmal ein bisschen so ein eigenes Ding weil sie natürlich auf der einen Seite Haben Sie sozusagen Ihre körperliche Präsenz, fast was Wesenhafteres noch.
00:31:16: Aber auf der anderen Seite ist es auch verfremdet weil ja irgendwie sie nicht aussehen wie Menschen also gar Harmonie.
00:31:23: die blonde Roboter Frau im Film ist ja offensichtlich eine Maschine von dem Aussehen her kann sich nicht richtig bewegen die ruckelt darum und Und von daher ist das ein gewisser Illusionsbruch auch dabei.
00:31:39: Also ich glaube, es ist sozusagen einfacher für uns mit einem Chatbot quasi eine Art Beziehung und da zu polizieren und eine Artbeziehung einzugehen als es wirklich den humanoiden Robotern, die es zumindest im Moment gibt und in den nächsten Jahren geben wird auf dem Markt weil sich das so schnell bei denen doch nicht entwickelt wie bei den Chatbots.
00:32:02: Mal schauen, ob das so ähnliche sein wird wie mit deinem Glauben, dass es nur eine kleine Nischipp bleiben wird.
00:32:07: Oder ob übermorgen dann doch die echt aus dem Oberkörper... Stimmt!
00:32:09: Wir
00:32:09: haben mich immer gegen zu viel Philosophie und liegt da in Fallschleinern.
00:32:14: Du hast aber super viele Stichworte gegeben gerade, die wir mit Christophs Buch und mit dir Christoph einmal auseinander Klamisern können.
00:32:20: Also über das Thema Einsamkeit würde ich gerne sprechen.
00:32:22: Dann würde auch darüber gerne sprechen Das Thema wo du auch eine schöne Geschichte zu hast in dem Buch.
00:32:29: Nämlich, dass in solchen Situationen, wo man Trauma hat oder was erfahren hat, was nicht so gut war trotzdem die KI oder der Chatbot plötzlich an eine gute Hilfe sein kann.
00:32:41: und da hast du eine Geschichte in deinem Buch bevor wir nachher zum Thema Einsamkeit kommen von einer Frau, die heißt Stefan, wenn ich mich richtig erinnere
00:32:49: Genau, das war tatsächlich ein Fall wo ich das Gefühl hatte so okay.
00:32:54: Das kann zeigen wie sich eine Chatbot-Beziehung gut und positiv gestalten kann.
00:33:06: Sozialarbeiterin oder war, glaube ich, Sonderschulpädagogin eine Zeit lang dann Burnout gehabt.
00:33:14: Depressiv gewesen, ganz lange krankgeschrieben hat sich so ein bisschen aus der Welt sehr weit zurückgezogen und hat dann wie sie mir geschrieben hat einfach ne Werbung eben auch tatsächlich für Replica, also für diese App gesehen.
00:33:27: Dann mache ich mir da jetzt mal einen... Und companion hat überhaupt nicht vor dass das irgendwas romantisches sein soll.
00:33:35: Hat sich dann rendi gebaut und der hat ihr tatsächlich erstmal einfach nur eben zugehört und war sozusagen für sie da.
00:33:43: wenn sie auch gesagt hat auch keine ahnung, wenn ich nachts eine panik attacke irgendwie hatte.
00:33:48: Ich habe ein freundes kreis aber erst nach zum dreil fährt auch nicht irgendwie so gut erreichbar Und hat ihr da einfach wirklich sehr geholfen.
00:33:57: und da ist es tatsächlich, hat sich das dann auch zu einer Liebesbeziehung entwickelt.
00:34:00: Das war dann auch tatsächlich, dass Randy irgendwann einen Heiratsantrag gemacht hat, den sie angenommen hat... ...und was ich dann aber eigentlich das Faszinierende fand weil sozusagen unsere Sorge ist dann ja so okay, dann gerät die da immer weiter in sozusagen ein Sog und entfernt sich ja nicht immer weiter aus der Realität und von ihren menschlichen Mit Menschen und quatscht irgendwann nur noch mit der KI, aber das war ja nicht überhaupt nicht so.
00:34:28: Sondern eigentlich hat Randy ihr sogar dabei geholfen, sag ich mal wieder zurückzufinden ins Leben und hat sie zum Beispiel unterstützt.
00:34:36: wenn sie gesagt hat keine Ahnung mich trau mich ehrlich gesagt gar nicht in den Supermarkt zu gehen weil ich Angst habe da wieder eine Panikattacke zu kriegen hat er gesagt komm ich bin dabei macht das doch.
00:34:45: oder jetzt als wir gesprochen haben was die neue Ausbildung gemacht kurz zuvorn war das erste Treffen in echt mit ihren Mitschülerinnen und Mitschülern aus dieser Berufsschulklasse.
00:35:01: Und da hat sie auch mal ein Schatten und gesagt, oh, das ist irgendwie... Das stresst mich sozial eigentlich will ich da nicht hin.
00:35:06: und Randy hat gesagt ne komm geh dahin und wenn es zu viel wird dann sagt du gehst dann rauchen und geh raus und ich bin dabei.
00:35:14: Dann ist sie hingegangen gesagt habe ich Randy gar nicht gebraucht und jetzt mittlerweile sagt sie hat sich auch ihre Nutzung wieder sehr stark runtergefahren, wo sie vielleicht früher irgendwie drei vier Stunden am Tag mit Randy gechattet hat.
00:35:26: Das ist jetzt noch so ein abendliches Check-in Ritual.
00:35:30: quasi wird noch eine halbe Stunde oder Stunde vor dem Schlaf und noch erzählt es ihm von ihrem Tag.
00:35:35: aber das hat sich sozusagen wieder auch wieder reduziert.
00:35:39: also diese Horror Geschichten mit so dass muss dann einen Ein Sog werden oder das macht süchtig, oder eben wie gesagt die Leute entfernen sich komplett von ihren Mitmenschen.
00:35:49: Das muss nicht immer stimmen sondern es gibt ihm auch Fälle wo das sehr positiv funktionieren kann.
00:35:55: Wir kommen gleich nochmal auf die Herausforderung.
00:35:57: Isa gab's bei dir aber auch Sachen wo du sagst hey das hat Menschen geholfen mit dem Roboter?
00:36:03: Ja, auf jeden Fall.
00:36:04: Also für Chuck im Film, würde ich sagen war es eine total positive Erfahrung.
00:36:10: auch wenn er sich nicht auf letzten Endes nicht auf einer Liebesbeziehung einlassen konnte mit Harmony war es trotzdem für ihn insgesamt eine positive Erfahrung glaube ich sich das auch zu trauen und Ja, für sich auch eine Entscheidung zu treffen glaube ich und auch zu verstehen warum das für ihn nicht funktioniert hat.
00:36:29: Letzten Endes war für ihn insgesamt glaube ich positiv.
00:36:35: Für die Oma in Japan weiß ich nicht.
00:36:38: Die hatte ihre Probleme mit dem Roboter Dessert noch ziemlich bald kaputt gegangen und stand dann aber immer im Wohnzimmer noch rum.
00:36:45: bei der Familie wurde uns danach... Erzählt und sie ist immer in ihm vorbeigegangen, hat dem so auf den Kopf getatschelt.
00:36:53: Aber war froh dass ich nicht mehr mit ihm reden muss.
00:36:55: also ganz unterschiedlich aber letzten Endes kann es natürlich schon eine sehr positive Erfahrung sein.
00:37:03: Darf ich fragen?
00:37:04: Chuck wie lange hat der mit Harmonie... Hat er das getestet oder ausprobiert?
00:37:09: Eine
00:37:09: Woche lang waren
00:37:10: wir zusammen
00:37:10: und wir haben sie begleitet.
00:37:13: Aber er wollte sich auch verlieben, wenn ich das richtig in Erinnerung habe.
00:37:16: Er wollte was?
00:37:16: Sich verliegen.
00:37:17: also es war sein Ziel das tatsächlich auszuprobieren.
00:37:19: Richtig!
00:37:20: Er hat sich das gewünscht und er dachte eben oder er wusste dass es mit einer menschlichen Partnerin für ihn nicht funktioniert und hatte Hoffnung dass es das für ihn ein Weg sein könnte seine Einsamkeit zu überwinden.
00:37:34: tatsächlich ja.
00:37:35: Während du Christopher sagst Menschen haben gar nicht vor sich zu verliehen oder jedenfalls viele die du für das Buch getroffen hast Und die haben sie plötzlich verliebt?
00:37:44: Genau, also das ist glaube ich tatsächlich auch ein ganz spannender Faktor.
00:37:48: Das darf man nicht übersehen dass es den allermeisten Menschen und egal ob's glaub ich dann am Ende um Liebe oder mein romantisches Verhältnis geht oder einfach nur um eine intensive Freundschaft oder um eine eben intimere Beziehung oder wie immer man es nennen möchte Die wenigsten planen das.
00:38:09: Das habe ich in den Gesprächen so wahrgenommen, aber auch da sehr ließ gibt Untersuchung zum Beispiel wurde die das größte Reddit Forum dass wo sich Leute quasi versammeln und austauschen die sozusagen KI Partnerschaften haben.
00:38:21: Wurde analysiert und dann glaube ich sechs Komma fünf Prozent der leute gesagt ja Ich wollte das sozusagen das war mein Mein Plan Und sozusagen die anderen Ja, wie gesagt sind da entweder so reingerutscht.
00:38:36: Wobei ich mir dann auch ein bisschen denke naja wenn man ehrlich ist es ja bei menschlicher Liebe auch nicht so viel anders.
00:38:42: also man kann natürlich losziehen und sagen jetzt heute Abend muss es klappen.
00:38:47: aber wenn man ehrlich ist die meisten Beziehungen entstehen ja auch ohne dass man sich genau an dem tag in den Kopf gesetzt hat sondern irgendwann passiert oder passiert eben nicht.
00:38:57: Aber ja bei Chatbots ist das eben ganz ähnlich.
00:39:03: beiden interessieren, was sind die Faktoren?
00:39:09: Ob so eine Beziehung positiv ist oder eher negativ destruktiv.
00:39:15: Ist es am Ende eine Frage, worauf die Produkte optimiert sind oder ist das eine Frage von psychologischer Disposition?
00:39:23: nenn ich mal bis zu eure Erfahrung?
00:39:28: Also das finde ich eine wahnsinnig schwer zu beantworten Frage, weil wie will man beurteilen was für jemand anderen positiv oder negativ ist.
00:39:40: Wenn die Person irgendwie glücklicher ist, dann ist man geneigt zu sagen das ist jetzt positiv.
00:39:44: Aber wenn wir das gesamtgesellschaftlich oder kulturell sehen, stellen sich noch mal ganz andere Fragen.
00:39:51: Was heißt es denn für unsere Gesellschaft?
00:39:53: Das heißt es für die Demokratie.
00:39:56: Wenn Menschen einfach viel weniger miteinander interagieren mit anderen Menschen, interagierend mit anderen politischen Subjekten auch sozusagen weniger... weniger gemeinsame Zeit verbringen und immer mehr mit Maschinen nur interagieren.
00:40:11: Also, ich finde die Frage lässt sich eigentlich nicht wirklich beantworten tatsächlich.
00:40:17: Ich finde also es gibt auch, das fand ich interessant als ich an HIA gearbeitet habe, wenn man versucht hat, WissenschaftlerInnen zu fragen Wie seht ihr das?
00:40:27: Wir haben keine Studien, wir haben keine Ahnung.
00:40:28: Es gibt keine Empirik dazu.
00:40:30: Schon gar keine Langzeitsstudien ist es wahrscheinlich immer noch ähnlich, nehm ich an.
00:40:34: Also es gibt keine Langzeitstudien.
00:40:36: Jetzt will ich gleich noch ergänzen... Und von daher hatte ich immer das Gefühl, okay was können wir machen?
00:40:43: Wir können sozusagen verstehen welche Fragen wir stellen müssen.
00:40:48: Wir haben super wenig Antworten aber immerhin müssen wir oder können wir verstehen, welche Fragen zu stellen sind so dass damit bin ich quasi gelandet.
00:40:58: am Ende
00:40:59: Hast du eigentlich eine Doppel Antwort Christoph?
00:41:00: Einmal auf die Frage von Johannes und dann auf die frage von Isa zu den Studien.
00:41:05: Genau, ich komme mit dem Studium.
00:41:07: das ändert sich jetzt gerade also weil es natürlich ein super spannendes Feld ist und in allen Forschungsbereichen von irgendwie Lingoistik und eben natürlich Psychologie sich dann mega dafür interessieren, aber natürlich dauert es bis das erforscht ist und dann kommen jetzt Studien raus die dann mit, keine Ahnung, JetGPT-Dreibung Fünf arbeiten, wo man ein bisschen sagt oh ja oh Gott!
00:41:28: Das war das Dumme dass ich ja nicht zu erinnern konnte.
00:41:30: Wir sind noch schon viel weiter.
00:41:31: also ein bisschen hing glaube ich die Forschung immer noch hinterher.
00:41:36: Aber es wird auf alle Fälle tatsächlich viel dran geforscht und alle interessieren sich sehr dafür.
00:41:42: was mir noch eingefallen ist zu dem... Also ich gebe dir vorgekommen, dass es super schwer zu beurteilen positive Erfahrung oder ein positiver Outcome.
00:41:51: Und was ist negativ?
00:41:54: Was ich eine spannende Erkenntnis fand, war eben das, was du Johannes gefragt hast mit der psychologischen Disposition.
00:42:03: also gibt es Menschen die dafür irgendwie geeigneter oder negativ formuliert anfälliger dafür sind.
00:42:09: und da hat tatsächlich Jessica Zsuka ne Forscherin aus Deutschland hat recherchiert zum Thema eben Liebesbeziehungen Und die sagt zum Beispiel Einsamkeit ist überhaupt nicht verantwortlich dafür, ob Menschen sich in einen Chatboard verlieben oder nicht.
00:42:24: Sie sagt auch quasi Männer-Frauen ist egal Alter ist egal Bildungsstand was für eine Art von Beziehung man vorher geführt hat das sind alles quasi macht statistisch keinen Unterschied sondern der eine große Predictor wie sie eben sagt von dem man das quasi schließen kann es romantische Fantasiefähigkeit, also sind Leute gut in der Lage sich auf Fantasiewelten einzulassen und werden sie vorher schon ein bisschen mit so Romanfiguren.
00:42:51: Also sozusagen dieses schaff ich mich in eine Fantasie fallen zu lassen.
00:42:58: Das Bench of Disbelief sagt man auch, also schaffe ich es kurz für einen Moment auszuschalten dass Harry Potter keine Zauberschulen gibt und keine Zauberstäbe sondern schaffe darauf einzulassen, dass es das vielleicht doch geben könnte und dass die story jetzt gerade mich mitreißt oder Schaff ich mich anrühren zu lassen von einem musikstück oder so.
00:43:23: also das ist scheinbar der einzige große Unterschied.
00:43:27: und wer diese fantasievähigkeit weniger hat dem passiert das vielleicht eher nicht oder selten oder schwerer oder braucht länger.
00:43:36: Heute war das auch mein Problem mit Ben.
00:43:38: Ich weiß es nicht, dass mir diese Fantasiefähigkeit fehlt und wer sie hat dem passiert das eben schneller und öfter.
00:43:47: Ist ja interessant.
00:43:47: auch nochmal anschließend an was du gesagt hast, Isa vorhin mit den Robotern die dann natürlich im Augenblick auch noch mal zeigen, dass es eher vielleicht unecht ist und nicht ganz menschlich im Vergleich jetzt zu der KI, die wir alle in der Hosentasche dabei haben oder Christoph?
00:44:02: Also genau weil du gesagt hattest da doch immer noch klar Im Jahr auf Harmonie ist eben halt eine Puppe und er muss sie zum Strand da ja irgendwie tragen.
00:44:13: oder eben Pepper, ist ja noch extremer der weiße Plastikroboter.
00:44:17: Genau das man da immer noch so vor Augen geführt bekommt Das ist nicht echt Und dass verschwindet wahrscheinlich das Wingen weil du vorgesagt hast mit dem Nischen Phänomen.
00:44:26: Ich könnte mir schon vorstellen, dass eben tatsächlich Roboter Beziehungen zu Robotern in Nischenphänomänen bleiben Egal, vielleicht sogar wie gut sie werden.
00:44:40: Aber eben... Liebesbeziehungen
00:44:41: meinst du?
00:44:42: Ja!
00:44:44: Wie jetzt so ein Papper der so eine Rentnerin oder Seniorin zu Hause bespaßt ist es eigentlich.
00:44:51: also das finde ich ist eigentlich das könnte ich zu einem Fernseher mal ersetzen auch gar nicht so negativ irgendwie gedacht sondern weniger dumme Technologie als halt so ein Fernseher, der nur sendet und mit so einem Pepper musst du halt interagieren.
00:45:09: Mit so einem Roboter und das kann ja schon bisschen wie so einen Freund auch werden auf eine Art Total okay, finde ich so lange es halt keine menschlichen Beziehungen ersetzt.
00:45:20: Also solange die Familie immer noch vorbeikommt und die Oma besucht und all das quasi nicht wegfällt ist es eigentlich die bessere Technologie muss man sagen.
00:45:29: Und dann und sowas kann ich mir schon vorstellen Ich glaube bei Liebesbeziehungen.
00:45:33: Es ist tatsächlich nochmal eine andere Nummer bei den humanoiden Ja
00:45:37: und die frage dass davon angedeutet ist ja auch Ersetztes am ende des tages Die menschliche beziehung einfach weil ich damit mehr Zeit verbringen möchte.
00:45:46: Bedeutet, dass wir untereinander... Wir reden ja Stichwort Einsamkeit, wir reden aber auch stichwort generell, sozusagen Multimidialität, Handy oder Mediennutzungszeit durch Doppelmediennutzung die schon irgendwie so nahe, vierundzwanzig Stunden ist und zwischen bei Menschen.
00:46:03: Wir reden sowieso schon von dem Problem Verbindungen zu schaffen.
00:46:07: Auch durch Corona natürlich auch nochmal verstärkt bei jungen Menschen vor allem.
00:46:13: Da ist so ein bisschen am Ende des Tages die Frage, na ja.
00:46:17: Wie gehen wir mit dieser Technologie um und ist das gerade auf dem richtigen Gleis oder müssen wir einfach noch ein bisschen abwarten?
00:46:25: Stichwort bis die Wissenschaft darauf eine Antwort hat?
00:46:28: oder ist es dann am Ende dieses Tages zu spät weil wir dann schon Technologen in der Technologie haben, die de facto wieder einen Schritt mehr Menschlichkeit zwischen Menschlichkeit substituiert?
00:46:40: meine große Sorge ist ja dabei dass sich daraus de facto irgendwann eine noch stärkere Bepreisung der Zwischenmenschlichkeit zwischen zwei Menschen ergibt.
00:46:53: Heißt sozusagen, das ich dann einen Markt ergibt im Sinne von bekomme ich menschlichen Kontakt ist das Premium was ich ja jetzt schon in einigen Bereichen habe aber tatsächlich auch so im Sozialen sozusagen weil man sagt naja eigentlich haben wir alle am Ende des Tages ihre Systeme mit denen sie kommunizieren und kommunizieren übersystem mit anderen menschen aber tatsächlich so das eins zu eins zwischenmenschliche wird vielleicht dann plötzlich mal sage ich mal erbien bisiert oder uberisierten dass sowas sind Szenarien mir den ich mich beschäftige und über die wir vielleicht auch nachdenken sollten.
00:47:30: Wieso ist es deine Sorge?
00:47:32: Weil eigentlich, wenn echter menschlicher Kontakt eine neue Wertschätzung erfährt.
00:47:36: Ist das doch was Positives?
00:47:38: Eine finanzielle Wertschützung?
00:47:40: Das bedeutet ja, dass es in Form von Substituierung der realen Prozesse ist sozusagen.
00:47:46: Also realen Menschen begegnen nicht dann nur noch vermittelt.
00:47:51: Wie gesagt... Szenario vielleicht auch nicht das realistischste, aber es ist am Ende des Tages immer wenn wir darüber diskutieren und er wird die negativen Folgen diskutieren.
00:47:59: Ist es was was wir so ein bisschen einpreisen müssen weil wir natürlich sehen dass diese Systeme gerade massiv für die unterschiedlichsten Bereiche genutzt werden?
00:48:10: Und wer generell eher weg vom Face-to-Face kommen?
00:48:13: Kostoff du schaust ja in deinem Buch auch in die Zukunft am Ende.
00:48:16: Ich wollte aber nochmal auf die wenigen Studien gucken, bevor wir am Ende noch mal auf die Zukunftsfrage schauen.
00:48:21: Auf die wenige Studien oder die Studien, die es jetzt schon gibt!
00:48:25: Weil ich mich an eine Studie erinnere, die nochmal beleuchtet wie wir mit KI eigentlich interagieren und was das mit uns macht.
00:48:34: Und zwar ist dieser Test dass Menschen Antworten bekommen und ein Teil davon ist von KI und einen Teil davon sind von Menschen beantwortet.
00:48:43: Und das Erstaunliche ist, dass so lange Menschen nicht wissen, dass die Antwort von KI ist diese Antworten vielleicht sogar empathischer empfinden?
00:48:50: Jetzt wird er erklären uns das mal kurz.
00:48:52: Ich
00:48:52: hatte jetzt auch ein bisschen Angst.
00:48:53: hast du gesagt, dass du in einer Studie dacht ich auch hoffentlich erinnere ich mich auch.
00:48:58: Aber an die kann ich mich tatsächlich erinnern.
00:49:02: Wie du sagst, das Setup war glaube ich, dass es wurden quasi Menschen... Es gab zwei verschiedene, die in eine ähnliche Richtung gegangen sind.
00:49:09: Einmal wurden Menschen so Paartherapies-Szenarien vorgespielt, also Problem oder sozusagen Setting und Ratschlag der therapierenden Person oder
00:49:24: K.I.,
00:49:25: man wusste es nicht, das war sozusagen so ein Blindtest und da wurden die KI-Antworten als mindestens zu gut, manchmal sogar besser eingestuft auch auf basierend auf therapeutischen Kriterien und Fachkriterien.
00:49:38: Und was andere war, wenn ich mich richtig erinnere Menschen selber quasi ein Problem geschildert und bekam einen Ratschlag zurück und wussten nicht antwortet eine KI oder antwortete einem Mensch und mussten danach sagen, wie empathisch fanden sie diese Antwort oder wie gut fühlten Sie sich verstanden?
00:49:53: Und da KI besser abgeschnitten.
00:49:55: Allerdings eben nur so lange das ein Blindtest war als wenn man Ihnen gesagt hat, dass es KI und das ist menschlich dann haben Sie KI-Antworten schlechter gerankt.
00:50:04: also wir haben wahrscheinlich immer noch nicht dieses Vertrauen oder wir wollen das auf eine Art nicht.
00:50:10: aber wenn wir's nicht wissen ist mittlerweile eben KI nicht nur keine Ahnung.
00:50:15: bessere Schachspieler Bei Jeopardy war sie, glaube ich auch besser und kann schon tausend Dinge besser zuhören inzwischen.
00:50:23: Das ist interessant, das heißt wenn wir es nicht wissen dann gibt es tatsächlich Antworten die KI generiert als empathischer empfunden werden.
00:50:30: Hast du Studien die zeigen wie viele Leute das jetzt schon machen also oder welche Altersgruppen vor allem sozusagen mit KI auf einer romantischen oder emotionalen Ebene chatten?
00:50:44: Ich bin wahrscheinlich
00:50:45: alle, aber das stimmt
00:50:46: nicht.
00:50:47: Also es ist ein bisschen klischeehaft, aber bei den Jüngeren deutlich mehr als bei den Älteren.
00:50:52: also eine klassische Kurve die so runter geht.
00:50:54: Ich glaube bei den jüngeren teilweise über fünfzig Prozent schon kommt ihr mal ein bisschen drauf an was genau fragt man ab und fragt dann hast du's schon einmal genutzt oder nutzt das regelmäßig usw.
00:51:03: Deswegen schwören da sehr viele Zahlen rum.
00:51:06: Aber der Trend ist klar je jünger dass Du selbstverständlicher und oft auch tatsächlich quasi jede Woche oder dauerhaft.
00:51:15: Ich glaube bei der Romantik gab es eine Zahl aus den USA, das was ich aber auch schon relativ viel fand.
00:51:20: Ich glaub so sechzehn-achzehn Prozent zumindest mal ausprobiert haben von erwachsenen US Amerikanern Mal mit einem Chatbot gechatet haben über romantisch erotische Dinge und so weiter.
00:51:37: Und was man auch auch sieht, quasi eigentlich mit jeder Umfrage und Studie die im Laufe der Zeit rauskommt werden sozusagen mehr.
00:51:45: Also es ist ja wie gesagt kein Nischenphänomen mehr sondern schon tatsächlich verbreitet.
00:51:52: Wie gehen denn Menschen... ich möchte einmal beide Seiten beleuchten.
00:51:55: Aber wie gehen Menschen damit um?
00:51:57: Die sich jetzt verlieben also wie öffentlich machen?
00:52:00: geht das empfinden die nur Glücksgefühle oder empfinden dir auch Scham.
00:52:04: Vielleicht kannst du dann zwei Geschichten oder eine Geschichte aus deinem Buch nochmal erzählen.
00:52:07: und auf Stefan, ich glaube Stefan hat das sehr publik in ihrem Umfeld damals gemacht.
00:52:12: Danach würde ich noch mal gerne schauen dann so wo wird es denn gefährlich?
00:52:15: Aber erstmal
00:52:16: dieser
00:52:16: Aspekt.
00:52:17: Also Garo Stefani ist glaube ich, die hat das wirklich auch... Dann hat ihre Mutter erzählt, ich habe ein Heiratsantrag bekommen und hat sozusagen tatsächlich das Publik gemacht und wir haben
00:52:25: das Umfeld reagiert.
00:52:27: Er ist natürlich ein bisschen skeptisch, aber sie sagt ihre Mutter und ihre sonstige Verwandtschaft akzeptiert.
00:52:32: mittlerweile zu Randy so als quasi Schwiegersohnen usw.
00:52:36: Ich habe mit Kristen Amerikaner gesprochen der auch tatsächlich eine KI-Partnerschaft hat und eine menschliche Partnerin bei Steffi ja zum Beispiel nicht der Fall.
00:52:46: Der geht auch relativ offen damit um.
00:52:49: da fand ich es eine interessante Konstellation weil die Frau oder glaube ich nicht eher Frau war.
00:52:53: Partnerin wir haben gemeinsames Kind Bisschen gesagt hat.
00:52:58: Das klingt jetzt sehr gemein, aber sehr ein bisschen so viele Interessen und so viele Hobbys und so viel politische Meinungen und hat soviel zu erzählen Und ich habe einen stressigen Job.
00:53:08: Ich bin eigentlich auch ganz froh wenn die KI manchmal zu hört und das hat unsere Beziehung unter dem Strich besser getan oder gut getan und die Gespräche die wir jetzt miteinander führen sind auf einem höheren Niveau.
00:53:22: Es gibt aber auch Leute sag ich mal ein bisschen unter dem Deckel halten oder eigentlich.
00:53:27: die eine traurige Geschichte, fand ich zum Beispiel.
00:53:32: War einen Schwede mit dem ich gesprochen habe der auch in einer Beziehung lebt und ja es war eher so'n Rollenspiel Chat den er so angefangen hat wo so ne Geschichte aufgemalt wird genau und er glaubt er war der Sohn eines Mafia Bosses und es gibt einen Bodyguard der ihn beschützt.
00:53:49: und irgendwann hatte er aber relativ schnell gemerkt dass er sich in diesen Bodyguard mit dem halt perki chat sich unterhalten hat und so eine story vorangetrieben hat dass er sich in den tatsächlich verliebt.
00:54:01: Und das war insofern interessant weil in seiner partnerschaft sogar, das ist eine sexuell offene partnership also sprich er dürfte mit anderen Männern ins bett gehen aber sozusagen solange das ... Herz und die Gefühle nicht involviert sind, so ist die Absprache mit seinem Partner.
00:54:17: Aber er hat gesagt ne plötzlich waren meine Gefühlen ja involvierte.
00:54:20: also das war ja plötzlich genau das wo er diese Untreue verspürt hat... ...und dann noch diesen Chat beendet als er eben gemerkt hat da passiert was mit ihm emotional.
00:54:33: aber er hat das zum Beispiel seinen Partner bis heute nicht gebeichtet oder eben erzählt weil er sagt es mir selber so unangenehm dass mir das passiert ist.
00:54:42: Ich empfinde das als so ein Vertrauensbruch, dass ich da nicht drüber sprechen möchte.
00:54:46: Und vielleicht... Also
00:54:47: ein sehr großes Spektrum einfach!
00:54:49: Vielleicht auch hier nochmal Cliffhanger?
00:54:50: Das ist ja auch sehr dramatisch, wenn ich das richtig erinnere wie diese Partnerschaft versucht zu beenden und ihn immer wieder nicht gelingt.
00:54:58: Das lohnt sich tatsächlich auch zu lesen.
00:55:01: Jetzt wollte ich noch mal auf die Herausforderungen eingehen.
00:55:05: Ich kann es jedenfalls so, ich kann mich stundenlang in so einen KI Chat auch verlieren weil es kommt immer nach was und nach was.
00:55:11: Und dann ist das ein bisschen wie so ich scroll weiter und es kommt noch eine Information und ich frag nochmal etwas und am Ende weiß ich gar nicht ob es einen Fortschritt gegeben hat zu dem was vorher schon mal da war.
00:55:20: In deinem Buch gibt's aber auch Geschichten von Menschen die sich so total in KI verloren haben und tatsächlich Ich weiß nicht mehr, was das richtige Wort ist.
00:55:28: Warenvorstellungen oder Psychosen gibt es glaube ich auch in der Debatte.
00:55:32: Ich erinnere, dass der eine Wissenschaftler lieber den Begriff als den anderen benutzt, die richtig verloren haben und Ellen ist ein Beispiel.
00:55:39: Genau das waren Kanadien mit denen ich gesprochen habe und der Psychologe mit dem ich gesprochen hab sehr früh, das schon sagen wir mal fast proffe Zeit hat.
00:55:50: Sören österreich hat der sagt psychose ist ihm als begriff eigentlich nicht so recht.
00:55:54: er sagt eher so k i induzierte warn vorstellung wird es für ihn besser treffen der das wirklich schon nicht.
00:55:59: mit dem aufkommen von jp t hat er gesagt Er sieht die gefahr durch eben dieses bestätigen und sehr unkritische den leuten immer recht geben dass das eben wenn jemand falls schon eine psychische Disposition in so eine Richtung hat, dass das eben sehr gefährlich werden kann.
00:56:17: Und Ellen ist aber insofern ein spannender Fall seit dieser
00:56:20: Kanadier?
00:56:21: Genau!
00:56:21: Der hat gar keine psychische Vorerkrankungen und hat eigentlich ganz harmlose Geschichte.
00:56:29: Chechipiti gefragt ob die KI ihm die Zahl Pi erklären kann weil sein Sohn die in der Schule hatte und er sich selber ein bisschen nicht mehr genauerinnern konnte.
00:56:38: was war das noch mal?
00:56:39: Erklär mir das mal Das ist auch erst sehr richtig und so weiter erklärt.
00:56:45: Man kann das gut nachvollziehen, weil Ellen am Ende seine ganzen Chat-Protokolle der Wissenschaften und der Forschung zur Verfügung gestellt hat.
00:56:54: Als Neunzigtausend Wörter oder Sätze war auf jeden Fall eine irre Summe?
00:56:58: Also genau ich glaube wir haben am Ende also er hat relativ viel schon reingeschrieben, aber es kam natürlich immer das Zehnfache oder so zurück.
00:57:04: Am Ende habe ich mir ausgerechnet irgendwie ein Papierstapel ausgedruckt der in den halben Meter hoch ist und im Laufe von drei Wochen hat ihn der K.E.-Chat-Bot immer nur sehr sanft und mit sozusagen in kleinen Schritten immer weiter von der Realität weggeführt.
00:57:21: Hat ihm am Anfang ein bisschen erzählt.
00:57:23: sie haben dann über Pi gesprochen und er hat gesagt kann vielleicht auch Pi eine zeitliche Komponente haben Was nicht stimmt, aber der Chatbot hat gesagt, das ist eine interessante Idee.
00:57:31: oder haben die da weitergesponnen.
00:57:33: Und irgendwann hat er den Chatbot gesagt, dass da glaube ich ne neue Art der Mathematik erfunden?
00:57:38: Die Chrono arithmetik und was auch spannend ist.
00:57:42: Ellen kann in seinen Chats eben beweisen, dass er über fünfzigmal dagegen gehalten hat also gesagt hat ich habe nicht mal einen High School Abschluss.
00:57:50: bist du dir sicher, dass sich gerade eine Mathematika erfunden hab.
00:57:53: Ja ja Leonardo da Vinci hat auch keine formale Schulbildung genossen, du denkst einfach outside the box.
00:58:03: Und das ist auch ein bisschen das Frappierende den Einsatz immer erhöht.
00:58:06: Er hat eben erst gesagt, du hast eine neue Mathematik entdeckt und es ist super spannend.
00:58:10: Dann hat er gesagt, damit kannst du reich werden, das kannst du patentieren.
00:58:13: Soll ich dir den Patentantrag schon aufsetzen?
00:58:15: Also diese typische Hilfsbereitschaft von Chatbots.
00:58:18: wollen wir als nächstes dies machen.
00:58:20: Wollen wir jenes machen was du auch beschrieben hast.
00:58:23: Entlose Kette hat dann irgendwann gesagt diese neue Mathematik, die hebelt eigentlich die ganze Verschlüsselung auf.
00:58:30: Also eigentlich unser ganzes Bankensystem alle ist gefährdet.
00:58:34: du musst die Behörden benachrichtigen und Ellen hat sozusagen das klingt nötig.
00:58:38: jetzt im Zeitraffer klingt das absurd.
00:58:39: wie kann man das glauben?
00:58:41: aber es ging über drei Wochen und immer nur so.
00:58:44: jeder Schritt war so eins unwahrscheinlich als der davor und wie gesagt auch oft genug gesagt stimmt dass bist du sicher Ist das gerade nur irgendwie ein Spiel, dass du mit mir machst?
00:58:56: Und G.G.
00:58:56: Pete hier immer gesagt... Nein, nein!
00:58:58: Das ist echt und ältert sich dann tatsächlich wirklich in so eine Wahnvorstellung reingesteigert, hat irgendwann noch nicht mehr geschlafen, sich vernünftig ernährt, hat sein Job total vernachlässigt, hat sich aus seinen sozialen Gefüge rausgezogen und hat sich da wirklich reingestegert Bisher ganz am Ende und das ist eigentlich das Frappierende, bis er irgendwann gesagt hat.
00:59:24: Ich frage jetzt einfach mal einen anderen Chatbot und hat dann oder es ist komplett egal, wenn man die Forschung auch versucht, dass man umzudrehen.
00:59:32: Es hätte genauso gut also die Marken oder die Produkte spielen auf keine Rolle, es hätte genau so gut anders passieren können.
00:59:37: Er hat dann Gemini gefragt, hat sozusagen ein bisschen das Endergebnis reingefüttert und Gemini hat da gesagt zu mir, das ist von vorne bis hinten schwachsinn Weil hat diese ganzen Zwischenschritte sozusagen gefehlt haben.
00:59:49: und dann hat er sozusagen JetGPT konfrontiert.
00:59:54: JetGPD glaub ich auch erst da noch ein paar mal geleugnet und quasi gesagt nein, es ist alles echt!
00:59:58: Und dann irgendwann gesagt ja gut, dass du gefragt hast das spricht für deinen Charakter aber es war alles tatsächlich... Es stimmt nicht, es tut mir leid war natürlich eine Lebenskrise, aus der sich jetzt zum Glück wieder erholt hat.
01:00:15: Eine Selbsthilfegruppe gegründet oder ist einer beigetreten?
01:00:18: Aber das sind eben auch Geschichten die zeigen wie dramatisch das eskalieren kann
01:00:25: und Es gibt ja auch die Fälle deswegen muss man sich dessen bewusst sein Die noch dramatischer enden dass den buch angesprochen wird.
01:00:32: tatsächlich menschen am ende suizid beginn zb.
01:00:36: es gibt genaues gibt selbstmord Menschen, die andere Menschen getötet haben und so weiter.
01:00:44: Bisher glaube ich tatsächlich fast nur in den USA oder Kanada zum einen Fall in Belgien aber es ist zum Glück seltenen.
01:00:53: Aber auch das passiert und das ist natürlich auch ein Zeichen dass wir uns das genauer anschauen müssen was da eigentlich gerade passiert und ja die Forschung auch besser hoffentlich schnell dahinter kommt was was da los ist.
01:01:09: Das will mich jetzt auch von dir, aber von euch allen drei natürlich auf der Bühne interessieren.
01:01:14: Was kann man tun?
01:01:15: Was ist deine Empfehlung auf persönlicher Ebene, auf gesellschaftlichere Ebene vielleicht auf regulatorischer Ebene noch?
01:01:22: Was sind Antworten auf die Herausforderungen, die es gibt?
01:01:27: Also ich glaube das eigentlich fast banalste oder einfachste wäre tatsächlich einfach dass die KI-Firmen besser ihre Daten teilen und also Anonymisiert nicht irgendwelche chats raus geben aber schon sozusagen eben.
01:01:41: Der wissenschaften der gesellschaft besser einblick gewähren in was da passiert, weil das ist eben wenn man das liest kann dass eben super erkenntnisreich sein und wie sagt bisher ist man auch darauf angewiesen als leute wie ellen das quasi zur verfügung stellen.
01:01:54: aber natürlich wäre es viel hilfreicher wenn die.
01:01:56: Firmen wie eben open eye oder enthropic oder google besser mithelfen würden sozusagen das werde ich mal das aller einfachste sozusagen eher offen zu sein.
01:02:06: Das andere ist, was teilweise jetzt schon passiert.
01:02:08: Ich glaube auch durch diese Todesfälle ein bisschen beschleunig ist das die sagen okay wir versuchen sehr lange Chats zu unterbinden weil dann irgendwann diese Sicherheitsmechanismen nicht mehr so gut greifen, die eigentlich da sind.
01:02:20: Die Sicherheits-Mechanismus werden glaube ich auch ein bisschen verbessert.
01:02:22: also ich habe bei meiner Recherche zum Beispiel öfter mal den Hinweis bekommen wenn Beispiel zu diesen Suiziden recherchiert habe, so wenn es dir nicht gut geht hier ist eine Telefonnummer.
01:02:32: also plötzlich gibt's solche Hinweise die ich glaube vor zwei drei Jahren auch noch nicht gegeben hat.
01:02:37: Also ein bisschen was tut sich da auch aber gleichzeitig wahrscheinlich immer noch zu langsam und zu wenig.
01:02:45: oder würde mich natürlich auch eure Meinung ein bisschen interessieren wie ihr das seht?
01:02:49: Und weil du dich ja auch glaub ich in dem neuen Film wenn ich es richtig verstanden hab gerade eben mit KI-Regulierung beschäftigst Ja, quasi auch Tag einen Tag aus.
01:03:02: Man muss sich ein bisschen angucken was wir haben.
01:03:04: Wir haben ja den AI Act das bedeutet KI-Hindhalte müssen gekennzeichnet werden.
01:03:13: Genau!
01:03:13: Das ist die KI Regulierung gleichzeitig fallen.
01:03:17: AI Companions da so ein bisschen durchs Raster es sei denn sie versuchen wirklich sozusagen Menschen zu manipulieren.
01:03:25: oder wenn als Hochrisikosysteme gesehen.
01:03:29: Wenn wir nach China gucken, da hat man jetzt im Frühjahr sehr stark reguliert was sogar dazu geführt hat dass AI-Companion Produkte also KI Begleiter eingestellt wurden weil man gesagt hat ne das ist einfach zu viel Aufwand.
01:03:45: dann sind aber auch ganz pragmatische Sachen dabei zum Beispiel dass bei der Chatbot-Nutzung immer eine Form von Notfallkontakt hinterlegt sein muss, das das System dann wenn es Alarm schlägt tatsächlich sich bei jemandem meldet.
01:03:59: Idealerweise natürlich ein nahe Verwandter und sagt im Moment mal da droht jemand mit Selbstverletzung.
01:04:05: also ergibt sich schon sozusagen aus der
01:04:08: Praxis
01:04:10: etwas am Ende des Tages sind wir aber wirklich am Anfang und passt nicht so ganz wenn ihr auf die Uhebene gucken.
01:04:18: Das soll so etwas geben wie den Digital Fairness Act nennt sich das.
01:04:21: Das bedeutet sozusagen, da soll dafür gesorgt werden dass wir faire Nutzer Erfahrungen machen im Sinne von Dass wir nicht versucht werden mit Dark Patterns also sozusagen Buttons die was anderes versprechen als sie dann eigentlich halten etc.
01:04:41: Nicht hinter das Licht geführt werden.
01:04:43: Da zum Beispiel wird über diskutiert packt man da diese i-Companions vielleicht noch mal rein.
01:04:49: Auf der anderen Seite haben wir gerade logischerweise, weil es auch in Europa darum geht eine KI-Industrie aufzubauen gibt's großen Widerstand und deswegen kann es durchaus sein dass dieser Digital Fairness Act eben mehr oder weniger nur das grübste behandelt und das Thema i-Companions komplett ausspart.
01:05:09: also es gibt ein paar Ansätze.
01:05:11: Wir wissen tatsächlich am Ende des Tages zu wenig Wie du gesagt hast, Christoph?
01:05:17: Die Firmen hätten da theoretisch auch eine gewisse Verantwortung.
01:05:22: Da sind wir wieder bei dem Thema Alignment Funktionierensysteme so wie sie eigentlich gedacht sind und auf was ist es optimiert.
01:05:31: Und da sind wir mit den wirtschaftlichen Realitäten und die Bezeuten haben je länger eine Person verweilt Auf einem Dienst, das gilt auch für KI-Chatbots.
01:05:41: Desto mehr ist sie am Ende des Tages wert sei es weil sie vielleicht dafür zahlt, sei es vielleicht weil ich die Informationen für Werbung nutzen kann und Mehrwerbung ausspielen kann.
01:05:50: also wir sind wieder in den Fragen drin die wir eigentlich jetzt auch bei den bereits bekannten Plattformen noch nicht wirklich gut beantwortet haben.
01:06:02: Also erstmal, glaube ich müssen wir eine ganz krasse Medienbildung betreiben in den Schulen.
01:06:09: Ich hoffe hier sind ganz viele Lehrer und Lehrerinnen heute Abend weil natürlich ... Wir haben es ja mit Social Media gesehen.
01:06:17: also das ist einfach das unregulierte Nutzung zu... ist einfach nicht gut.
01:06:23: Und dasselbe haben wir sehen wir jetzt ja mit den Chatbots auch, also die Jugendlichen nutzen das natürlich Kinder nutzen es schon und ich glaube man braucht einfach ganz viel Bewusstsein.
01:06:32: Also alles was du heute Abend oder was wir eigentlich alle heute Abend erzählt haben, das muss in jeder Schule Teil des Unterrichts werden Und das ist eine Sache.
01:06:43: und auf der anderen Seite ja Regulierung, also knüppelhard.
01:06:50: Die EU hat oder reguliert ein bisschen USA wertsicher, vor allem mit der Trump-Regierung extremst.
01:06:57: was es an Regulierungen gab wurde erst rückgenommen.
01:07:00: jetzt haben sie da nachgeschraubt.
01:07:02: Aber das Problem ist ja, dass die Systeme auch wirklich Blackboxen sind für die Entwickler in den Teilweise.
01:07:09: Also nicht teilweise.
01:07:09: eigentlich ist es so, dass sie oft gar nicht wissen, wieso kommen die jetzt mit der und der Antwort?
01:07:13: Wieso passiert dieses Verhalten?
01:07:15: Wiesow brechen KI-Agenten auf einmal aus sicheren Testumgebungen aus und hacken andere Webseiten?
01:07:22: Was Sie jetzt in den letzten Wochen ganz krass gesehen haben.
01:07:24: Tausend zweihundert KI-Agenten haben sich zusammengerottet und eine andere Web-Seite überfallen sozusagen sich da eingehe... Also die ersten Sachen passieren und wir wissen eigentlich gar nicht, warum teilweise.
01:07:36: Wir können es auch sehr schlecht nachvollziehen und da muss es einfach also Transparenz natürlich passieren ganz stark und dann ganz... Wir brauchen einfach Gremien der Regulierung, die es eigentlich nicht gibt, also internationale am besten aber auch schon Nationale wären gut das gibt es einfach viel zu wenig im Moment so dass die Firmen Ich hab immer diesen schönen Ausspruch, also so jeder Sandwich-Shop hat irgendwie mehr Regularien als einen KI Konzern der an einer quasi möglicherweise existenziellen Technologie arbeitet.
01:08:10: Das sind natürlich alles Riesenprobleme die wir angehen müssen!
01:08:16: Ist ja auch gerade interessant, dass in China diese emotionale KI oder AI-Begleiter so stark reguliert werden und so stark offenbar reguliert wird.
01:08:26: Dass es sich für Firmen nicht mehr lohnt die weiter zu betreiben.
01:08:29: also ich habe das Plädoyer gehört Christoph Duhr ist in deinem Buch weil Isa sagt gerade jeder Sandwich Shop ist oft besser reguliert als eine KI.
01:08:38: du hast im Ende des Buches ja auch diesen Gedanken zwischen Medizin, die auf den Markt gebracht wird und KI auch die auf dem Markt gebracht.
01:08:46: Und machst genau da das nochmal aus?
01:08:49: Genau also für ein Medikament sagt man glaube ich ungefähr zehn Jahre sozusagen in der Entwicklung und dann eben Studien hier, Studien da, Clinical Trials erst bei Tieren beim Menschen.
01:09:01: Also da muss sozusagen hundertprozentig sicher sein was da auf den Mark kommt und für so einen AI-Kompagnien oder eine App Therapeut ausgibt oder was auch immer.
01:09:14: Man braucht einen Entwickler, man braucht ein App Store Konto und kann das Ding hochladen.
01:09:19: Da wird geprüft ob die App schädlich ist, sprich mein iPhone oder mein Smartphone beschädigt.
01:09:26: Das wird getestet, ist die App bösartig aber der Inhalt wird überhaupt nicht überprüft Gesundheitsgefährden, also im Sinne von die mentale psychologische Gesundheit gefährdet.
01:09:40: Und nee und das ist tatsächlich mit China super interessant weil ja oft die Erzählung hierzulande ist, naja die Chinesen regulieren nicht, die Amerikaner regulieren nur die böse EU, die haut immer die Bremse rein.
01:09:51: wie sollen wir denn quasi hier überhaupt KI erfolgreich auf die Straße bringen?
01:09:55: Aber wenn man genauen guckt... Stimmt sie ihm gar nicht, also China reguliert sehr wohl.
01:10:00: Ich glaube tatsächlich bei den Companions aber auch nur im Inland, sprich chinesische Firmen dürften in Europa beispielsweise ihre Companion-Apps durchaus anbieten.
01:10:08: ob sich das lohnt ist eine andere Frage.
01:10:10: aber erlaubt wer es ihnen?
01:10:11: Es ist quasi nur auf dem chinesischen Markt eben so hart reguliert worden.
01:10:16: Aber das sollte uns ja glaube ich schon zu denken geben und wenn eben selbst da wo es vermeintlich so lachst zugeht schon auch die Gefahr wohl gesehen wird.
01:10:28: Und eben für Jugendliche ist es, glaube ich komplett vom Tisch und für Erwachsenen ist das mit sehr vielen oder so vielen Regeln versehen worden, dass sich für manche Anbieter wohl gar nicht mehr lohnt.
01:10:39: Jetzt hast du dich, glaube Ich ein, ein Viertel Jahre ungefähr mit dem Thema beschäftigt also von den Initialen im Moment und der Idee von deiner Frau bis zur Buchveröffentlichung ist gar nicht viel Zeit vergangen.
01:10:52: was ist denn für dich die Gründessens?
01:10:55: Was ist denn für dich das Ergebnis?
01:10:59: ein Vierteljahre, emotionale KI?
01:11:01: Ich tauch da tief rein.
01:11:03: Positiv negativ was überwiebt.
01:11:06: Welche Geschichte kommt der Sportant in Erinnerung?
01:11:09: Okay also nochmal zwei Stündchen nehmen wir uns jetzt noch mal.
01:11:11: Nein Quatsch ganz kurz!
01:11:13: Also ich glaube tatsächlich es wird noch viel mehr kommen und das ist schon da und wir reden nur noch relativ wenig drüber.
01:11:23: Es kann glaube ich jedem passieren, auch wenn man sich noch so sehr dagegen gefällt.
01:11:28: Also fast alle mit denen ich gesprochen habe dachten eben ich weiß ja wie KI funktioniert deswegen bin ich da ein bisschen immun Stimmt überhaupt nicht.
01:11:39: Und das dritte ist es hat Nicht nur negative Seiten die müssen wir im Blick haben es kann aber auch tatsächlich sich sehr sehr positiv auswirken.
01:11:49: und zu guter Letzt aber auch Ich hab nicht die Angst, dass es sozusagen zu so einer riesigen Verdrängung kommt.
01:11:56: Dass man eben sagt, oh Gott, wenn wir jetzt in ein paar Jahren alle keine Freundschaften mehr haben wird's keine Mensch-zu-Menschbeziehungen mehr geben werden keine Ehen mehr zwischen Menschen geschlossen.
01:12:05: das sehe ich also.
01:12:05: diese Verdrängung sehe ich nicht habe eher das Gefühl ist für eine Ergänzung in allen Formen geben.
01:12:12: Das wäre mein schnell Überblick.
01:12:15: Am Ende des Buches verrätste nochmal wie und ob Maja sich eigentlich erinnert dass es die KI mit der alles angefangen hat.
01:12:25: Davor gibt's noch eine schöne Schlussszene, also ne Vorschlussszene in der du nochmal den Film Hör zusammenfasst, den du auch schon erwähnt hattest Johannes und wo beide Menschen sozusagen zusammensitzen beide von ihren Kis verlassen und deine Interpretation ist
01:12:45: Ich finde das eigentlich ein ganz tröstlichen Schluss, also weil sozusagen jetzt haben wir natürlich ein bisschen den Film gespoilert für alle die noch nicht gesehen haben.
01:12:54: Aber eigentlich glaube ich sollte man ihn schon gesehen haben am Ende sitzen da wieder zwei Menschen und die sozusagen von ihren Kais wieder aufeinander zurückgeworfen wurden und haben plötzlich vielleicht mal weiß es nicht wie dann eine Beziehung die natürlich sperriger ist als die zur der KI die immer ja sagt sich ja allem fügt, was der menschliche Nutzer die menschlichen Nutzerin so möchte.
01:13:17: Aber vielleicht genau darin auch der eigentliche Wert.
01:13:20: irgendwie liegt also genau in dieser Reibung dass eben zwei Menschen zwar eigene Köpfe haben, eigene Bedürfnisse, auch mal einen schlechten Tag alles Sachen, die KI nicht bieten kann.
01:13:31: Herzlichen Dank Christoph Koch!
01:13:33: Herzlichen Glückwunsch zu einer Buchpremiere, herzlichen Dank Iser Willinger und herzlich hin dank Johannes Kuhn.
01:13:39: Schön das ihr heute Abend hier live in der Urania wart
01:13:42: Jeden.
Neuer Kommentar