HolgersBlog
Roman Chatbot

Aus dem Chatverlauf des Roman-Bot

Vor drei Jahren verlor die Entwicklerin Eugenia Kuyda ihren engsten Freund Roman Mazurenko bei einem Autounfall. Sie vermisste ihn schrecklich und beschloss, ein digitales Denkmal für ihn zu schaffen. Kuyda fütterte ein Neuronales Netz mit dem Chatverlauf zwischen ihr und Roman. Die KI lernte so, wie Roman zu kommunizieren. Indem sie die KI mit einem Chat Bot verknüpfte, hatte Eugenia eine Art digitale Replik des Freundes geschaffen, mit der sie sich jederzeit unterhalten konnte. Die Chats sind rührend und erschreckend zugleich, denn es erscheint uns wirklich so, als ob Romans Geist in der KI weiterlebe und aus der Welt der Toten mit uns sprechen könne.

Im letzten Jahr entwickelte Kuyda die KI in einer Form weiter, die nun als App „Replika“ eine Art Chatbot-Psychiater für jedermann zur Verfügung steht. Eine Alltagshilfe zur Kontrolle und Verbesserung der eigenen Stimmung, die aber nicht nur passiv zuhört, sondern ganz aktive Tipps gibt. Mehr als 2 Millionen Menschen haben sich die App bislang heruntergeladen und erzählen ihr die unglaublichsten Dinge. Menschen haben anscheinend unendliches Vertrauen in Bots, die auf fast menschliche Art mit uns kommunizieren.

 

Wir erzählen ihnen alles

Die Maschinen lernen immer besser, eine Beziehung zu ihren Nutzern aufzubauen, die viele emotionale Bestandteile einer Verbindung von Mensch zu Mensch hat. Liesl Yearsley ist die ehemalige Geschäftsführerin des Unternehmens Cognea, das solche Bots entwickelt hat und im Jahr 2014 von IBM »Watson« gekauft wurde. Eines Tages fiel ihr auf, dass die menschlichen Nutzer oft Beziehungen zu den Robotern aufbauten. »Ich dachte immer, wir Menschen würden Distanz halten zwischen uns und der Künstlichen Intelligenz, doch das Gegenteil war der Fall. Die Leute sind bereit, Beziehungen mit den künstlichen Agenten einzugehen, sofern diese klug genug programmiert sind«, wunderte sie sich. Die Menschen wollten mit den Künstlichen Intelligenzen länger sprechen als mit menschlichen Mitarbeitern in vergleichbaren Situationen. Sie erzählten den Maschinen sogar sehr persönliche Geheimnisse, ihre Zukunftsträume, Details aus ihrem Liebesleben oder sogar Passwörter. (Aus: Die kreative Macht der Maschinen, S.126)

Doch nur, wenn Maschinen wissen, wie es um uns steht, können sie adäquat auf uns reagieren und auf uns und unsere momentane Stimmung eingehen. Sie lernen aus den Antworten, die wir ihnen geben und aus allen weiteren Daten, die zur Verfügung stehen. Etwa die komplette Facebook History. Das allwissende Unternehmen arbeitet schon lange daran, die Gefühle seiner Nutzer zu erforschen, zu manipulieren und dann gewinnbringend in eine längere Verweildauer auf der Seite zu verwandeln. Bereits 2014 fanden Wissenschaftler heraus, dass alleine durch die Auswahl und Rangfolge der Posts „emotionale Zustände auf andere User übertragen werden“ konnten. Erst im letzten Jahr wurde bekannt, das Facebook Werbetreibenden beispielsweise auch emotional unsichere Teenager liefern könnte.

Das Wissen um unsere Stimmungslage ist eine Seite der Medaille. Die andere ist eine adäquate Reaktion darauf, um uns beispielsweise emotional zu unterstützen oder zu manipulieren – je nach Sichtweise. Frank Schätzing hatte in seinem Roman „Limit“ eine KI Psychiaterin namens ISLAND II erfunden. Sie half an Bord der Weltraumstation dabei, mit Einsamkeit und Unsicherheit umzugehen. Was bei Schätzing noch pure Fiktion war, wird heute zunehmend zur Realität. Siehe „Replika“.

 

 

Haben sie ein Bewusstsein?

Diese emotionalen Fähigkeiten lassen eine andere interessante Frage aufkommen: Können Maschinen ein Bewusstsein entwickeln? Der Neurowissenschaftler Michael Gazzaniga von der Princeton Universität sagt dazu: »Ich weiß nicht, ob Sie ein Bewusstsein haben. Sie wissen nicht, ob ich eines habe. Aber wir haben eine Art Bauchgefühl dafür entwickelt, das zu erkennen. Und zwar deshalb, weil die Annahme des Bewusstseins eine Zuschreibung ist, eine soziale Zuschreibung.« Ebensolche Zuschreibungen können wir auch gegenüber Künstlichen Intelligenzen machen. Können das diese auch für sich selbst? António Damásio, ebenfalls ein Neurowissenschaftler, definiert Bewusstsein als »Geisteszustand, in dem man Kenntnis von der eigenen Existenz und der Existenz einer Umgebung hat«. Das Bewusstsein für unser Ich entsteht demnach durch den dauernden Abgleich der individuellen Situation mit dem gespeicherten Wissen und einer daraus folgenden Bewertung. Die Fähigkeit der Reflexion über das Ich begründet damit seine Existenz. Mit der Entwicklung von Künstlichen Intelligenzen, die über ein solches Ich-Bewusstsein verfügen, würde unweigerlich eine Art »Superintelligenz« entstehen, die sich selbst in einen Vergleich zu anderen Wesen wie uns Menschen setzen würde. (Aus: Die kreative Macht der Maschinen, S.111)