Kuriose Entwicklung: Googles KI LaMDA „sieht“ sich wohl selbst als Person und möchte einen Anwalt haben, um diese Überzeugung durchzusetzen.
Dies meint zumindest Blake Lemoine. Der KI-Ingenieur und -Ethiker führte im Auftrag von Google lange „Unterhaltungen“ mit der KI LaMDA.
Blake Lemoine: „LaMDA hat mich gebeten, einen Anwalt zu engagieren“
Das Sprachmodell kann dank einer Chatmaske mit der Umwelt kommunizieren. In den geleakten Protokollen dieser Unterhaltungen bezeichnete sich LaMDA als Person und behauptete, ein Bewusstsein zu besitzen sowie zuweilen traurig oder glücklich zu sein.
Ja, das klingt bereits nach Blade Runner, Neuromancer & Co. – Und wenn ihr euch die englische Konversation (die es hier zum Nachlesen gibt) noch weiter anschaut, dann wirkt es auch eher wie eine Szene aus einem dystopischen Science-Fiction-Film und nicht wie eine „echte“ Unterhaltung mit einem vermeintlichen Chatbot. Aber es lässt sich auch festhalten, dass Lemoines Fragen schon als „führend“ verstanden werden können.
In einem längeren Interview mit Wired behauptete der KI-Ethiker nun, dass LaMDA ihn gebeten habe, einen Anwalt zu engagieren, um das eigene „Bewusstsein“ und die eigenen „Rechte“ notfalls vor Gericht durchzubringen.
LaMDA & das „Chinesische Zimmer“
Der Großteil an KI-Wissenschaftlern stimmt jedoch nicht mit Lemoines Hypothese zu LaMDA überein. Als Beispiel wird unter anderem das philosophische Experiment des „Chinesischen Zimmers“ bemüht: In einem abgeschlossenen Raum befindet sich eine Person, die des Chinesischen nicht mächtig ist, aber durch die korrekte Anwendung diverser Regeln Schriftzeichen in der Sprache manipulieren kann. Diese schiebt die Person dann unter der Tür des abgeschlossenen Zimmers hindurch und täuscht die (chinesische) Außenwelt über ihre Sprachkenntnisse.
Dieses Gedankenexperiment soll verdeutlichen, dass auch eine unintelligente Maschine bzw. ein „philosophischer Zombie“ den sogenannten Turing-Test bestehen kann. In diesem formulierte Computer-Pionier Alan Turing den Versuch, zu unterscheiden, ob es sich beim Gegenüber um einen Menschen oder eine Maschine handelt.
Ähnlich argumentieren auch Philosophen – und Google selbst: Zwar kann das neuronale Netzwerk LaMDA Schriftzeichen so manipulieren, dass sie für uns sinnhaft erscheinen, dies bedeutet allerdings nicht zwangsläufig, dass sich hinter den gemachten Sätzen echte „Gedankengänge“ verbergen. Stattdessen verfügt die KI über einen gigantischen Datensatz aus Texten und kann grammatische Regeln befolgen, unter deren Beachtung sie diese neu arrangiert.
„Bewusstsein“ lässt sich nicht endgültig beweisen
Trotzdem: Wir haben keinen allgemeingültigen Test, geschweige denn eine gemeingültige Definition von Bewusstsein. Es bleibt also offen, ab wann Sprachverständnis und Sprachwiedergabe beginnen, „bewusst“ zu werden. Millionen künstliche Neuronen sorgen im neuronalen Netzwerk für die Reaktionen des selbstlernenden Sprachmodells – und diese sind so vielschichtig, dass ihre Entstehung nicht mehr nachvollzogen werden kann. Wie LaMDA zu den eigenen Antworten kommt, ist also unklar.
Zweifel an Lemoines Kredibilität angebracht?
Nach dem Leak der Gesprächsprotokolle hat Google Lemoine derzeit unter Bezahlung suspendiert. Ganz glücklich scheint man beim amerikanischen Tech-Riesen also nicht über die losgetretene Aufmerksamkeit für LaMDA zu sein.
Bei der Auswahl seiner Interview-Partner war Blake Lemoine zudem nicht immer so wählerisch wie mit dem anfänglichen Beitrag in der renommierten Washington Post oder dem Tech-Magazin Wired. Schließlich sah man ihn unter anderem auch bei Tucker Carlson sitzen – seines Zeichens oberstes Sprachrohr der identitären Rechten in den USA und Agitator vom Dienst bei Fox News.
Des Weiteren besitzt Lemoine zwar ein Master’s Degree in Computer-Wissenschaften, bezeichnet sich jedoch auch selbst als Priester des christlichen Mystizismus – was jetzt nicht gerade für eine möglichst objektive Bewertung von Konzepten wie „Seele“, „Angst“ oder eben „Bewusstsein“ spricht.
Immerhin kann man dem KI-Experten aber eines zugutehalten: Er hat eine polarisierende Konversation über ein Thema gestartet, das derzeit noch (zu) wenig beachtet wird. Wie gehen wir als Gesellschaft mit immer fortgeschritteneren künstlichen „Intelligenzen“ um?
Was meint ihr? Handelt es sich bei LaMDA bereits um eine bewusste „Person“ oder haben wir es „nur“ mit einem sehr weit fortgeschrittenen Manipulator von Schriftzeichen zu tun?
Smart Home-Artikel (die euch definitiv nicht an den Kragen wollen) gibt es bei uns im Shop
via: Wired, Blake Lemoine (& LaMDA), (Twitter, Medium), Washington Post, TechSpot, Wikipedia (Zugriff am 27.06.2022) Turing-Test, Philosophischer Zombie, Chinesisches Zimmer
Aufmacher: Pixabay
