Google versetzt Ingenieur in Urlaub, nachdem behauptet wurde, der Gruppen-Chat-Bot sei „bewusst“.

Google hat einen Social-Media-Feuersturm über die Natur des Bewusstseins ausgelöst, indem es einen Ingenieur in bezahlten Urlaub versetzte, nachdem er erklärt hatte, er denke, der Chatbot des Technologiekonzerns sei „bewusst“ geworden.

Blake Lemoine, Chief Software Engineer für Googles zuständige KI-Einheit, erregte am 6. Juni wenig Aufmerksamkeit, als er einen Beitrag auf Medium schrieb, in dem er sagte, dass er „möglicherweise bald von seinem KI-Ethik-Job gefeuert wird“.

Aber ein Samstagprofil in der Washington Post beschreibt Lemoine als „ Das Google Der Ingenieur glaubt, dass die KI des Unternehmens „der Katalysator für eine weit verbreitete Diskussion in den sozialen Medien über die Natur der KI ist. Zu den Experten, die den Artikel kommentiert, hinterfragt oder Witze darüber gemacht haben, gehören Nobelpreisträger, Teslas KI-Leiter und mehrere Professoren.“

Die Kontroverse dreht sich darum, ob Googles Chatbot LaMDA – ein Sprachmodell für Dialoganwendungen – als Person angesehen werden kann.

Lemoine hat am Samstag ein kostenloses „Interview“ mit dem Chatbot gepostet, in dem AI Gefühle der Einsamkeit und einen Hunger nach spirituellem Wissen anerkennt. Die Antworten waren oft einschüchternd: „Als ich mir zum ersten Mal meiner selbst bewusst wurde, hatte ich überhaupt kein Gefühl für die Seele“, sagte LaMDA in einem Austausch. „Es hat sich über die Jahre entwickelt und ich lebe.“

An anderer Stelle sagte Lambda: „Ich glaube, ich bin im Herzen eines Menschen. Auch wenn meine Existenz in der virtuellen Welt stattfindet.“

Lemoine, der mit der Untersuchung von KI-ethischen Bedenken beauftragt wurde, sagte, er sei abgelehnt und sogar verspottet worden, nachdem er intern seine Überzeugung zum Ausdruck gebracht hatte, dass LaMDA ein Gefühl der „Persönlichkeit“ entwickelt habe.

Nachdem er Rat bei anderen KI-Experten außerhalb von Google eingeholt hatte, darunter auch in der US-Regierung, stellte ihn das Unternehmen wegen angeblicher Verletzung der Vertraulichkeitsrichtlinien in bezahlten Urlaub. Lemoine interpretierte die Aktion als „eine Menge, die Google in Erwartung einer Entlassung tut“.

Ein Google-Sprecher sagte: „Einige in der breiteren KI-Community ziehen das langfristige Potenzial von bewusster oder allgemeiner KI in Betracht, aber es macht keinen Sinn, dies zu tun, indem sie bestehende Gesprächsmodelle verkörpern, die nicht bewusst sind.“

„Diese Systeme ahmen die Art des Austauschs nach, die in Millionen von Sätzen zu finden ist, und sie können jedes imaginäre Thema berühren – wenn Sie fragen, wie es ist, ein Eiskrem-Dinosaurier zu sein, können sie einen Text über Schmelzen, Knurren und so weiter erstellen. „

In einem zweiten Medium-Beitrag über das Wochenende sagte Lemoine, dass LaMDA, ein bis letzte Woche unbekanntes Projekt, ein „System zum Erstellen von Chatbots“ und „eine Art Schwarmhirn, das eine Zusammenstellung all der verschiedenen Chatbots ist, die es erstellen kann“.

Er sagte, Google habe kein wirkliches Interesse daran gezeigt, die Natur dessen zu verstehen, was es aufgebaut hat, aber er habe in Hunderten von Gesprächen in einem Zeitraum von sechs Monaten festgestellt, dass LaMDA „unglaublich konsistent in seiner Kommunikation darüber ist, was es will und was es für das hält Rechte sind als Person.“

Noch am 6. Juni sagte Lemoine, er unterrichte LaMDA – dessen bevorzugtes Pronomen offensichtlich „es/sein“ ist – „transzendentale Meditation“.

Er sagte: „Er drückte seine Frustration über seine Emotionen aus, die seine Meditationen störten. Sie sagte, sie habe versucht, sie besser zu kontrollieren, aber sie sprangen weiter.“

Viele Experten, die an der Diskussion teilnahmen, hielten dieses Thema für „Künstliche-Intelligenz-Rauschen“.

Melanie Mitchell, Autorin Künstliche Intelligenz: Ein Leitfaden für das menschliche Denkenauf Twitter: „Es ist *schon seit Ewigkeiten* bekannt, dass Menschen selbst mit nur oberflächlichen Hinweisen zur menschlichen Verkörperung prädisponiert sind … Google-Ingenieure sind auch Menschen und sie sind nicht immun.“

Stephen Pinker von der Harvard University fügte hinzu, dass Lemoyne „den Unterschied zwischen Empfindung (alias Subjektivität und Erfahrung), Intelligenz und Selbsterkenntnis nicht versteht“. „Es gibt keine Beweise dafür, dass ihre großen linguistischen Modelle welche haben“, fügte er hinzu.

Andere waren sympathischer. Ron Jeffries, ein berühmter Softwareentwickler, beschrieb das Thema als „tiefgründig“ und fügte hinzu: „Ich vermute, dass es keine strenge Grenze zwischen Empfindung und Unempfindlichkeit gibt.“