Jeffrey Hinton, der „Pate der künstlichen Intelligenz“, ist besorgt. Hier ist der Grund.

San Francisco (dpa) – Jeffrey Hintonein preisgekrönter Informatiker, der als „Godfather of Artificial Intelligence“ bekannt ist, macht sich ernsthafte Gedanken über die Früchte seiner Bemühungen..

Hinton half bei der Entwicklung der KI-Technologien, die für eine neue Generation hochleistungsfähiger Chatbots wie ChatGPT erforderlich sind. Aber in jüngsten Interviews sagte er, dass er kürzlich einen hochkarätigen Job bei Google gekündigt habe, um seine Bedenken zu äußern, dass eine ungeprüfte KI-Entwicklung für die Menschheit gefährlich sein könnte.

„Ich habe plötzlich meine Meinung darüber geändert, ob diese Dinger klüger sein werden als wir“, sagte V Interview mit MIT Technology Review. „Ich denke, sie sind jetzt sehr nah dran und werden in Zukunft schlauer sein als wir … Wie überleben wir das?“

Hinton ist mit seinen Bedenken nicht allein. Kurz nachdem das von Microsoft unterstützte Startup OpenAI im März sein neuestes KI-Paradigma namens GPT-4 veröffentlicht hatte, unterzeichneten mehr als 1.000 Forscher und Technologen einen Brief, in dem sie einen sechsmonatigen Stopp der KI-Entwicklung forderten. Weil sie „ernsthafte Gefahren für die Gesellschaft und die Menschheit“ darstellen, sagten sie.

Hier ist ein Blick auf Hintons größte Befürchtungen über die Zukunft der KI … und der Menschheit.

Es dreht sich alles um neuronale Netze

Unser menschliches Gehirn kann Kalküle lösen, Autos fahren und Charaktere in „Kaskaden“ verfolgen, dank seines ursprünglichen Talents, Informationen zu organisieren und zu speichern und Lösungen für heikle Probleme abzuleiten. Die ungefähr 86 Milliarden Neuronen, die in unseren Schädel gepackt sind – und noch wichtiger, die 100 Billionen Verbindungen, die diese Neuronen untereinander herstellen – machen dies möglich.

Im Gegensatz dazu weist die Technologie hinter ChatGPT zwischen 500 Milliarden und 1 Billion Verbindungen auf, sagte Hinton im Interview. Während dies für uns ein Nachteil zu sein scheint, stellt Hinton fest, dass GPT-4, das neueste KI-Modell von OpenAI, „hundertmal mehr“ weiß als jeder einzelne Mensch. Vielleicht, so schlägt er vor, hat es einen „viel besseren Lernalgorithmus“ als wir, was es bei kognitiven Aufgaben effizienter macht.

Künstliche Intelligenz kann tatsächlich schlauer sein als wir

Forscher haben schon lange festgestellt, dass künstliche neuronale Netze viel länger brauchen, um neues Wissen aufzunehmen und anzuwenden, als Menschen, weil ihr Training enorme Mengen an Energie und Daten erfordert. Das ist nicht mehr der Fall, sagt Hinton und merkt an, dass Systeme wie GPT-4 sehr schnell neue Dinge lernen können, wenn die Forscher richtig geschult sind. Dies ähnelt der Art und Weise, wie eine ausgebildete professionelle Physikerin ihr Gehirn viel schneller mit neuen experimentellen Ergebnissen umwickeln kann als ein durchschnittlicher Highschool-Student der Naturwissenschaften.

Dies führt Hinton zu dem Schluss, dass KI-Systeme uns tatsächlich überflügeln könnten. KI-Systeme können Dinge nicht nur schneller lernen, bemerkte er, sondern sie können auch fast sofort Kopien ihres Wissens miteinander teilen.

„Das ist eine ganz andere Form der Intelligenz“, sagte er der Zeitung. „Eine neue und bessere Form der Intelligenz.“

Kriege und Kriegsgerüchte

Was können KI-Systeme, die intelligenter sind als Menschen? Eine besorgniserregende Möglichkeit ist, dass bösartige Einzelpersonen, Gruppen oder Nationalstaaten sie einfach für ihre eigenen Zwecke kooptieren. Hinton ist besonders besorgt darüber, dass diese Werkzeuge trainiert werden könnten, um Wahlen zu beeinflussen und sogar Kriege zu führen.

Beispielsweise könnte die über KI-Chatbots verbreitete Wahldesinformation die zukünftige Version der über Facebook und andere Social-Media-Plattformen verbreiteten Wahldesinformation sein.

Und dies kann nur der Anfang sein. „Glauben Sie keinen Moment, dass Putin keine superintelligenten Roboter bauen wird, um Ukrainer zu töten“, sagte Hinton in dem Artikel. „Er wird nicht zögern.“

Mangel an Lösungen

Unklar ist, wie jemand eine Macht wie Russland daran hindern könnte, KI-Technologie einzusetzen, um ihre Nachbarn oder ihre eigenen Bürger zu kontrollieren. Hinton schlägt vor, dass ein globales Abkommen ähnlich dem Chemiewaffenübereinkommen von 1997 ein guter erster Schritt zur Festlegung internationaler Regeln gegen bewaffnete KI sein könnte.

Obwohl es auch erwähnenswert ist, dass der Chemiewaffenhandel nicht verhinderte, was Ermittler für wahrscheinlich hielten, waren syrische Angriffe mit Chlor und dem Nervengas Sarin gegen Zivilisten in den Jahren 2017 und 2018 während des blutigen Bürgerkriegs des Landes.