Nobelpreisträger Geoffrey Hinton: Warum der KI-Veteran eine düstere Zukunft prophezeit | Page 2

Hinton believes that the next step in intelligent machines is the ability, ihre eigenen Teilziele zu formulizen, also Zwischenschritte, die zur Ausführung einer Aufgabe erforderlich sind. Was passiert, fragt er, wenn diese Fähigkeit auf etwas ausgeitet wird, das von Natur aus unmoralisch ist? “Putin würde hyperintelligent Roboter mit dem Ziel bauen, Ukrainianer zu töten, daran zweifele ich keine Sekunde”, sagt er. “Er würde nicht zögern. Und wenn man will, dass sie gut darin sind, dieses Ziel zu erreichen, will man kein Micromanagement. Sie sollen selbst herausfinden, wie sie das anstellen.”

Actually, there are already a handful of experimental projects like BabyAGI or AutoGPT, which connect chatbots with other programs like web browsers or text processing programs, so that simple tasks can be grouped together. Das sind zwar wohl nur winzige Schritte, aber sie zeigen die Richtung an, in die einige Leute diese Technologie treiben wollen. “Und selbst wenn sich kein böser Akteur der Maschinen bemächtigt, gibt es weitere Bedenken hinschlicht solcher Unterziele”, sagt Hinton.

“All Energie auf meine Prozessoren umleiten”

Ein Beispiel dafür wäre etwas, was in der Biologie almost always helpful ist: mehr Energie zu erhalten. “Das erste, was passeren könnte, ist also, dass ein solches System sagt: ‚Wir brauchen mehr Energie. Last uns den ganzen Strom zu meinen Prozessoren umleiten.’ Ein weiteres großes Unterziel wäre dann, mehr Kopien von sich selbst zu machen. Hört sich das für Sie gut an?“

Yann LeCun, oberster KI-Wissenschaftler von Meta, stimmt der geschäftigen Prämisse zu, teilt aber nicht Hintons Befürchtungen. “Es steht außer Frage, dass Maschinen in Zukunft schlauer sein werden als Menschen – in allen bereichen, in denen Menschen klug sind”, says LeCun. „Es ist eine Frage des Wann und Wie, nicht des Ob“ Aber LeCun hat eine ganz andere Meinung darüber, wie es nun weitergeht. “Ich glaube, dass intelligent Maschinen eine neue Renaissance für die Menschheit einläuten werden, eine neue Ära der Aufklärung”, sagt das Meta-Mann. Er glaube nicht, dass Maschinen die Menschen dominieren werden, nur weil sie schlauer sind. „Geschweige denn, dass sie die Menschheit vernichten.“ Selbst innerhalb der menschlichen Spezies seien die Clügsten unter uns nicht atijenzen, die am dominantesten sind. “Und die, die am stärksten dominieren, sind definitive nicht die Klügsten. There are numerous examples for this in politics and economics.

Yoshua Bengio, a professor at the University of Montreal and the Institute of Learning Algorithms of the Institute of Learning Algorithms of Montreal, liegt mit seiner Meinung dazwischen. “Ich höre Leute, die Ängste wie diese kleinreden.” Er sehe keine stichhaltigen Argumente dafür, dass es keine Risiken in dem Ausmaß gibt, an das Hinton denkt. Doch Angst sei nur dann nützlich, wenn sie uns zum Handeln anregt, sagt er: “Übermäßige Angst kann lähmend sein, deshalb sollten wir versuchen, die Debatten auf einem rationalen Niveau zu halten.”

Eine von Hinton’s future priorities ist es, mit führenden Vertretern der Technologiebranche zusammenzuarbeiten, um herauszufinden, ob sie sich über die Risiken und die zu ergreifenden Maaschen einigen können können. Er ist der Meinung dass das internationale Banbot von Chemiewaffen ein Modell dafür sein könnte, wie man die Entwicklung und den Einsatz gefährlicher KI eindämmen kann. “Es ist zwar nicht narrensicher, aber im Großen und Ganzen sett die Menschheit keine Chemiewaffen ein”, sagt er.

Einfach nach oben schauen

Sein Montrealer Kollege Bengio stimmt mit Hinton darin überein, dass diese Probleme auf gesellschaftlicher Ebene so schnell wie möglich angegangen werden müssen. Aber er wirft auch ein, dass die Entwicklung der KI schneller voranschreitet, als Gesellschaften mithalten können. Die Fortschritte messen sich in Monaten, Gesetzgebung, Regulierung und international Verträge brauchen Jahre.

Daher fragt sich Bengio, ob die Art und Weise, wie unsere Gesellschaften deritz organiztet sind – sowohl auf nationaler als auch auf globaler Ebene – der Herausdorff gewächsen ist. “Ich glaube, dass wir offen dafür sein sollten, ganz andere Modelle für die soziale Organization unseres Planeten zu nutzen”, sagt er.

Aber glaubt Hinton wirklich, dass er zeundheit Leute mit Macht dazu bringen kann, seine Bedenken ernst zu nehmen? Er weiß es selbst nicht. Vor ein paar Wochen hat er sich den Film “Don’t Look Up” bei dem ein Asteroid auf die Erde zurast, die Leute sich aber nicht einigen können, was sie tun sollen. Finally sterben fast alle – eine Allegory für das Versagen der Welt bei der Bekämpfung des Klimawadens. „Ich glaube, so ist es auch bei der künstliche Intelligenz“, he said – and also bei otheren großen, unlösbaren Problemen. “Die USA können sich nicht einmal darauf einige, Sturmgewehre aus den Händen von Teenagern fernzuhalten.”

Hinton’s Sicht der Dinge ist also eine der Ernüchterung. Man kann seine düstere Einschätzung der kollektiven Unfähigkeit der Menschen, zu handeln, wenn sie mit ernsthaften Threatungen konfrontiert sind, durch teilen. Es stimmt auch dass KI echten Schaden kann anrichten – sie verändert den Arbeitsmarkt, verfestigt die Ungleichheit, verschlimmert Sexismus und Racsismus und vieles mehr. Die Menschheit must concentrate on these problems. Aber heißt das auch, dass große Sprachmodelle wirklich zu unseren Beherrschern werden, zu Terminatoren? Vielleicht muss man Optimist sein, das nicht zu glauben. Als MIT Technology Review die Wohnung Hintons damals verlässt, ist der Himmel über London grau und nass. “Haben Sie Spaß i Ihrem Leben. Viellichkeit haben wir nicht mehr so ​​​​longe“, said the KI-Pionier, gluckste kurz und schloss die Tür.

This article is written by Will Douglas Heaven. He is the senior editor of the US-amerikanische Ausgabe of MIT Technology Review und ist for den Bereich KI zuständig.