'Never summon a power you can't control': Yuval Noah Harari on how AI could threaten democracy and divide the world
Künstliche Intelligenz
Eine kurze Geschichte von Yuval Noah Harari
Der israelische Historiker Yuval Noah Harari zählt zu den führenden Welterklärern der Gegenwart. In seinem neuen Buch „Nexus“ erläutert er, was die KI mit dem Homo sapiens anstellen könnte. Sebastian Hofer hat sich die „kurze Geschichte der Informationsnetzwerke“ im Schnelldurchgang angesehen.
Am Dienstag dieser Woche erblickte der neue Harari das Licht der Welt beziehungsweise: Die Welt erblickt das Licht des neuen Harari. Das jüngste Buch des israelischen Bestseller-Intellektuellen steht unter dem Titel „Nexus“, was so viel heißt wie „Knotenpunkt“ und in der deutschen Übersetzung erstaunlicherweise erst auf Seite 311 erstmals vorkommt, dort freilich als Fachbegriff aus dem internationalen Steuerrecht und anlässlich der Frage, warum kalifornische und chinesische Digital-Unternehmen in Uruguay keine Abgaben zahlen.
Und schon haben wir das Problem: Bei der großflächigen Belichtung der Welt kann man offenbar auch einmal geblendet werden. Etwa wenn man vor lauter pfiffigen Beispielen bisweilen den Faden verliert und sich die Gegenargumente zur Eingangsthese verhalten wie Äpfel zu Birnen. Das ist insofern seltsam, als der Erfolg des Yuval Noah Harari genau darauf beruht: das ganz große Bild so genau und behutsam nachzuzeichnen, dass man beim Zuschauen nur Nicken kann.
Mit dem Welterfolg seines Bestsellers „Eine kurze Geschichte der Menschheit“ (25 Millionen verkaufte Exemplare; deutsche Ausgabe laut Verlagsangaben seit 350 Wochen auf der „Spiegel“-Bestsellerliste und aktuell in der 43. Auflage, dazu Sondereditionen, Hörbücher und eine Comic-Fassung) hat sich Harari, dessen Spezialgebiet als Historiker die frühneuzeitliche Militärgeschichte ist, als global führender Menschheitserklärer etabliert. Dass der 48-Jährige dabei auch immer wieder einen Hang zur Untergangsprophezeiung beweist, hat seinem Erfolg keinen Abbruch getan, das Schaudern an der Zukunft scheint ein guter Gegenpol zur historischen Erleuchtung.
Also ja, ich will es wissen. Es folgt der Versuch, die Welt, den Menschen, die KI und deren gemeinsame Zukunft endlich wirklich zu verstehen – in einer Marathonlesung von Samstagnachmittag bis Montagabend.
Samstag, 16 Uhr. Einmal Weltuntergang und zurück
Der Autor druckst nicht lange herum, die Zeit drängt, und schon in den ersten Zeilen des Prologs von „Nexus“ ist deswegen von der „existenziellen Krise“ die Rede, die der Menschheit bevorstehe, sowie vom „ökologischen Zusammenbruch“ der Welt und der künstlichen Intelligenz, die das Potenzial habe, „uns zu versklaven oder gar zu vernichten“. Plus: „Ein neuer Weltkrieg scheint nicht mehr undenkbar.“
Ich bin mit meinen Zukunftssorgen offenbar in guter Gesellschaft, möglicherweise mache ich mir sogar noch zu wenig Sorgen, aber dafür gibt es „public intellectuals“ wie Harari, der die Apokalypse schon länger im Repertoire hat, aber meist auch ein paar beruhigende Gedanken obendrauf legt. Tatsächlich wirkt sein Beharren auf die Unerschütterlichkeit der Geschichte tröstlich: Die Zeiträume, von denen da die Rede ist, sind so groß, die Entwicklungen so gigantisch, dass der einzelne Leser vergleichsweise vernachlässigbar erscheint. Das ist, auf eine sehr buddhistische Art, auch beruhigend.
Leider reißt einen Harari immer wieder aus der Meditation, und zwar weniger mit den wiederkehrenden Cliffhangern, die seine Kapitel im bewährten Thrillerstil verknüpfen, sondern mit seinen seltsam hakenschlagenden Argumenten, die eine wohlige Verfolgung leider erschweren.
Noch im Prolog veranschaulicht Harari die KI-Revolution etwa mit dem Beispiel von Goethes „Zauberlehrling“, der die magischen Besen nicht mehr loswird, die er selbst rief – nur um nach einigen Seiten zu erläutern, dass der Vergleich gravierend hinke, weil die Menschheit eben kein egoistisch-kurzsichtiger Zauberlehrling sei, sondern ein vielfältiges verstricktes „Informationsnetzwerk“.
Der etwas unelegante Begriff wird uns leider noch begleiten, denn: „Die zentrale These dieses Buches ist, dass die Menschheit gewaltige Macht erwirbt, indem sie kooperative Netzwerke aufbaut, dass jedoch die Konstruktionsweise dieser Netze dem unklugen Gebrauch dieser Macht Vorschub leistet. Konkret handelt es sich um ein Informationsproblem.“
Und genau solche Informationsprobleme stehen, so eine zentrale These von „Nexus“, im Zeitalter der künstlichen Intelligenz vor der Eskalation. Wir hanteln uns also schon mit Ende des ersten Kapitels bis zum ultimativen Cliffhanger vor: „KI hat das Zeug, nicht nur den Lauf der Geschichte unserer Spezies zu verändern, sondern die Evolution des gesamten Lebens.“
Bei der großflächigen Belichtung der Welt kann man offenbar auch einmal geblendet werden. Etwa wenn man vor lauter pfiffigen Beispielen bisweilen den Faden verliert und sich die Gegenargumente zur Eingangsthese verhalten wie Äpfel zu Birnen.
Sonntag, 11 Uhr. Die Taube und der Pinguin
Yuval Noah Harari hat schon in „Homo Deus“ 2016 den computergestützten Untergang der Menschheit skizziert, damals war die Faktenlage noch etwas weniger dicht, die KI weniger intelligent und der Autor auch noch etwas weniger im Thema. In „Nexus“ findet sich ein Geständnis in Bezug auf „Homo Deus“ anno 2016: „Obwohl der Schwerpunkt meiner akademischen Arbeit auf mittelalterlicher und frühneuzeitlicher Militärgeschichte lag und ich kein Informatiker war, stand ich nach der Veröffentlichung plötzlich im Ruf eines KI-Experten.“
Als solcher erklärt er nun die Basics: „KI ist kein Werkzeug, KI ist ein Akteur.“ Und: „Keimzelle der heutigen Revolution ist der Computer.“ Dem US-Magazin „The New Yorker“ gestand Harari vor vier Jahren einmal sein eigenes Erstaunen über den Erfolg von „Eine kurze Geschichte …“: „Ich dachte: Das ist so banal! Darin steckt absolut nichts Neues. Ich bin kein Archäologe, ich bin kein Primatenforscher. Ich habe null neue Forschung geleistet, ich habe in Wirklichkeit Allgemeinwissen in einer neuen Art präsentiert.“
Tatsächlich basiert der Hararismus auf der spannend erzählten Zusammenfassung von Bekanntem unter großzügiger Einbindung von griffigen Slogans („Geschichte ist nicht die Beschäftigung mit der Vergangenheit, sondern die Beschäftigung mit Veränderung“) sowie mehr oder weniger anschaulichen Vergleichen.
Zum Beispiel das Wappentier am Titelbild. Ich meine nicht den Pinguin, der das Maskottchen von Hararis Verlags ist, sondern die Taube. Früh im Buch erklärt Harari eine Schwierigkeit: „Grundlegende Konzepte zu definieren, ist immer knifflig.“ Das grundlegende Konzept, das er meint, heißt „Information“ und ist freilich der Grundbaustein seines Gedankengebäudes, also muss er die knifflige Aufgabe lösen. Er macht es mit einem Beispiel: „Zur Veranschaulichung wollen wir uns die Geschichte von Cher Ami ansehen.“ So hieß eine Brieftaube, die im Ersten Weltkrieg ein US-Bataillon vor dem Beschuss durch die eigene Artillerie rettete, indem sie die Kommandozentrale über deren Irrtum aufklärte: „Die Taube hatte keine Vorstellung davon, welche Information sie transportierte, doch die Symbole, die mit Tinte auf das Stück Papier geschrieben wurden, das sie trug, bewahrten Hunderte Männer vor Tod oder Gefangenschaft.“ Das ist gewiss eine spannende Geschichte; nur kommt sie leider ohne Pointe aus und vermittelt auch keine tiefere Einsicht. Es wird nicht die einzige Sackgasse bleiben, in die mich „Nexus“ dieser Tage schickt.
Es gehört gewiss zum Handwerk der Welterklärerei, auch aus alltäglichen Banalitäten Funken zu schlagen, und Harari beherrscht diese Disziplin wie kaum ein anderer. Doch die stärksten Punkte von „Nexus“ erweisen sich als Wiederholungen. Immer wieder verweist Harari auf die eigenen Bücher, das habe er hier oder dort schon ausgeführt, „doch an dieser Stelle ist eine kurze Zusammenfassung unerlässlich“. Der Leser betritt ein gut ausgebautes Gedankengebäude, der Eigentümer führt einen gern durch die wichtigsten Räume – und geizt auch nicht mit kleinen Aufmerksamkeiten oder schönen Anekdoten wie der von dem rumänischen Informatiker Gheorghe Iosifescu, dem die Securitate eines Tages im Jahr 1976 einen wortkargen Beobachter an den Schreibtisch setzte, und „so ging es die nächsten dreizehn Jahre weiter, bis zum Zusammenbruch des kommunistischen Regimes im Jahr 1989. Nachdem er all diese Jahre mit ihm am selben Schreibtisch gesessen hatte, kannte Iosifescu nicht einmal den Namen des Agenten.“
Und ja, die Überwachung des Menschen wird im KI-Zeitalter wesentlich subtiler und effektiver funktionieren, aber das ist noch lange nicht das Schlimmste.
Es gehört gewiss zum Handwerk der Welterklärerei, auch aus alltäglichen Banalitäten Funken zu schlagen, und Harari beherrscht diese Disziplin wie kaum ein anderer. Doch die stärksten Punkte von „Nexus“ erweisen sich als Wiederholungen.
Montag, 10 Uhr. Die Büroklammer des Todes
Yuval Noah Harari arbeitete als junger Historiker an der Hebrew University in Jerusalem, als er – so geht die Gründungsgeschichte des Hararismus – aus dem Skript zu seiner Einführungsvorlesung in die Geschichte der Menschheit ein Buch machte. Es geschah im Jahr 2011, und Hararis „Kurze Geschichte der Menschheit“ war in Israel ein respektabler Erfolg, erzeugte aber international kaum Resonanz, bis sie 2013 in neuer Übersetzung und unter dem griffigeren Titel „Sapiens“ noch einmal durchstartete – und richtig abhob: Barack Obama fand das Buch 2016 öffentlich inspirierend, Bill Gates outete sich als Fan, und bald ging Harari mit Mark Zuckerberg und Emmanuel Macron mittagessen oder parlierte beim World Economic Forum mit Angela Merkel. Vor allem die Tech-Giganten im Silicon Valley erkannten in Harari einen echten Propheten – wohl auch deshalb, weil ihre Verantwortung für die gesellschaftlichen Verwüstungen der Gegenwart in seiner Zigtausendjahre-Perspektive eher gering anmutet. Je größer das Bild, desto kleiner das Böse.
Spätestens mit „Nexus“ erweist sich Harari nun aber als Ordo-Liberaler, der darauf besteht, dass den großen Tech-Konzernen ihre Verantwortung vorgehalten und dies auch gesetzlich durchgesetzt wird. Um die Gefahr einer überschießenden KI zu beschreiben, schlägt Harari ein wunderschönes Gedankenexperiment vor, das leider nicht von ihm stammt, sondern von dem schwedischen Zukunftsforscher Nick Bostrom: Ein Büroklammerfabrikant befiehlt darin einem superintelligenten Computer, möglichst viele Büroklammern herzustellen. Die KI nimmt den Auftrag sehr ernst und allzu wörtlich und rottet bald die gesamte Menschheit aus, um alle globalen Rohstoffe für die Herstellung von Büroklammern zu sichern, erobert schließlich auch fremde Planeten und macht unsere Galaxie zu einer einzigen Büroklammer-Fabrik. Fazit (Harari): „Die Gefahr der Computer ist nicht ihre Bosheit, sondern ihre Leistungsfähigkeit.“
Hat er schon erwähnt, dass die Zukunft nicht sehr rosig aussieht?
Vor allem die Tech-Giganten im Silicon Valley erkannten in Harari einen echten Propheten – wohl auch deshalb, weil ihre Verantwortung für die gesellschaftlichen Verwüstungen der Gegenwart in seiner Zigtausendjahre-Perspektive eher gering anmutet. Je größer das Bild, desto kleiner das Böse.
Montag, 18 Uhr. Wir müssen zusammenhalten!
Auf Seite 421 – ich habe inzwischen gelernt, was Computer von Druckerpressen unterscheidet, warum der Stalinismus untergegangen ist und weshalb jüdische Rabbis seit Jahrhunderten über die Tora diskutieren – kommt „Nexus“ ganz plötzlich auf den Punkt. Es folgen neun Zeilen, die ein ganzes Buch in sich tragen: „Zivilisationen entstehen aus der Vermählung von Bürokratie und Mythologie. Das computergestützte Netzwerk ist eine neue Art von Bürokratie, die weitaus mächtiger und unerbittlicher ist als jede menschliche Bürokratie, die wir bisher kannten. Dieses Netzwerk wird wahrscheinlich auch Intercomputer-Mythologien hervorbringen, die weitaus komplexer und fremdartiger sein werden als jeder von Menschen geschaffene Gott. Die potenziellen Vorteile dieses Netzwerks sind enorm. Seine potenzielle Kehrseite ist die Zerstörung der menschlichen Zivilisation.“
Hier also, auf Seite 421, liegt der Kern dieses Buches, hier beweist Harari, warum sich die Menschen gern alles von ihm erklären lassen – mit der Betonung auf „alles“, denn mit dem Erklären hapert es gerade in „Nexus“ immer wieder. Die Taube fliegt ein bisschen zu hoch, um die wesentlichen Details zu sehen.
Zum Beispiel, nicht ganz unwesentlich, die Lösung für unsere zukünftigen Probleme. „Wenn manipulative Bots und undurchschaubare Algorithmen die öffentliche Diskussion bestimmen, könnte dies dazu führen, dass die demokratische Debatte genau dann zusammenbricht, wenn wir sie am dringendsten brauchen“, schreibt Harari, und schon beschleicht einen der Verdacht, dass er die Lösung vielleicht gar nicht wirklich parat hat, immerhin befinden wir uns schon im Schlussspurt Richtung Fußnotenapparat.
Und tatsächlich: „Nexus“ löst sich am Ende in einem eher luftdurchlässigen Fazit auf, wenn Harari in den allerletzten Absätzen darauf hinweist, „dass wir eine bessere Welt schaffen können, wenn wir uns anstrengen“.
Am Montagabend war ich um einen wichtigen Satz gescheiter (immerhin!): Besser die Taube auf dem Cover als der Chatbot im Handy.
