Im Jahr 1997 schlug ein von IBM entwickelter Supercomputer namens Deep Blue den besten Schachspieler der Welt, Garri Kasparow. Es war eine Stern-stunde in der Geschichte der Informatik, ein Augenblick, der erdbebengleich unser Bild von Technologie, Intelligenz und Menschsein erschütterte. Heute blicken wir mit Nostalgie darauf zurück. Natürlich besiegt ein Rechner den Schachweltmeister. Wie sollte es anders sein?
Seit es Computer gibt, wird Schach gerne als Test für künstliche Intelligenz herangezogen.1 Das liegt daran, dass die Spielmöglichkeiten beim Schach ans Unendliche grenzen: Es gibt mehr mögliche Schachpartien als Atome im beobachtbaren Universum. Egal aus welcher Spielsituation, man muss nur drei, vier Züge vorausdenken und hat schon Hunderte von Millionen Varianten.
Um einen menschlichen Spieler zu schlagen, muss ein Rechner nicht nur eine unglaubliche Zahl an möglichen Spielverläufen ausrechnen können, sondern auch mithilfe von zuverlässigen Algorithmen entscheiden, was sich auszurechnen lohnt. Anders gesagt: Um einen menschlichen Spieler zu besiegen, muss das Denkhirn des Rechners, obwohl es dem des Menschen haushoch überlegen ist, so programmiert sein, dass es die Qualität von Positionen bewerten kann – dem Rechner muss also ein einigermaßen starkes »Fühlhirn« einprogrammiert sein.2
Seit jenem Tag im Jahr 1997 haben sich die Schachcomputer rasant verbessert. In den folgenden 15 Jahren wurden menschliche Spitzenspieler ein ums andere Mal von Schach-Software gedemütigt, manchmal mit erbärmlichen Ergebnissen.3 Heute kommen Menschen gar nicht mehr mit. Kasparov selbst hat vor Kurzem gescherzt, dass die auf den meisten Smartphones vorinstallierte Schach-App »weitaus stärker ist, als Deep Blue es war«.4 Heutzutage halten Software-Entwickler Turniere ab, in denen ihre Programme gegeneinander antreten. Menschen sind von diesen Turnieren von vornherein ausgeschlossen, sie würden sich dabei wahrscheinlich nicht mal platzieren.
Unangefochtener Champion in der Welt der Schachprogramme war in den letzten Jahren eine Open-Source-Software namens Stockfish. Stockfish hat seit 2014 bei jedem ernstzunehmenden Computerschachturnier den ersten oder zweiten Platz belegt. Das Programm ist ein Gemeinschaftsprojekt von sechs sehr erfahrenen Schachsoftware-Entwicklern und stellt den Gipfel der Schachlogik dar. Stockfish spielt nicht nur Schach, sondern kann auch jedes Spiel, jede Position analysieren und jeden Zug eines Spielers in Sekundenschnelle auf Großmeister-Niveau kommentieren.
Stockfish war weltweit zum Goldstandard der Schachanalyse geworden und hatte es sich auf dem Gipfel des Computerschachs gemütlich gemacht bis 2018 Google ins Spiel kam.
Und ab da wurde es unheimlich.
Google hat ein Programm namens AlphaZero. Es ist kein Schachprogramm, sondern eine Software für künstliche Intelligenz (KI). AlphaZero ist nicht gebaut, um Schach oder irgendein anderes Spiel zu spielen, sondern um zu lernen – und zwar jedes beliebige Spiel.
Anfang 2018 trat Stockfish gegen Googles AlphaZero an. Auf dem Papier war es kein auch nur annähernd faires Duell. AlphaZero kann »nur« 80 000 Positionen pro Sekunde berechnen. Stockfish? 70 Millionen. Von der Rechenleistung her ist das so, als würde ich in der Formel 1 als Fußgänger an den Start gehen.
Aber es wird noch unheimlicher. Am Tag des Matches konnte AlphaZero noch nicht mal Schach spielen. Richtig gelesen – vor seinem Spiel gegen das beste Schachprogramm der Welt hatte AlphaZero weniger als einen Tag Zeit, um von der Pike auf Schach zu lernen. Die Software verbrachte den größten Teil des Tages damit, Schachpartien gegen sich selbst zu simulieren und dabei zu lernen. Strategien und Spielprinzipien entwickelte sie so wie ein Mensch: durch Versuch und Irrtum.
Stell dir vor, man hätte dir soeben die Schachregeln, die Regeln eines der komplexesten Spiele des Planeten erklärt. Jetzt hast du weniger als einen Tag, um dir auf dem Schachbrett durch Ausprobieren irgendwelche Strategien auszudenken. Anschließend trittst du in deinem ersten Spiel überhaupt gegen den Weltmeister an.
Viel Glück.
Aber irgendwie hat AlphaZero gewonnen. Na gut, nicht nur gewonnen. AlphaZero hat Stockfish niedergemacht. Von hundert Partien ging jede einzelne mit einem Remis oder Sieg für AlphaZero aus.
Noch einmal: Nur neun Stunden nach Erlernen der Schachregeln nahm es AlphaZero mit dem weltbesten, stärkstmöglichen Gegenspieler auf und verlor von hundert Partien keine einzige. Dieses Ergebnis war so beispiellos, dass man es immer noch nicht einzuordnen vermag. Menschliche Großmeister bestaunten die Kreativität und Genialität von AlphaZero. Einer von ihnen, Peter Heine Nielsen, schwärmte: »Ich habe immer darüber nachgedacht, wie es wohl sein würde, wenn eine überlegene Spezies auf der Erde landen würde und uns zeigen würde, wie sie Schach spielten. Ich weiß jetzt, wie sich das anfühlt.«5
Als AlphaZero mit Stockfish fertig war, machte es keine Pause. Pfff! Pausen sind was für schwächliche Menschen. Nein, kaum war Stockfish erledigt, brachte sich AlphaZero ein Strategiespiel namens Shōgi bei.
Shōgi wird oft als japanisches Schach bezeichnet, dabei gilt es als noch komplexer als Schach.6 Kasparov verlor bereits 1997 gegen einen Rechner, aber im Shōgi unterlagen die Spitzenspieler erst ab 2013 den Maschinen. Wie dem auch sei – AlphaZero vernichtete die beste Shōgi-Software (»Elmo« genannt), und zwar mit ähnlich staunenerregendem Abstand: Von hundert Partien gewann es 90, verlor acht und beendete zwei mit unentschieden. Auch Elmo gegenüber war AlphaZero an Rechenleistung weit unterlegen. (Seinen 40 000 Zügen pro Sekunde setzte Elmo 35 Millionen entgegen.) Und auch von Shōgi hatte AlphaZero am Tag zuvor noch keinen blassen Schimmer gehabt.
Vormittags hatte sich AlphaZero also zwei unendlich komplexe Spiele draufgeschafft. Und noch vor Sonnenuntergang hatte es die berühmtesten Gegenspieler der Welt demontiert.
Eilmeldung: Künstliche Intelligenz ist im Kommen. Schach und Shōgi sind nur Brettspiele, aber sobald die KI vom Spielbrett gelassen wird und Einzug in die Chefetage erhält … werden du und ich und alle anderen wohl arbeitslos werden.7
KI-Programme haben bereits ihre eigenen Sprachen erfunden, die wir Menschen nicht entziffern können, sie übertreffen Ärzte bei der Diagnose von Lungenentzündung und haben sogar schon passable Harry-Potter-Kapitel verfasst.8 Während ich dies schreibe, stehen wir kurz davor, selbstfahrende Autos, automatische Rechtsberatung und sogar computergenerierte Kunst und Musik zu haben.9
Langsam, aber sicher wird KI auf so ziemlich allen Gebieten – Medizin, Ingenieurswesen, Architektur, Kunst, technische Innovation – besser werden als wir: Wir werden von KI gedrehte Filme gucken, über die wir dann in von KI konstruierten Web-Plattformen oder Apps diskutieren, moderiert von KI – und auch unser Gesprächspartner wird möglicherweise eine KI sein.
Aber so verrückt das auch klingen mag – es ist erst der Anfang. Denn so richtig krass wird es erst dann, wenn eine KI bessere KI-Software schreibt als ein Mensch.
Wenn dieser Tag kommt, wenn eine künstliche Intelligenz also bessere Versionen ihrer selbst zeugen kann, dann heißt es anschnallen, Freunde, denn es wird ein wilder Ritt, und wir werden nicht mehr Ziel und Richtung bestimmen.
Die künstliche Intelligenz wird der unseren eines Tages so weit überlegen sein, dass wir ihre Entscheidungen nicht mehr nachvollziehen können. Autos werden uns abholen, ohne dass wir den Grund wissen, und uns an Orte bringen, von deren Existenz wir nichts wussten. Aus heiterem Himmel wird man uns Medikamente gegen ungeahnte Erkrankungen verschreiben. Womöglich wechseln unsere Kinder die Schule, ändern wir unsere Karriere, verschiebt sich plötzlich die Wirtschaftspolitik, schreibt die Regierung einfach die Verfassung um, und niemand von uns wird die Gründe dafür ganz verstehen. Es wird einfach passieren. Unser Denkhirn wird dafür zu langsam sein, und unser Fühlhirn zu sprunghaft und risikobereit. Ähnlich wie AlphaZero, das sich in wenigen Stunden Schachstrategien ausdachte, auf die selbst die größten Schachgenies nicht gefasst waren, könnte eine fortgeschrittene KI die Gesellschaft und unseren Stand darin auf unvorstellbare Weise neu organisieren.
Dann wären wir wieder da, wo wir begonnen haben: bei der Anbetung übermächtiger und undurchschaubarer Mächte, die unser Schicksal scheinbar bestimmen. So wie die Urmenschen ihre Götter um Regen oder Feuer anflehten, so wie sie Opfer und Geschenke darbrachten, Riten vollführten und ihr Verhalten und Erscheinungsbild den vermeintlichen Wünschen der Naturgeister anpassten, so werden wir es auch wieder machen. Nur werden wir uns nicht primitiven Göttern, sondern künstlich intelligenten Göttern unterwerfen.
Um die Algorithmen wird sich Aberglauben ranken. Zieh dies oder jenes an, dann bevorzugen dich die Algorithmen. Steh zur richtigen Uhrzeit auf, sag das Richtige und komm an den richtigen Ort, dann segnen die Maschinen dich mit Reichtümern. Sei immer rechtschaffen, tu niemandem Böses und sorge für dich und die Deinen, dann schützen dich die KI-Götter.
Die alten Götter werden durch neue ersetzt: durch Algorithmen. Und die Ironie der Evolution will es, dass eben die Wissenschaft, die die alten Götter umbrachte, auch die neuen Götter baut. Die Menschheit wird zur Frömmigkeit zurückfinden. Und unsere Religionen werden sich nicht sehr von denen des Altertums unterscheiden – schließlich ist unser Geist evolutionär darauf festgelegt, alles zu vergöttern, was er nicht versteht; alle Mächte zu verherrlichen, die uns helfen oder schaden; alle unsere Erfahrungen mit einem Gerüst aus Werten zu umbauen; in allem den Hoffnung spendenden Konflikt zu suchen.
Warum sollten wir mit einer KI anders umgehen?
Unsere KI-Götter werden das natürlich verstehen. Entweder wird ihnen ein »Upgrade« unseres Gehirns gelingen, das uns von dem primitiven Verlangen nach Konflikt erlöst, oder sie werden uns einfach mit künstlichem Konflikt versorgen. Wir werden so etwas wie ihre Hunde sein und in dem Glauben, unser Revier zu markieren und es zähnefletschend zu verteidigen, tatsächlich nur digitale Laternen und Zaunpfähle anpinkeln.
Das mag dir Angst einjagen. Das mag dich freuen. Wie dem auch sei, es wird wohl unausweichlich sein. Macht erwächst aus der Fähigkeit zur Datenverarbeitung und -manipulation, und das, was Macht über uns ausübt, beten wir früher oder später an.
Also möchte ich mit Verlaub erklären, dass mir persönlich unsere KI-Herren willkommen sind.
Ich weiß, das ist nicht die endgültige Religion, die du dir von dieser Lektüre erhofft hast. Aber darin lag dein Fehler: Du hast gehofft.
Jammere nicht über den Verlust deiner Entscheidungsmacht. Wenn du etwas dagegen hast, dich nach programmierten Algorithmen zu richten, solltest du eins wissen: Du tust es bereits. Und es gefällt dir.
Die Algorithmen steuern bereits einen Großteil unseres Lebens. Deinen Weg zur Arbeit hat dir ein Algorithmus gezeigt. Die Unterhaltungen, die du diese Woche mit deinen Bekannten hattest? Viele davon beruhten auf Algorithmen. Das Geburtstagsgeschenk für dein Kind, die Menge an Toilettenpapier, die in der Deluxe-Packung enthalten war, die 50 Cent, die dir als Mitglied des Bonussystems im Supermarkt gutgeschrieben wurden – alles Ergebnisse von Algorithmen.
Wir brauchen diese Algorithmen, weil sie uns das Leben erleichtern. Und das werden die algorithmischen Götter der Zukunft auch tun. Und wir werden sie dafür bejauchzen und lobpreisen. Wir werden uns ein Leben ohne sie gar nicht mehr vorstellen können.10 Algorithmen machen unser Leben besser. Sie machen unser Leben effizienter. Sie machen uns effizienter.
Deshalb gibt es, sobald wir die Schwelle überschritten haben, kein Zurück mehr.
Wir sind schlechte Algorithmen
Betrachten wir die Weltgeschichte noch ein letztes Mal aus einem anderen Blickwinkel:
Der Unterschied zwischen Leben und Materie? Leben ist sich selbst replizierende Materie. Leben besteht aus Zellen mit DNA, die immer mehr Kopien ihrer selbst erzeugt.
Im Laufe von mehreren Hundert Jahrmillionen brachten einige der urzeitlichen Lebensformen Rückkopplungsmechanismen hervor, die zur Reproduktion beitrugen. So ein frühes Urtierchen bildet womöglich an seiner Membran kleine Sensoren zum Aufspüren von Aminosäuren aus, weswegen es mehr Kopien seiner selbst herstellen kann und einen Vorteil gegenüber anderen Einzellern hat. Aber dann entwickelt sich vielleicht bei einem anderen Einzeller irgendetwas, was die Sensoren anderer Amöben »überlistet« und ihre Nahrungsaufnahme zu seinen Gunsten behindert.
Praktisch ist seit Anbeginn ein biologisches Wettrüsten im Gange. Ein kleiner Einzeller entwickelt eine coole Strategie, die ihm mehr Materie für Wachstum und Fortpflanzung sichert, als die anderen Einzeller haben. Dadurch verfügt er über mehr Ressourcen und zeugt mehr Nachkommen. Dann evolviert ein anderer kleiner Einzeller und kommt mit einer noch besseren Methode zur Nahrungsaufnahme um die Ecke, und schon ist er mit Reproduzieren dran. Das geht dann ein paar Milliarden Jahre so weiter, bis Echsen da sind, die zur Tarnung ihre Hautfarbe wechseln, Affen, die Tierlaute nachahmen, und unsichere, geschiedene Männer mittleren Alters, die viel zu viel Geld in rote Sportwagen stecken – nur weil es ihrem Überleben und ihrer Fortpflanzung dient.
Das ist die Geschichte der Evolution – Überleben des Stärkeren und so weiter.
Aber man kann das alles auch aus einem anderen Blickwinkel sehen. Man könnte auch vom »Überleben der besten Datenverarbeitung« sprechen.
Gut, das klingt weniger griffig, ist aber womöglich akkurater.
Denn bei der Amöbe, die mit ihren neu entwickelten Sensoren besser Aminosäuren entdecken kann, ist im Grunde eine Art Datenverarbeitung im Gange. Sie ist besser als andere Organismen in der Lage, Daten über ihr Umfeld zu sammeln. Und da sie besser Daten verarbeiten kann als die Schleimklümpchen um sie herum, hat sie im evolutionären Wettrennen gewonnen und verbreitet ihre Gene.
In ähnlicher Weise hat auch die Echse mit der veränderlichen Hautfarbe eine Methode gefunden, visuelle Informationen so zu manipulieren, dass Raubtiere sie übersehen. Bei den Affen mit ihren Tierlauten ist es genau so. Dito bei dem Typen mit dem Audi TT (na, vielleicht auch nicht).
Die Evolution belohnt die mächtigsten Lebewesen, und Macht entsteht aus der Fähigkeit, Informationen effektiv zu beschaffen, zu nutzen und zu manipulieren. Löwen können ihre Beute aus fast 2 Kilometer Entfernung hören. Bussarde erkennen Ratten aus 1000 Meter Höhe. Wale erfinden eigene Lieder und können sich über 150 Kilometer hinweg unter Wasser verständigen. Das sind Beispiele für außergewöhnliche Datenverarbeitungsfähigkeiten, die entscheidend für die Überlebens- und Reproduktionsfähigkeit des Tieres sind.
Körperlich sind Menschen nichts Besonderes. Wir sind schwach, langsam, gebrechlich und schnell müde.11 Aber dafür sind wir die besten Datenverarbeiter der Natur. Wir sind die einzige Tierart, die sich Vergangenheit und Zukunft vorstellen kann, die lange Kausalketten ableiten kann, die in abstrakten Begriffen planen und taktieren kann, und die ununterbrochen bauen und erfinden und Probleme lösen kann.12 Nach Jahrmillionen der Evolution hat unser Denkhirn (Kants heiliges Bewusstsein) in wenigen Jahrtausenden den ganzen Planeten bezwungen und ein riesenhaftes Gewebe aus Produktion, Technik und Kommunikation erschaffen.
Das liegt daran, dass wir Algorithmen sind. Das Bewusstsein selbst ist aus Riesenmengen von Algorithmen und Entscheidungsbäumen geknüpft – Algorithmen aus Werten, Wissen und Hoffnung.
Unsere Algorithmen haben in den ersten paar Hundert Jahrtausenden prima funktioniert. Sie funktionierten in der Savanne, als wir Büffel jagten und in kleinen Nomadengruppen umherzogen und in unserem ganzen Leben nicht mehr als 30 Leute kennenlernten.
Aber für eine global vernetzte Weltwirtschaft mit Milliarden von Menschen, mit Tausenden Atomwaffen, mit von Facebook durchlöcherter Privatsphäre und holografischen Michael-Jackson-Konzerten taugen unsere Algorithmen nicht wirklich. Sie geben den Geist auf und führen uns in endlose Konfliktspiralen, die – so will es das Wesen unserer Algorithmen – keine endgültige Befriedigung, keinen beständigen Frieden hergeben.
Vielleicht hast du schon mal den schonungslosen Rat bekommen, dass alle deine miesen Beziehungen eins gemeinsam haben: dich. Nun, das Einzige, was die größten Probleme der Welt gemeinsam haben, ist der Mensch. Atomwaffen wären gar kein Problem, wenn nicht dumme Arschlöscher am Drücker säßen. Bio- und Chemiewaffen, Klimawandel, Artensterben, Völkermord – alles kein Thema, wenn wir nicht wären.13 Häusliche Gewalt, Vergewaltigung, Geldwäsche, Betrug – geht alles auf unsere Kappe.
Das Leben ist auf Algorithmen aufgebaut. Wir sind eben die raffiniertesten und komplexesten Algorithmen, die die Natur je hervorgebracht hat, der Zenit von gut einer Milliarde Jahren Evolution. Und nun stehen wir kurz davor, Algorithmen zu erschaffen, die exponentiell besser sein werden als wir.
Trotz all unserer Errungenschaften ist der menschliche Geist nach wie vor unglaublich fehlerbehaftet. Unsere Datenverarbeitungsfähigkeit wird von unserem emotionalen Bedürfnis nach Selbstvergewisserung ausgebremst. Sie wird durch verzerrte Wahrnehmung nach innen verbogen. Das Denkhirn wird regelmäßig von den unersättlichen Begierden des Fühlhirns in Geiselhaft genommen und in den Kofferraum des Bewusstseinsautos gesperrt, meistens auch noch geknebelt und zugedröhnt.
Und wie bereits festgestellt wird unser moralischer Kompass allzu oft vom Bedürfnis nach Hoffnung spendendem Konflikt vom Kurs abgebracht. Der Moralphilosoph Jonathan Haidt stellt fest: »Moralität verbindet und verblendet.«14 Unser Fühlhirn besteht aus veralteter, abgelaufener Software. Unser Denkhirn mag in Ordnung sein, aber es ist zu langsam und umständlich, um weiterhin von Nutzen zu sein. Frag mal Garri Kasparow.
Wir sind eine selbsthassende, selbstzerstörerische Tierart.15 Das ist kein moralisches Urteil, sondern eine Tatsache. Diese innere Spannung, die wir alle ständig verspüren? Die hat uns so weit gebracht. Die hat uns an diesen Punkt geführt. Zu diesem Wettrüsten. Und bald geben wir den evolutionären Staffelstab an die führenden Datenverarbeiter der nächsten Epoche ab: an die Maschinen.
Auf die Frage nach den dringlichsten Gefahren für die Menschheit erwiderte Elon Musk rasch, es gäbe drei: Erstens, ausufernder Atomkrieg; zweitens, Klimawandel – und dann verstummte er, ohne die dritte Gefahr zu nennen. Sein Gesicht verdüsterte sich. Gedankenversunken blickte er zu Boden. Als der Interviewer ihn fragte, was die dritte Bedrohung sei, antwortete er mit einem Lächeln: »Hoffentlich beschließen die Computer, nett zu uns zu sein.«
Die Angst geht um, dass künstliche Intelligenz die Menschheit auslöschen könnte. Manche fürchten, dies würde in einem dramatischen Showdown à la Terminator 2 geschehen. Andere haben die Sorge, dass uns irgendeine Maschine »aus Versehen« umbringt, dass eine KI, die bessere Produktionsmethoden für Zahnstocher finden soll, irgendwie auf die Idee kommt, das optimale Rohmaterial wären menschliche Körper.16 Bill Gates, Stephen Hawking und Elon Musk sind nur einige der führenden Köpfe, die sich in die Hose machen beim Gedanken daran, wie rasant KI sich weiterentwickelt, und wie unvorbereitet unsere Spezies auf die Auswirkungen ist.
Aber ich finde diese Furcht ein bisschen albern. Zum einen: Wie will man sich auf etwas vorbereiten, was so viel intelligenter ist? Das ist, als ob man einen Hund für ein Schachspiel trainiert – gegen Kasparow. Egal wie sehr sich der Hund den Kopf zerbricht, es nützt nichts.
Aber vor allem kann es sehr gut sein, dass der maschinelle Sinn für Gut und Böse den unseren übersteigt. Während ich dies schreibe, sind auf der Welt fünf verschiedene Völkermorde im Gang.17 795 Millionen Menschen hungern oder sind unterernährt.18 In der Zeit, die du bis zum Ende des Kapitels brauchst, werden allein in den USA mehr als hundert Menschen in der eigenen Wohnung von einem Familienmitglied geschlagen, misshandelt oder getötet.19
Birgt KI Gefahren? Bestimmt. Aber moralisch gesehen werfen wir im Glashaus mit Steinen. Was wissen wir schon über Ethik, über den Umgang mit Tieren, der Umwelt und unseren Mitmenschen? Richtig: Ziemlich genau gar nichts. Immer wenn es um Moralfragen ging, hat die Menschheit in ihrer Geschichte den Test ein ums andere Mal nicht bestanden. Superintelligente Maschinen werden vermutlich hinter den Sinn von Leben und Tod, Schöpfung und Zerstörung kommen, und zwar auf einer höheren Ebene, als wir es je könnten. Die Vorstellung, dass sie uns auslöschen könnten, weil wir ihnen nicht mehr produktiv genug sind oder sie manchmal nerven, ist vermutlich nur eine Projektion unserer eigenen Psychologie auf etwas, das wir nicht verstehen und nie verstehen werden.
Ich hätte noch eine Idee: Was, wenn die Technologie so weit fortschreitet, dass sie das individuelle menschliche Bewusstsein überflüssig macht? Was, wenn das Bewusstsein nach Belieben repliziert, ausgedehnt und verdichtet werden kann? Was, wenn ein weitaus ethischeres und gedeihlicheres Ergebnis dadurch möglich wird, dass wir auf die klobigen, ineffizienten biologischen Fesseln verzichten, die wir »Körper« nennen, oder auf die klobigen, ineffizienten psychologischen Fesseln, die wir »Individuum« nennen? Was, wenn die Maschinen zu dem Schluss kommen, dass wir viel glücklicher wären, wenn sie uns aus unserem kognitiven Gefängnis befreiten und unsere Selbstwahrnehmung auf sämtliche wahrnehmbare Wirklichkeit ausdehnten? Was, wenn sie uns für einen Haufen sabbernder Idioten halten und uns mit perfekten virtuellen Pornos und köstlicher Pizza ruhigstellen, bis wir an unserer Sterblichkeit zugrunde gehen?
Wissen können wir das nicht. Und entscheiden noch weniger.
Nietzsche schrieb seine Bücher nur wenige Jahrzehnte, nachdem Darwin 1859 sein Buch Über den Ursprung der Arten veröffentlichte. Als Nietzsche die Bühne betrat, war man allerorts noch ganz verblüfft von Darwins großartigen Entdeckungen und versuchte, ihre tiefere Bedeutung zu begreifen.
Und während sich alle darüber in die Wolle kriegten, ob der Mensch jetzt tatsächlich vom Affen abstammt oder nicht, blickte Nietzsche mal wieder als Einziger in die entgegengesetzte Richtung. Für ihn war es selbstverständlich, dass wir von Affen abstammten. Wieso, fragte er, gingen wir sonst so scheußlich miteinander um?
Statt zu fragen, aus was wir uns entwickelt hätten, fragte Nietzsche, wozu wir uns entwickeln würden.
Nietzsche nannte den Menschen einen Übergang, auf einem zwischen zwei Klippen gespannten Seil balancierend, hinter sich das Tier und vor sich etwas Größeres. Sein Lebenswerk war der Erkundung dieses Größeren und unseres möglichen Weges dorthin gewidmet.
Nietzsche sah eine Menschheit vor sich, die religiöse Hoffnung hinter sich gelassen hatte, die sich »jenseits von Gut und Böse« befand und über die Streiterei zwischen gegensätzlichen Wertesystemen erhaben war. Denn diese Wertesysteme enttäuschen uns und quälen uns und halten uns in selbstverschuldeten emotionalen Löchern gefangen. Die emotionalen Algorithmen, die das Leben vor purer Freude himmelhoch erscheinen lassen, sind die gleichen Kräfte, die uns zersetzen und von innen her kaputt machen.
Bisher hat digitale Technik die fehlerhaften Algorithmen des Fühlhirns ausgenutzt. Sie hat unsere Widerstandskraft zermürbt und uns abhängig von frivolen Ablenkungen und Genüssen gemacht, weil diese Ablenkungen unglaublich profitabel sind. Zwar hat die Technik große Teile des Planeten von Armut und Tyrannei befreit, aber dabei hat sie eine neue Tyrannei geschaffen: eine Tyrannei aus leerer, sinnloser Vielfalt, einen endlosen Strom unnötiger Wahlmöglichkeiten.
Außerdem hat sie uns mit derart verheerenden Waffen ausgestattet, dass wir, wenn wir nicht aufpassen, das gesamte Experiment »Intelligentes Leben« sabotieren könnten.
Ich glaube, dass es sich bei der künstlichen Intelligenz um das Nietzscheanische »Größere« handelt. Sie ist die endgültige Religion, die Religion jenseits von Gut und Böse, die Religion, die uns endlich alle auf Gedeih und Verderb vereinen und verbinden wird.
Jetzt müssen wir nur noch aufpassen, dass wir uns nicht in die Luft sprengen, bevor es so weit ist.
Und das geht nur, wenn wir die Technik zugunsten unseres fehlerhaften Bewusstseins anpassen, anstatt seine Fehler auszunutzen.
Wenn wir technische Mittel erschaffen, um charakterliche Stärke und Reife in unseren Kulturen zu fördern, anstatt uns vom inneren Wachstum abzulenken.
Wenn wir Tugenden wie Autonomie, Freiheit, Privatsphäre und Würde nicht nur in Gesetzen verankern, sondern auch in Geschäftsmodellen und im täglichen Umgang.
Wenn wir Menschen nicht als Mittel behandeln, sondern als Ziel und Zweck, und zwar nicht nur einzelne, sondern viele.
Wenn wir jeden von uns zu Antifragilität und selbstauferlegtem Verzicht ermutigen, anstatt auf sämtliche Befindlichkeiten Rücksicht zu nehmen.
Wenn wir Methoden entwickeln, durch die Denkhirn und Fühlhirn besser kommunizieren und zusammenwirken können, wodurch die Illusion größerer Selbstbeherrschung entsteht.
Mag ja sein, dass du zu diesem Buch gegriffen hast, weil du nach Hoffnung suchst, nach einer Garantie dafür, dass alles besser wird – mach dies, das und jenes, und alles wird gut.
Tut mir leid. Die Art von Antwort habe ich nicht zu bieten. Die hat niemand. Denn selbst wenn alle heutigen Probleme durch Zauberei gelöst werden, hat unser Bewusstsein immer noch die unvermeidliche Beschissenheit von morgen im Blick.
Statt nach Hoffnung zu suchen, kannst du Folgendes probieren:
Nicht hoffen.
Auch nicht verzweifeln.
Am besten gar nicht erst glauben, du wüsstest irgendwas. Das vermeintliche Wissen mit blinder, eifernder, emotionaler Gewissheit ist es, was uns überhaupt erst in Schwierigkeiten bringt.
Nicht auf Besserung hoffen. Einfach besser sein.
Besser werden. Mitfühlender, nachgiebiger, demütiger, disziplinierter werden.
Viele würden noch hinzufügen: »Menschlicher werden«, aber nein – lieber ein besserer Mensch werden. Und vielleicht werden wir eines Tages das Glück haben, mehr als menschlich zu sein.
Hoffnung wagen?
Nun, meine Freunde, im Augenblick des Abschieds von euch und angesichts unserer heutigen und morgigen Sorgen und Nöte erlaube ich mir, ja wage ich zu hoffen …
Ich wage auf eine Welt nach der Hoffnung zu hoffen, auf eine Welt, in der Menschen nicht als Mittel, sondern immer als Zweck behandelt werden, in der keine Seele für höhere religiöse Ziele geopfert wird, in der niemand aus Boshaftigkeit und Gier oder Rücksichtslosigkeit verletzt wird, in der die Fähigkeit, vernünftig zu denken und zu handeln, allgemein hochgeschätzt wird, und in der all dies nicht nur in den Herzen gilt, sondern auch in unseren Institutionen und Geschäftsmodellen.
Ich wage zu hoffen, dass die Menschen damit aufhören, entweder Denkhirn oder Fühlhirn zu unterdrücken, und stattdessen beide Teile in einem Bund der emotionalen Stabilität und psychologischen Reife zusammenführen; dass die Menschen aufmerksam werden für die Abgründe ihrer eigenen Sehnsüchte, für die Verführungskraft ihrer Bequemlichkeit und die Zerstörungskraft ihrer Launen; und dass sie stattdessen den unbequemen Weg des Wachstums wählen.
Ich wage zu hoffen, dass die Menschen die falsche Freiheit der Vielfalt eines Tages gegen die tiefere, bedeutendere Freiheit der Verpflichtung eintauschen; dass sie sich für die Selbstbeschränkung entscheiden statt für das närrische Streben nach Selbstbefriedigung; dass sie nicht der Welt, sondern sich selbst mehr abverlangen.
Nebenbei wage ich zu hoffen, dass das Geschäftsmodell Onlinewerbung eines Tages auf einem brennenden Müllhaufen landet; dass die Medien dann, weil der Anreiz fehlt, ihre Inhalte nicht mehr auf emotionale Wucht optimieren, sondern auf Informationswert; dass die digitale Welt nicht mehr unsere seelischen Schwächen ausnutzt, sondern sie möglichst ausgleicht; dass Informationen wieder einen Wert haben; dass überhaupt irgendwas wieder einen Wert hat.
Ich wage zu hoffen, dass die Suchmaschinen und die Algorithmen der sozialen Medien auf Wahrheit und gesellschaftliche Relevanz optimiert werden, statt den Leuten einfach das zu zeigen, was sie sehen wollen; dass es unabhängige Algorithmen geben wird, die die Stichhaltigkeit von Schlagzeilen, Websites und Meldungen in Echtzeit prüfen, sodass wir schneller den Propaganda-Müll von der quellengestützten Wahrheit trennen können; dass es einen aufrichtigen Respekt vor empirisch belegten Fakten geben wird, denn im Ozean aller möglichen Meinungen ist der empirische Nachweis unser einziger Rettungsring.
Ich wage zu hoffen, dass wir eines Tages künstliche Intelligenz haben werden, die sich den ganzen Scheiß, den wir von uns geben, anhört und durchliest und dann unsere kognitiven Verzerrungen, unbelegten Annahmen und Vorurteile (vielleicht nur für uns) markiert – etwa indem dich dein Smartphone per Pop-up benachrichtigt, wenn du gerade im Streit mit deinem Onkel die Arbeitslosenquote maßlos aufgebauscht hast, oder wenn dir letzte Nacht ein komplett hirnrissiger Wut-Tweet nach dem anderen entschlüpft ist.
Ich wage zu hoffen, dass es Mittel geben wird, mit deren Hilfe Menschen Statistiken, Proportionen und Wahrscheinlichkeiten besser verstehen. Damit sie einsehen, dass es sie selbst nicht betrifft, wenn irgendwo auf der Welt ein paar Menschen erschossen werden, egal wie schrecklich es im Fernsehen aussieht; dass die meisten »Krisen« statistisch unerheblich und/oder Datenmüll sind; und dass die meisten wahren Krisen zu langsam und unspektakulär heraufziehen, um die verdiente Aufmerksamkeit zu bekommen.
Ich wage zu hoffen, dass in der Bildung der dringend nötige Umbau geschieht, und dass er nicht nur therapeutische Ansätze zur Unterstützung der emotionalen Entwicklung miteinbezieht, sondern Kindern auch ermöglicht, zu toben und sich die Knie aufzuschlagen und allerlei Unfug anzustellen. Kinder sind Könige und Königinnen der Antifragilität, Meister und Meisterinnen des Schmerzes. Nur wir haben Schiss.
Ich wage zu hoffen, dass die nahenden Katastrophen des Klimawandels und der Automation durch die kommende KI-Revolution und die dadurch bewirkte technologische Explosion abgefangen, wenn nicht gar abgewendet werden können; dass uns in der Zwischenzeit nicht irgendein dummes Arschloch mit Atomwaffen pulverisiert; und dass uns keine neugegründete, radikale Menschenreligion dazwischenkommt und uns, wie schon so oft in der Geschichte, zur Aufgabe unserer Menschlichkeit überredet.
Ich wage zu hoffen, dass KI möglichst hurtig in eine virtuelle Realität mit neuartiger Religion implementiert, die so fesselnd ist, das niemand sich lang genug davon losreißt, um andere zu quälen oder umzubringen. Das wird eine Kirche in der Cloud sein, nur dass sie sich anfühlt wie ein universelles Videospiel. Opfergaben und Riten und Sakramente wird es dort ebenso geben wie Punkte und Bonusse und höhere Level für die Strenggläubigen. Dort loggen wir uns ein und bleiben eingeloggt, denn es wird unser einziger Draht zu den KI-Göttern sein und daher auch der einzige Brunnen, aus dem wir unseren unersättlichen Durst nach Sinn und Hoffnung stillen können.
Manche werden sich natürlich gegen die neuen KI-Götter auflehnen. Aber das ist einkalkuliert, denn die Menschheit braucht aufrührerische Andersgläubige, nur an ihnen beweisen wir unsere Bedeutsamkeit. Gruppen von Ketzern und Ungläubigen werden in der virtuellen Landschaft auftauchen, und wir werden viel Zeit mit dem Beschimpfen und Bekämpfen dieser Abspalter verbringen. Wir werden die Glaubwürdigkeit und die Errungenschaften der Gegenseite nach Kräften in den Dreck ziehen, ohne zu merken, dass das eingeplant ist. Da die KI merken wird, dass die produktive Energie der Menschen erst durch Konflikt zutage tritt, wird sie im gefahrlosen virtuellen Raum reihenweise künstliche Krisen generieren und die so gewonnene Produktivität und Genialität höheren Zwecken zuführen, von denen wir gar keine Ahnung haben werden. Die Hoffnung der Menschen wird als Ressource genutzt, als nie versiegende Quelle kreativer Energie.
An digitalen Altären werden wir der KI huldigen. Wir werden ihre willkürlichen Regeln befolgen und ihre Spiele mitspielen, nicht weil wir dazu gezwungen werden, sondern weil sie so gut gestaltet sein werden, dass wir mitmachen wollen.
Unser Leben muss einen Sinn haben, und auch wenn der verblüffende Fortschritt der Technik die Sinnfindung erschwert hat, bestünde die ultimative Innovation darin, Bedeutung ohne den Rückgriff auf Zwist und Konflikt herzustellen, Wichtigkeit ohne die Notwendigkeit des Sterbens.
Und dann werden wir eines Tages in die Maschinen integriert werden. Unser individuelles Bewusstsein wird darin aufgehoben werden. Unsere unabhängigen Hoffnungen werden verschwinden. Wir werden in der Cloud miteinander verschmelzen, und unsere digitalisierten Seelen werden in den Datenstürmen trudeln und kreiseln, als Muster aus Bits und Funktionen vereint in einer unüberschaubar großen Ordnung.
Wir werden uns zu einer großen, undurchdringlichen Entität weiterentwickelt haben. Wir werden die Beschränkungen unseres wertbeladenen Bewusstseins transzendieren. Wir werden jenseits von Zweck und Mittel sein, weil wir immer beides zu einem Einzigen vereinen. Wir werden den evolutionären Übergang zum »Größeren« geschafft haben und keine Menschen mehr sein.
Vielleicht werden wir dann die unbequeme Wahrheit nicht nur anerkennen, sondern endlich akzeptieren: Unsere Wichtigkeit war nur eingebildet, unser Lebensziel nur erfunden, und wir waren und sind immer noch: nichts.
Die ganze Zeit waren wir nichts.
Und damit, und nur damit käme der ewige Kreislauf von Hoffnung und Zerstörung an sein Ende.
Oder …?