Zivilisatorisches Narrativ Nr. 2: Vernetzung

Jeder möchte vernetzt sein. Zumindest möchte niemand sein Leben in völliger Isolation verbringen.

Auch unter diesem Aspekt empfehlen sich uns digitale Plattformen als bestmögliche Lösung. Unternehmen wie Meta oder Tencent setzen alles daran, uns glauben zu machen, dass wir Instagram, WhatsApp oder WeChat benötigen, um uns zu vernetzen. Zu diesem Zweck kleiden sie ihre Geschäftsmodelle in alle möglichen altruistischen Erzählungen.

Im Februar 2017 sah sich Mark Zuckerberg veranlasst, auf die Befürchtung zu reagieren, Facebook entwickle sich zur Drehscheibe für den gefährlichen Populismus, der den Aufstieg von Donald Trump beflügelte. Lassen wir die neuen Ziele beiseite, die Zuckerberg in seiner Erklärung für Facebook formulierte – für sicherere, besser informierte, bürgerschaftlich engagierte und integrative Gemeinschaften zu sorgen –, da sie sich wie eine Liste zur Abwehr genau der Probleme lesen, die Facebook verschärft haben soll. Konzentrieren wir uns stattdessen auf die Gesamtvision, die Zuckerberg in seiner Erklärung anbietet, da sie das zivilisatorische Narrativ der »Vernetzung« perfekt

Die historische Entwicklung zeigt, dass wir gelernt haben, uns in immer größerer Zahl zusammenzuschließen – von Stämmen über Städte bis hin zu Nationen. Auf jeder Stufe bauen wir in Form von Gemeinschaften, Medien oder Regierungen eine gesellschaftliche Infrastruktur auf, die uns befähigt, Dinge zu erreichen, die wir als Einzelne nicht bewerkstelligen könnten.

Heute sind wir kurz davor, den nächsten Schritt zu tun. Unsere größten Chancen sind nun global geworden … Fortschritt erfordert nun, dass sich die Menschheit nicht nur in der Form von Städten oder Nationen zusammenschließt, sondern als globale Gemeinschaft … Facebook steht dafür, uns einander näher zu bringen und eine globale Gemeinschaft aufzubauen …

In Zeiten wie diesen ist es für Facebook das wichtigste Anliegen, eine soziale Infrastruktur zu entwickeln, die den Menschen die Möglichkeit gibt, eine globale Gemeinschaft aufzubauen, die uns allen zugutekommt.[1]

Das ist gleich in zweifacher Hinsicht bemerkenswert.

Erstens verwundert die Vorstellung, eine globale Gemeinschaft könne ohne weiteres durch eine Plattform mit dem ausbeuterischen Geschäftsmodell von Meta geschaffen werden. Wie hohl dieser Anspruch ist, entlarvte einige Jahre später Frances Haugen vor dem US-Kongress und europäischen Parlamenten in ihren Aussagen zur Facebook-Tochter Instagram. Sie enthüllte, dass Instagram aus eigenen Untersuchungen

Warum sollte man eine globale Plattform für die gesamte Menschheit überhaupt für möglich oder gar wünschenswert halten? Aber Zuckerberg kann es sich gar nicht anders vorstellen, so sehr glaubt er an das Narrativ der Vernetzung, ein Narrativ, über das Meta die Kontrolle behalten muss.

Die zweite erstaunliche Annahme von Zuckerberg ist, dass ausgerechnet Plattformen wie Facebook im Einklang mit den Entwicklungen der Geschichte und der Richtung des Fortschritts stehen. Eine sonderbare Vorstellung, wenn man bedenkt, dass die Menschheit schon immer durch kleine und große soziale Netzwerke verbunden war. Brauchten wir wirklich Facebook, um darauf zu kommen, dass es gut ist, mit Freunden und Familie in Kontakt zu sein? Wartete die Menschheit tatsächlich auf Mark Zuckerberg, um ihrer Geschichte einen Sinn abzugewinnen?

Die Antwort auf all diese Fragen lautet nein – es sei denn, man ist überzeugt, dass nur Big Tech der Menschheit »Vernetzung« bringen kann, was genau die Art von »zivilisatorischer« Mission ist, die wir hier zu entzaubern versuchen.

So sieht es auch der fortschrittsgläubige Gründer des Magazins Wired, Kevin Kelly. Sein Buch The Inevitable – »Das Unvermeidliche« – erschien, vielleicht zum Glück, kurz bevor 2018 nach Facebooks Cambridge-Analytica-Skandal der sogenannte »Techlash« einsetzte, die vermehrte Kritik an dem Wandel, den die digitale Transformation herbeiführt. Das Buch beschreibt zwölf »technologische Kräfte, die unsere Zukunft prägen werden«. Mit großer Selbstgewissheit beschreibt der Autor, wie Überwachung und Datenextraktion den modernen Kapitalismus bestimmen und warum wir das für eine gute Sache halten sollten. Drei Kapitelüberschriften reichen aus, um sich ein Bild zu machen: »Accessing« (Zugang), »Sharing« (Teilen) und »Tracking« (Verfolgung). All das, so Kelly, seien unvermeidliche Dimensionen der Zukunft der Menschheit, eine Zukunft, die Kelly eher begrüßt als fürchtet.[5]

Aber die Vorstellung, der Datenraub durch Big Data sei unvermeidlich, ist in den Kreisen der Technikgläubigen und vor allem im Silicon Valley weitverbreitet. Unternehmer wie Thomas Siebel hängen dort der Vision von einer digitalen Transformation an, die sich aus der Konvergenz von »Cloud Computing, Big Data, dem Netz der Dinge und KI« ergeben soll.[6] Und in der globalen Geschäftswelt, die unter ihrem Einfluss steht, haben sich solche Überzeugungen schon beinahe zu einer

Alle Faktoren greifen ineinander und entwickeln sich gemeinsam im Ökosystem der Informations- und Kommunikationstechnik (IKT) … [E]s entsteht ein positiver Kreislauf, Verbesserungen in einem Bereich ziehen weitere in anderen Bereichen nach sich … Als Einzelpersonen verfügen wir alle stets nur über begrenztes Wissen, aber gemeinsam können wir durch Hyperkonnektivität diese individuelle Beschränkung überwinden und durch Analyse verschiedenster Datenquellen zu neuen Erkenntnissen kommen.[7]

Die häufig aufgestellte Behauptung, das Leben könne nur durch die ständige Datenextraktion aus Menschen und Dingen den erforderlichen Grad an Vernetzung erreichen, sollte uns stutzig machen.

Schauen wir uns nun diese Narrative etwas genauer an, beginnend mit dem weniger vertrauten der beiden, der Vernetzung der Dinge.

Die von Siebel propagierte digitale Transformation beruht auf der Vernetzung von Menschen und Dingen. Für ihn ist das Internet der Dinge (die Welt der »smarten« Geräte und Systeme, die ständig mit dem Internet verbunden sind) nicht bloß ein Marketing-Slogan, sondern das Fundament für eine neue Art von Wirtschaft und Gesellschaft.

Ausgehend von der Idee eines intelligenten Stromnetzes gelangt Siebel schnell zur Notwendigkeit, ja sogar Unvermeidbarkeit einer Vernetzung sämtlicher Objekte. Um diese Vernetzung komplett zu machen, sollen Menschen solche Objekte auch mit ihren Körpern verbinden. Siebel schwärmt: »Bald werden sogar Menschen Dutzende oder Hunderte von Wearables und Implantaten mit extrem niedrigem Stromverbrauch nutzen, die kontinuierlich Blutwerte, Blutdruck, Puls, Temperatur und andere physiologische Parameter überwachen und regulieren.«[8] Die Apple Watch und ähnliche Fitnesstracker setzen dies bereits zu einem großen Teil um.

Damit bringt Siebel die von vielen Big-Tech-Führungskräften vertretene Überzeugung zum Ausdruck, das Internet der Dinge (Internet of Things, IoT) sei die nächste neue Schnittstelle zwischen Mensch und Computer. Im Jahr 2014 prognostizierte Cisco, bis 2022 würden 45 Prozent der weltweiten Internetverbindungen durch vernetzte Dinge beansprucht.[9] Inwieweit sich diese Prognose bewahrheitet hat, ist nicht bekannt, aber immerhin wissen wir, dass es bereits 13,1 Milliarden vernetzte Geräte auf der Welt gibt, also mehr als Menschen, und diese Zahl wird sich bis zum Ende dieses Jahrzehnts voraussichtlich mindestens verdoppeln.[10] Die Überzeugung, dies sei gut für die Menschheit (und nicht bloß für Konzerne), hängt einmal mehr

Mit dem weiteren Wachstum des IoT in den kommenden Jahren wird die nächste Generation des Netzes Dutzende Milliarden von Geräten miteinander verknüpfen und jeden Aspekt des täglichen Lebens digital einbinden, von Pulsmessern und Kühlschränken bis hin zu Verkehrsampeln und den Methanemissionen der Landwirtschaft.[11]

Dabei handelt es sich weniger um eine Vision der Freiheit als vielmehr um eine der Ordnung – als solche charakterisiert es auch Chinas Internetpolitik. Schon seit fast einem Jahrzehnt bemüht sich China, das IoT voranzubringen. So erwarb das chinesische Unternehmen Haier 2016 den amerikanischen Haushaltsgerätegiganten General Electric für 6 Milliarden US-Dollar. Chinas jüngster Fünfjahresplan für die »Nationale Informatisierung« deutet stark auf den Aufbau einer »sensorischen Infrastruktur« für das IoT hin, und das nicht bloß in China selbst, sondern auch in Ländern, die unter dem Einfluss Chinas stehen.[12]

Es bleibt abzuwarten, inwieweit solche Visionen Realität werden – jedenfalls wird sich nach diesem Narrativ die gesamte Welt unausweichlich in eine Datenkolonie verwandeln.[13]

Im Rückblick auf die vergangenen beiden Jahrzehnte fühlt man sich unweigerlich an das Werk von Karl Polanyi erinnert, einem Wirtschaftshistoriker des 20. Jahrhunderts, der schilderte, wie der industrielle Kapitalismus die gesellschaftlichen Beziehungen nach seinen Erfordernissen auf den Kopf stellte. Nach seiner Flucht aus dem nationalsozialistischen Wien, die ihn zunächst nach London führte, befasste sich Polanyi in den 1940er Jahren mit den gesellschaftlichen Bedingungen der kapitalistischen Wirtschaftstransformation des 19. Jahrhunderts. In seiner Beschreibung wurden sie zu einer Art Einstiegsdroge, zu »künstlichen Anreize[n], die dem Gesellschaftskörper appliziert wurden«.[14] Plattformen wie Facebook und TikTok könnten in ihrer Wirkung auf das heutige gesellschaftliche Leben ebenfalls sehr treffend als künstliche Anreize beschrieben werden.

Ja, es ist in vielerlei Hinsicht praktisch, wie die Plattformen der sozialen Medien uns miteinander verbinden und unser Engagement stimulieren, manchmal auch kurzfristig politisch mobilisieren. Und Plattformen wie Facebook haben in Ländern mit autoritären politischen Systemen tatsächlich schon etwas bewirkt. In der Anfangsphase des Arabischen Frühlings im Jahr 2011 wurde Facebook für viele Menschen zu einem Treffpunkt, an dem sie sich in scheinbarer Sicherheit austauschen und Aktionen planen konnten.[15] Das gilt auch für anonyme Plattformen, die es beispielsweise türkischen Frauen ermöglichen, gegen die mögliche Einführung einer islamischen Kleiderordnung durch den Staat zu protestieren.[16] Die kenianische Schriftstellerin Nanjala Nyabola, die umfangreiche Recherchen zur digitalen Politik in Afrika gemacht hat, bekräftigt diesen Punkt:

Ein gewisser Wert ist digitalen Netzwerken also schwerlich abzusprechen – jedenfalls dann nicht, wenn zu fehlenden Kommunikationsstrukturen noch politische Unterdrückung hinzukommt. Doch auch das Vernetzungsnarrativ sollte, nicht anders als das Narrativ vom Komfort, gegen andere Faktoren abgewogen werden. Erstens stimmt es einfach nicht, dass es in vordigitalen Zeiten niemals gesellschaftlichen Widerstand gegeben hat. Die Geschichte kennt zahlreiche Beispiele, in denen Menschen das nutzten, was der Anthropologe James Scott einmal die »Waffen der Schwachen« genannt hat. Beispiele bieten Land- und Fabrikarbeiter, die geschickt die strengen Regeln ihrer Vorgesetzten umgingen.[18] Zweitens steht die Nutzung sozialer Medien natürlich auch Regierungsbehörden offen, und zwar nicht nur zur Verbreitung von Propaganda, sondern auch, um die aufmüpfige Bevölkerung direkt zu überwachen; zahlreiche Beobachter des Arabischen Frühlings haben auf diesen Aspekt hingewiesen. Dass der politischen Revolution des Jahres 2011 in den arabischen Ländern der dauerhafte Erfolg versagt blieb, hat neben dieser Art von Überwachung sicherlich auch damit zu tun, dass sich politische Bewegungen nur begrenzt über soziale Medien organisieren können.[19]

Gesellschaftliche Nebenwirkungen, so eine der Lehren, die sich aus der Geschichte des Kolonialismus ziehen lassen, dürfen nicht außer Acht gelassen werden, und das gilt natürlich auch für die Plattformen der sozialen Medien. Den Kolonisatoren früherer Tage war bei ihren Raubzügen in fremden Gebieten nicht bewusst – zumindest anfangs nicht –, dass sie Krankheiten aus Europa einschleppten, die im Endeffekt mehr Menschen

Inzwischen wird häufig der Vorwurf erhoben, die Profitgier der Big-Tech-Konzerne im Verein mit ihrer Rücksichtslosigkeit gegenüber den Menschen, denen sie ihren Reichtum verdanken, habe die Entstehung einer zutiefst gespaltenen Gesellschaft gefördert, in der »Vernetzung« nur noch Entfremdung, Erschöpfung und oft auch Traumatisierung bewirke. Man darf jedoch nicht übersehen, dass die kulturelle, gesellschaftliche und politische Polarisierung lange vor Big Tech einzusetzen begann. Die digitalen Plattformen als die Hauptursache dafür zu sehen, geht sicherlich an der Realität vorbei.[20]

Doch was uns in der Anfangszeit des Internets so begeisterte, bevor es von den großen Konzernen kommerzialisiert wurde – nämlich die Möglichkeit, virtuellen Gruppen von Menschen beizutreten, die unsere Interessen teilen –, ist nach Ansicht vieler auch genau das, was jene sogenannten »Filterblasen« geschaffen hat, in denen Desinformation und Hass gedeihen. Der Begriff »Filterblase« wurde 2011 von Eli Pariser geprägt[21] und ist im Grunde die aktualisierte Version der Echokammer für die Internet-Ära: ein Bereich, in dem man nur noch hört und sieht, was mit den eigenen Sprach- und Denkgewohnheiten in Einklang steht. Dies kommt dadurch zustande, dass Suchmaschinen und Plattformen der sozialen Medien durch genau das, was sie am besten können – nämlich uns die Inhalte zu präsentieren, die wir sehen wollen, und uns mit allem anderen nicht zu

Mit anderen Worten: Vernetzung, die von den Algorithmen der sozialen Medien bestimmt wird, ist so zielgenau geworden, dass sie Vielfalt eher beschränkt als fördert. Die Menschen entscheiden nicht mehr selbst, welche Art von Vernetzung für sie vorteilhafter ist, sondern die Plattformen – und für die ist natürlich vorteilhaft, was immer uns dazu bringt, mehr Zeit auf ihnen zu verbringen – das beste Beispiel hierfür ist wohl der »For You«-Algorithmus von TikTok –, damit sie umso mehr Daten aus uns extrahieren können.

Es lässt sich zwar nicht abstreiten, dass aus den digitalen Plattformen auch positive gesellschaftliche Bewegungen erwachsen sind (beispielsweise Black Twitter in den USA)[22], dennoch hat das Geschäftsmodell der Datenextraktion eine Reihe negativer Folgen. Kritische Stimmen geben Filterblasen und Echokammern die Schuld an der Wahl von Trump und an der Entscheidung für den Brexit, an Bolsonaro und Duterte, Impfgegnern, Klimaleugnern und vielem mehr. Jede noch so abwegige Idee findet dank der Filterblasen ihre Nische, in der sie gedeihen kann. Nun könnte man einwenden, dass gute Ideen doch von derselben Viralität profitieren sollten, doch das ist bloße Theorie, da diese tendenziell von aggressiven Stimmen übertönt werden. Den Grund dafür sieht Jonathan Haidt darin, dass wir Menschen grundsätzlich dazu neigen, Dinge weiterzuverbreiten, über die wir uns empören, wozu uns nun noch die Waffen der Like-, Share- und Retweet-Buttons zur Verfügung stehen. Das Ergebnis hat weniger mit authentischer Vernetzung zu tun als mit einem Klima, in dem Anprangerung und Mobbing gedeihen. Die Juristin Julie E. Cohen spricht von einer

Wenn wir uns auf die breiteren Auswirkungen der Geschäftsmodelle von Social-Media-Plattformen konzentrieren, spielt es weniger eine Rolle, dass die Wissenschaft entgegen der landläufigen Meinung kaum empirische Belege für die Existenz von Filterblasen gefunden hat, zumindest nicht als weitverbreitetes gesellschaftliches Phänomen.[24] Wer viel Zeit mit Online-Medien verbringt, ist alles in allem vielfältigeren Inhalten ausgesetzt als jemand, der dies nicht tut. Aber ist die Polarisierung der Informationsflüsse die einzige relevante Art von Polarisierung? Wie steht es mit der Polarisierung der Gefühle der Menschen zueinander, sei es zu Gleichgesinnten oder Andersdenkenden? In der Politikwissenschaft spricht man hier von »affektiver Polarisierung«.[25] Ist dies nicht letztendlich von größerer Bedeutung, auch dafür, welche Gefühle Nachrichten bei den Menschen auslösen?

Die Journalistin und Friedensnobelpreisträgerin Maria Ressa hat aus erster Hand erfahren, wie stark die Algorithmen der sozialen Medien, die Profite über Fakten stellen, zu Polarisierung führen und damit letztlich zur Gefahr für die Demokratie werden können. Als Präsidentin und Mitbegründerin von Rappler, einer Online-Nachrichtenseite in ihrem Heimatland Philippinen (nirgendwo sonst auf der Welt verbringen die Menschen so viel Zeit mit sozialen Medien), war sie wahrscheinlich die Erste, die eindeutig nachwies, dass Facebook mit seinem Geschäftsmodell die Kommerzialisierung von Desinformation ermöglicht. Facebook ließ sich davon nicht beirren. Über ihre Lehren aus dieser Erfahrung schreibt sie: »Big Tech hat unsere

Die Folgen sind teils verheerend. Social-Media-Plattformen können tatsächlich zu einer Radikalisierung führen, wie sie aus gesellschaftlicher Polarisierung erwächst.[27] Ein Beispiel, dokumentiert in einer Podcast-Serie der New York Times,[28] ist der Fall von Caleb Cain, einem zunächst progressiv-liberal eingestellten Schüler aus den USA, der über einen Zeitraum von zwei Jahren Tausende von YouTube-Videos mit zunehmend extremistischen Inhalten anschaute und dabei immer tiefer in das sprichwörtliche »Rabbit Hole« (so der Titel des Podcasts) hinabstieg, bis er schließlich der rassistischen Ideologie der White Supremacy verfiel. Glücklicherweise schaffte er die Kehrtwende; er sah sich wieder progressive Inhalte an und löste sich vom rechtsextremen Gedankengut.

Interessant an Fällen wie diesem ist, dass der Grund für solche Irrwege in den Extremismus eine simple Änderung des Empfehlungsalgorithmus von YouTube im Jahr 2015 zu sein scheint. (Nur um es klarzustellen: Auch andere Plattformen verwenden ähnliche Empfehlungsalgorithmen, sie sind kein YouTube-spezifisches Problem.)[29] Solche Änderungen illustrieren die enorme Macht der Herrscher über die Datenterritorien. Anstatt den Nutzern mehr Inhalte zu zeigen, für die sie bereits Interesse bekundet haben, sind die Plattformbetreiber dazu übergegangen, ihnen neue Dinge zu präsentieren, die ebenfalls ihre Aufmerksamkeit erregen könnten, damit sie noch mehr Zeit mit dem Medium verbringen und folglich mehr Werbung ausgesetzt sind. Für Katzenliebhaber heißt das, dass ihnen nicht

Wenn es doch nur um Katzen und Tiger ginge! Die von den Plattformen geförderte algorithmische Homophilie, die nach dem Prinzip »Gleich und Gleich gesellt sich gern« funktioniert, lässt dadurch auch Online-Räume entstehen, in denen Rechtsextremismus gedeihen kann, weil sie bereits bestehende Polarisierungen bündelt und verstärkt.[30] Ein Beispiel dafür haben wir in den USA am 6. Januar 2021 gesehen, als eine Gruppe von Menschen, die in einer solch radikalisierten Blase lebten, versuchte, das Kapitol zu stürmen. Aber es gibt zahlreiche weitere Beispiele aus anderen Ländern – Brasilien, Indien, Kenia, Myanmar und Schweden, um nur einige zu nennen.

Gab es rechtsextreme Einstellungen und Meinungen schon vor dem Internet? Natürlich. Ermutigen Plattformen wie Facebook die Menschen, sich zu radikalisieren, Gleichgesinnte zu finden und sich gegenseitig zu immer extremeren Taten anzustacheln? Ja, es gibt solide Nachweise von Politikwissenschaftlern für solche Polarisierung und Radikalisierung.[31] Und nicht nur das: Meta weiß, dass dies eine Folge seines Geschäftsmodells ist, wie die Whistleblowerin Sophie Zhang bestätigt.[32] Und profitieren Unternehmen wie Meta und Google finanziell davon, dass sie Klimawandelleugnern, Impfgegnern, Leuten, die sich weigern, die Wahlniederlage ihrer Partei anzuerkennen und Verschwörungstheoretikern jeglicher Couleur ein Forum bieten? Ja, das tun sie.[33]

Sicher, wir alle wollen vernetzt sein – aber doch nicht so! Nicht, wenn »Vernetzung« aus beschränkten Mustern menschlicher Interaktion besteht, die von Geschäftsmodellen vorgegeben werden. Nicht, wenn »Vernetzung« bedeutet, dass zur Profitsteigerung immer mehr Daten aus uns herausgequetscht

In vielen Ländern gibt es Gesetzesinitiativen (beispielsweise die Online Harms Bill im Vereinigten Königreich, ein Gesetzentwurf zu Fake News in Brasilien[35] und mehrere Gesetzesvorschläge in den USA), die den Plattformen strengere Sorgfaltspflichten auferlegen wollen. Bislang scheint jedoch keines dieser Gesetze grundsätzlich die Geschäftsmodelle der datenhungrigen Plattformen in Frage zu stellen. So mögen uns die digitalen Plattformen als ein Ort erscheinen, an dem wir unseren Spaß haben, in Wahrheit sind aber wir zum bloßen Spielzeug der Algorithmen und großen Systeme geworden, denen sie dienen.

Das bringt uns zu den Algorithmen und dem letzten wichtigen zivilisatorischen Narrativ, das wir erörtern wollen: die Geschichte der extraktivistischen Wissenschaft und des Wissens unter dem Gesichtspunkt der KI.