EINE GLOBALE BEDROHUNG

Die Infokalypse wütet nicht nur in der westlichen, sondern auch in der nicht westlichen Welt – ein Begriff, unter dem ich Lateinamerika, Asien und Afrika zusammenfassen möchte. Kein politisches System, kein Land ist dagegen gefeit. Falschmeldungen und Desinformation haben bereits Chaos ausgelöst und in manchen Ländern, wie beispielsweise den Philippinen, Myanmar oder Indien, zu Völkermorden geführt – und zwar schon lange vor der US-Wahl 2016, als der Westen erstmals auf das Problem aufmerksam wurde. Für bestimmte nicht westliche Länder stellen die Gefahren der Infokalypse wohl sogar eine noch größere Bedrohung dar. In autoritären, skrupellosen oder instabilen Regimen ist es zweifelhaften Akteuren noch eher möglich, im Dickicht der Infokalypse unentdeckt zu bleiben – und somit ungestraft davonzukommen. Die westlichen Demokratien verfügen immerhin über gefestigte Abwehrmechanismen in Form des Rechtsstaatsprinzips, der freien Presse und der demokratischen Institutionen (selbst wenn diese immer angreifbarer werden). In Ländern, in denen keine – oder zumindest weniger – institutionelle Absicherungen existieren, könnten die Folgen des kaputten Informationsökosystems also sogar noch verheerender sein. Und das ist möglicherweise besonders gefährlich für jene Weltbürger und -bürgerinnen (von denen der Großteil in Afrika und Asien lebt), die sich, ohne strenge Schutzmaßnahmen getroffen zu haben, diesem kaputten Informationsökosystem gerade erst anschließen.

Außerhalb der westlichen Welt dient die Infokalypse hauptsächlich als Mittel, um die inländische Opposition einzuschüchtern und unter Druck zu setzen, abweichende Meinungen zu übertönen, zu (völker- und/oder geschlechterspezifischer) Gewalt zu animieren und grundlegende Menschenrechte zu beschneiden. Man nehme nur einmal Myanmar als Beispiel. Als die herrschende Militärregierung 2010 ihre extremen Zensurregelungen lockerte, verwandelte sich das in Südostasien gelegene Land mehr oder weniger über Nacht von einer Nation mit beschränktem Informationszugang zu einer, die von Informationen geradezu überflutet wurde. Im Zuge dessen, dass sich immer mehr Bürger und Bürgerinnen Smartphones zulegten, gewann Facebook Millionen neuer Mitglieder. Für viele war die Plattform irgendwann gleichbedeutend mit dem Internet. Bis zum Jahr 2019 hatten sich dort in etwa 20 Millionen von Myanmars 53 Millionen Einwohnern angemeldet.1 Doch obwohl diese Lockerungen Freiheit bedeuteten, brachten sie auch neue Gefahren mit sich. Da man die Menschen ohne jeglichen Schutz im Wilden Westen der Infokalypse ausgesetzt hatte, entwickelte sich Facebook zu einem Nährboden für Desinformation. In Myanmar wurde es genutzt, um die bereits vorherrschenden kommunalen Spannungen zwischen der buddhistischen Mehrheit und der muslimischen Minderheit zu verschärfen und deren dunkelste Seite ans Tageslicht zu befördern. Dieser rassistisch motivierte Hass – online geschürt von buddhistischen Extremisten, Führungskräften des Militärs und von Milizen – hatte bald auch erste Auswirkungen im realen Leben.

Im Jahr 2014 bezichtigte der ultra-nationalistische buddhistische Mönch Wirathu auf Facebook den muslimischen Besitzer eines Teeladens in Mandalay fälschlicherweise der Vergewaltigung einer buddhistischen Angestellten. Schon bald darauf zogen wütende, mit Stöcken und Macheten bewaffnete Menschenmassen marodierend durch die Straßen von Mandalay, wo sie Autos in Brand steckten und Geschäfte plünderten. Zwar hielt sich die Gewalt noch in Grenzen, doch der Vorfall war nur der erste Warnschuss im Hinblick darauf, was noch folgen sollte.2 Während sich auf Facebook also bewusst gestreute rassistische Falschmeldungen verbreiteten, kochte die Gewalt langsam hoch. 2017 erreichten die Spannungen ihren Höhepunkt und entluden sich in entsetzlichen Gräueltaten gegen das im Rakhaing-Staat ansässige muslimische Volk der Rohingya. Zuerst wurden sie gewaltsam vertrieben. Dann führte die burmesische Armee eine großflächige ethnische Säuberung gegen sie durch. Die Menschenrechtsorganisation Human Rights Watch bezeichnet die gegen die Rohingya verübten Grausamkeiten als »Verbrechen gegen die Menschlichkeit«.3 Bis Facebook endlich anfing, die Konten von Extremisten zu sperren, die auf der Plattform mithilfe von Falschmeldungen und Desinformation zur Gewalt gegen die muslimische Minderheit aufriefen, waren bereits 25 000 Rohingya ermordet worden; weitere 700 000 waren aus dem Land geflohen. Vonseiten der UN wurde Facebook scharf kritisiert; sie warfen der Plattform vor, sie habe sich »in eine Bestie verwandelt« und ihr Handeln – sprich das Zulassen von Desinformation und Hetze gegen die Rohingya – trüge die »Kennzeichen eines Völkermordes«.4

Der Fall Myanmar ist eine Erinnerung daran, dass die Freiheiten, die das Informationszeitalter mit sich bringt, nicht grundsätzlich gut sind; ja, dass sie sogar tödlich sein können, wenn eine Bevölkerung einem gefährlichen Informationsökosystem ausgesetzt ist.

Indien ist ein weiteres Beispiel. Dazu muss man sich nur einmal die zur Facebook-Gruppe gehörige Nachrichten-App WhatsApp ansehen. Die private und verschlüsselte Beschaffenheit der App macht sie zu einem der Hauptkanäle, wenn es um die bewusste Verbreitung von Falschmeldungen besonders in großen, zusammenhängenden Verteilergruppen geht – dringen hier Spam-Nachrichten ein oder leitet jemand Fake News weiter, verbreiten sich die Daten rasend schnell. Aufgrund dieser privaten Beschaffenheit ist es jedoch schwierig, zu ermitteln und nachzuvollziehen, wie es zu solchen Falschmeldungen kommt, ihre Auswirkungen sind in jedem Fall enorm. WhatsApp verzeichnet weltweit über zwei Milliarden Nutzer und Nutzerinnen, und die Tatsache, dass die App hauptsächlich dazu dient, mit dem Freundeskreis und mit Familienmitgliedern zu kommunizieren, erhöht die Wahrscheinlichkeit, dass die Leute die Informationen glauben, die sie darüber erhalten. Etwa 400 Millionen Menschen nutzen WhatsApp allein in Indien, wo sie mittlerweile zu den Hauptquellen für Falschmeldungen und Desinformation gehört. Da für Millionen von Indern die Infokalypse etwas komplett Neues ist und sie ihr weitgehend ungeschützt ausgeliefert sind, zeichneten sich die von ihr ausgehenden Gefahren sehr schnell ab. Vor allem in ländlichen Gegenden kam es bereits zu Dutzenden erschreckenden Tötungsdelikten, weil sich bewusst gestreute Falschmeldungen auf den Smartphones der Bevölkerung wie Lauffeuer verbreiteten; wie zum Beispiel in einem Fall vom Juli 2018: Auf der Fahrt in ein Dorf in Südindien, wo sie ihre Verwandten besuchen wollten, machten fünf indische Freunde Halt in der Nähe einer Schule. Kinder strömten gerade durch die Tore und machten sich auf den Heimweg. Die Männer hatten Geschenke für ihre Verwandten dabei, darunter auch Schokolade, von der sie etwas an die Kinder verteilten. Was ein idyllischer Urlaub hätte werden sollen, wurde bald zu einem Horrortrip. Gerüchte über Kindesentführungen, monatelang angeheizt von Geschichten, die auf WhatsApp kursierten, hatten Indien in Alarmbereitschaft versetzt. Eine Falschmeldung, die sich viral verbreitet hatte, beinhaltete ein Video, in dem sich zwei Männer auf einem Motorrad einigen auf der Straße spielenden Kindern nähern; einer der beiden beugt sich hinunter und greift sich eines der Kinder, dann rasen sie davon.

Das Video war jedoch ein Cheapfake – eine aus dem Kontext gerissene, eigentlich aus einer pakistanischen Kampagne für Kindersicherheit stammende Aufnahme –, die bei der breiten Masse die Hysterie auslöste, Indien wäre voller Kindesentführer. Im Fall vom Juli 2018 hielten wütende Dorfbewohner die fünf unschuldigen Urlauber für eine Gefahr, ließen ihnen die Luft aus den Autoreifen, verprügelten sie und bezichtigten sie der versuchten Kindesentführung. In Todesangst konnten drei Männer mit dem Auto entkommen, während die beiden anderen über die Felder flohen. Von den Männern im Auto wurde jedoch ein Video aufgenommen und zusammen mit der Behauptung, es handle sich hier um Kidnapper, auf WhatsApp gepostet. Innerhalb weniger Minuten verbreitete sich das Video viral und erreichte so auch die Dörfer in der näheren Umgebung. Als die drei Männer auf ihrer Flucht ins nächste Dorf kamen, blockierten dessen Bewohner und Bewohnerinnen die Straße; ein wütender Mob fiel über das Auto her und schlug die Männer brutal zusammen. Der Polizei, die zum Tatort gerufen wurde, gelang es nicht, die Horde unter Kontrolle zu bringen. Einer der Männer, ein 32-jähriger Softwareentwickler, wurde auf grausame Art und Weise totgeprügelt, die anderen beiden kamen nur um ein Haar mit dem Leben davon.5

DEEPFAKES UND DIE MENSCHENRECHTE

Sam Gregory ist Programmdirektor bei WITNESS, einer Menschenrechtsorganisation, die es Bürgerinnen und Bürgern auf der ganzen Welt ermöglicht, Videotechnologie als Beweismittel einzusetzen und so die Wahrung der Menschenrechte einzufordern. Natürlich liegt dieser Mission die Annahme zugrunde, dass es sich bei einem Video grundsätzlich um eine nicht zu verfälschende Form von Beweismaterial handelt. Deepfakes werden diesbezüglich alles auf den Kopf stellen. Aus diesem Grund hat sich Gregory viele Gedanken zu den möglichen Auswirkungen von Deepfakes auf ohnehin schon anfällige Gesellschaften und auf Menschen außerhalb der westlichen Welt gemacht.

Zusammen mit Schlüsselakteuren (Journalistinnen, Aktivistinnen, NGOs) hielt WITNESS 2019 in Brasilien, Südafrika und Malaysia eine Reihe von Workshops ab, um herauszufinden, wie jene die Deepfake-Bedrohung wahrnehmen, die in diesen Teilen der Welt gegen das vorgehen, was Gregory als »Firehoses of Falsehoods« bezeichnet – eine Propagandatechnik, bei der eine große Menge Fehlinformationen über einen längeren Zeitraum und immer wieder über mehrere Kanäle verbreitet wird.6 Ihre Botschaft war einstimmig: Anstelle der Einmischung fremder Länder (etwas, worum sich der Westen oft sorgt), gaben bei ihnen hauptsächlich die eigene Regierung oder andere innerpolitische Kräfte Anlass zur Besorgnis. WITNESS berichtet Folgendes:

Die Bürgerinnen und Bürger solcher kleineren, geopolitisch weniger bedeutenden Länder hatten Angriffe auf den Nationalstaat nicht auf dem Schirm – oder besser gesagt hatten diese für sie angesichts anderer Bedrohungen eine niedrigere Priorität. Stattdessen hielt man es für sehr viel wahrscheinlicher, dass die offensiv eingesetzten Spionagemittel des Staates gegen die innerpolitischen Stimmen der Opposition gerichtet werden könnten; jene, die auf politischer Ebene Kritik üben, hatten das Gefühl, dass von ihren eigenen Regierungen mehr Gefahr ausgeht als von ausländischen Akteuren.7

Bezüglich der Vorstellung, Bürger könnten audiovisuelles Beweismaterial liefern, herrscht an vielen dieser Orte ohnehin schon nur ein sehr schwacher Konsens, und wenn die Regierung ein despotisches oder autoritäres Regime ist, besteht für sie natürlich ein echter Anreiz, die von den Bürgerinnen genutzten Medien so zu unterwandern, dass nur jene, die an der Macht sind, Einfluss auf das Narrativ haben.

Die einzige derzeit weitverbreitete Nutzungsform von Deepfake-Videos – nämlich nicht einvernehmliche Pornografie – wurde bereits instrumentalisiert, um Frauen einzuschüchtern und zum Schweigen zu bringen. Die Investigativ-Journalistin und Schriftstellerin Rana Ayyub ist Muslimin und arbeitet in Indien. Ein Schwerpunkt ihrer Arbeit sind die furchtbaren religiösen Auseinandersetzungen zwischen Muslimen und Hindus in Südasien. So hat sie beispielsweise ein Buch über die Beteiligung von Politikern und der Polizei an den Aufständen in Gujarat8 im Jahr 2002 geschrieben; im Zuge religiöser Verfolgung waren damals 790 Muslime und 253 Hindus von einem randalierenden Mob niedergemetzelt worden. Die schrecklichen Ereignisse haben sich in Indiens kollektives Gedächtnis eingebrannt. Wie der Autor Pankaj Mishra später schrieb, war »auf Indiens unzähligen Fernsehkanälen ausgiebig über den Pogrom berichtet worden. Viele Angehörige der indischen Mittelschicht waren schockiert, als sie erfuhren, dass nicht einmal die Kleinsten verschont worden waren – die Muslimenmörder waren dabei beobachtet worden, wie sie Kinderköpfe gegen Steine schlugen.«9

Dem Chief Minister von Gujarat, Narendra Modi, wurde später vorgeworfen, Regierungsbeamte und die Polizei angewiesen zu haben, sich den Mördern nicht in den Weg zu stellen. Modi, mittlerweile indischer Premierminister und Vorsitzender der herrschenden hinduistisch-nationalistischen Bharatiya Janata Party (BJP), hat eine solche Beteiligung stets bestritten und die Aufstände zumindest offiziell verurteilt. (Später wurde er durch ein vom Obersten Gericht Indiens berufenes Sonderermittlungsteam vom Vorwurf der Mittäterschaft in diesen gewaltsamen Ausschreitungen freigesprochen.)

Rana sah die Dinge jedoch ein wenig anders. Als offene und unerschütterliche Kritikerin der BJP hatte sie bereits einiges an Erfahrung, wenn es darum ging, an den gefährlichsten Stellen nachzubohren. Damit machte sie sich natürlich zur Zielscheibe von Einschüchterungsversuchen im Internet. Dies zu ignorieren habe sie immer wieder versucht, sagte Rana der Huffington Post, »indem ich mir selbst immer wieder sagte, dass es nur Hetze im Netz ist und dass es niemals zu Übergriffen im realen Leben kommen wird.«10

Das änderte sich jedoch schlagartig im April 2018. Ganz Indien stand wegen der Vergewaltigung eines achtjährigen muslimischen Mädchens unter Schock. Nichtsdestotrotz organisierten Mitglieder der Regierungspartei BJP einen Protestmarsch zur Unterstützung des hinduistischen Mannes, der dieser abscheulichen Tat bezichtigt wurde. Bei einem Auftritt auf BBC und Al Jazeera sollte sich Rana darüber äußern, welche – in ihren Worten – »Schande Indien über sich bringt, indem es sich auf die Seite von Kinderschändern stellt«. Am nächsten Tag fand sie sich inmitten einer gezielten Desinformationskampagne wieder.

Alles begann damit, dass mehrere Fake-Tweets, die angeblich von Ranas offiziellem Twitter-Account stammten, in den sozialen Medien kursierten. Mit Botschaften wie »Ich hasse Indien«, »Ich hasse Inder« und »Ich liebe Pakistan« machten sich die Screenshots dieser Fake-Tweets den hinduistisch-muslimischen Konflikt zwischen Indien und Pakistan zunutze. Rana musste schnellstens klarstellen, dass die Tweets nicht von ihr stammten. Daraufhin griffen die Hetzer zu drastischeren Mitteln. Am nächsten Tag bekam Rana einen Tipp von einer Quelle innerhalb der BJP, die sie warnte, dass ein Video von ihr auf WhatsApp kursiere. Er leitete es an sie weiter. Als sie es öffnete, musste sie sich übergeben. Es war ein Fake-Porno mit ihr in der »Hauptrolle«. Später berichtete sie: »Ich wusste einfach nicht, was ich tun sollte. Mir war klar, dass so etwas in einem Land wie Indien eine Riesensache ist, und ich hatte keine Ahnung, wie ich reagieren sollte. Ich fing einfach nur an zu weinen.«11 Ihr Telefon explodierte fast. »Ding, ding, ding« – auf Facebook, Twitter und Instagram flimmerten Hunderte von Nachrichten über ihren Bildschirm. Man schickte ihr anzügliche Privatnachrichten, in denen man sich zu »ihrem« Körper äußerte, während sich die Kommentarbereiche auf ihren Social-Media-Accounts mit Screenshots aus dem Video füllten. Als es schließlich auf der Fanseite der BJP geteilt wurde, war die virale Verbreitung des Videos nicht mehr aufzuhalten.

Am nächsten Tag wurde Rana das Opfer von Doxing, was bedeutet, dass jemand in böswilliger Absicht ihre persönlichen Daten (in ihrem Fall ihre Privatnummer) ins Internet stellte. Zusammen mit ihrer Nummer wurden auch Screenshots des Deepfake-Pornos veröffentlicht. Es dauerte nicht lang, und Unmengen von Nachrichten fluteten ihren WhatsApp-Account: Man fragte sie, wie viel sie für Sex verlange, oder drohte ihr mit Vergewaltigung und Tod. Dies hatte zur Folge, dass Rana ihr Zuhause tagelang nicht verlassen konnte. Sie hörte auf zu schreiben. »Die Nachwirkungen sind immer noch spürbar«, sagt sie. »Seit dem Tag, an dem das Video veröffentlicht wurde, bin ich nicht mehr dieselbe. Für gewöhnlich hatte ich zu allem eine Meinung, aber jetzt bin ich sehr viel vorsichtiger mit dem, was ich online stelle. Ich habe mich aus einer Notwendigkeit heraus selbst zensiert.«12

Sollte die Veröffentlichung des Videos zum Ziel gehabt haben, sie zum Schweigen zu bringen, hat man also ins Schwarze getroffen. Und dies ist erst der Anfang; viele weitere Deepfakes werden folgen, mit deren Hilfe man versuchen wird, politische Oppositionen mundtot zu machen.

Im Februar 2020 lancierte die BJP außerdem als erste Partei eine politische Kampagne unter Nutzung eines Deepfake-Videos. Wie die Vice berichtete, tauchten einen Tag vor den Wahlen der gesetzgebenden Versammlung in Delhi zwei Videos auf, die sich auf WhatsApp wie ein Lauffeuer verbreiteten; sie zeigten Manoj Tiwari, den Präsidenten der BJP, der Kritik an der amtierenden Regierung von Arvind Kejriwal äußerte, dem Vorsitzenden der linkspopulistischen Aam Aadmi Party (AAP). Während Tiwari in einem Video Englisch redete, sprach er im anderen den hinduistischen Dialekt Haryanavi: »[Kejriwal] hat uns mit seinen Versprechen hinters Licht geführt. Aber jetzt hat Delhi die Chance, das Ruder herumzureißen!«, sagte der BJP-Politiker und drängte damit Wählerinnen und Wähler, die Dinge an den Wahlurnen in Ordnung zu bringen. Die Videos wurden daraufhin in 5700 WhatsApp-Gruppen in Delhi und Umgebung geteilt und erreichten so 15 Millionen Menschen. Dabei war das Video ein Deepfake – das sich viral verbreitete, ohne auch nur den kleinsten Hinweis darauf, dass es sich hierbei um ein künstlich erzeugtes Medium handelte.

The Ideaz Factory, eine indische Marketing-Agentur, die unter anderem im Bereich der politischen Kommunikation tätig ist, pries das Video, das sie in Zusammenarbeit mit der BJP produziert hatte, als innovative Möglichkeit an, Deepfakes in den Dienst »positiver Kampagnen« zu stellen und Politikern so zu ermöglichen, mit einem breiten Spektrum von Wählerinnen in Verbindung zu treten. Sobald ich den Link zu dem Vice-Artikel getwittert und angeprangert hatte, dass das Video ohne den klaren Hinweis veröffentlicht worden war, dass es sich hierbei um ein Deepfake handelte, bekam ich eine Nachricht von Sagar Vishnoi, einem Mitarbeiter der Ideaz Factory: »Hallo Nina, ich grüße dich« begann er. »Wir haben ein positives Deepfake erstellt, nicht, um Falschinformation oder Fake News, sondern um die Botschaft des Präsidenten in verschiedenen Sprachen zu verbreiten. Wir verstehen die Problematik hinsichtlich der negativen Nutzung durchaus.«

Da ich in Südasien aufgewachsen bin und mir der religiösen und ethnischen Konflikte, die in diesen Regionen vorherrschen, sowie der geringen Medienkenntnisse des indischen Subkontinents stets bewusst war, nahm ich das Deepfake insgesamt etwas zynischer wahr – nämlich als den Versuch, kurz vor einer Wahl Millionen Wähler zu täuschen, indem man ihnen unechten Content als echt verkauft. Zugegebenermaßen war der Inhalt relativ harmlos, aber man könnte natürlich anführen, dass ein Politiker, indem er vorgibt, all die vielen verschiedenen Sprachen des indischen Subkontinents zu sprechen, durchaus in der Lage ist, die seit langer Zeit bestehenden und oft verheerenden religiösen und ethnischen Spannungen zu manipulieren. Welche Motivation auch immer hinter dem Video gestanden haben mag, auf jeden Fall war es das erste Mal, dass ein Deepfake im Zuge einer organisierten Wahlkampagne die Grenzen zwischen Realität und Fiktion verwischte. Und es wird nicht das letzte Mal gewesen sein.

»DIE DIVIDENDE DES LÜGNERS« ODER EIN »COUP DE DEEPFAKE«: EIN STAATSSTREICH IN GABUN

Wir mögen ja noch am Anfang der Deepfake-Geschichte stehen, doch allein die Existenz dieser Technologie reicht bereits aus, um den allgemeinen gesellschaftlichen Diskurs zu destabilisieren, politische Gegnerinnen zu schwächen sowie Wahrheit und Vertrauen zu untergraben – und das noch bevor wir überhaupt an den Punkt gelangt sind, an dem sie als Waffen zur flächendeckenden Desinformation eingesetzt werden. Denn zu den größten Gefahren, die schon jetzt von der Deepfake-Technologie ausgehen, gehört die andere Seite der Medaille, die sogenannte »Dividende des Lügners«, auf die ich im dritten Kapitel bereits eingegangen bin; sie bietet jedem die Möglichkeit der sogenannten Glaubhaften Abstreitbarkeit – und zwar, indem man Echtes als Fälschung darstellt.

2018/19 stand ein »Deepfake« im Mittelpunkt eines gescheiterten Militärputsches in Zentralafrika. Die Bevölkerung von Gabun hatte ihren Präsidenten Ali Bongo monatelang nicht in der Öffentlichkeit gesehen. Als Erbe einer Dynastie, die zu diesem Zeitpunkt bereits seit über 50 Jahren an der Spitze des afrikanischen ölreichen Landes stand, übernahm Bongo im Jahr 2009 das Amt seines Vaters. Verglichen mit einigen seiner Nachbarländer war die Lage im Staat Gabun in der jüngeren Vergangenheit relativ stabil, auch wenn Bongos Wiederwahl im Jahr 2016 von Betrugsvorwürfen und gewaltsamen Ausschreitungen getrübt war. Politische Feinde hatte er also eine Menge.

Wir springen vor zum Oktober 2018, als Bongo wegen eines Wirtschaftsgipfels zu Besuch in Saudi-Arabien war. Während seines Aufenthalts berichtete die saudi-arabische Staatsagentur, dass er in ein Krankenhaus eingeliefert worden sei. Zu Hause in Gabun erhielt man nur wenig Informationen über Bongos Befinden. Zunächst schwieg sich die Regierung komplett aus, dann ging sie dazu über, widersprüchliche Berichte über seinen Gesundheitszustand zu veröffentlichen; zuerst hieß es, er leide unter »ernsthafter Erschöpfung«, die sich dann im November jedoch in eine »Blutung« verwandelte. Ein Video von Bongo wurde veröffentlicht, allerdings ohne Ton. Wilde Spekulationen über seinen Aufenthaltsort und seinen Gesundheitszustand machten die Runde, darunter auch Andeutungen, er könnte gestorben oder durch ein Double ersetzt worden sein. Solche Theorien könnten auch Bongos politische Gegner angesichts des Schweigens der Regierung verbreitet haben. Anfang Dezember berichtete der Vizepräsident schließlich, Bongo habe einen Schlaganfall erlitten und sei in »schlechter Verfassung«.13

Als die Gerüchteküche überzukochen drohte, versuchte die Regierung, Ruhe in die Sache zu bringen, indem sie ein Video veröffentlichte, in dem Bongo seine traditionelle Neujahrsansprache hält. Mit diesem öffentlichen Auftritt – dem ersten, seit die Gerüchte über seinen schlechten Gesundheitszustand angestoßen worden waren – wollte man beweisen, dass er lebte und dass es ihm gut ging. Doch es war nicht alles gut: Bongo machte in dem Video einen seltsamen Eindruck. Die Aufnahmen sind nach wie vor auf YouTube14 zu finden: Sein Gesicht zeigt kaum Mimik und wirkt unnatürlich glatt; von den Falten, die normalerweise um seine Brauen und zwischen seinen Augen zu sehen sind, fehlt jede Spur. Seine Augen sind ungewöhnlich weit geöffnet, wobei das rechte größer zu sein scheint als das linke. Laut einer Aussage des Neurologen Alexander W. Dromerick gegenüber der Washington Post sah Bongo aus wie jemand, der einen Schlaganfall oder eine Hirnverletzung erlitten hatte. Dromerick wies außerdem darauf hin, dass sich Bongo möglicherweise kosmetischen Eingriffen wie zum Beispiel einer Botox-Behandlung unterzogen habe, um so zumindest einige Nachwirkungen des Schlaganfalls abzumildern.15 Wenn das tatsächlich der Fall war, ließe sich sein schräger Auftritt mit weitaufgerissenen Augen erklären.

Doch das Video konnte den Gerüchten kein Ende bereiten – im Gegenteil, es lieferte ihnen weiteren Zündstoff. Nachdem Bongos Kritiker, die der Meinung waren, irgendetwas wäre faul, diverse Theorien diesbezüglich verbreitet hatten, verfielen immer mehr Menschen dem Glauben, dass Bongo in diesem Video entweder durch einen Schauspieler ersetzt worden sei oder dass es sich bei den Aufnahmen um ein Deepfake handle. Bruno Ben Moubamba, ein gabunischer Politiker und bei den beiden vorangegangenen Wahlen Bongos Gegner, gehörte zu den Hauptvertretern der Deepfake-Theorie. Wie er sagte, beruhte seine Sichtweise auf der Tatsache, dass Bongos Gesicht und Augen »unbeweglich« wirkten, »fast so, als würden sie über dem Kiefer schweben«. Er stellte außerdem richtigerweise fest, dass Bongos Augenbewegungen »überhaupt nicht zu denen seines Mundes«16 passten. Als die Deepfake-Theorie im Januar 2019 im Zuge eines Artikels in der Gabon Review veröffentlicht wurde, machten sich die Wirren der Infokalypse schließlich auch im realen Leben bemerkbar.17

Am 7. Januar 2019 um drei Uhr morgens ertönten Schüsse in Gabuns nationalem Rundfunksender. Jene, die in der Nähe lebten, dachten zunächst an Jugendliche, die Feuerwerkskörper zündeten. Doch schon bald wurde klar, dass es sich um den Beginn eines Putschversuches handelte, der live im ganzen Land übertragen wurde. Die Aufnahmen sind online zu finden: Ein Befehlshaber des Militärs, bekleidet mit Baskenmütze und Kampfanzug, sitzt auf einem Stuhl in einer Rundfunkstation. Links und rechts neben ihm steht – kerzengerade und mit einem Maschinengewehr bewaffnet – jeweils ein Leibwächter. Mit folgenden Worten wendet er sich an die Nation: »Gabunische Mitbürger und Mitbürgerinnen. Liebe Landsleute, ich bin Leutnant Kelly Ondo Obiang, stellvertretender Befehlshaber im Ehrenfeldzug der Republikanischen Garde.« Dann fährt er fort:

Wieder einmal stellen sich jene, die sich so krampfhaft an die Macht klammern, hinter Präsident Ali Bongo Ondimba, um einen Invaliden an der Spitze zu halten, der weder im Vollbesitz seiner körperlichen noch seiner geistigen Kräfte ist. Das furchtbare Schauspiel der diesjährigen Neujahrsansprache bringt in den Augen der ganzen Welt Schande über unser Land, das seine Würde längst eingebüßt hat.18

Das Militär behauptete, Bongo habe die Kontrolle verloren, und war der Ansicht, dass die Aufnahmen von der Neujahrsansprache des Präsidenten manipuliert worden waren. Auch wenn der Staatsstreich nach nicht einmal 24 Stunden scheiterte, zeigt sein Beispiel dennoch, wie schnell das Informationsumfeld der Infokalypse außer Kontrolle geraten kann – mit potenziell verheerenden Folgen. In diesem Fall wurden die Gerüchte um Bongos schlechten Gesundheitszustand von seinen politischen Gegnern ausgeschlachtet. Dieselben Taktiken könnten aber natürlich auch von staatlichen Akteuren angewendet werden, um die politische Opposition oder die allgemeine Bevölkerung einzuschüchtern und kleinzuhalten.

Ali Bongo wurde seither wieder in der Öffentlichkeit gesehen – allerdings mit Gehstock. Und obwohl nie bestätigt wurde, dass er tatsächlich einen Schlaganfall erlitten hat, scheint dies die plausibelste Erklärung. Forensik-Experten, einschließlich der in Amsterdam ansässigen Firma DeepTrace, die sich auf das Erkennen von Deepfakes spezialisiert hat, halten die Neujahrsansprache nicht für ein synthetisch generiertes Medium, sondern für das übertrieben inszenierte Video von einem kranken Mann. Der Vorfall zeigt jedoch auf, wie anfällig unser Informationsökosystem ist, nicht nur für Deepfakes, sondern auch für Manipulation – schlicht und ergreifend, weil wir wissen, dass es Deepfakes gibt und die Unterscheidung zwischen Wahrheit und Realität für Verwirrung sorgt.

EIN GEFAKTER SEXSKANDAL?

Als weiteres Beispiel dafür, wie Deepfakes im politischen Kontext das Falsche echt und das Echte falsch erscheinen lassen können, soll uns Malaysia dienen, wo im Sommer 2019 ebenfalls ein »Deepfake«-Video viral ging. Darin zu sehen war Malaysias Wirtschaftsminister Mohamed Azmin Ali beim Sex mit Haziq Abdul Aziz, dem Berater eines gegnerischen Ministers.

Tage nachdem das Video aufgetaucht war, bezog Aziz auf Facebook Stellung und gestand, dass es sich bei den Personen, die darin zu sehen waren, tatsächlich um ihn und Azmin handle. Er behauptete, dass sie seit drei Jahren eine sexuelle Beziehung zueinander hätten, und warf Azmin vor, die Videos ohne sein Wissen oder sein Einverständnis aufgenommen zu haben. Über Azmin schrieb er:

Ich weiß jetzt, dass du krank bist; denn nur du kannst die Videos für deine persönliche Sammlung aufgenommen haben, nachdem du mich bei jeder Gelegenheit auf dein Hotelzimmer eingeladen hast. Ich fürchte, dass bald noch mehr Videos auftauchen werden, und während du als Minister den Luxus der Bestreitbarkeit genießt, ist mein Leben vorbei. Dir sagt sogar der Premierminister seine volle Unterstützung zu, und das noch bevor eine offizielle Untersuchung stattgefunden hat.19

In Malaysia gelten gleichgeschlechtliche sexuelle Handlungen als illegal; Anal- und Oralsex sind wie zu Kolonialzeiten strafrechtlich verboten und mit Geld-, Prügel- und sogar Gefängnisstrafen von bis zu 20 Jahren belegt. Politiker und Politikerinnen mit Sexskandalen zu Fall zu bringen gehört seit den 1990er-Jahren sozusagen zum Standardprogramm in der malaysischen Politik. Nachdem es in der Vergangenheit durchaus schon vorgekommen ist, dass man Politiker, die des Oral- oder Analverkehrs bezichtigt worden waren, eingesperrt hat, war das Ganze also eine wirklich ernst zu nehmende Sache. Als der Skandal losbrach, wurde Aziz verhaftet; Azmin und jene, die ihn unterstützten (einschließlich Malaysias Premierminister), behaupteten, bei dem Sex-Tape handle es sich um eine Fälschung – veröffentlicht, um Azmins Karriere zu zerstören. »Nichts als ›Lügenmärchen‹«, sagte der Premierminister, »erfunden von Menschen, die ihre Agenda durchsetzen wollen.«

Während das ganze Land die Frage diskutierte, ob das Video echt sei oder nicht, wurde es akribisch auf irgendwelche Hinweise untersucht, die darüber Aufschluss geben sollten. Ein Bericht in den malaysischen Medien mit der Überschrift »Ist es Azmin oder ein Deepfake?« mutmaßte, dass es sich bei den Aufnahmen durchaus um eine Fälschung handeln könnte, da sich »der Azmin in dem Video weniger für sein eigenes Vergnügen als vielmehr für einen BBC News-Report über Elite-Soldaten interessiert, die das kostbare Ökosystem Französisch-Guineas vor illegaler Goldförderung schützen sollen.« Die »Gesten des Schauspielers« sprächen nicht gerade für wildes Verlangen20, setzte der Bericht hinzu. Forensik-Expertinnen ist es jedoch nicht gelungen, auch nur den geringsten Hinweis darauf zu finden, dass das Video manipuliert wurde – geschweige denn darauf, dass es sich um ein Deepfake handelt.

Nichtsdestotrotz ist Azmin immer noch als Politiker in Malaysia tätig: Er sitzt nach wie vor im Kabinett und bekleidet mittlerweile das Amt des ranghöchsten Wirtschaftsministers sowie des Ministers für internationalen Handel und Industrie. Wenn das Video tatsächlich echt ist, kassiert Azmin also die »Dividende des Lügners«. Es sind die zweifelhaften Akteure der Infokalypse, die am meisten von einer zunehmend verschwommenen Realität profitieren – jene mit der Macht, absolut jeden anzugreifen, selbst aber alles abzustreiten. Allerdings wird so nicht nur das Vertrauen mehr und mehr untergraben, sondern man gibt den Mächtigen dieser Welt auch noch die Mittel an die Hand, sich aus der Verantwortung zu stehlen.

In der demokratischen westlichen Welt ist die Infokalypse zwar schon weit fortgeschritten, aber immerhin gibt es dort noch die nötige Defensive. Wie ich im siebten Kapitel noch erläutern werde, haben wir außerdem angefangen, uns zur Wehr zu setzen. In der nicht westlichen Welt dagegen, in Ländern wie Indien, Myanmar, Gabun und Malaysia, denen unter Umständen weniger Verteidigungsmechanismen zur Verfügung stehen, können falsche und nicht vertrauenswürdige Informationen sehr viel einschneidendere und dramatischere Folgen haben. Sie kommen möglicherweise schneller an einen Punkt, an dem die Gesellschaft nicht mehr zurechtkommt. Letztendlich betrifft es uns aber alle: Ob Demokratie oder nicht, die Infokalypse kennt keine Grenzen.