Während ich dieses Buch schreibe, ereignet sich auf Discord ein Drama. User Wxytiv scheint wirklich verletzt: «Das ganze Geld wurde immer an alle Verkäufer geschickt und nie auf mein Bankkonto überwiesen, ich habe immer alles für euch alle getan. Ich bin wirklich untröstlich, dass es solche furchtbaren Menschen gibt.» Wxytiv meint mit den furchtbaren Menschen beispielsweise Liz und Haley, über die er auch mit deutlichen Worten schimpft: «Laut 2 LITTLE BITCHES auf diesem Server, die behaupten, dass die Songs, für die ich hart gearbeitet habe … FAKE sind». Wenig später verlässt Wxytiv gekränkt die Community und postet dramatisch das Bild einer sich schließenden Tür.
Was war passiert? Wxytiv hatte Songs von Harry Styles und der Boygroup One Direction in deren Discord-Fan-Communitys angeboten. Songs allerdings, die nicht veröffentlicht worden sind, angeblich kamen sie direkt aus den Studios. Was sich nun anhört wie ein Teeniestreit, scheint tatsächlich der öffentlich ausgetragene Disput um eine ziemlich kriminelle Handlung zu sein: Diebstahl. Doch es kommt noch besser. Wxytiv beschwert sich nämlich nicht etwa darüber, dass er erwischt wurde – gegenüber der Website 404Media gibt er es sogar zu: «Viele der unveröffentlichten Songs stammen von mehreren Hackern, sie wurden durch E-Mail-Betrug, Phishingangriffe auf die Produzenten oder Künstler usw. erlangt.» Wxytiv fühlt sich vielmehr in seiner Diebesehre angegriffen. Denn Liz und Haley zweifeln die Echtheit der angeblich gestohlenen Songs an. Für sie handelt es sich um AI-Fakes. Lieder, in denen irgendjemand die Stimmen der berühmten Sänger geklont und zu neuen Songs zusammengestellt hat. Hinzugezogene Fachexpertise kann auch nicht weiterhelfen, denn kaum einer der Songs kann von KI-basierten Werkzeugen mit hundertprozentiger Sicherheit als Fake entlarvt werden. Und so sind die Fans in der Community schnell erbost über die Möglichkeit, hohe Summen für falsche Lieder gezahlt zu haben. Ironischerweise kommt niemandem in dieser Community in den Sinn, dass womöglich gerade der Diebstahl echter Lieder ihren so geliebten Stars den meisten Schaden zufügen würde. Harry Styles und One Direction verhalten sich während der Debatte auffallend ruhig.
Diese Geschichte wirft eine Frage auf, die wir uns alle in den kommenden Jahren sehr häufig stellen werden: Ist das ein Fake?
Fakes kennen wir als Deepfake in Schlagzeilen über russische Kriegspropaganda oder falsche Porträts vom Papst in einer hippen Daunenjacke. Mit Fake Media bezeichnen wir einen Inhalt, der verfälscht, manipuliert oder aus dem Kontext gerissen wird, um eine bestimmte Erzählung, Meinung oder Agenda zu fördern. Dabei muss es sich nicht immer um komplexe Deepfakes handeln. Schon die einfache Änderung einer Bildunterschrift oder die Angabe eines falschen Kontextes kann ein echtes Foto in eine Falschnachricht verwandeln.
Die Manipulation von Informationen ist keine neue Erscheinung. Von propagandistischen Kriegsbildern bis zu sensationellen Schlagzeilen in Boulevardzeitungen – gezielte Falschinformationen gab es schon immer. Inzwischen wird der Begriff Fake News immer häufiger von der politischen Rechten zur Diffamierung von Informationen verwendet, die meist weder News noch Fake sind. Deshalb ist es angezeigt, zu unterscheiden: Desinformation wird das gezielte Verbreiten von Falschinformationen genannt, die das Ziel haben, uns aus politischem oder wirtschaftlichem Interesse zu täuschen. Misinformation ist zwar falsch oder irreführend, wird dabei aber unabsichtlich oder ohne schädliche Zielsetzung benutzt.
Was die Situation bislang schon beunruhigend machte, waren vor allem die Geschwindigkeit und das Ausmaß, mit dem solche Inhalte verbreitet werden. Ein gefälschtes Video oder Bild kann auf Social Media innerhalb von Sekunden Millionen von Menschen erreichen, lange bevor die Wahrheit ans Licht kommt. Und selbst wenn sie irgendwann ans Licht kommen sollte, ist der Schaden groß, und zu viele Menschen sind bereits vom Gegenteil überzeugt. Das Phänomen Fake Media nimmt in politischen Wahlkampfzeiten erschreckende Ausmaße an. Während früher die Informationsflut nur aus Postern, TV-Debatten und Zeitungsartikeln bestand, finden heute über Messengerdienste, von den meisten ganz unbeachtet, andere Kämpfe statt: Video-Schnipsel, die Politiker in einem schlechten Licht erscheinen lassen, Bilder mit manipulierten Zitaten, erfundene Skandale – das Repertoire der Falschinformationen ist enorm.
Die Motive hinter der Verbreitung von Desinformation sind vielfältig: politische Agenda, wirtschaftliche Interessen oder schlicht und einfach das Streben nach Klicks und viraler Bekanntheit. Durch Social Media verbreitete Massenfälschungen haben Wahlsiege von Donald Trump ebenso befördert wie von der AfD, sie richten Firmen oder Personen zugrunde. Gleichzeitig wächst durch Fakes die Unsicherheit und die Aggression, inzwischen werden auch Traditionsmedien immer häufiger Opfer von Verleumdung und Journalisten oder Reporterinnen Opfer von Gewalt.
So weit, so schlecht. Denn die Flut von Falschinformationen hat bereits zu einer zunehmenden Verunsicherung geführt: Wenn alles gefälscht werden kann – wem oder was können wir dann noch vertrauen? Nun aber kommen zwei neue Gefahren hinzu: Einmal durch die schiere Menge möglicher Inhalte, die billig und automatisiert mit Algorithmen erstellt werden können. Dazu aber kommt, dass falsche Informationen auch als Trainingsdaten in Algorithmen einfließen und später unbemerkt Schaden anrichten können, indem sie beispielsweise die Qualität von Antworten auf Text-Prompts beeinflussen.