Wie groß ist das Problem wirklich?

Kein Mensch kann die genaue Zahl aller digitalen Medieninhalte kennen. Das Volumen der jährlich generierten digitalen Datenmenge weltweit betrug im Jahr 2022 knapp 104 Zettabyte und wird voraussichtlich bis 2027 auf 284 Zettabyte ansteigen. Kein Mensch wird jemals in der Lage sein, genau zu bestimmen, ob wir es mit 90 Prozent oder 99 Prozent synthetischer Inhalte zu tun haben. Auch, weil die Grenzen fließend sind zwischen autonom von KI geschaffenem, von Menschen gepromptetem, aber von KI generiertem und von Menschen mittels KI-Werkzeugen modifiziertem Content.

Wir können aber zumindest die Wahrscheinlichkeit synthetischer Inhalte einschätzen, wenn wir uns die begünstigenden Faktoren ansehen: Ist Software im Anwendungsbereich verfügbar? Wie häufig wird der jeweilige Medientyp genutzt? Wie komplex ist die Synthese, und was kostet sie? Wie sind die Erfahrungswerte, der Nutzen für die Zielgruppe und die Akteure? Und wie sieht es mit der Verbreitung synthetischer Inhalte in den jeweiligen Medien aus?

Meine These:

Der Anteil an synthetischem Content wird schnell einen Großteil aller digitalen Inhalte ausmachen. In manchen Bereichen 100 Prozent. Kein Bereich bleibt verschont.

 

Und da letztlich Trainingsdaten für zukünftige Modelle bereits aus heutigen synthetischen Inhalten bestehen, und viele Menschen, nicht immer transparent, KI-Werkzeuge einsetzen, dürften laufend Medieninhalte unerkannt von synthetischem Content kontaminiert werden.

Außer der Größenordnung ist interessant, welche Herausforderungen mit synthetischem Content einhergehen und wie wir mit ihnen umgehen können. In allen 13 Anwendungsbereichen geht es immer wieder um die Frage nach der Korrektheit von Informationen, die mögliche Manipulation unserer Handlungen und unseres Denkens und um die Suche nach vertrauensvollen Quellen, also letztlich um die Gefahr des Datenmissbrauchs. An positiven Entwicklungen erwarten wir eine größere Vielfalt an Inhalten, mehr Effizienz im Alltag und im Job und mehr Gestaltungsmöglichkeiten, wenn wir selbst Medieninhalte erstellen.

Mit den Gefahren und dem Nutzen sowie konkreten Handlungsmöglichkeiten beschäftigen sich die weiteren Kapitel dieses Buches. Doch als Erstes schauen wir uns an, wie es überhaupt zu der Situation kommen konnte, in der wir heute stecken.