Wann hat es eigentlich begonnen: das Zeitalter, in dem wir unseren eigenen Augen nicht mehr trauen konnten? Glaubt man den Worten von Barack Obama, befinden wir uns aktuell an einer Schwelle: „Wir betreten eine Ära, in der unsere Feinde jede:m von uns beliebige Aussagen in den Mund legen können, die wir so niemals getätigt haben“, warnte der Ex-Präsident 2018 in einer Videobotschaft. Kurz darauf erscheint im Bild neben ihm das Gesicht eines zweiten Mannes. Es gehört dem Regisseur Jordan Peele, der Obama mit Hilfe von Künstlicher Intelligenz seine eigenen Worte in den Mund gelegt hatte. Das Video, das auf die Gefahren von Deepfakes hinweist, entpuppt sich selbst als Deepfake.
Inzwischen gibt es eine ganze Reihe KI-generierter Videos im Netz. IT-Expert:innen, Zukunftsforscher:innen und Jurist:innen, sie alle diskutieren über den Einfluss von Deepfakes auf unsere Gesellschaft. Dabei geht es um die technischen Möglichkeiten in unserer digitalen Welt. Und es geht um die Frage, was es bedeutet, wenn wir Wahres von Unwahrem nicht mehr trennen können, weil das bloße Auge keinen Unterschied mehr ausmachen kann.
Deepfakes - Eine neue Ära der Desinformation?
Fragt man Historiker:innen, war die Grenze zwischen „echten“ und „gefälschten“ Nachrichten schon lange umstritten, bevor Videos mit Hilfe von Künstlicher Intelligenz manipuliert werden konnten. „Lügen, Fälschen und Täuschen begleitet die Menschheit seit Anbeginn der Zeit“ bestätigt Barbara Zehnpfennig, Professorin für Ideengeschichte und Politische Theorie. Insofern hätten sich zwar die Mittel geändert, aber nicht das Verhalten der Menschen.
Es war die wohl erste Fake-News Kampagne der Geschichte: Nachdem die Ägypter die große Schlacht von Kadesch verloren hatten, schrieb der geschlagene Pharao Ramses II. die Geschichte nach seiner eigenen Vorstellung um. Er ließ Gedichte verfassen, die ihn als Sieger feierten und veranlasste Künstler, entscheidende Szenen der Schlacht in die Mauern seiner Tempel zu meißeln. Die Reliefs zeigen Ramses II, den vermeintlich Unbesiegbaren, in überdimensionierter Größe, wie er den Gegner in die Knie zwingt.
Auch die frühen Päpste erfanden ihre eigene Wahrheit: Angeblich schenkte der römische Kaiser Konstantin ihnen die Hälfte seines Reichs. Eine gefälschte Urkunde diente als Beweis für die „Konstantinische Schenkung“ und machte den Vatikan zum mächtigen Zentrum der katholischen Kirche. Gemälde machten die Schenkung öffentlichkeitswirksam und verliehen ihr zusätzliche Glaubwürdigkeit. Erst im 15. Jahrhundert wurde die Urkunde als Fälschung enttarnt; erst im 19. Jahrhundert räumte die katholische Kirche ein, dass es wohl keine Schenkung gegeben habe.
Die Erfindung des Buchdrucks im 15. Jahrhundert brachte einen bedeutenden Umbruch der Geschichte der Medien. Von nun an konnten Nachrichten vervielfältigt werden, ohne dass sie mühsam von Hand kopiert werden mussten. Doch die Adressat:innen konnten mit den Druckerzeugnissen nicht nur informiert, sondern auch gezielt desinformiert werden.
1475 verschwand im italienischen Trient ein Kind. Nachdem man seine Leiche kurz darauf in der Nähe eines jüdischen Wohnhauses fand, ließ der Fürstbischof von Trient die gesamte jüdische Gemeinde der Stadt verhaften, foltern und vierzehn Männer hinrichten. Dazu sorgte er für die mediale Inszenierung des angeblichen Verbrechens: Ereignisberichte, Flugblätter und Einblattholzschnitte lösten eine Reihe von Pogromen gegen jüdische Menschen aus. Die sogenannte Ritualmordlegende, wonach Juden angeblich christliche Kinder zu Ritualzwecken ermorden, stufen Historiker:innen als antisemitisch ein. Sie war immer wieder Anlass für Vorwürfe und Pogrome gegen jüdische Menschen.
Einen weiteren medialen Umbruch brachte die Erfindung der Zeitung im 17. Jahrhundert. Der Leser:innenkreis der Druckerzeugnisse wuchs und etablierte die ersten Tages- und Wochenzeitungen als mächtiges Presseorgan. Ein Pressekodex, also ethische Standards für journalistisches Arbeiten, wurde jedoch erst viel später, nämlich im 20. Jahrhundert etabliert. Bis dahin wurden nicht nur Nachrichten, sondern auch Falschnachrichten massenhaft und ohne Eingriff abgedruckt und beeinflussten die öffentliche Meinung.
Der „große Mondschwindel“ gilt als erste großangelegte und bewusste Fälschung im Zeitungsjournalismus. Über mehrere Wochen berichtete die „New York Sun“ von einer sensationellen Entdeckung: Durch ein modernes Teleskop habe der britische Astrologe John Herschel Leben auf dem Mond erspäht. Detaillierte Zeichnungen illustrierten die angeblichen Entdeckungen: menschenähnliche Wesen mit Fledermausflügeln, aufrecht gehende Biber und Einhörner. Die sechsteilige Serie machte die New York Sun zur auflagenstärksten Zeitung der Welt.
1870 verfälschte der deutsche Reichskanzler Otto von Bismarck die Tatsachen, um das deutsche Kaiserreich in den Krieg mit Frankreich zu treiben. Er kürzte den Text der sogenannten Emser Depesche – eines Briefs der französischen Regierung an den deutschen Kaiser – an den entscheidenden Stellen, sodass es schien, als hätte Frankreich ihn in die Enge getrieben. Der Text wurde von der Presse veröffentlicht und ließ damit Frankreich als den Aggressor dastehen.
Das 19. und 20. Jahrhundert brachten weitere Erfindungen hervor, die die mediale Welt für immer verändern sollten. Zunächst der Fotojournalismus und schließlich die ersten Bewegtbilder in Form von Film und Fernsehen. Die Macht dieser neuen Medien war enorm – und wurde von den Herrschenden gezielt zur Manipulation von Meinungen missbraucht.
Der Erste Weltkrieg ging als „Krieg der Worte“ in die Geschichte ein. Medial entwickelte er sich auch als Krieg der Bilder: Kein anderer militärischer Konflikt zuvor wurde fotographisch so umfassend dokumentiert. Doch viele der Bilder waren aus dem Kontext gerissen oder manipuliert. So auch dieses Foto von Frank Hurley: Es zeigt australische Soldaten, die aus ihren Schützengräben stürmen, um deutsche Flieger abzuwehren. Hurley hatte es aus zwölf einzeln aufgenommenen Teilbildern zusammengefügt.
Für die Propaganda des NS-Regimes spielte neben dem Radio das Medium Film eine wichtige Rolle. Dazu gehörten Pseudo-Dokumentarfilme wie „Feldzug in Polen“ (1940) oder „Jud Süß“ (1940), deren Funktion nicht die Dokumentation der Wirklichkeit war, sondern die politisch-ideologische Indoktrination der Massen. Hinzu kamen Spielfilme, in denen Propaganda- und Unterhaltungselemente geschickt vermischt wurden. Propagandaminister Joseph Goebbels schrieb im Februar 1942 in sein Tagebuch: "Auch die Unterhaltung ist heute staatspolitisch wichtig, wenn nicht sogar kriegsentscheidend."
Die Internet und das rasante Wachstum der Sozialen Medien haben einen Umbruch noch unschätzbaren Ausmaßes gebracht. Sie sind ein virtueller Raum, in dem viele der physischen, rechtlichen und technischen Grenzen der Vergangenheit nicht mehr greifen. Früher war die Nachricht an eine:n konkrete:n Sender:in und eine begrenzte Zahl von Empfänger:innen gebunden, erklärt die Philosophin Barbara Zehnpfennig. Das Internet habe diese binäre Struktur aufgelöst; es sei eine Vernetzung von allen mit allen. So könne heute jede:r von jetzt auf gleich Nachrichten über die ganze Welt verbreiten. Das eröffne neue Chancen – aber auch neue Gefahren. Und jede:r könne zur Zielscheibe werden.
Im Herbst 2017 tauchten auf der Social-News Website Reddit pornographische Videos auf, in denen die Gesichter von Pornodarstellerinnen mit denen prominenter Frauen ausgetauscht wurden. Damit brachte der anonyme Nutzer mit dem Usernamen „deepfakes“ eine neue Technologie in den Mainstream: innerhalb kurzer Zeit rotteten sich zehntausende Nutzer zusammen und tauschten KI-generierte Bilder und Videos aus.
Im Juni 2019 – wenige Monate vor den kanadischen Parlamentswahlen - tauchten auf Youtube Deepfakes auf, in denen der Chef der Konservativen Partei Andrew Scheer verunglimpft wurde. Obwohl viele Zuschauer die Clips für echt hielten, wurden sie von Youtube nicht gelöscht. Der Urheber gab bei einer Befragung an, es hätte sich um Satire gehandelt.
Kein Deepfake, sondern ein sogenanntes „Cheapfake“: Via Twitter teilte Donald Trump im September 2020 ein Video seines Wahlkampf-Gegners Joe Biden, das nachträglich bearbeitet wurde. Es zeigt Biden, der vor einem öffentlichen Auftritt in Florida einen Song auf seinem Smartphone abspielt. In dem Video, das Trump verbreitete, wurde der eigentliche Song durch den Song „Fuck The Police“ der Hip-Hop-Band N.W.A ersetzt. Ein strategischer Zug: Bereits zuvor hatte Trump mehrfach behauptet, sein demokratischer Herausforderer gehöre den „radikalen Linken“ an und befürworte Gewalt gegen die Polizei.
Der Grünen-Politiker Konstantin von Notz hält die „Klimahysterie“ für übertrieben, der FDPler Wolfgang Kubicki spricht sich für eine Vermögenssteuer aus und die CDU-Staatsministerin Dorothee Bär, eine waschechte Fränkin, trinkt lieber Kölsch als Helles? Nein, auch hier kann etwas nicht stimmen. Bei den Videos, die das Team der Freetech Academy für die Dokumentation „The Deepfake Experiment“ produziert hat, handelt es sich um KI-generierte Fälschungen. Das Experiment bestätigt: Videos sind nicht länger sicher vor Manipulation.
Der Blick in die Geschichte zeigt: Jedes Medium, das der Verbreitung von Nachrichten diente, wurde auch zur Verbreitung von Falschnachrichten genutzt. Dabei wurde die Technik immer raffinierter – und die Ergebnisse immer überzeugender. Jetzt sind Web-Videos an der Reihe. Sie sind das Medium der Stunde: Sie erlangen mehr Aufmerksamkeit, werden häufiger geteilt und vermitteln in kurzer Zeit viele Informationen. Laut einer aktuellen VAUNET-Studie zur Mediennutzug der Deutschen schauten 14- bis 69-Jährige im Jahr 2020 täglich 59 Minuten Videos im Netz – und die Tendenz ist stark steigend. Dass dieses Potential auch für den gegenteiligen Zweck – die gezielte Desinformation – missbraucht werden kann, ist nicht überraschend, sondern vielmehr die logische Fortsetzung in der Historie der Berichterstattung, meint Barbara Zehnpfennig.
Dennoch sieht die Philosophin einen Unterschied zwischen „alten“ Falschnachrichten und „neuen“ Deepfakes. Die wesentliche Neuerung sei der Einsatz von Künstlicher Intelligenz. Denn während Falschinformationen in der Vergangenheit dem menschlichen Geist entsprangen und von Menschenhand verbreitet wurden, können Teile dieser Arbeit in Zukunft von selbstlernenden Algorithmen übernommen werden. „An diesem Punkt ist durchaus eine Verselbstständigung möglich, die uns über den Kopf wachsen könnte“ sagt Barbara Zehnpfennig. Weil es im Netz zudem keine Gatekeeper gibt, also keine kontrollierende Instanz, die Inhalte vor der Veröffentlichung prüft, könne sich das Gefälschte heute mühelos und mit nie dagewesener Geschwindigkeit über die ganze Welt ausbreiten.
Hilflos ausgeliefert sieht Zehnpfennig die Menschheit dieser Entwicklung jedoch nicht. Denn wie in der Vergangenheit gebe es auch im Hinblick auf synthetische Medien einen Wettlauf zwischen Täuschung und Entlarvung. Für den technische Überprüfung seien Spezialist:innen verantwortlich; so wie ein gefälschtes Kunstwerk nicht von Lai:innen, sondern von Kunstexpert:innen entlarvt werden müsse, bedürfe es im Hinblick auf Deepfakes verlässlicher Detection-Systeme, die das Echte vom Unechten unterscheiden können. Die inhaltliche Überprüfung sieht Zehnpfennig auch in der individuellen Verantwortung: Quellen prüfen, das Wahrscheinliche vom Unwahrscheinlichen unterscheiden – und die Bereitschaft entwickeln, das eigene Weltbild zu hinterfragen. Denn viele Lügen werden deshalb geglaubt, weil die Menschen sie glauben wollen.
Während wir im Laufe der letzten Jahrzehnte wachsamer gegenüber Fake-News in Form von Texten und manipulierten Bildern geworden sind, galten Videos bisher als glaubhafte Quellen. Sie wirken als unstrittiges Abbild der Wirklichkeit, denn sie vermitteln den Zuschauer:innen das Gefühl, unmittelbarer am Geschehenen teilzuhaben. Wer sich eine Rede von Barack Obama als Video anschaut, wird zum Zeuge des Gesagten: Wir hören, was er sagt, und wie er es sagt. Wir erkennen seine Stimme, seine Mimik und Gestik wieder und vermuten zunächst nicht, dass da eigentlich jemand anders zu uns spricht.
Doch die Zeiten, in denen Videos untrüglich waren, sind vorbei. 2017 sagte der KI-Forscher Ian Goodfellow in einem Interview, es sei ein „historischer Glücksfall“, dass die Menschheit sich in den vergangenen Jahrzehnten weitgehend auf Videos verlassen konnte, um sicherzustellen, dass ein Ereignis tatsächlich stattgefunden hat. In Zukunft sei das jedoch nicht mehr selbstverständlich.
