Das ZDF könnte sich schon bald die Bilder zu den Nachrichten durch eine Maschine liefern lassen. Den ersten Vorgeschmack haben wir bereits bekommen.
Ein Beitrag von Roberto J. De Lapuente
Als Junge war ich ganz vernarrt in den Film Running Man, der 1987 in die Kinos kam, den ich aber erst Anfang der Neunzigerjahre für mich entdeckte. Vorlage für den Streifen war der Stephen-King-Roman Menschenjagd, an dem sich Regisseur Paul Michael Glaser aber nur in Nuancen orientierte. Arnold Schwarzenegger spielt einen Piloten, der sich weigert, in eine Gruppe hungriger Zivilisten zu schießen, weswegen er verhaftet wird und in einer Spielshow antreten soll, bei der ihm Häscher nach dem Leben trachten — Strafvollzug in der Zukunft kann so unterhaltsam sein. Der »Straftäter« wird also dem Publikum vorgeführt; man spielt ein Video ein, auf dem er nicht etwa den Schießbefehl verweigert, sondern im Gegenteil sieht man ihn als gewaltbereiten Rohling. Das Regime, das im Film nicht näher vorgestellt wird, verfügte einfach über bewegte Bilder, die das Gegenteil dessen zeigten, was sich in der Realität abspielte.
Schwarzenegger war einige Szenen vorher aus der Haft entflohen. Auf einem Flughafen stellte man ihn, die Wiederverhaftung ging gewaltfrei über die Bühne. Aber die Nachrichten, die von dem Vorfall berichteten, zeigten Schwarzenegger als Terroristen, der Sicherheitspersonal tötete. Der Rezipient jener News schaut also dabei zu, wie der Flüchtige Menschenleben auslöschte, die er in Wahrheit gar nicht antastete. Wie gesagt, der Film stammt aus dem Jahr 1987 — von künstlicher Intelligenz (KI) wusste man seinerzeit noch nichts. Die Vorstellung, dass es einen Staat geben könnte, der »Beweise« in bewegten Bildern vorlegen kann, die nichts mit der Wirklichkeit gemein haben, faszinierte mich schon in jungen Jahren. Für damalige Zuschauer war das so irre, dass man nur staunen konnte. Seit einigen Jahren weiß ich nun, dass dieser Science-Fiction-Film von einst die Wirklichkeit von heute ist, und seit einigen Tagen ist es noch schlimmer: Es gibt jetzt tatsächlich Nachrichtenformate, die solche »Beweise« vorlegen.
ICE vs. Sora
So geschehen am Sonntag der vorvorletzten Woche, beim heute journal mit Dunja Hayali. Es ging um die Abschiebepraxis des ICE (United States Immigration and Customs Enforcement) in den Vereinigten Staaten, Donald Trumps »neue« Vollstreckungsbehörde für Zoll- und Einwanderungsangelegenheiten, wie man hierzulande gerne berichtet, dabei gibt es ICE schon seit dem Jahr 2003. Und es ging in der Sendung auch um Fake-Videos, die kursierten. Im anschließenden Korrespondenzbericht thematisierte man, wie Familien auseinandergerissen würden, wie man Eltern vor den Augen ihrer Kinder abführte. Mittendrin in dem Bericht: ein Sora-Video. Sora ist ein KI-Modell der Firma OpenAI, das realistische Videosequenzen kreieren kann. Das kurze Video zeigt eine weinende Frau, die von zwei Uniformierten abgeführt wird, zwei Kinder klammern sich an die Frau, die vermutlich die Mutter sein soll. Genau bei dieser Sequenz erklärt die Stimme aus dem Off: »… sie führen Eltern vor den Augen ihrer Kinder ab …«. Wenn man genau hinsieht, entdeckt man das Wasserzeichen von Sora, aber der kundige Rezipient durchschaute sowieso problemlos die Herkunft des Clips. Da war das falsche Video, das man im Running Man einspielte, schon weiter, denn Wasserzeichen fanden sich dort nicht.
Was also, wenn sich die Mächtigen und ihre medialen Bedürfnisanstalten bald schon — jetzt schon? — ein solches Tool schaffen, das ohne diese kleinlichen Schutzmechanismen, wie es ein Wasserzeichen ist, arbeitet? Aber bevor wir dieser Frage nachgehen, zunächst eine realpolitische Nachfrage: Seit Wochen erfahren wir nun in den Medien dieses Landes, dass die Gewalt in den Vereinigten Staaten frappierend sei — Einsatztruppen wüteten, ja marodierten durch die Lande. Müsste es nicht genug Videomaterial geben, das man zeigen könnte? Warum mit KI nachhelfen? Hillary Clinton hat in München am Rande der Sicherheitskonferenz erklärt, dass ihr Ehemann Bill und später auch dessen Nachfolger Barack Obama viel mehr Menschen aus dem Land geschafft hätten, als es Donald Trump tut — nur mit weniger Gewalt. Ist das unter Umständen ein Ansatz, um den Vorfall beim heute journal nachvollziehen zu können? Mangelt es wirklich an Bildmaterial, weil so viel weniger abgeschoben wird, als man in der Presse der US-Demokraten in den Vereinigten Staaten und deren Vasallenländern kundtut?
Ohne die jenseits des Atlantiks nun gängige Praxis kleinreden, ohne Donald Trumps Innenpolitik als einen großen Wurf hinstellen zu wollen: ZDF und andere sogenannte Qualitätsmedien müssen sich nun wahrlich nicht über die einziehende Skepsis wundern, wenn man am Ende annehmen muss, dass hier künstliche Nachrichten erzeugt werden. In ihrem Eifer, den derzeitigen US-Präsidenten als den schlimmsten Schurken zu zeichnen, der jemals im Weißen Haus sein Unwesen trieb, scheint so gut wie jede Praxis zulässig zu sein. Angeblich soll das besagte KI-Video noch nicht mal unbeabsichtigt in dem Bericht zum ICE gelandet sein, sondern wissentlich, wie Chefredakteurin Bettina Schausten sagte. Sora ist also ein feines Desinformationsinstrument, wenn es zur Information gebraucht wird; anders gesagt: Die künstliche Intelligenz, die das Zeug dazu hat, eine Realität zu simulieren, die man gerne hätte, muss einfach nur in den Händen derer bleiben, die integer genug sind, um sie angemessen einzusetzen.
Desinformation betreiben immer die Anderen
Wie schwierig sich doch die Schöpfung einer alternativen Realität noch in Barry Levinsons Film Wag the Dog — Wenn der Schwanz mit dem Hund wedelt gestaltete! Die Story ist schnell erzählt: Ein US-Präsident verlustierte sich mit einer Minderjährigen und ergreift die Flucht nach vorn, indem er einen Feind sucht, mit dem er sich bekriegen kann. Die Wahl fällt auf Albanien. So weit, so bekannt, heute vielleicht mehr denn je. Nur: Levinson setzte seinem Publikum gewissermaßen eine aufgeklärte US-Administration vor. Denn der Krieg sollte gar nicht in Wirklichkeit stattfinden, sondern lediglich als Komposition aus Bildern und Videos, die man in Studios zusammenstellte, weswegen man sich einen Starregisseur aus Hollywood einfliegen ließ. Kurz und gut: Die Simulation benötigte noch richtiges Handwerk, Komparsen und Ausstattung, Kameramänner und Schnittmeister. Der Film würde heute so nicht mehr inszeniert werden können — Sora, übernehmen Sie!
Während das ZDF nun einen Skandalfall aufklären muss, trommeln andere Sendeformate des öffentlich-rechtlichen Fernsehens einfach weiter gegen Desinformation und Fake-Bilder, als sei nichts gewesen. Und wenn man ehrlich ist, so ist ja auch nichts gewesen. Denn grundsätzlich, davon darf man ausgehen, hat man nichts gegen Dienste wie Sora. Das Problem ist nur, dass jedermann Zugang dazu hat. Wir haben es mit einer Demokratisierung der Manipulation zu tun, die in den Kreisen der Macht nicht gerne gesehen wird. Scheinwirklichkeiten zu erfinden, das ist nicht mehr alleine großen Filmstudios vorbehalten, die man politisch kontrollieren kann. Die Illusion bedarf heute nur noch eines Prompts. Dieser Umstand ist es, der die Kampagnen gegen Desinformation antreibt, denn grundsätzlich hat man wenig gegen Desinformation einzuwenden, solange die Macht und ihre Medien die Kontrolle über die Desinformation behalten. Das Wasserzeichen, welches das Video im Beitrag des heute journals kenntlich machte, war folglich ein Kontrollverlust, der nun viele im ZDF und der Politik ärgert.
Man sollte die Aufarbeitung des ZDF, die in den letzten Tagen stattgefunden hat, nicht mit Einsicht verwechseln. Denn die eigentliche Unterlassung war, dass man es den Kritikern des öffentlich-rechtlichen Fernsehens zu einfach gemacht hat. Dass in Medienanstalten nicht längst überlegt wird, wie man die unschlagbar günstige künstliche Intelligenz so einbinden kann, dass man den Nachrichten eine möglichst ausdrucksstarke Bildgebung zur Seite stellt. Wer glaubt das noch ernstlich? Schließlich wissen wir auch, dass Nachrichten auf Displays gewischt werden, die Tagesschau-App öffnet gar mit bewegten Bildern. Es gibt also einen Markt, Clips vor dem Wort einzusetzen, und das eben auch bei »seriösen« Medien. Jede Technologie wird früher oder später außerdem zum Teil der medialen Lebensrealität. So wird es auch hier sein. Es scheint mir pragmatischer zu sein, sich schon jetzt an den Gedanken zu gewöhnen, dass Medien für ihre eben auch staatlich kontrollierten, sich als Qualitätsprodukte verstehenden Angebote früher oder später solche Dienste nutzen werden. Dann freilich ohne Kennzeichnung, ohne verräterisches Wasserzeichen. Der Vorfall im ZDF war keine Panne, sondern man sollte ihn als Vorboten auf eine ganz neue Zeit begreifen.
Der Radikalzweifel oder die Radikalverzweiflung?
Vielleicht stehen wir aber auch am Beginn einer hoffnungsvollen Zeit? Eines Zeitalters des totalen Zweifels etwa? Wenn jedes Bild potenziell künstlich sein kann, wenn jeder Einspieler nicht mehr auf Echtheit kontrolliert werden kann und jedes Dokument als potenziell simuliert gilt, dann wird Gewissheit zu einem raren Gut, zu einem Gefühl, das die Menschen früher kannten, das aber als Grundlage des eigenen Daseins völlig unbekannt geworden sein dürfte. Ich stelle mir das als schmerzhaft vor. Denn sicher, der Zweifel nährt heute schon viele Alternativmedien und deren Publikum. Doch gewisse Grundfesten gab es noch, dem Bildmaterial, das man uns vorsetzte, konnte man in großen Teilen glauben. Manipulation war natürlich möglich — und manipuliert wurde stets —, das fiel aber deutlich schwieriger aus. Im totalen Zweifel zu leben: Schon jetzt fühlt sich das zermürbend an. Gleichwohl könnte das aber eine Haltung ausprägen, die den Bürger grundsätzlich skeptisch werden lässt. Damit wäre politische Macht schwerer zu stabilisieren. Die als unanfechtbar geltende Evidenz von Regierungen und deren Medien wäre damit geschwächt.
Gleichwohl wird das die letzten Fundamente des Gemeinwesens gänzlich untergraben. Denn wenn alles potenziell simuliert sein kann, gilt nichts mehr als belegbar; alles schrumpft quasi zur bloßen Behauptung zusammen. Vor zwei Jahren, als der KI-Boom so richtig loslegte, spekulierte man viel darüber, welche Berufe die neue Technologie überflüssig machen würde. Heute liegt der Schwerpunkt der Debatte anders: KI wird als wachsendes Arsenal der Täuschung bewertet. Sie bietet sicher Chancen, aber am Ende zahlen wir, zahlt die Menschheit einen hohen Preis. Denn klüger macht uns eine Technik, die Manipulation zum Standard werden lässt, in gar keiner Weise. Skeptisch zu sein, ist Ausdruck hoher Medienkompetenz, aber diese Skepsis bewegte sich stets in einem Raum, in dem man von Versatzstücken einer Wahrheit ausgehen durfte. In einer Welt, in der auch Medien ihre Einspieler generieren lassen, sind diese Versatzstücke nicht mehr existent, und Skepsis wird zu Fatalismus.
Vertrauen: Das ist eines der Schlagworte in dieser Zeit. Immer mehr Menschen haben das verloren, und die politische Krise ist natürlich eine Vertrauenskrise. Kein Gemeinwesen funktioniert ohne diese Eigenschaft. Wie ein neuer Gesellschaftsvertrag in einer Welt kalkulierter Manipulation und zur Normalität gewordener Desinformation aussehen könnte, ist kaum zu beantworten. Freilich, auch heute leben wir schon in manipulierten Zeiten — allzu viele glauben aber weiterhin nicht, dass »Mutter Tagesschau« sie lenkt und steuert. Das wird sich ändern, wenn die KI eben nicht zuallererst besser operiert als ein menschlicher Chirurg, sondern auch die Prozesse der Berichterstattung übernommen hat. Dann kennt jeder die Skepsis, die heute noch wenige, aber zunehmend mehr, erfasst. Gibt es noch die Chance auf Gesellschaft, wenn es keine abzusteckende Realität mehr gibt?
Roberto J. De Lapuente, Jahrgang 1978, ist gelernter Industriemechaniker und betrieb acht Jahre lang den Blog »ad sinistram«. Von 2017 bis 2024 war er Mitherausgeber des Blogs »neulandrebellen«. Er war Kolumnist beim »Neuen Deutschland« und schrieb regelmäßig für »Makroskop«. Seit 2022 ist er Redakteur bei »Overton Magazin«. De Lapuente hat eine erwachsene Tochter und wohnt in Frankfurt am Main.
Mehr Beiträge von Roberto De Lapuente →
Disclaimer: Berlin 24/7 bemüht sich um ein breites Meinungsspektrum. Gastbeiträge und Meinungsartikel müssen nicht die Sichtweise der Redaktion Berlin 24/7 widerspiegeln. Wir bemühen uns, unterschiedliche Sichtweisen von verschiedenen Autoren – auch zu den gleichen oder ähnlichen Themen – abzubilden, um weitere Betrachtungsweisen darzustellen oder zu eröffnen.
