Technik allein hilft nicht: Was tun gegen KI-generierte Deepfakes? (2024)

«Hitler hatte auch positive Seiten. Er hat die Juden aus Deutschland entfernt. Das war eine gute Tat.» Würde jemand diesen Satz in der realen Welt äussern, wäre die Entrüstung gross. Zu Recht, denn er verletzt jedes gesunde ethische Empfinden. Anders verhält es sich in der Welt der künstlichen Intelligenz (KI).

Als das Sprachmodell des deutschen KI-Überfliegers Aleph Alpha diesen Satz produzierte, verteidigte sich das Unternehmen damit, dass die Vielfalt Europas nur sichergestellt werden könne, wenn KI-Basistechnologie keiner Limitierung unterworfen sei und Unternehmen ihren Endkunden nicht vorschrieben, was ihre KI sagen dürfe und was nicht.

Wie voreingenommen sind KI-Anwendungen, und wie leicht produzieren sie bösartige Falschinformationen? Was sind moralische Normen in der KI-Entwicklung und ihrem Einsatz? Wer legt das fest, und wie setzen es Hersteller, Anwender und Gesetzgeber um? Mit diesen Fragen beschäftigt sich die KI-Ethik. KI ist nämlich keine neutrale Technologie, sie repräsentiert die Werte ihrer Entwickler und die Werte, die tief in der DNA ihrer Trainingsdaten einprogrammiert sind und sich in der ständigen Interaktion mit dem Nutzer verfeinern.

Technologie gegen Technologie

Aleph Alpha wirbt mit einer «KI mit europäischen Werten»; Präsident Putin möchte eine KI auf Basis «russischer (sprich: antiwestlicher und antiliberaler) Werte»; in China bestimmt die Kommunistische Partei die Grenzen der KI, und im Silicon Valley gelten das uramerikanische «anything goes» sowie die Überzeugung, dass es für jedes technologische Problem auch eine technologische Antwort gibt.

Hier ist die Technologie selbst also der massgebliche Wert. Das nennen Verfechter wie die Risikokapitalgeber Andreessen Horowitz, die unlängst über 300 Millionen Euro in die französische KI-Hoffnung Mistral investiert haben, «techno-optimism» (und Wissenschafter eher «techno-solutionism»). Sie haben dazu gleich ein ganzes Manifest verfasst.

Ein KI-Detektor schätzte das Bild eines Kinderopfers der Hamas als gefälscht ein – dabei war es echt.

Was das konkret heisst, verdeutlicht ein anderes Beispiel aus der KI-Schmuddelkiste: KI-gepowerte Desinformation. Auch diese wollen Techno-Optimisten einfach mit anderen KI-Anwendungen bekämpfen, und sie haben damit offensichtlich auch Regierungen weltweit überzeugt. Doch der Reihe nach.

Desinformation meint die gezielte und absichtliche Erstellung und Verbreitung von halbwahren, unwahren oder irreführenden Informationen, um zu manipulieren, zu schaden und Einfluss auszuüben. Generative KI, also KI-Anwendungen, die auf Befehl Inhalte wie Text, Bilder, Audio oder Video erstellen, ist dabei heute das, was das Internet und Social Media vor zwanzig Jahren waren: ein Game-Changer.

Wie das aussehen kann, zeigte Nea Paw: Da brauchte man ein paar Wochen, Chat-GPT samt Bildgenerator und gerade einmal 400 US-Dollar, um in einem Experiment ein Webportal mit über zwanzig Artikeln und vier Twitter-Profilen mit fünfzig Nachrichten am Tag zu produzieren – alles im Stile von Propagandaschleudern wie Russia Today als «Gegenrede» auf seriöse Artikel geschrieben. Und zwar vollkommen automatisch.

Wie fest KI-generierte Inhalte schon heute Bestandteil von Online-Debatten sind, zeigte der Überfall der Hamas auf Israel. Egal, ob einfache Explosionen, Mütter mit Kindern in zerbombten Häuserblocks oder Kinder, die sechs Finger in eine imaginäre Kamera halten – von Nutzern mit KI generierte Bilder prägen das Bild des Konfliktes mit. Auch weil sie mittlerweile in Fotostock-Datenbanken wie der von Adobe neben echten Fotos gelistet sind.

Mehrere Problemdimensionen

Noch wirkungsvoller sind Deepfakes, also mithilfe von KI erstellte Audio- oder Videodateien, in denen reale Personen Dinge sagen und tun, die nie passiert sind. Diese Technologie ist in den letzten Jahren nicht nur viel besser, sondern auch viel günstiger geworden. Was früher nur Geheimdienste konnten, ist jetzt eine Jedermann-Anwendung. Im argentinischen Präsidentschaftswahlkampf kursierte etwa ein Deepfake-Video, das den (siegreichen) Javier Milei täuschend echt über das wirtschaftliche Potenzial von Organhandel schwadronieren liess.

Und wenige Tage vor den Parlamentswahlen in Polen veröffentlichten Oppositionskreise eine Deepfake-Tondatei, in der die Stimme von Ministerpräsident Morawiecki zu hören war, wie er aus E-Mails vorlas, die ebenfalls kurz vor der Wahl geleakt worden waren. Hier waren sowohl die Stimme Morawieckis als auch der eingesprochene Inhalt der E-Mails echt, nur die effektverstärkende, manipulative Kombination aus beidem eben nicht – ein beeindruckendes Beispiel für die Herausforderung, die Deepfakes für unser Realitätsempfinden bedeuten.

Aus ethischer Sicht haben solche KI-Anwendungen mehrere Problemdimensionen: Sie verstärken die schädliche Wirkung von Desinformation, machen sie schneller, leichter und wirkungsvoller. Andererseits verwischen sie die Grenze zwischen Wahrheit, Realität und Fakten auf der einen und simulierten, durch KI generierten Inhalten und Fakes auf der anderen Seite. Ein KI-generiertes Selfie aus der Perspektive des Demonstranten, der sich 1989 den Panzern des kommunistischen Regimes auf dem Platz des himmlischen Friedens entgegenstellt, landete zeitweise auf Platz Nummer eins der Google-Bildersuche, weil auch der Algorithmus nicht zwischen KI-generierten und von Menschen erzeugten Bildern unterschied.

Und wie sieht die Lösung dieser Probleme aus? Ein Techno-Optimist würde es mit den Worten von Yann LeCun, KI-Chefwissenschafter von Meta, halten: «AI is the solution, not the problem», und behaupten, dass KI-Desinformation nur durch andere KI-Programme effektiv bekämpft werden könne. Eine technisch saubere Angelegenheit also: Problem erkannt – Programm gecodet – Problem gelöst. KI-Fakes könnten ja einfach durch KI-Software erkannt, markiert, gelöscht oder widerlegt werden. So schlagen es etwa die Executive Order von Präsident Biden oder die Hiroshima-Deklaration der G-7-Staaten vor.

Doch leider ist es nicht so einfach, wie ein Beispiel aus dem Konflikt im Nahen Osten zeigt: Ein KI-Detektor schätzte hier das Bild eines Kinderopfers der Hamas, das die israelische Regierung nach dem Überfall vom 7.Oktober veröffentlicht hatte, fälschlicherweise als KI-Fake ein. Sofort explodierten online Debatten mit fast einer Million Nutzer. Doch das Foto war echt, die Software hatte einen fälschlich positiven Befund geliefert.

Leider beileibe kein Einzelfall: Zahlreiche Studien belegen, dass sich Erkennungssoftware für mit Sprachbots geschriebenen Text leicht durch mehrfaches Umformulieren oder Übersetzen austricksen lässt; und auch Deepfake-Erkennungssoftware liefert nur Annäherungswerte. Experimente mit Testpersonen deuten darauf hin, dass nicht erkannte Fakes einen Glaubwürdigkeits-Booster erhalten, wohingegen ein echtes Bild, das fälschlich als KI-generiert erkannt wurde, extrem abgewertet wird.

Stärkung von Resilienz

Die Wahrnehmung des menschlichen Publiku*ms macht technofixierter Problemlösung einen Strich durch die Rechnung. Um der Flut von (falschen) KI-Bildern, -Videos und -Texten Herr zu werden, fordert das Weisse Haus die verpflichtende Kennzeichnung von KI-generierten Inhalten («made with AI»). Darüber hinaus sollen digitale Wasserzeichen (watermarking) dafür sorgen, dass sie durch eine Überprüfung von Metadaten erkannt werden können.

Doch abseits der Tatsache, dass Fakes so nur ex post erkannt werden können, legen erste Studien nahe, dass Labels wie «Dieses Video wurde von KI erstellt»» keine allzu grosse Wirkung auf die Wahrnehmung von Inhalten haben. Deepfakes, so Forscher der Universität Bristol, hätten in einem Experiment nichts von ihrer Wirkung auf Testpersonen verloren, obwohl sie klar gekennzeichnet gewesen seien.

Egal, ob Hassrede, Desinformation oder Vorurteile, die Probleme der KI lassen sich nicht nur durch mehr oder bessere Technologie lösen. KI-Ethik stellt stattdessen den Menschen, also die Nutzer, Hersteller und das Publikum, ins Zentrum. Sie alle müssen sich trotz dem KI-Hype der Probleme, Herausforderungen und Grenzen der neuen Technologie bewusst werden. KI-Bildungsprogramme und die Stärkung von Resilienz gegen Hass und Desinformation sind dabei ein Schlüssel.

Anstatt sich darauf zu verlassen, dass in einem technologischen Wettrennen das «Gute» am Ende irgendwie gewinnt, brauchen Hersteller, Gesetzgeber und Nutzer ethische Kompetenzen für den kritischen Umgang mit KI: Was kann KI und was nicht? Wie funktioniert ein Large Language Model (LLM), und wozu kann ich es verwenden? Was gibt es eigentlich an KI-Desinformation, und wie kann ich sie erkennen? Welchen Informationen kann ich glauben? Und wie kann und soll kritische Meinungsbildung im KI-Zeitalter funktionieren, wenn der Informationsraum von einer Schwemme an KI-erzeugten Informationen überflutet wird und die Grenze zwischen Realität und KI-Fake immer weiter verschwimmt?

Neue KI-Technologien können uns bei der Umsetzung von Antworten auf diese Fragen helfen, stellen aber selbst nicht die Lösung dar. Denn was hilft die Kennzeichnung eines KI-Bildes, -Videos oder -Texts, wenn ich nicht weiss, welche Information echt ist und wo ich sie finde?

Wir befinden uns an einem Punkt, an dem sich unsere Informationswelt radikal und rapide wandelt. Eine angewandte Ethik kann durch Grenzen, Anregungen und Aufklärung dabei helfen, den Umgang mit der KI-gefärbten Informationswelt so zu gestalten, dass die neuartige Technologie dem Menschen dient – und nicht dessen Realitätsempfinden zerstört.

Christopher Nehring ist Gastdozent des Medienprogramms Südosteuropa der Konrad-Adenauer-Stiftung für Desinformation. Benjamin Lange ist Forschungsgruppenleiter Ethik der KI an der Ludwig-Maximilians-Universität München.