KI-Fälschungen fluten soziale Medien – wer steckt dahinter und warum?
Alida Zänker
KI-Fälschungen fluten soziale Medien – wer steckt dahinter und warum?
KI-generierte Fälschungen verbreiten sich in sozialen Medien – und zielen mit erfundenen Identitäten und irreführenden Erzählungen auf Nutzer aller Altersgruppen ab. Von Deepfake-Influencern bis hin zu inszenierten politischen Interviews wird synthetischer Content genutzt, um Agenden voranzutreiben, Aufmerksamkeit zu monetarisieren und spaltende Botschaften zu verstärken.
Das Problem hat derartige Ausmaße angenommen, dass die EU bald Kennzeichnungspflichten einführen wird, um Nutzern die Unterscheidung zwischen echtem Inhalt und KI-generierten Fälschungen zu erleichtern.
Forschende haben einen dramatischen Anstieg an KI-erzeugten Personas dokumentiert, die gezielt die öffentliche Meinung manipulieren sollen. Die Desinformations-Expertin Karolin Schwarz analysierte Videos von KI-generierten Rabbiner-Figuren, die antisemitische Klischees verbreiten und fragwürdige Finanzratschläge erteilen. Gleichzeitig hat die Politikwissenschaftlerin Katharina Nocun nachverfolgt, wie Verschwörungstheorien und politische Einflusskampagnen synthetische Medien für ihre Zwecke instrumentalisieren.
Ein Instagram-Account mit über einer Million Followern präsentiert eine KI-generierte Frau, die mal über globale Konflikte postet, mal eine OnlyFans-Seite für Fußfetischisten bewirbt. Das Beispiel zeigt, wie einfach KI aktuelle Trends aufgreift, um zunächst Reichweite aufzubauen – und sie später zu monetarisieren.
In Deutschland verbreiten rechtsextreme Gruppen gefälschte "Straßenumfragen", darunter ein Video mit einer erfundenen 18-jährigen Blondine, die zu Massenabschiebungen aufruft. Selbst vertraute kulturelle Symbole werden zweckentfremdet: Ein Social-Media-Post des Weißen Hauses nutzte einst den ikonischen Animationsstil von Studio Ghibli – bekannt für feministische und demokratische Themen –, um eine Abschiebungsszene darzustellen.
Doch auch das Weiße Haus selbst setzt auf provokante digitale Strategien. Seit der Eskalation der Spannungen mit dem Iran gehört zu seiner Social-Media-Taktik eine inszenierte "digitale Militärparade", die mit machohaften Inszenierungen und spielerischen Ästhetiken gezielt junge Männer anspricht. Die Regierung integriert zudem rechtsextreme Memes und comicartige Bildsprache in ihre Kommunikation – eine Vermischung von Popkultur und politischer Propaganda.
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
Die EU reagiert im August mit neuen Vorschriften, die eine klare Kennzeichnung von KI-generierten Inhalten vorschreiben. Ziel ist es, Nutzern die Unterscheidung zwischen authentischem Material und synthetischen Fälschungen zu ermöglichen.
Der Aufstieg KI-generierter Identitäten offenbart, wie leicht synthetische Medien öffentliche Debatten manipulieren können – von gefälschten Influencern bis hin zu inszenierter politischer Kommentierung. Diese Tools werden eingesetzt, um Meinungen zu formen, Desinformation zu streuen und mit künstlich generierter Interaktion Profit zu schlagen.
Während die EU die Kennzeichnungspflicht vorbereitet, bleibt die zentrale Herausforderung bestehen: die Erkennung und Eindämmung von Inhalten, die gezielt täuschen sollen.
