KI-Fälschungen fluten das Netz: Wie Desinformation Politik und Gesellschaft manipuliert
Niko Cichorius
KI-Fälschungen fluten das Netz: Wie Desinformation Politik und Gesellschaft manipuliert
Die Verbreitung von KI-generierter Desinformation veranlasst Regierungen zum Handeln. Von gefälschten Interviews bis hin zu manipulierten Bildern – synthetische Inhalte werden genutzt, um Meinungen zu beeinflussen, Betrug zu fördern und sogar extremistische Agenden voranzutreiben. Neue Vorschriften sollen das wachsende Problem nun eindämmen.
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
In Deutschland verbreiten rechtsextreme Gruppen KI-erstellte "Straßenumfragen", um ihre Botschaften zu verstärken. Ein Beispiel zeigte eine erfundene 18-jährige Blondine, die zu Massenabschiebungen aufrief. Die Clips wirkten authentisch, waren aber komplett fabriziert.
Auch die Arbeit eines Animationsstudios wurde zweckentfremdet, um Abschiebungen in verspielt-heiterem Stil darzustellen. Der Kontrast zwischen den fröhlichen Bildern und dem extremen Inhalt überraschte die Zuschauer und machte die Propaganda schwerer als solche erkennbar. Gleichzeitig wurden KI-generierte Figuren – darunter gefälschte Rabbiner – für Finanzbetrug und die Verbreitung antisemitischer Klischees missbraucht.
Das Weiße Haus setzt ebenfalls auf digitale Strategien und vermischt Popkultur mit politischer Botschaft. Dazu gehörte eine virtuelle Militärparade in sozialen Medien, die junge Männer mit stilisierten, machohaften Bildern ansprechen sollte – besonders seit der Eskalation der Spannungen mit dem Iran. Auch rechtsextreme Memes und niedliche Grafiken tauchten in offiziellen Kommunikation auf.
Deutschlands demokratische Parteien verzichten weitgehend auf populistische KI-Fälschungen, nutzen aber zunehmend KI-Tools für Social-Media-Grafiken. Die Politikwissenschaftlerin Katharina Nocun, die sich mit Desinformation und Verschwörungserzählungen beschäftigt, warnt, dass KI-Inhalte sowohl Lügen entlarven als auch das Misstrauen gegenüber echten Informationen vertiefen können. Übertriebene Satire etwa kann zeigen, wie leicht Menschen getäuscht werden – riskiert aber zugleich, dass seriöse Nachrichten verdächtig wirken.
Die EU reagiert mit schärferen Regeln: Der Digital Services Act sieht verbindliche Strafen für schädliche KI-Fälschungen und Desinformation vor. Ab August müssen alle KI-generierten Inhalte klar gekennzeichnet werden, um Nutzern die Unterscheidung zwischen Fakt und Fiktion zu erleichtern. Die neuen Kennzeichnungspflichten treten im August in Kraft und zwingen Plattformen, KI-erzeugte Materialien zu markieren.
Regierungen und Forscher beobachten weiterhin, wie synthetische Medien die Politik verändern – von extremistischer Propaganda bis zu staatlich gelenkten Digitalkampagnen. Die Herausforderung bleibt: Wahrheiten von Manipulation zu trennen in einem Zeitalter algorithmischer Täuschung.
