Zweiminütige Lektüre
Die jüngste Untersuchung von OpenAI hat eine im Iran ansässige Einflussoperation aufgedeckt, die etwas Raffinierteres tat, als soziale Medien mit Bots zu fluten: Sie schuf westliche Journalisten und brachte echte Publikationen dazu, deren Arbeit zu veröffentlichen.
Die Operation mit dem Codenamen „Bogus Bylines“ nutzte sieben fiktive Journalistenidentitäten – die sich zumeist als Amerikaner ausgaben –, um fast 100 Artikel in Online-Medien weltweit zu platzieren. Die von Iran aus agierenden Agenten verwendeten ChatGPT, um englischsprachige Artikel zu optimieren, sie an die Vorgaben der Redaktionen anzupassen und überzeugende Pressemitteilungen zu verfassen. Einige der gefälschten Profile wurden durch Accounts auf X, Facebook, Instagram und anderen Plattformen verstärkt. Eines der Profile gab sich als „amerikanischer freiberuflicher Autor“ aus; die Plattformdaten wiesen jedoch auf einen Standort im Iran hin.
Ziel war es nicht bloß, Inhalte zu generieren. Es ging darum, Propaganda durch seriöse Medien zu verbreiten.
Nach Beginn des Konflikts zwischen den USA und dem Iran nahm die Publikationstätigkeit sprunghaft zu. Das Netzwerk verbreitete Narrative, die den Iran als widerstandsfähiges Opfer, die USA als Aggressor und Israel als unzuverlässigen Verbündeten darstellten. Einige Verlage bewarben die platzierten Artikel anschließend über ihre eigenen Social-Media-Konten und ermöglichten der Operation so den Zugang zu einem Publikum, das über die üblichen iranischen Propagandakanäle niemals erreichbar gewesen wäre. OpenAI stufte die Artikelplatzierungsoperation auf ihrer sechsstufigen Einflussskala in Kategorie 4 ein.
#Iran Cyber Army: A Force of Disinformation for a Cursed Cause https://t.co/S3LusEN4HB
— NCRI-FAC (@iran_policy) April 1, 2022
OpenAI nannte die Organisation hinter Bogus Bylines nicht und erklärte, deren Aktivitäten entsprächen einer kommerziellen Einflussnahme gegen Bezahlung. Diese Einschränkung ist wichtig. Würde man diesen Fall jedoch isoliert betrachten, würde dies ein viel größeres und weitaus besser dokumentiertes Muster verschleiern.
Nur wenige Wochen zuvor hatte Anthropic drei staatsnahe Operationen des Iran aufgedeckt, die in direktem Zusammenhang mit namentlich genannten Propagandainstitutionen des Klerikerregimes standen. Dazu gehörten die Organisation für Islamische Kultur und Kommunikation unter dem Ministerium für Kultur und Islamische Führung, das Büro für Islamische Propaganda von Khorasan Razavi und das Kulturobservatorium Bina der Organisation für Islamische Propaganda. Laut Anthropic bezeichneten die Akteure ihre Arbeit selbst als „sanfte Kriegsführung“ und „kognitive Kriegsführung“.
Ihr Einsatz von KI war systematisch. Claude wurde eingesetzt, um Einflussstrategien, gefälschte Identitäten, Zieldatenbanken und Propagandahandbücher zu erstellen; Regierungsnachrichten in mehrsprachige Inhalte umzuwandeln; offizielle Darstellungen als Material unabhängiger oder ausländischer Autoren zu tarnen; und scheinbar basisdemokratische Kampagnen zu inszenieren. Ein Teil des Materials wurde über Kanäle verbreitet, die mit den Revolutionsgarden verbunden waren.
Google hat dieselbe Entwicklung dokumentiert. Die Threat Intelligence Group berichtete im September, dass iranische Akteure generative KI einsetzten, um fiktive Identitäten zu erstellen und staatlich unterstützte Gegeneinfluss-Narrative zu verbreiten. Sie wiesen die Modelle sogar an, sich wie Spezialisten für psychologische Kriegsführung zu verhalten und persuasive sowie manipulative Techniken zur Unterstützung der Ziele des Regimes anzuwenden. Frühere Untersuchungen von Google ergaben, dass iranische, von der Regierung unterstützte Akteure die größten regierungsnahen Nutzer von Gemini unter den von Google beobachteten fortgeschrittenen Bedrohungsgruppen waren. Zu ihren Zielen und Interessen zählten ausländische Regierungen, Verteidigungsorganisationen und iranische Dissidenten.
#Iran: The Latest Regime Propagating Fake News
The concept of fake news, brought into the spotlight by U.S. President Donald #Trump, is now being applied to Iran. #Facebook announced that it has removed more than 600 accounts, groups and pages that are… https://t.co/iq0kCwKyY0 pic.twitter.com/sU19czou9D— NCRI-FAC (@iran_policy) August 24, 2018
Meta hat unterdessen wiederholt iranische, koordinierte Einflussnetzwerke zerschlagen, die sich als Amerikaner ausgaben. Ein Netzwerk namens „2026“ nutzte gefälschte Aktivisten, Studenten und Grafikdesigner, die angeblich in US-Städten lebten und teilweise KI-generiertes Material veröffentlichten. Eine andere iranische Kampagne konstruierte aufwendige Fake-News-Portale und -Profile, um Teherans regionale Interessen voranzutreiben.
Das sich bei konkurrierenden Technologieunternehmen abzeichnende Bild lässt sich daher kaum ignorieren.
Teherans Propagandaapparat experimentiert nicht bloß mit künstlicher Intelligenz. Institutionen, die mit dem herrschenden Establishment verbunden sind, integrieren KI in eine altbekannte Täuschungsstrategie: die Quelle verschleiern, glaubwürdige Identitäten erfinden, unabhängigen Journalismus imitieren, einen Konsens erzeugen und die Narrative des Regimes einem Publikum aufzwingen, das sie ablehnen würde, wäre der wahre Urheber sichtbar.
Die Technologie ist neu.
Die Methode der Diktatur ist es nicht.