KI macht's möglich

Fake News made in China erreichen neue Qualität

12.09.2023
Von Redaktion Computerwoche
Laut Microsoft und anderen Organisationen streut China mithilfe von KI gezielt Fehlinformationen im Netz. So seien die jüngsten Brände auf Hawaii Ergebnisse des Tests einer neuartigen "Wetterwaffe".
Naturkatastrophen wecken Emotionen. Die Menschen suchen Schuldige, und Desinformationskampagnen sorgen dafür, dass die Regierungen am Pranger stehen.
Naturkatastrophen wecken Emotionen. Die Menschen suchen Schuldige, und Desinformationskampagnen sorgen dafür, dass die Regierungen am Pranger stehen.
Foto: Fernando Astasio Avila - shutterstock.com

Die Brandkatastrophe auf Hawaii habe keine natürlichen Ursachen, hieß es in einer Flut von Falschmeldungen, die im Internet verbreitet wurden. Die Brände seien das Ergebnis einer geheimen Wetterwaffe, die von den USA getestet worden sei. Die Fake News waren mit Fotos gespickt, die offenbar künstlich mithilfe von KI generiert worden waren.

Wie Forscher von Microsoft, Recorded Future, der RAND Corporation, NewsGuard und der University of Maryland und anderen Teilen Asiens zurückziehen sollten - was den Chinesen entgegenkommen dürfte., stecken chinesische Angreifer hinter der Kampagne. Die Auswirkungen sind schwer zu messen, erste Anzeichen deuten allerdings daraufhin, dass sich in den sozialen Medien nicht allzu viele Nutzer mit den doch ziemlich ausgefallenen Verschwörungstheorien beschäftigt haben.

Microsoft-Manager Brad Smith ist beunruhigt

Brad Smith, President und Vize-Chef von Microsoft, zeigte sich dennoch sehr beunruhigt. Er kritisierte China scharf dafür, eine Naturkatastrophe für politische Zwecke auszunutzen. Microsoft stellt Experten für ein wissenschaftliches Gremium ab, das Fehlinformationen im Internet analysiert. Eines der Themen dabei ist, wie Wissenschaftler aus aller Welt die globalen Auswirkungen von Kohlenstoffemissionen dokumentieren und erklären.

"Ich glaube einfach nicht, dass das eines Landes würdig ist, schon gar nicht eines Landes, das sich zu den Großen zählt", zitiert die New York Times (NYT) den Microsoft-Manager. Smith und die anderen Forscher gehen davon aus, dass chinesische Akteure ein ganzes Netzwerk von Konten aufgebaut haben, das für Fake-Kampagnen aller Art genutzt werden soll - nicht zuletzt mit Blick auf die kommenden US-Präsidentschaftswahlen. Das erinnert an Russlands Eingriffe in die US-Wahl von 2016.

Warnt vor Fake News neuer Qualität aus China: Microsoft-Manager Brad Smith.
Warnt vor Fake News neuer Qualität aus China: Microsoft-Manager Brad Smith.

Brian Liston, Forscher bei Recorded Future, einem amerikanischen Cybersicherheits-Unternehmen, beschreibt im Gespräch mit der NYT einen Strategiewechsel bei den Chinesen. Seien bislang eher Verschwörungstheorien verbreitet worden, die unmittelbar mit den chinesischen Interessen zu tun hatten, etwa über Taiwan, würden die Kampagnen jetzt breiter und aggressiver gestreut.

China sähe lieber Trump im Weißen Haus

Die liberale Zeitung geht mit Bezug auf Geheimdienstinformationen davon aus, dass China versuchen wird, US-Präsident Joe Biden im Wahlkampf zu schwächen und Donald Trump zu unterstützen. Trump hatte sich in seiner ersten Amtszeit zwar nicht als China-Freund zu erkennen gegeben, doch er vertritt die Ansicht, dass sich die Amerikaner aus Ländern wie Japan, Südkorea und anderen Teilen Asiens zurückziehen sollten - was den Chinesen entgegenkommen dürfte.

Zudem hat China Ärger mit der Biden-Administration, die dem Reich der Mitte den Zugang zu moderner Halbleitertechnik aus den USA verwehrt.

KI bringt Desinformations-Akteure voran

Zum Forscherteam, das sich mit Chinas Desinformationskampagnen beschäftigt, gehört auch William Marcellino, Forscher bei RAND und Autor eines Berichts. Er warnt ausdrücklich davor, dass die Angreifer dank künstlicher Intelligenz ein ganz anderes Instrumentarium an der Hand hätten, das sie einen "entscheidenden Sprung nach vorne" bringe.

Unklar sei, ob China und Russland ihre Aktionen koordinierten. Konkrete Beweise habe man nicht, "aber wir stellen mit Sicherheit eine Abstimmung und eine Art Synchronisation fest". Zu den Waldbränden auf Hawaii habe es von Anfang an jede Menge Gerüchte, Falschmeldungen und Verschwörungstheorien gegeben. Das sei auch bei anderen Naturkatastrophen zu beobachten.

Zuerst hatte Recorded Future aufgedeckt, dass die verdeckte Kampagne zur angeblichen "Wetterwaffe" auf Hawaii aus China lanciert wurde. So wurden etliche Posts identifiziert, in denen behauptet wurde, der britische Auslandsgeheimdienst MI6 habe "die erstaunliche Wahrheit hinter den Waldbränden" enthüllt. Beiträge mit genau demselben Wortlaut erschienen auf Social-Media-Seiten im gesamten Internet, darunter Pinterest, Tumblr, Medium und Pixiv, einer japanischen Website, die von Künstlern genutzt wird.

Rückenwind aus China für US-Verschwörungstheoretiker

Andere Fake-Konten verbreiteten ähnliche Inhalte und nutzten dazu oft öffentlich verfügbare Videos, die in einen falschen Zusammenhang gestellt wurden. Laut Recorded Future griffen die chinesischen Inhalte auch Beiträge von Verschwörungstheoretikern und Extremisten aus den USA auf und unterstützten diese. Genutzt wurden dazu die wichtigsten Social-Media-Plattformen, die in vielen Sprachen bespielt wurden. Offenbar sollte ein globales Publikum erreicht werden. Microsoft identifizierte in seinem Threat Analysis Center Falschinformationen in 31 Sprachen, darunter Deutsch, Französisch und Italienisch, aber auch in weniger bekannten Sprachen wie Igbo, Odia und Guarani.

Naturkatastrophen sind oft das Ziel von Desinformationskampagnen, da böswillige Akteure damit ein emotional aufgewühltes Publikum erreichen. Dann ist es einfach, Regierungen vermeintliche Versäumnisse bei der Vorbereitung oder der Reaktion auf Katastrophen vorzuwerfen. So lässt sich das Vertrauen in die Politik einfach untergraben und Zwietracht säen, nach dem Motto: Die USA stecken Milliarden in den Ukraine-Krieg und lassen das leidgeprüfte Hawaii in seinen schwersten Stunden allein.

Brad Smith stellte einige der Untersuchungsergebnisse von Microsoft dem US-amerikanischen Kongress vor. Seine Bilanz: "Diese Entwicklung ist meiner Meinung nach zutiefst beunruhigend. Hier sollte die Weltgemeinschaft unbedingt eine rote Linie ziehen und das verbieten." (hv)