Nach Darstellung des staatlichen Internet-Informationsbüros zielen die unlängst veröffentlichten Vorschriften der Cyberspace Administration of China (CAC) darauf ab, "die Verwaltung von Internet-Informationsdiensten in einer tiefgreifenden Synthese zu stärken, die sozialistischen Grundwerte zu fördern, die nationale Sicherheit und die sozialen öffentlichen Interessen zu schützen und die legitimen Rechte und Interessen von Bürgern, juristischen Personen und anderen Organisationen zu wahren". So sei die Regierung besorgt, dass die Fortschritte in der KI-Technologie von böswilligen Akteuren genutzt werden könnten, um mithilfe von Deepfakes Betrügereien durchzuführen oder Menschen zu verleumden, indem sie sich mit deren Identität schmücken.

Nur Deepfakes mit Zustimmung

Nach den am 10. Januar 2023 in Kraft tretenden Richtlinien müssen Unternehmen und Technologen, die diese Technologie einsetzen, demnach zunächst mit den Personen Kontakt aufnehmen und deren Zustimmung einholen, bevor sie deren Stimme oder Bild bearbeiten. Gleichzeitig verpflichtet die Regulierungsbehörde Anbieter von Deep-Synthesis-Diensten dazu, den Mechanismus des Algorithmus regelmäßig zu prüfen, zu bewerten und zu verifizieren. Die damit erstellten Resultate - in der Regel handelt es sich dabei um Bilder, Videos oder Sprachaufzeichnungen - müssten gekennzeichnet werden, "um Verwirrung in der Öffentlichkeit oder eine falsche Identifizierung zu vermeiden".

Wie bei vielen der von China vorgeschlagenen technologiepolitischen Maßnahmen sind natürlich auch die Richtlinien mit der offiziellen Bezeichnung "Vorschriften für die Verwaltung der Tiefensynthese von Internet-Informationsdiensten" an politische Erwägungen gekoppelt. So müssten laut "South China Morning Post" Nachrichten, die mit dieser Technologie veröffentlicht werden, von einer von der Regierung genehmigten Liste von Nachrichtenagenturen stammen.

Korrekte politische Richtung erforderlich

Ebenso verlangten die Regeln, dass alle so genannten Deep-Synthesis-Anbieter die lokalen Gesetze einhalten und die "korrekte politische Richtung und die korrekte Ausrichtung auf die öffentliche Meinung" beibehalten. Korrekt wird hier natürlich einseitig vom Staat festgelegt und beinhaltet auch die rigiden Vorschriften für akzeptable Online-Inhalte.