Berlin. Die US-Firma Midjourney bietet Bildgenerierung mittels KI an. Doch Bilder mit Chinas Staatschef sind verboten. Das steckt dahinter.

Der Papst im hippen Wintermantel oder die gefakte Verhaftung von Donald Trump. Mit Künstlicher Intelligenz, die Bilder erzeugt, lassen sich die wildesten Fantasien in Kunstwerke verwandeln. Ein Vorreiter in dieser KI-Bildgenerierung ist der US-Anbieter Midjourney. Doch jetzt steht die Firma in der Kritik: Sie steht im Verdacht, ihr Angebot auf politischen Druck aus China hin eingeschränkt zu haben.

Um bei Midjourney Bilder erzeugen zu können, müssen verschiedene Begriffe in der Eingabemaske in sogenannten Prompts miteinander kombiniert werden. So können Bilder kreiert werden, in denen Staatsoberhäupter wie Wladimir Putin und US-Präsident Biden lustige Dinge machen und Grimassen schneiden. Mit dem chinesischen Staatsoberhaupt Xi Jinping ist das jetzt nicht mehr möglich, wie die „Washington Post“ berichtete.

Der Name des Chefs der kommunistischen Partei wurde bei Midjourney gesperrt. Wer versucht, ein Bild mit der Eingabe „Jinping“, „Xi“ oder „chinesischer Premierminister“ zu erzeugen, der bekommt eine Warnmeldung, dass die Begriffe verboten sind. Sollte die Regel gebrochen werden, könne das zu einer Deaktivierung des Zugangs führen.

Gründer von Midjourney: „Wir wollen einfach nur das Drama minimieren“

„Wir wollen einfach nur das Drama minimieren“, begründet der Gründer und CEO des Unternehmens, David Holz, in einem Beitrag auf dem Chat-Dienst Discord diese Entscheidung. „Politische Satire ist in China so ziemlich nicht in Ordnung“, fügte er hinzu, und „die Fähigkeit der Menschen in China, diese Technologie zu nutzen, ist wichtiger als ihre Fähigkeit, Satire zu erzeugen“.

In der Vergangenheit war Midjourney immer wieder von Regimekritikerinnen und Kritikern dazu genutzt worden, das chinesische Staatsoberhaupt mit der Kinderbuchfigur Winnie Pooh zu kombinieren. Die Idee entstand bereits 2013 bei Xi Jinpings Besuch in den USA. Hier wurde der Staatschef mit dem gelben Bären verglichen und so zum Sinnbild für Kritik an Chinas Oberhaupt, ohne die Zensurregeln zu brechen. Inzwischen steht der Vergleich aber auf der Zensurliste.

Lesen Sie auch: Besuch in China – Wird sich Baerbock mit Peking anlegen?

Experte hält Entscheidung von Midjourney für menschenrechtlich problematisch

Die Entscheidung, den Begriff „Jinping“ jetzt zu sperren, löst in der KI-Community vor allem Kritik und Unverständnis aus. Der Firma von Holz wird vorgeworfen, diese vor allem auf einer ökonomischen Grundlage getroffen zu haben. Sollte der chinesische Staat die Anwendung sperren, würde eine große Kundenbasis für das Tech-Unternehmen wegbrechen.

Auch Matthias Kettemann, Professor und Programmleiter im Forschungsprogramm zu Regeln in digitalen Räumen, findet die Maßnahmen von Midjourney schwierig. „Es ist menschenrechtlich problematisch, dass Midjourney aus wirtschaftlichen Gründen, dem Druck Chinas nachgegeben hat, Bilder von Xi Jinping nicht mehr zu generieren“, sagt der Experte.

Trotzdem könne Midjourney als private Firma, abgesehen von Rechtswidrigkeiten, selbst entscheiden, was sie zulassen und was nicht, so Kettemann. Nur Bilder von einzelnen Politikerinnen und Politikern zu sperren, hält er nicht für nachhaltig. „Hier würde eine Demokratisierung der Regeln helfen, wie etwa durch Plattformräte oder Plattformparlamente“, erklärt er.

Mehr zum Thema: Sollte es strengere Gesetze für KI-Entwicklung geben?

Bilder von Chinesischen Staatsoberhaupt auf anderen Plattformen möglich

Die Alternative zu Midjourney ist die Nutzung von KI-Bildgeneratoren, die andere Richtlinien haben. So lassen sich über das KI-Tool DALL-E von OpenAI zwar eigentlich auch keine Bilder mit Politikerinnen und Politikern kreieren, aber die Sperre kann umgangen werden, indem „President of China“ in den Prompt eingegeben wird. Generell verlangt OpenAI von seinen Nutzerinnen und Nutzern, sich an Inhalte zu halten, die als „jugendfrei“ eingestuft sind. Neben Politikern sollten auch prominente Persönlichkeiten nicht in Bildern wiederzuerkennen sein.

Mit hingegen geringen Beschränkungen für lediglich sexuelle oder gewalttätige Bilder kommt die Anwendung Stable Diffusion aus. Das Start-up Stability AI, das hinter der KI steht, sieht die Verantwortung für eine ethisch korrekte Nutzung vor allem bei den Menschen selbst und lässt so die Möglichkeit offen, politische Figuren als Inspiration für KI-Bildentwicklung zu nutzen.