Berlin. Live-Videos im Internet zeigen immer wieder eindeutige Straftaten oder Gewalt. Experten kritisieren, wie die Betreiber damit umgehen.

Es sind Gewaltszenen, die ungefiltert in die Öffentlichkeit gelangen. Jüngstes Beispiel: Ein Polizistenmörder in der Nähe von Paris, der Teile seiner Tat live auf Facebook übertrug. Nachdem der Mann, der sich zur Terrormiliz IS bekannte, einen Polizisten und dessen Frau getötet hatte, sendete er mit seinem Smartphone aus der Wohnung der Familie und fragte, was er nun mit dem kleinen Kind des Paares tun solle. Das Video verband er mit Aufforderungen zu weiteren Terroranschlägen.

In den vergangenen Monaten haben mehrere ähnliche Fälle für Diskussionen gesorgt, in denen Nutzer Gewaltverbrechen über Internetplattformen wie Facebook Live, Periscope oder Younow live verbreitet haben. Die Technik verleiht der Tat eine neue Dimension: Nicht nur die Taten sind außergewöhnlich, sondern auch der Umstand, dass die Straftaten potenziell für ein Milliarden-Publikum in Echtzeit zu verfolgen sind – was zumindest im deutschen Fernsehen kaum vorstellbar ist. Experten kritisieren, dass die Unternehmen hinter den Diensten nicht genug tun, um Fälle wie den einer live gezeigten Vergewaltigung in den USA nicht zu verhindern.

Straftaten im Livestream in den USA

Besonders in den Vereinigten Staaten sorgten eine Reihe von live im Netz übertragenen Straftaten für Aufsehen. Im US-Bundesstaat Ohio zum Beispiel hatte am 27. Februar dieses Jahres die 18-jährige Marina Lonina über die Video-App Periscope die Vergewaltigung einer 17-jährigen Freundin gefilmt und live ins Internet übertragen. Ein Gericht verhandelt nun, ob Lonina als Mittäterin der Vergewaltigung gilt oder mit dem Video nur Beweise sichern wollte. In weiteren Fällen hat etwa ein Mann im Mai im US-Bundesstaat Florida einen Schusswechsel zwischen sich selbst und einem Spezialeinsatzkommando der Polizei gefilmt. Zwischendurch zog er sich immer wieder in sein Haus zurück und kommentierte das Geschehen für die Zuschauer. In einem Live-Video bei Facebook vom 1. April war zudem live zu sehen, wie ein 31-jähriger Mann in Chicago angeschossen wurde.

Dass solche Fälle in Zukunft nicht weniger werden, lässt die fortschreitende Technik erwarten. „Das Internet, speziell die sozialen Medien senken die Hürden dafür, Inhalte aller Art anderen Menschen zur Verfügung zu stellen und zu verbreiten“, sagt Jan-Hinrik Schmidt, wissenschaftlicher Referent für Digitale Interaktive Medien und Politische Kommunikation am Hans-Bredow-Institut für Medienforschung. Für Außenstehende stellt sich in den Fällen die Frage: Wie konnte es dazu kommen, dass das Video überhaupt live übertragen und nicht gestoppt wurde? Wir geben einen Überblick darüber, wie die Anbieter der Video-Dienste gegen gewalttätige und unangebrachte Videoinhalte vorgehen:

Facebook Live

Moderation Facebook setzt bei der Moderation der Videos des Dienstes Live stark auf die Arbeit der eigenen Community. „Wir ermutigen unsere User, solche Fälle sofort zu melden – ohne zu warten, bis das Video zu Ende spielt.“, heißt es in einer Antwort auf eine Anfrage unserer Redaktion. Die gemeldeten Inhalte werden von einem weltweit agierenden Team gesichtet und gegebenenfalls gesperrt. „Dieses Team wird aggressiv vergrößert“, sagte uns ein Facebook-Sprecher. Andreas Fischer, Vorsitzender der Kommission für Jugendmedienschutz der Landesmedienanstalten (KJM) bestätigte unserer Redaktion, dass Facebook auch externe Firmen mit der Moderation beauftragt hat. „Die entscheidende Frage ist hier jedoch, ob und wie dieses „Löschteam“ für seine Aufgabe fachlich geschult wird“, so Fischer. Bei der Aufklärung gegenüber Nutzern und der Schulung eigener Mitarbeiter setzt Facebook ebenfalls auf externe Expertenhilfe.

Zusammenarbeit mit Polizei und Justiz Facebook meldet rechtlich bedenkliche Inhalte selbst an Polizeibehörden oder die Staatsanwaltschaft. „Das heißt konkret, dass wir Strafvollzugsbehörden kontaktieren, wenn wir Meldungen empfangen, die ein sofortiges Einschreiten erforderlich machen.“

Periscope

Moderation Persicope setzt auf die Stärke der Community, die Beiträge melden soll. Gegenüber unserer Redaktion verweist das Unternehmen auf eine neue Handhabung, bei der als verletzend gemeldete Inhalte sofort einer Jury von fünf anderen Nutzern vorgelegt werden, die dann gemeinsam entscheiden, ob ein Beitrag tatsächlich gegen die Richtlinien von Periscope verstoßen. Dieses System kommt bisher allerdings nur bei den Kommentaren zu Videos zum Einsatz, nicht bei den Videos selbst. Ob Periscope auch externe Firmen mit der Moderation von Inhalten beauftragt, hat das Unternehmen nicht erklärt.

Zusammenarbeit mit Polizei und Justiz Periscope setzt auf einen engen Kontakt zu Strafverfolgungsbehörden. So bietet die Plattform sowohl zahlreiche Möglichkeiten um unangebrachte Inhalte zu melden, aber auch ein Formular für Polizei- und Justizbehörden ist auf der Firmenhomepage prominent platziert. Dort kann die Polizei eine Anfrage senden, um Informationen zu einzelnen Nutzern oder deren Inhalten zu erfragen oder aber eine Sperrung eines Profils zu bewirken. Zudem veröffentlicht Twitter für die eigene Marke, für Persicope und für Vine jährlich einen Report, der die Anfragen staatlicher Behörden auflistet.

Younow

Moderation Younow setzt offensichtlich stärker auf technische Hilfsmittel als andere Netzwerke. Das Unternehmen betont in einer Antwort auf eine schriftliche Anfrage, dass mehrere automatisierte technische Hilfsmittel zum Einsatz kommen. Dafür sprechen auch die Richtlinien zum Streamen bei Younow. So wird Frauen unter anderem empfohlen, blickdichte Kleidung zu tragen. Hintergrund scheint zu sein, dass ein automatischer Filter nackte Brüste auch in Live-Videos erkennt und entsprechende Videos blockieren könnte. Younow setzt zudem rund um die Uhr an allen Tagen der Wochen ein Moderationsteam ein, das von Nutzern gemeldete Inhalte überprüft.

Zusammenarbeit mit Polizei und Justiz Zu der Zusammenarbeit mit Strafverfolgungsbehörden äußerte sich das Unternehmen nach unserer Anfrage nicht.

Reichen die Instrumente der Unternehmen aus?

Der Theaterregisseur Moritz Riesewieck hat monatelang zur Moderation von anstößigen oder gewaltverherrlichenden Inhalten in sozialen Netzwerken recherchiert und Ergebnisse seiner Recherche unter anderem auf der Internet-Konferenz Republica 2016 vorgestellt. Im Gespräch mit unserer Redaktion zeigt er sich skeptisch, dass die sozialen Netzwerke bei der Moderation von Live-Videos die richtigen Mittel einsetzen. Zum Moderationsvorgang erklärt er: „Auch Videos werden von Content Moderators kontrolliert. Wie bei Fotos scannt eine Bilderkennungssoftware alle hochgeladenen Fotos und Videos, erkennt so grob etwa gewaltsame oder pornografische Bilder.“

Die Bewertung übernehmen dann wieder Menschen, die in ihren Schichten Tausende Nacktbilder oder Gewalttaten in Videos sichten müssen. Moritz Riesewieck hat während seiner Recherche mit den „Content Moderatoren“ gesprochen und sagt: „Laut Content Moderators ist Videos durchzuschauen schlicht noch belastender als bei Fotos.“

Wie die Politik die Lage verbessern will

Auf europäischer Ebene gibt es eine Initiative, diese Form der Moderation zu verändern. Eine Richtlinie über audiovisuelle Mediendienste (AVMD-Richtlinie) soll die Verbreitung von gewaltverherrlichenden Inhalten verbieten. Zusätzlich dazu arbeitet die EU wohl an einer Vorschrift, die elektronische Filtersysteme auf den Plattformen vorschreibt.

Neben den Unternehmen haben die Medienwächter der KJM bei den Landesmedienanstalten selbst ein Auge auf Internetplattformen gestellte Video-Inhalte. „Die KJM kann [...] auf der Ebene der Profilbetreiber Verstöße verfolgen“, sagt der KJM-Vorsitzende Andreas Fischer. Sollte ein Nutzer auffallen, können gegen ihn auch Bußgelder verhängt werden. Strafverfolgung hält auch der Medienforscher Jan-Hinrik Schmidt für sinnvoll. „Gegenüber möglichen Nachahmern ist die Löschung vermutlich wenig abschreckend, wohl aber entsprechende Strafen für die Täter“, sagt er.