Leben

Jigsaw: Was Google gegen Terror und Hass im Internet tut

von Carsten Fischer

Ein Unternehmen aus der Google-Gruppe geht der Entwicklung von Hass und Radikalisierung im Internet nach: Jigsaw will das Internet besser machen.

Eine Frau tippt auf ihrem Laptop, den sie auf ihren Knien hält
Wird das ein Liebesbrief oder eine Beleidigung? Bei Google-Schwester Jigsaw kämpfen 60 Mitarbeiter gegen Hass im Internet Foto: Unsplash/Kaitlyn Baker

Das erfahren Sie gleich:

  • Wie die Google-Schwester Jigsaw gegen Hassbotschaften im Internet vorgeht
  • Warum das Netzwerkdurchsetzungsgesetz schon als gescheitert gilt
  • Vor welchem Dilemma insbesondere Facebook steht

Google Jigsaw: 60 Mitarbeiter gegen den Hass

Anleitungen zum Bombenbauen, Enthauptungsvideos, Terrorbotschafen: In manchen dunklen Ecken des Internets scheint blanker Hass zu herrschen. Alphabet, der Konzern, zu dem auch Google gehört, geht mit dem Tochterunternehmen Jigsaw dagegen vor: Die rund 60 Mitarbeiter von Jigsaw erforschen Hass im Internet, insbesondere Terrorismus und Radikalisierung.

Lesen Sie auch

Alternative Antriebstechnologien im Mittelpunkt

Nachhaltigkeit bei Audi

Alternative Antriebstechnologien im Mittelpunkt

Hass im Internet: Die Maßnahmen von Jigsaw

Softwareentwickler und verschiedene Wissenschaftler erforschen, wie sich Hass im Internet verbreitet und entwickeln Ideen, wie dagegen vorgehen werden kann. Jigsaw sendet sogar Mitarbeiter in Krisenhochburgen, um dort vor Ort das Leben der Menschen kennenzulernen, Stimmungen einzufangen und politische und gesellschaftliche Rahmenbedingungen zu verstehen.

Jasmin Green, die Leiterin der Forschung und Entwicklung bei Jigsaw, erklärt: „Wir sind unter anderem in den Irak geflogen, um zu verstehen, wie der Rekrutierungsprozess des IS im Internet funktioniert.“ Besonders in Erinnerung geblieben sind ihr die Rekrutierungsvideos, die der IS in allen möglichen Sprachen produziert – sogar in Zeichensprache. Gerade Kinder müssen vor solchen Inhalten geschützt werden.

Wer nur auf das Löschen von Hassbotschaften setzt, kommt nicht hinterher.

Jasmin Green sagt klar: „Natürlich gibt es auch Inhalte, die einfach entfernt werden sollten, die besser niemand zu sehen bekommt – etwa Videoanleitungen zum Bombenbau oder Enthauptungen.“ Google-Schwester Jigsaw sucht aber nach anderen Wegen, denn wer nur auf das Löschen von Hassbotschaften setzt, kommt nicht hinterher. Außerdem gibt es laut Green Inhalte, die nicht so eindeutig sind.

Ein Resultat aus Jigsaws Feldstudien ist das Projekt Redirect. Dessen Zielgruppe sind im Falle des IS solche Menschen, die mit den religiösen Grundlagen sympathisieren, die aber noch nicht komplett radikalisiert sind. Bei den Untersuchungen und Gesprächen mit IS-Aussteigern stellte sich nämlich heraus, dass spätere IS-Kämpfer zu Beginn tatsächlich religiös motiviert sind.

Drei spannende Projekte von Google Jigsaw:

  • Redirect: Lenkt Suchanfragen bei Youtube nach radikalen religiösen Inhalten auf gemäßigte Seiten um, damit die Radikalisierung aufgehalten wird.
  • Project Shield: Die gewaltige Google-Infrastruktur filtert massenhafte Serveranfragen (DDoS-Attacken), die das Ziel haben, einen Server in die Knie zu zwingen. Nur „echte“ Zugriffe werden durchgelassen. Dafür müssen die Seiten nicht einmal bei Google oder Jigsaw gehostet sein.
  • Perspective: Die API (Nutzerschnittstelle) soll schon bei der Eingabe eines Beitrages erkennen, ob das eine potentielle Beleidigung oder Hassbotschaft sein könnte. Bisher funktioniert die Testversion auf www.perspectiveapi.com mit der englischen Sprache: „I hate bacon“ etwa wird als harmlos eingestuft, während „I hate my neighbors“ als potentielle Hassbotschaft erkannt wird.

Zensur auf Facebook: Heftige Diskussionen

Gerade bei einem Projekt wie Perspective stellt sich die Frage, wie eine solche Software eingesetzt werden soll. Warnungen werden einen Troll oder Terroristen kaum davon abhalten, eine Hassbotschaft im Internet zu posten.

Sollte man also anhand des Perspective-Algorithmus irgendwann verhindern, dass ein Beitrag geteilt werden kann? Was ist Meinungsfreiheit, was ist Zensur? Die Diskussion darüber, was gelöscht werden muss und was bleiben darf, schlägt gerade bei Facebook immer wieder hohe Wellen.

Es bleibt ein schwieriges Thema, da persönliche und kulturelle Grenzen so komplex sind. Was verbieten, was erlauben – worauf überhaupt reagieren?

Netzwerkdurchsetzungsgesetz: gescheitert?

In Deutschland hat die Politik auf diese Fragen mit dem Netzwerkdurchsetzungsgesetz reagiert. Seit dem 1. Januar 2018 müssen Betreiber sozialer Netzwerke offenkundig strafbare Inhalte löschen. Sie haben dafür eine Frist von 24 Stunden nach dem ersten Hinweis.

Updates

Bleiben Sie zum Thema Leben immer informiert.

Die Opposition fordert eine Änderung des Netzwerkdurchsetzungsgesetz.

Die Opposition im Deutschen Bundestag fordert bereits jetzt eine Änderung des Netzwerkdurchsetzungsgesetz. Als Beleg für die verfehlte Gesetzgebung gilt unter anderem die Löschung eines Tweets des Satiremagazins "Titanic". Kritiker sehen hier einen Eingriff in die Presse- und Meinungsfreiheit.

Das Beispiel Netzwerkdurchsetzungsgesetz zeigt, wie wichtig es ist, dass der Google-Konzern sich seiner Macht und Verantwortung bewusst ist und mit Projekten wie Shield und Redirect Wege abseits von einfacher Zensur sucht.

Auch interessant

Diese Website verwendet Cookies, um die Nutzerfreundlichkeit zu verbessern. Durch die weitere Nutzung der Website stimmen Sie dem zu. Um mehr über die von uns verwendeten Cookies zu erfahren und wie man sie deaktiviert, können Sie unsere Cookie-Richtlinie aufrufen.

Schließen