Gegen Hass-Posts

Google-Schwester will „Trolle“ mit Künstlicher Intelligenz bekämpfen

Mountain View  - Die Google-Schwester Jigsaw hat ein Tool vorgestellt, mit der Verlage die besonders „giftigen“ Posts leichter erkennen können. Dadurch sollen sogenannte „Trolle“ bekämpft werden.

Big Data gegen Hass-Rede und Online-Pöbelei: Die Google-Schwesterfirma Jigsaw hat am Donnerstag den Dienst „Perspective“ gestartet, mit dem im Netz leichter Kommentare identifiziert werden können, die als gehässig, unfreundlich, bösartig, gemein oder verletzend empfunden werden. Im Rahmen der Digitalen News Initative (DNI) werde Jigsaw eine Schnittstelle (API) zur Verfügung stellen, mit der Verlage „Perspective“ kostenlos nutzen können.

Der Dienst wurde zuvor in Projekten mit der Wikimedia-Stiftung und der „New York Times“ erprobt, um Hasspostings und Trollereien automatisch erkennen zu können. Dabei wurde unter anderem ein Datensatz aus insgesamt mehr als 115 000 Nachrichten von Wikipedia-Diskussionsseiten ausgewertet. Der Dienst steht vorerst nur für englischsprachige Diskussionsforen zu Verfügung. Im Rahmen der DNI könne das Projekt aber auf andere Sprachen wie Deutsch erweitert werden.

„Welt mit Technologie sicherer zu machen“

Jigsaw, ein Unternehmen der Google-Muttergesellschaft Alphabet, hat sich zum Ziel gemacht, „die Welt mit Technologie sicherer zu machen“. Im Rahmen der DNI bietet Jigsaw Verlagen im „Project Shield“ unter anderem einen kostenlosen Schutzschild gegen sogenannte Denial-of-Service-Attacken an, bei denen Wirtschaftskriminelle oder staatlich gesteuerte Hacker Webseiten der Verlage mit gigantischen Datenpaketen von Millionen gekaperten Computern aus einem Botnetz lahmlegen wollen.

Der Ansatz bei „Perspective“ gehe deutlich über den Abgleich mit einer Liste verdächtiger Schlüsselbegriffe hinaus, sagte Jigsaw-Top-Manager Jared Cohen. Die künstliche Intelligenz erkenne, ob ein Beitrag von einem menschlichen Anwender als ungemessen beurteilt werde und ihn dazu bringe, die Konversation zu verlassen.

Eine Studie habe ergeben, dass 72 Prozent aller US-Amerikaner im Internet bereits Drangsalierung wahrgenommen hätten, fast die Hälfte aller Anwender habe dies auch bereits persönlich erlebt. Knapp ein Drittel der Befragten zensiere sich inzwischen bei Online-Kommentaren selbst, weil sie Racheaktionen befürchteten.

„Gift“-Skala von Null bis 100

Das System von Jigsaw stelle auf einer Skala zwischen Null und 100 fest, wie „giftig“ („toxic“) ein Kommentar sei. Was mit den Kommentaren dann passiere, liege in der Hand der Verleger. So könne man mit dem System Moderatoren der Verlage auf verdächtige Kommentare aufmerksam machen, die sich dann in die Konversation einschalten könnten. Man könne den Anwendern aber auch schon beim Schreiben des Kommentars anzeigen, wie „giftig“ der Text eingeschätzt wird, um zu einem besseren Umgangston beizutragen. Außerdem könnten Leser die Kommentare so sortieren lassen, dass besonders gehässige Beiträge ausgeblendet werden.

dpa

Rubriklistenbild: © dpa

Das könnte Sie auch interessieren

Liebe Leserinnen und Leser,

wir bitten um Verständnis, dass es im Unterschied zu vielen anderen Artikeln auf unserem Portal unter diesem Artikel keine Kommentarfunktion gibt. Bei einzelnen Themen behält sich die Redaktion vor, die Kommentarmöglichkeiten einzuschränken.

Die Redaktion

Kommentare

Unsere Kommentarfunktion wird über den Anbieter DISQUS gesteuert. Nutzer, die diesen Dienst nicht verwenden, können sich hier über das alte HNA-Login anmelden.

Hinweise zum Kommentieren:
In der Zeit zwischen 17 und 9 Uhr werden keine neuen Beiträge freigeschaltet.

Auf HNA.de können Sie Ihre Meinung zu einem Artikel äußern. Im Interesse aller Nutzer behält sich die Redaktion vor, Beiträge zu prüfen und gegebenenfalls abzulehnen. Halten Sie sich beim Kommentieren bitte an unsere Richtlinien: Bleiben Sie fair und sachlich - keine Beleidigungen, keine rassistischen, rufschädigenden und gegen die guten Sitten verstoßenden Beiträge. Kommentare, die gegen diese Regeln verstoßen, werden von der Redaktion kommentarlos gelöscht. Bitte halten Sie sich bei Ihren Beiträgen an das Thema des Artikels. Lesen Sie hier unsere kompletten Nutzungsbedingungen.

Die Kommentarfunktion unter einem Artikel wird automatisch nach drei Tagen geschlossen.