Suche
  • Marlene

Neuer Algorithmus kämpft gegen Misogynie auf Twitter

Aktualisiert: 20. Dez 2020

Jeder, der schon einmal Twitter benutzt hat, weiß, dass es kaum eine andere Social Media Plattform gibt, auf der so leicht, schnell und unbedacht Worte veröffentlicht werden, die potenziell verletzend sein können. Vor allem aber in puncto Frauenfeindlichkeit erleichtert Twitter es all seinen Usern erniedrigende, beschämende, respektlose und sexistische Tweets zu veröffentlichen.

Ein Team der Queensland University of Technology in Australien hat nun ein Modell entwickelt, dass dem ein Ende bereiten soll. Der entwickelte Algorithmus soll Tweets auf ihren frauenfeindlichen Gehalt hin untersuchen, erkennen und vor allem blockieren.

Dafür hat das Team ein Dataset von über einer Million Tweets auf die Schlagworte whore, slut und rape durchsucht, um dann etwa 5000 davon als frauenfeindlich einzuordnen.

Eine Herausforderung hierbei ist natürlich, dass Tweets und Sprache kontextabhängig sind. Hierfür wird der Algorithmus fortlaufend trainiert, sodass er den Unterschied zwischen beispielsweise sarkastischen oder ernstgemeinten Erniedrigungen lernt. Dafür wird der Algorithmus mit einem sogenannten Long Short-Term Memory und Transfer Learning ausgestattet, sodass er einerseits aus vorhergehenden Erkenntnissen schöpft, jedoch gleichzeitig dazu lernt und sein kontextuelles und semantisches Verständnis weiter entwickelt. Als Beispielsatz nennen die Entwickler "Get back to the kitchen" ("Geh zurück in die Küche"), der für sich genommen zwar keine beleidigenden Worte beinhaltet, jedoch bekanntermaßen gerne als Beleidigung von frauenfeindlichen Personen missbraucht wird, und auch als solche von dem Algorithmus erkannt wurde.

Das Potenzial hiervon ist vielversprechend - vielleicht kann mithilfe eines solchen Algorithmus' in der Zukunft auch rassistisches, homophobes oder anderes menschenfeindliches Gedankengut frühzeitig erkannt werden.


Weiterführende Links:


https://www.forbes.com/sites/alisonescalante/2020/09/01/twitter-might-be-about-to-get-friendlier-to-women/#49af00fc45f4


https://link.springer.com/article/10.1007/s10115-020-01481-0


https://www.qut.edu.au/news?id=168411