Euer Projekt pre:bunk klärt über demokratie- und menschen­feind­liche Narrative auf Tiktok auf. Dabei geht es auch um das Phänomen Algospeak – was versteht ihr darunter?

Algospeak ist eine Abkürzung für algorith­mus­ba­sierte Sprache und bezeichnet Codes, Chiffren oder sprach­liche Umschrei­bungen, die strate­gisch genutzt werden, um unbemerkt von techni­scher Platt­form­mo­de­ration kommu­ni­zieren zu können. Konkret kann das durch Andeu­tungen, verän­derte oder falsche Schreib­weisen von Wörtern bezie­hungs­weise dem Ersatz einzelner Buchstaben durch Ziffern und Symbole oder Emojis erfolgen. Eine Dimension von Algospeak, die wir betrachten, ist die Umweg­kom­mu­ni­kation – das ist ein Begriff aus der Antise­mi­tis­mus­for­schung. Dabei geht es um explizit menschen­feind­liche Ideologien, die etwa durch verän­derte Worte oder mit Hilfe von > Memes trans­por­tiert werden.

Zu welchem Zweck nutzen Rechts­extreme Algospeak bezie­hungs­weise Umwegkommunikation?

Soziale Medien sind für rechts­extreme Akteur*innen wichtig, um ihre Reich­weite zu erweitern, sich zu vernetzen, Anhänger*innen zu mobili­sieren und ihre Ideologien zu streuen. Dabei greifen sie auf subtile Kommu­ni­ka­ti­ons­tech­niken zurück, um ihre antide­mo­kra­ti­schen Botschaften zu verbreiten, ohne sofort aufzu­fallen. Trotz der Plattform-Moderation gegen missbräuch­liches Verhalten und Diskri­mi­nierung, finden sie kreative Schlupf­löcher wie Algospeak, um unter dem Radar von Restrik­tionen zu agieren und trotzdem eine große Reich­weite zu erzielen. Rechts­extreme Akteur*innen nutzen Algo­speak als Umweg­kom­mu­ni­kation, um Nutzer*innen zu erreichen, die noch gar nicht mit ihren menschen­feind­lichen Ideologien in Berührung gekommen sind und die Grenzen dessen, was öffentlich akzep­tiert ist, schlei­chend zu verschieben. Hassrede kann dadurch schritt­weise norma­li­siert werden. Durch konti­nu­ier­liche Wieder­holung und leichte Anpassung werden Wörter und Aussagen zunehmend als Teil des normalen Diskurses wahrge­nommen und mit der Zeit von vielen Nutzer*innen weniger kritisch hinter­fragt. Chiffren wie „n@dzi“ oder antise­mi­tische Codes wie Garten­zwerg-Memes zeigen, wie sich rechts­extreme Akteur*innen die Platt­form­logik zu eigen machen.

Wird Algospeak haupt­sächlich in rechts­extremen Kontexten verwendet?

Nein. Generell wird vermutet, dass der Algorithmus von Tiktok auf bestimmte Begriffe reagiert, die häufig mit Hassrede oder Desin­for­mation in Verbindung stehen. Mit Algospeak sollen also voraus­ge­sehene Einschrän­kungen der Inhalte durch die technische Plattform-Moderation vermieden werden. Mit Sicherheit greifen viele junge Menschen Trends oder Hashtags, die Algospeak beinhalten, aus Spaß und dem Bedürfnis nach Zugehö­rigkeit auf. Die Codes werden so zu einer Art Insider-Wissen, das zeigt, dass man die Sprache und Kultur der jewei­ligen Community versteht.

Zudem existieren Wörter, die von bestimmten Commu­nities als positive Eigen­be­zeichnung, von anderen aber als Belei­digung verwendet werden. Auch hier wird durch Algospeak versucht, einer poten­zi­ellen Regle­men­tierung zu entgehen. Leider birgt das die Gefahr einer Re-Tabui­sierung. Beispiele sind etwa für die LGBTQIA+-Community wichtige Begriffe wie „schwu/​“ (schwul), „qu33r“ (queer), „Le$bian“ (Lesbe). Auch proble­ma­tische Wörter, die in einem pädago­gi­schen Kontext zur politi­schen Aufklärung verwendet werden, können davon betroffen sein. Algospeak wird also auch von Creator*innen verwendet, um progressive Inhalte vor befürch­teter Moderation zu schützen. 

Welche Möglich­keiten gibt es, um subtilen rechts­extremen Ansprachen auf Tiktok zu begegnen?

Algospeak und insbe­sondere rechts­extreme Umweg­kom­mu­ni­kation auf Tiktok sind im Hinblick auf die Verbreitung menschen­feind­licher Ideologien und die Verschiebung der Grenzen des Sagbaren im demokra­ti­schen Diskurs ein unter­be­lich­tetes Phänomen. Um diesen Heraus­for­de­rungen zu begegnen, braucht es ein Zusam­men­spiel verschie­dener Maßnahmen.

Soziale Arbeit im Online-Raum: Um Phäno­menen wie Umweg­kom­mu­ni­kation zu begegnen, bedarf es Ansätze, die das Klima auf sozialen Medien nach­haltig positiv beein­flussen. Pädago­gi­sches Community-Management und Prebunking, eine Strategie zur Sensi­bi­li­sierung in Bezug auf Desin­for­mation, können im Rahmen von Digital Streetwork erfolgen. Soziale Arbeit im Online-Raum verfolgt einen lebens­welt­ori­en­tierten und aufsu­chenden Ansatz, um Hassrede auf sozialen Medien vorzu­beugen. Dadurch kann Radika­li­sierung präventiv begegnet werden. 

Trans­parenz: Es ist wichtig, dass Tiktok und andere soziale Platt­formen ihre Modera­ti­ons­pro­zesse offen­legen und den Nutzer*innen verständlich machen, wie Inhalte bewertet und moderiert werden.

Recht­liche Prüfung: Unabhängige Expert*innen sollen überprüfen, ob und wann regle­men­tie­rende Maßnahmen mit der Meinungs­freiheit vereinbar sind.

Verbes­serung von Content-Moderation: Die Platt­formen müssen an der Schulung von Moderator*innen arbeiten, um ein besseres Verständnis für kontext­be­zogene Inhalte und die Unter­scheidung zwischen Algospeak und Umweg­kom­mu­ni­kation als antide­mo­kra­ti­scher Strategie zu entwickeln.

Forschung: Es bedarf einer wissen­schaft­lichen Ausein­an­der­setzung über die Auswir­kungen von Algospeak und Umweg­kom­mu­ni­kation auf Online-Commu­nities, margi­na­li­sierte Gruppen und den demokra­ti­schen Diskurs.

Problem benennen: Um Nutzer*innen vor den Auswir­kungen von Umweg­kom­mu­ni­kation zu schützen, ist es wichtig, sie darüber aufzu­klären und für diese Form der Hassver­breitung zu sensi­bi­li­sieren. Das kann ein Signal an die Hater*innen sein, dass die Codierung von menschen­ver­ach­tenden Inhalten gesehen und geahndet wird.

pre:bunk ist ein Projekt der Amadeu Antonio Stiftung mit dem Fokus auf Medien­kom­petenz. Es überträgt den Ansatz des Digital Streetwork in Videoformate.