In den letzten Jahren hat sich eine Art Struktur herausgebildet, die sich auf diese Manöver spezialisiert hat: die “Trollfarmen”. Dieses Interview wurde am im Rahmen des Kolloquiums “Les démocraties à l’épreuve des infox” geführt, das gemeinsam von der INA und der BNF organisiert wurde. Jane Lytvynenko ist Journalistin bei BuzzFeed News, erklärt er:

Was ist eine “Trollfarm”?

Jane Lytvynenko: Wenn wir von staatlich gesponserten Trollfarmen sprechen, meinen wir eigentlich Menschen, die von Ländern dafür bezahlt werden, Desinformationen zu verbreiten, um den öffentlichen Diskurs zu beeinflussen, und die das Internet in erster Linie zu Propagandazwecken nutzen. Sie sind auch als Cybertruppen bekannt.

Wie lange gibt es diese Betriebe schon?

Jane Lytvynenko: Soweit wir wissen, haben die ersten Betriebe 2014 ihren Betrieb aufgenommen. Aber im Laufe der Zeit haben wir gesehen, dass immer mehr von ihnen auf der ganzen Welt auftauchen. So zählte das Oxford Internet Institute im Jahr 2017 weltweit 28 staatlich geförderte Trollfarmen. In einem Folgebericht, der 2018 veröffentlicht wurde, stellten wir jedoch einen starken Anstieg der Zahl der Länder fest, die staatlich gefördertes Trolling betreiben, von 28 auf 48. Dies bedeutet, dass das Problem an Bedeutung zunimmt und dass das Phänomen höchstwahrscheinlich wirksam ist.

Gibt es verschiedene Arten von “Trollfarmen”?

Jane Lytvynenko: Verschiedene Länder gehen auf unterschiedliche Weise an Online-Propaganda heran. Russland ist natürlich das berühmteste Beispiel, weil seine Methoden am umfassendsten sind. Sie sind wirklich die Pioniere in diesem Bereich. Wir beobachten jedoch, dass einige der staatlich geförderten Trollfarmen nach innen gerichtet sind. Einige versuchen, Meinungen zu beeinflussen und Propaganda auf direktere Weise zu verbreiten, während andere versuchen, Wut über bestimmte Themen, gegen bestimmte ethnische Gruppen oder bestimmte Konflikte zu schüren. Das Internet kann also wirklich endlos von Trollfarmen ausgenutzt werden, genauso wie wir selbst das Internet auf unterschiedliche Weise nutzen können.

Warum sind wir an diesen Strukturen so interessiert?

Jane Lytvynenko: Es gibt keine einfache Antwort auf die Frage, warum wir so viel darüber reden, aber ich denke, die kurze Antwort ist: weil es funktioniert. So gab es 2014 erste Anzeichen dafür, dass Facebook die Meinungsbildung in Myanmar gegenüber den Rohingya-Muslimen beeinflusst. Im Jahr 2015 sahen wir, wie die Russen versuchten, die ukrainische Meinung nach der Revolution zu beeinflussen. Und im Jahr 2016 gerieten die Dinge wirklich außer Kontrolle, als ausländische staatlich geförderte Trollfarmen in den Westen exportiert wurden, indem sie in Demokratien eindrangen und versuchten, die Ergebnisse demokratischer Wahlen zu beeinflussen. Von diesem Zeitpunkt an, nachdem diese Kampagnen entdeckt worden waren, wurde uns klar, dass dies überall auf der Welt geschah: nicht nur lokal, sondern international. Und jetzt müssen wir uns fragen: Warum ist sie wirksam? Wie funktioniert das? Und was können wir tun, um die Auswirkungen dieser Art von Kampagnen zu verringern?

Wie lässt sich die Macht dieser “Trollfarmen” erklären?

Jane Lytvynenko: Denken Sie daran, wie Sie mit sozialen Netzwerken interagieren – Sie schalten Ihr Telefon ein, öffnen eine Website und rufen Informationen ab. Auf Instagram ist es ein Bild, auf Twitter eine Nachricht und auf Facebook ein Beitrag. Die Frage ist: Wie werden diese Bilder ausgewählt? Woher wissen wir, was uns präsentiert wird und wer es uns präsentiert? Wir haben keine wirkliche Antwort auf diese Frage, da die von den sozialen Netzwerken verwendeten Algorithmen nicht offengelegt werden. Wir wissen, dass sie auf unsere Vorlieben zugeschnitten sind, aber wir wissen auch, dass diese Systeme nicht für Nachrichten gedacht sind: Sie sind dafür gedacht, Babyfotos oder Bilder von Ihrem Hund zu teilen. Im Grunde genommen haben wir also den perfekten Cocktail für die Verbreitung von Fehlinformationen. Wir wissen nicht, warum uns etwas vorgesetzt wird, aber wir neigen im Allgemeinen dazu, zu reagieren und nicht zu untersuchen, warum wir sehen, was wir sehen, oder ob die Informationen richtig dargestellt werden.

Als Einzelpersonen könnten wir sehr wohl die Techniken der “Trollfarmen” anwenden und reproduzieren, nicht wahr?

Jane Lytvynenko: Ja, das ist richtig. Eines der interessantesten Dinge, die ich über Trollfarmen denke, ist, dass sie mit unseren Gefühlen spielen, weil sie uns dazu bringen, zu reagieren und physisch mit dem Internet zu interagieren. So ist es zum Beispiel viel wirksamer, Wut zu schüren, als einen sterilen Bericht über die Wirtschaft oder den Klimawandel vorzulegen. Und genau das macht sie so wirkungsvoll, denn wenn wir etwas sehen, das uns wütend macht, wollen wir schreien, streiten, uns auf irgendeine Weise einmischen. Das ist etwas, was wir als Einzelne tun. Trolle verstehen das und nutzen dieselbe Technik.

Sind diese “Trollfarmen” nur auf Facebook aktiv?

Jane Lytvynenko: Der Grund, warum wir so viel über Facebook sprechen, ist, dass die Plattform angeblich zwei Milliarden Nutzer hat, das sind mehr Menschen als in jedem anderen Land der Welt. Das ist ein riesiges Publikum. Aber natürlich ist Facebook nicht der einzige Ort, an dem diese Probleme auftreten. Wir wissen zum Beispiel, dass die Empfehlungsalgorithmen von YouTube zur Radikalisierung beitragen, nicht nur politisch, sondern auch in Bereichen wie der Impfgegnerschaft. Twitter kann durch den Einsatz von Bots und Propaganda durch Computersysteme sehr leicht manipuliert werden. Kanäle wie Instagram und Snapchat sind sehr visuell und daher für Forscher sehr schwer zu untersuchen, was bedeutet, dass einige dieser Probleme schwer zu erkennen sind. Wir haben auch eine Zunahme von Fehlinformationen in privaten Nachrichten festgestellt, die für die Gewalt in anderen Teilen der Welt verantwortlich gemacht werden. Für Journalisten und Forscher ist es sogar noch schwieriger, Fehlinformationen in Nachrichten zu erkennen, weil sie in Gruppendiskussionen stattfinden.

Jemand, den Sie mögen oder dem Sie vertrauen, gibt Ihnen etwas, und Sie geben es an jemand anderen weiter. Das ist privates Teilen. Es ist sehr schwierig für uns, das Ausmaß dieses Phänomens zu verstehen, denn wenn man nicht Teil dieser Gruppe ist, kann man es nicht sehen. Dieses Ökosystem funktioniert also, weil jede Plattform neue und interessante Möglichkeiten bietet, unsere Informationsumgebung zu bedrohen.

Was genau ist die Aufgabe der sozialen Netzwerke?

Jane Lytvynenko: Innerhalb sozialer Netzwerke würde ich sagen, dass eine der Hauptaufgaben darin besteht, schlechte Akteure zu identifizieren, und zwar proaktiv und nicht reaktiv, und zu versuchen, sie aus dem Netzwerk zu entfernen. In den USA gibt es eine große Debatte über die Redefreiheit, aber Redefreiheit bedeutet nicht unbedingt, dass jeder das Recht hat, seine Botschaft vor tausend Menschen zu verbreiten. Ein weiterer Punkt, den die sozialen Netzwerke tun könnten, aber nicht tun, ist die Offenlegung der Funktionsweise ihrer Algorithmen. Forscher am MIT haben eine Art “Nährwertkennzeichnung” für Algorithmen entdeckt. Das wäre etwas, das uns sagen würde, wie viel und in welchem Umfang. Wir wissen, dass viele der Menschen, die Facebook politisch als links oder rechts, ganz links oder ganz rechts einstuft, nicht wirklich mit der Art und Weise übereinstimmen, wie Facebook sie identifiziert. Aber weil wir nicht wissen, wie diese Klassifizierung funktioniert, weil wir keine Möglichkeit haben, sie zu ändern oder Facebook zu sagen: “Hey, meine politischen Ansichten haben sich etwas geändert, könntest du das aktualisieren?”, haben wir keine Möglichkeit, das Informationsumfeld, in dem wir uns befinden, zu kontrollieren.

Glauben Sie, dass sich die Situation zum Besseren wenden kann?

Jane Lytvynenko: Auch wenn es im Internet Negativität gibt, sei es durch Fehlinformationen oder die gezielte Ansprache gefährdeter Gemeinschaften, hat das Internet den Menschen eine Stimme gegeben und vielen zuvor ignorierten Gemeinschaften eine Stimme gegeben. Ich glaube, wir befinden uns jetzt in einer Übergangsphase, in der wir verstehen, dass etwas nicht stimmt. Uns ist klar, dass diese Bestie, die wir geschaffen haben, gezähmt werden muss. Und ich denke, wenn wir es wirklich ernst nehmen, wenn die Regulierungsbehörden, die Technologieunternehmen und die einzelnen Nutzer es sehr ernst nehmen und sich zu Herzen nehmen, dann ja, dann bin ich optimistisch. Aber wenn wir das Problem ignorieren und hoffen, dass es verschwindet, oder wenn wir individuell entscheiden, “nein, das ist nicht mein Problem, ich bin schlau, ich falle nicht auf so etwas herein”, dann wird dieses Problem fortbestehen und es wird die Art und Weise, wie unsere Demokratie funktioniert, beeinflussen.