Der Umgang mit sogenannten Fake News, Falschinformationen im Internet, ist ein Riesenproblem und Social Media Plattformen wie X, früher Twitter, setzen dabei auf „Community Notes“. Hier in Europa war die allgemeine Einschätzung klar und von Ablehnung geprägt, als Mark Zuckerberg, der Chef des Facebook Mutterkonzerns Meta, im Januar verkündete, zunächst in den USA das bislang übliche Fact Checking durch interne Instanzen, wie schon zuvor X durch sogenannte „Community Notes“ zu ersetzen. Der Schritt wurde als Einlenken auf die Linie der neuen US Administration unter Präsident Trump gewertet. Man sah darin eine direkte Gefahr für die Demokratie und die weitere ungehemmte Ausbreitung von Fake News. Das ist aber nicht zwangsläufig so.
Um das zu klären müssen wir erst einmal sehen, worum es überhaupt geht. Community Notes setzen auf die Schwarmintelligenz der Plattformnutzer. Je mehr sich beteiligen, desto höher der Score und die Wahrscheinlichkeit, dass der beurteilte Eintrag den Tatsachen entspricht. Das Konzept der Schwarmintelligenz ist wissenschaftlich fundiert bewiesen. Das es im Prinzip auch auf Social Media funktioniert, kann man auch in Europa bereits auf Facebook erahnen, etwa wenn man sich ein KI generiertes Post einer phantastischen Konstruktion ansieht, die für den Eifelturm ausgegeben wird. Ziel solcher Posts ist vor allem viele Klicks zu generieren. Die Kommentare bestehen zum größten Teil aus Beschwerden, dass es Fake sei. Natürlich gibt es auch immer solche, die die Echtheit nicht hinterfragen und von dieser Turmfantasie begeistert sind. Die sind in der Regel aber in der Minderzahl. Wirkung zeigen solche Aktionen aber kaum. Grund ist, dass Nutzer zwar kommentieren, selten aber die Kommentare der Anderen lesen. Das heißt, die Falsifizierenden werden nicht wahrgenommen. Anders wäre es, wenn aus diesen Kommentaren eine Faktenquintessenz gezogen würde, ein offizielles Siegel, das den Wahrheitsgehalt eines Posts wiedergibt.
Dass es funktioniert, dazu gibt es eine Reihe seriöser Studien, wie etwa die vom Gies College of Business an der Universität Illinois, die als eine der ersten ihre Studie “Can Crowdchecking Curb Misinformation? Evidence from Community Notes” als White Paper veröffentlichte. Dass das Instrument trotzdem so umstritten ist, hängt mit seiner Historie zusammen. Es war X, das Community Notes als erste einführten, in einer Zeit des Umbruchs kurz nach der Übernahme durch Elon Musk. Viele standen der Entwicklung des Unternehmens skeptisch gegenüber. In dieses Bild passte auch die Abschaffung des Fact Checkings. Verstärkt wurde dieses Misstrauen gegenüber der Community Notes durch Facebook. Deren Ankündigung die Notes einzuführen wurde als Anbiederung gegenüber der neuen US Administration gesehen.
Ist also alles nicht so schlimm und sind Community Notes auf Social Media zur Verifizierung von Inhalten geeignet? Das hängt natürlich sehr davon ab, wie das Instrument umgesetzt und gesteuert wird. Darüber ließen sich die Ergebnisse durchaus manipulieren. Das freilich ist auch im klassischen Fact Checking ein Problem. So häuften sich etwa die Meldungen auf Facebook, dass Posts mit Darstellungen der Weltkunst gesperrt wurden, weil sie vom Algorithmus als pornografisch eingeordnet wurden. Das Problem lässt sich durch Training des Algorithmus nicht ganz beseitigen. Auch das händische Checken von Fakten ist nicht problemlos. Es erfordert einen erheblichen Personalaufwand und kann daher nur stichprobenartig und teilweise oberflächlich erfolgen. Auch hier hat man tendenziell eine hohe Fehlerrate. Natürlich kann auch nicht ausgeschlossen werden, dass Interessengruppen den Apparat unterwandern oder sie ganz bewusst manipulativ eingesetzt werden. Das kann entweder im Interesse des Unternehmens sein, aber auch von Regierungen.
Da sollte ein Instrument wie die Community Tools, das auf die Schwarmintelligenz setzt, eigentlich weniger anfällig sein. Das stimmt aber leider nur bedingt. Hier liegt die Crux darin, welche Nutzer als Bewertende zugelassen werden. Theoretisch kann man einen Registrierungszwang einführen und damit auch die Qualität der Bewertungen manipulieren. Ein anderes mögliches Problem ist auch der Auswertungsalgorithmus, der (bewusst oder unbewusst) falsch oder manipulativ programmiert sein kann. Die Ergebnisse sind dann auch hier fragwürdig. Dabei wäre es sicher am einfachsten die Kommentare, die sowieso zu den Beiträgen abgegeben werden, auszuwerten. Fehlerfrei ist das allerdings auch nicht. Ein Post mit Verschwörungsinhalten, das nur in seiner Blase kommentiert wird, wird dort sicher nicht in Frage gestellt. Erst, wenn der Beitrag auf Resonanz von außerhalb stößt, wird er auch durchschaubar.
Hier werden wir nicht ohne regulatorische Eingriffe auskommen. Da die Sozialen Medien global verfügbar sind, geht das nicht ohne grenzüberschreitende Absprachen. Das ist ein Prozess, der sich schon in der Vergangenheit als äußerst beschwerlich erwies und in der aktuellen internationalen Gemengelage sicherlich nicht einfacher geworden ist. Dabei werden wir an klaren Regeln, wer die Community Notes einstellen darf und wie der Algorithmus auswertet werden, nicht vorbeikommen. Im Idealfall werden diese Fragen in einem globalen Gremium diskutiert und entschieden, vielleicht unter dem Dach der Vereinten Nationen. Im Moment jedenfalls stehen die Chancen so etwas zu etablieren eher schlecht. Der andere Weg wäre, dass die kommerziellen Plattformen, mit ihrer wirtschaftlichen Macht ihre eigenen Regeln durchsetzen – auch gegen nationale Vorgaben. Mal abgesehen davon, dass das Ergebnis nur bedingt im gesellschaftlichen Interesse wäre, ist das aktuell und zumindest mittelfristig aber auch ein eher unwahrscheinliches Szenario. Der wachsende Einfluss Chinas und die Spannungen mit den USA sorgen für weiter divergierende Interessen bei den Plattformbetreibern trotz der gleichen kommerziellen Ausrichtung.
Das wahrscheinlichste Szenario für den Moment scheint, dass jeder versucht, seine eigenen Interessen durchzusetzen, gegeneinander, sowohl Staaten als auch wirtschaftliche Konglomerate. Der Ausgang scheint aktuell völlig offen und verspricht schwere Zeiten für eine offene Gesellschaft.