Die COVID-19 Pandemie ist mit Berichten über nie dagewesene Mengen an falschen und irreführenden Online-Informationen einhergegangen, mit dem Potential der Gefährdung der individuellen und öffentlichen Gesundheit, sowie der Wahrung der Menschenrechte. Staaten und Internetintermediäre haben beispiellose Maßnahmen gesetzt, um diese COVID-19 „Infodemie“ zu bekämpfen. Tatsächlich kann die COVID-19 Pandemie als Wendepunkt in der Regulierung der Online-Informationslandschaft und insbesondere in der Bekämpfung von Desinformation verstanden werden.
Dieses Paper analysiert die Maßnahmen zur Bekämpfung von Desinformation, insbesondere jene mit Einsatz algorithmischer Systeme, aus menschenrechtlicher Sicht. Es bietet einen Überblick in automatisierte Verfahren zur Moderation und Kuration von Inhalten und in das Wechselspiel zwischen dem digitalen Informationsökosystem und dem Phänomen der Desinformation. Die Arbeit kommt zu dem Schluss, dass ein umfassender Einsatz von Automatisierung zur Inhaltskontrolle – insbesondere von stark kontextabhängigen Inhalten wie Desinformation – nicht im Einklang mit der positiven Verpflichtung von Staaten zum Schutz der Menschenrechte und der Verantwortung von Internetintermediären zur Achtung der Menschenrechte steht.
Das Paper identifiziert erforderliche Schutzmaßnahmen für eine grundrechtskonforme Inhaltsregulierung, wie Transparenz, die Stärkung von Betroffenenrechten, Rechenschaftspflicht und eine unabhängige Kontrolle. Die Arbeit folgert, dass entsprechende Garantien zwar unerlässlich sind, jedoch nicht ausreichen, um das Problem der COVID-19 Desinformation zu lösen. Trotz solcher Schutzmaßnahmen bleiben Individuen aufgrund der hochgradigen Personalisierung von Inhalten und gezielter Werbung anfällig für Manipulation und Täuschung. Das Paper zeigt somit die grundlegende Notwendigkeit auf, werbe- und überwachungsbasierte Geschäftsmodelle zu überdenken und die Dienste einiger marktdominanter Internetintermediäre zu entbündeln, um Online-Desinformation nachhaltig zu bekämpfen.