Marginalisierte Menschen leiden oft am meisten unter den unbeabsichtigten Folgen neuer Technologien. So sind beispielsweise die Algorithmen, die automatisch entscheiden, wer welche Inhalte zu sehen bekommt oder wie Bilder interpretiert werden, rassistisch und geschlechtsspezifisch verzerrt. Menschen mit mehreren marginalisierten Identitäten, z. B. Schwarz und behindert, sind noch stärker gefähr det als Menschen mit einer einzigen marginalisierten Identität.
Deshalb war ich erschrocken, als Mark Zuckerberg seine Vision für das Metaverse vorstellte – ein Netzwerk virtueller Umgebungen, in denen viele Menschen miteinander und mit digitalen Objekten interagieren können – und sagte, dass dies jedes Produkt betreffen wird, das das Unternehmen baut. Als Forscherin, die sich mit den Überschneidungen von Rasse, Technologie und Demokratie beschäftigt – und als Schwarze Frau – halte ich es für wichtig, die Werte, die in diesem Internet der nächsten Generation kodiert werden, sorgfältig zu prüfen.
yuoak/DigitalVision Vectors via Getty Images
Es zeichnen sich bereits Probleme ab. Avatare, die grafischen Persönlichkeiten, die Menschen erstellen oder kaufen können, um sich in virtuellen Umgebungen darzustellen, werden je nach der wahrgenommenen Rasse des Avatars unterschiedlich bewertet, und rassistische und sexistische Belästigungen treten in den heutigen immersiven Umgebungen vor dem Metaversum auf.
Um sicherzustellen, dass diese nächste Generation des Internets inklusiv ist und für alle funktioniert, müssen Menschen aus marginalisierten Gemeinschaften die Führung bei der Gestaltung des Internets übernehmen. Außerdem ist eine wirksame Regulierung erforderlich, damit Big Tech im öffentlichen Interesse rechenschaftspflichtig bleibt. Ohne sie läuft das Metaversum Gefahr, die Probleme der heutigen sozialen Medien zu übernehmen, wenn nicht sogar noch schlimmer zu werden.
Utopische Visionen versus harte Realitäten
Utopische Visionen in den Anfängen des Internets gingen in der Regel davon aus, dass sich das Leben online radikal vom Leben in der physischen Welt unterscheiden würde. Beispielsweise sahen die Menschen das Internet als eine Möglichkeit, Teilen ihrer Identität, wie Rasse, Geschlecht und Klassenunterschiede, zu entkommen. In Wirklichkeit ist das Internet alles andere als rassenfrei.
Techno-Utopien vermitteln zwar gewünschte Zukunftsvisionen, aber die Realität der neuen Technologien wird diesen Visionen oft nicht gerecht. In der Tat hat das Internet der Gesellschaft neue Formen von Schaden zugefügt, z. B. die automatische Verbreitung von Propaganda in den sozialen Medien und die Voreingenommenheit der Algorithmen, die Ihr Online-Erlebnis gestalten.
Zuckerberg beschrieb das Metaverse als ein immersiveres, verkörperteres Internet, das „eine Menge erstaunlicher neuer Erfahrungen freisetzen wird“. Dies ist nicht nur eine Vision für ein zukünftiges Internet, sondern für eine zukünftige Lebensweise. Wie sehr diese Vision auch vom Ziel abweicht, das Metaversum wird wahrscheinlich – wie frühere Versionen des Internets und der sozialen Medien – weitreichende Auswirkungen haben, die die Art und Weise verändern werden, wie Menschen miteinander umgehen, reisen, lernen, arbeiten und spielen.
Die Frage ist, ob diese Konsequenzen für alle gleich sind. Die Geschichte zeigt, dass die Antwort nein lautet.
Technologie ist niemals neutral
Weit verbreitete Technologien gehen häufig von weißen männlichen Identitäten und Körpern aus. Die MIT-Informatikerin Joy Buolomwini hat gezeigt, dass Gesichtserkennungssoftware bei Frauen schlechter abschneidet, und zwar vor allem bei Frauen mit dunkleren Gesichtern. Andere Studien haben dies bestätigt.
Das Weißsein ist in diesen Technologien als Standard eingebettet, selbst wenn die Rasse als Kategorie für Algorithmen des maschinellen Lernens fehlt. Leider gehen Rassismus und Technologie oft Hand in Hand. Schwarze Politikerinnen und Journalistinnen wurden überproportional oft mit beleidigenden oder problematischen Tweets bedroht, und schwarze und lateinamerikanische Wähler wurden während des Wahlzyklus 2020 mit Online-Fehlinformationskampagnen bedroht.
Diese historische Beziehung zwischen Rasse und Technologie lässt mich über das Metaverse besorgt sein. Wenn das Metaverse eine verkörperte Version des Internets sein soll, wie Zuckerberg es beschrieben hat, bedeutet das dann, dass bereits marginalisierte Menschen neue Formen von Schaden erfahren werden?
Facebook und seine Beziehung zu Schwarzen Menschen
Die allgemeine Beziehung zwischen Technologie und Rassismus ist nur ein Teil der Geschichte. Meta hat ein schlechtes Verhältnis zu schwarzen Nutzern auf seiner Facebook-Plattform, insbesondere zu schwarzen Frauen.
Im Jahr 2016 fanden Reporter von ProPublica heraus, dass Werbetreibende auf dem Facebook-Werbeportal Personengruppen, die ihre Anzeigen sehen, aufgrund der Rasse der Nutzer oder einer von Facebook als „ethnische Affinität“ bezeichneten Eigenschaft ausschließen können. Diese Option wurde heftig kritisiert, weil Facebook seine Nutzer nicht nach ihrer Rasse fragt, was bedeutete, dass den Nutzern eine „ethnische Zugehörigkeit“ auf der Grundlage ihres Engagements auf der Plattform zugewiesen wurde, z. B. welche Seiten und Beiträge sie mögen.
Mit anderen Worten: Facebook erstellte im Wesentlichen Rassenprofile seiner Nutzer auf der Grundlage dessen, was sie auf seiner Plattform tun und mögen, und schuf damit die Möglichkeit für Werbetreibende, Menschen aufgrund ihrer Rasse zu diskriminieren. Facebook hat inzwischen seine Kategorien für die Anzeigenausrichtung aktualisiert und schließt „ethnische Zugehörigkeiten“ nicht mehr ein.
Werbetreibende können jedoch immer noch Menschen auf der Grundlage ihrer vermuteten Rasse ansprechen, indem sie Rassenproxys verwenden, die aus der Kombination von Nutzerinteressen auf die Rasse schließen. Wenn ein Werbetreibender beispielsweise aus den Facebook-Daten ersehen kann, dass Sie sich für die afroamerikanische Kultur und die BET Awards interessieren, kann er daraus schließen, dass Sie schwarz sind, und Sie mit Anzeigen für Produkte ansprechen, die er an Schwarze vermarkten möchte.
Schlimmer noch: Facebook hat häufig Kommentare schwarzer Frauen gelöscht, die sich gegen Rassismus und Sexismus aussprachen. Ironischerweise werden die Kommentare schwarzer Frauen zu Rassismus und Sexismus zensiert – umgangssprachlich als „zucked“ bezeichnet -, weil sie angeblich gegen die Facebook-Richtlinien gegen Hassreden verstoßen. Dies ist Teil eines größeren Trends auf Online-Plattformen, bei dem Schwarze Frauen dafür bestraft werden, dass sie ihre Anliegen äußern und Gerechtigkeit in digitalen Räumen fordern.
Einem kürzlich erschienenen Bericht der Washington Post zufolge wusste Facebook, dass sein Algorithmus schwarze Nutzer unverhältnismäßig stark benachteiligt, hat aber nichts unternommen.
Ein demokratisch rechenschaftspflichtiges Metaversum
In einem Interview mit Vishal Shah, Meta’s Vice President of Metaverse, National Public Radio host fragte Audie Cornish: „Wenn du nicht mit den Kommentaren auf Instagram umgehen kannst, wie kannst du dann mit dem T-Shirt umgehen, auf dem Hassreden im Metaversum stehen? Wie können Sie mit der Hasskundgebung umgehen, die im Metaversum stattfinden könnte?“ Wenn Schwarze bestraft werden, weil sie sich online gegen Rassismus und Sexismus aussprechen, wie können sie es dann im Metaversum tun?
Um sicherzustellen, dass das Metaversum inklusiv ist und demokratische Werte fördert, anstatt die Demokratie zu bedrohen, sind Gestaltungsgerechtigkeit und die Regulierung sozialer Medien erforderlich.
Designgerechtigkeit bedeutet, Menschen, die keine Macht in der Gesellschaft haben, in den Mittelpunkt des Designprozesses zu stellen, um zu verhindern, dass bestehende Ungleichheiten fortbestehen. Es bedeutet auch, dass wir mit der Betrachtung von Werten und Prinzipien beginnen , die das Design leiten.
Bundesgesetze haben Unternehmen der sozialen Medien vor der Haftung für die Beiträge und Handlungen der Nutzer auf ihren Plattformen geschützt. Das bedeutet, dass sie das Recht, aber nicht die Verantwortung haben, ihre Websites zu überwachen. Die Regulierung von Big Tech ist entscheidend für die Bewältigung der Probleme der sozialen Medien heute und mindestens ebenso wichtig, bevor sie die nächste Generation des Internets aufbauen und kontrollieren.
Das Metaversum und ich
Ich bin nicht gegen das Metaversum. Ich bin für ein demokratisch verantwortliches Metaversum. Um dies zu erreichen, muss es jedoch bessere rechtliche Rahmenbedingungen für Internetunternehmen und gerechtere Designprozesse geben, damit Technologie nicht weiterhin mit Rassismus einhergeht.
So wie es aussieht, überwiegen die Vorteile des Metaversums für mich nicht seine Kosten. Aber das muss nicht so bleiben.
[Gefällt Ihnen, was Sie gelesen haben? Sie wollen mehr? Melden Sie sich für den täglichen Newsletter von The Conversation an].
Breigha Adeyemo, Doktorand in Kommunikation,
Universität von Illinois in Chicago
Dieser Artikel wird von The Conversation unter einer Creative-Commons-Lizenz neu veröffentlicht. Lesen Sie den Originalartikel.
Doctoral Candidate in Communication, University of Illinois at Chicago
