Würde Eleanor Roosevelt (1884–1962) heute ihren eigenen Namen googeln, wäre sie vermutlich sauer. Die Suchmaschine verweist nicht zuerst auf ihre Leistungen als Diplomatin und erste Präsidentin der UN-Menschenrechtskommission, sondern auf ihre Rolle als Ehefrau: „Ehemalige US-amerikanische First Lady“ steht in dem Infokasten, den Google auf Basis eines Algorithmus erstellt und bei der Personensuche an oberster Stelle anzeigt. Roosevelts eigene Karriere – und ihr lebenslanger Kampf für die Rechte von Frauen – wird von der Künstlichen Intelligenz (KI) in den Hintergrund gerückt.
Ähnlich erging es US-Demokratin Hillary Clinton, die von Google auch dann noch als „Ehemalige First Lady“ aufgeführt wurde, als sie das Amt der US-Außenministerin innehatte und als Präsidentschaftskandidatin gegen Donald Trump ins Rennen ging. Und auch Özlem Türeci, die 2020 gemeinsam mit ihrem Mann den ersten wirksamen Impfstoff gegen das Corona-Virus entwickelte, fand sich Ende des Jahres nicht als Medizinerin im Netz wieder, sondern als „Ehefrau von Uğur Şahin“.
Nach einer Reihe von Medienberichten über Türecis „Herabwürdigung zur Ehefrau“ (Der Spiegel) und einem Shitstorm vonseiten der feministischen Netzgemeinde entschuldigte sich Google per Twitter für die „Ungenauigkeit“ in der Personenbeschreibung. Die automatischen Systeme, die Fakten für den Infokasten der Suchmaschine – das sogenannte Knowledge Panel – sammeln, seien „nicht immer perfekt“, erklärte eine Sprecherin. Wieso der Algorithmus die Frauen über ihre Ehemänner definiere und nicht andersherum, ließ der Konzern unkommentiert.
„IT ist ein Stück weit immer auch Spiegel unserer Gesellschaft“, betont die Informatikerin Lisa Hanstein in der Dokureihe „Naked“, die ARTE im November zeigt. Einer der Hauptgründe für die sogenannte Algorithmic Bias, also die Voreingenommenheit algorithmischer Systeme, bestehe in der oft unbewussten Übertragung menschlicher Denkmuster und Stereoytpe auf die Technik. „Wenn wir uns anschauen, wer die IT herstellt, dann sind das eben sehr viele Männer“, so Hanstein. Über die Folgen wurde in den vergangenen Monaten immer wieder berichtet: etwa, dass die Bewerbermanagement-Software von Amazon weibliche Kandidatinnen von bestimmten Positionen von vornherein ausschloss. Oder dass die Apple Card Männern einen größeren Kreditrahmen gewährte als Frauen – selbst wenn es sich um ein Ehepaar mit einem gemeinsamen Bankkonto handelte. In einer Welt, in der immer mehr Entscheidungen von Maschinen übernommen werden, sorgt der Gedanke an diskriminierende KI für Unmut. Die gute Nachricht: Algorithmen sind lernfähig; sie können fortwährend trainiert und verbessert werden. Und die Netzgemeinde, also echte Menschen mit einem echten Bewusstsein, identifiziert Diskriminierungen mittlerweile schnell – und agiert als Korrektiv.
DIE NEUE DIGITALE WELT: DAS METAVERSE
Mit der Wirkmacht von Geschlechterrollen im Internet beschäftigt sich auch Sara Lisa Vogl. Sie agiert als unabhängige Beraterin und Designerin für den digitalen Raum der Zukunft: das Web 3.0, eine Weiterentwicklung des heutigen Internets und unserer Online-Identitäten, die die digitale und die reale Welt stärker verknüpfen soll. Ein wichtiger Teil davon könnte das Metaverse werden: Bezeichnet werden damit dreidimensionale und über das Internet vernetzte Räume, in denen zum Beispiel Konzerte, Ausstellungen oder Tagungen stattfinden. Genutzt werden kann diese digitale Erlebniswelt, die Science-Fiction-Werke früher „Cyberspace“ nannten, mithilfe von Virtual-Reality-Brillen und anderer spezieller Hardware, die etwa Bewegungen auf die virtuelle Welt übertragen.
Nutzerinnen und Nutzer interagieren im Metaverse als Avatare, also frei gewählte, animierte Figuren. Sie entscheiden selbst, ob sie als Frau, Mann, Kaninchen oder eine Mischung aus allem auftreten. Bis 2026 wird nach Ansicht des Marktforschungsunternehmens Gartner ein Viertel aller Menschen eine Stunde am Tag im Metaverse verbringen. Eine McKinsey-Studie geht sogar von vier bis fünf Stunden aus. Mark Zuckerberg, der die Entwicklung mit dem Facebook-Mutterkonzern Meta vorantreibt, beschreibt das Metaverse als „verkörpertes Internet, in das man eintaucht, anstatt nur davor zu sitzen“. Glaubt man an diese Vision, stellen sich die Fragen: Welche digitale Repräsentation ihrer selbst schicken Nutzerinnen und Nutzer in die virtuellen Räume – und welche Bedeutung hat Geschlecht in einer Parallelwelt, in der physische Grenzen keine Rolle spielen sollen?
„Wir müssen die virtuelle Welt in dieser Hinsicht ganz neu denken“, sagt Sara Lisa Vogl im Interview mit dem ARTE Magazin. Sie gilt als Pionierin in Sachen Virtual Reality (VR) – und zählt zu den wenigen Frauen, die aktiv an der Entwicklung des Web 3.0 beteiligt sind. Um das zu ändern, hat Vogl „Women in Immersive Technologies“ (WIIT) gegründet. Das Netzwerk, das durch Mittel des Meta-Tochterunternehmens Oculus finanziert wird, will nach eigenen Angaben „Gleichberechtigung im Bereich der virtuellen und erweiterten Realitäten“ fördern. In europaweit stattfindenden Workshops bringt Vogl Frauen die Fertigkeiten bei, die es braucht, um sich in der Branche zu behaupten und die neuen virtuellen Welten mitzugestalten.
„Systematische Fehler der Computersysteme spielen auch im Web 3.0 eine große Rolle und sollten unbedingt vermieden werden“, sagt Vogl. So seien etwa Übersetzungsfunktionen essenziell für die virtuellen Räume, in denen Menschen aus aller Welt aufeinandertreffen. Wenn dort zum Beispiel internationale Medizinkongresse stattfinden, stellt sich auch im Metaverse die Frage, ob „Doctor“ standardmäßig als „Arzt“ übersetzt werden soll oder Ärztinnen mitgenannt werden sollen. Und auch die Verhaltensregeln im Metaverse hingen von den Prioritäten derer ab, die sie bauen. „Derzeit sind diejenigen, die die Plattformen und virtuellen Welten des Metaverse kreieren, fast alle Männer“, sagt Vogl. Welche Konsequenzen das haben kann, bekamen Nutzerinnen zu spüren, als 2021 die Meta-Plattform Horizon Worlds online ging: Innerhalb weniger Tage wurden Hunderte Fälle sexueller Übergriffe gemeldet. Weiblich gelesene Avatare, so berichtete unter anderem die New York Times, wurden belästigt, es kam zu digital imitierten Vergewaltigungen. Während in der echten Welt die Frage aufkam, wie in Zukunft mit virtuellen Straftaten umgegangen werden solle, reagierte Meta mit einer pragmatischen Lösung: eine voreingestellte Abstandsregel von 1,20 Metern zwischen Avataren, die nicht miteinander befreundet sind.
Dass im Web 3.0 Straftaten begangen werden, überrascht Vogl nicht. „Die Leute nehmen ihr Verhalten mit in die digitale Welt“, räumt sie ein. Nichtsdestotrotz glaubt sie an das emanzipative Potenzial der Technologie. Gerade weil sie sich noch in einer frühen Entwicklungsphase befänden, könnten VR-Räume durch Algorithmen und gezieltes Coding von Grund auf diskriminierungssicher gestaltet werden. Davon würden Frauen profitieren, aber auch People of Color und andere marginalisierte Gruppen. Besonders für nicht-binäre Menschen und Transpersonen bietet das Metaverse laut der VR-Expertin die Möglichkeit, den eigenen Körper zu wechseln. „Wenn es einen Raum gibt, der diese Grenzen unmittelbar auflösen kann, dann ist es das Metaverse“, sagt Vogl. Sie knüpft damit an die Feministin Donna Haraway an, die bereits 1980 postulierte: „Cyborgs sind Geschöpfe in einer Postgender-Welt.“ Für manche klingt das nach einer Utopie, für andere nach einer Drohung. Dass es aber ausgerechnet profitorientierten Tech-Konzernen gelingen wird, eine Welt ohne Diskriminierung zu erschaffen, ist wohl illusorisch.
Wir müssen die virtuelle Welt ganz neu denken
