Technik

Chinas neue Ära des "automatisierten Rassismus"?

Im Bericht der "New York Times" heißt es, dass in China pro Monat 500.000 Gesichtsscans gemacht werden, um die muslimische Minderheit zu verfolgen. Dazu werden bestimmte Algorithmen eingesetzt, die chinesische Start-ups entwickeln.

Dokumente und Interviews sollen belegen, dass chinesische Behörden ein riesiges, geheimes System fortschrittlicher Gesichtserkennungstechnologien einsetzen, um die Uiguren, eine weitgehend muslimische Minderheit, zu verfolgen und zu kontrollieren. Experten sagen, dass es das erste bekannte Beispiel einer Regierung sei, die bewusst künstliche Intelligenz zur Erkennung einer Ethnie einsetzt. 

Die Gesichtserkennungstechnologie, die in Chinas schnell expandierendes Netzwerk von Überwachungskameras im öffentlichen Raum integriert ist, sucht ausschließlich nach Uiguren aufgrund ihres Aussehens und führt Bewegungsaufzeichnungen zur Überwachung durch. So wird China zum Pionier bei der Anwendung von Technologien der nächsten Generation, um seine Bevölkerung zu beobachten und möglicherweise in eine "neue Ära des automatisierten Rassismus" einzutreten, heißt es in der "NYT".

Die "NYT"-Journalisten berufen sich auf fünf Personen, die über relevantes Insiderwissen verfügen. Die chinesischen Behörden unterhalten bereits ein riesiges Überwachungsnetz - einschließlich der Verfolgung per DNA von Menschen in der westlichen Region von Xinjiang, die von vielen Uiguren als Heimat bezeichnet wird. Die Gesichtsscans finden jedoch auch in anderen Teilen des Landes statt. 

Die Polizei setzt Gesichtserkennungstechnologie ein, um Uiguren in wohlhabenden östlichen Städten wie Hangzhou und Wenzhou sowie in der gesamten Küstenprovinz Fujian zu erfassen. Die Polizei in der zentralchinesischen Stadt Sanmenxia, entlang des Gelben Flusses, betrieb ein System, das im Laufe eines Monats gut 500.000 Einwohner überprüfte.

Polizeidokumente belegen, dass die Nachfrage nach entsprechender Technik steigt. Fast zwei Dutzend Polizeidienststellen in 16 verschiedenen Provinzen und Regionen Chinas suchten nach solchen Technologien ab 2018. Die Strafverfolgungsbehörden der zentralen Provinz Shaanxi wollten im vergangenen Jahr ein intelligentes Kamerasystem erwerben, das "die Gesichtserkennung zur Identifizierung von uigurischen/nicht uigurischen Attributen unterstützen soll".

Heute beginnt eine neue Generation von Start-ups sich auf neue Technologien wie künstliche Intelligenz zu spezialisieren. Mit solchen Werkzeugen kann auch die automatische Erfassung von Personen nach Hautfarbe und Ethnizität erfolgen. "Nehmen Sie die riskanteste Anwendung dieser Technologie, und die Chancen stehen gut, dass jemand sie ausprobieren wird", sagte Clare Garvie, Associate am Center on Privacy and Technology at Georgetown Law. Und weiter: "Wenn du eine Technologie herstellst, die Menschen nach einer Ethnie klassifizieren kann, wird jemand sie benutzen, um diese Ethnie zu unterdrücken".

Aus technologischer Sicht ist die Verwendung von Algorithmen zur Kennzeichnung von Personen nach Rasse oder ethnischer Zugehörigkeit relativ einfach geworden. Unternehmen wie IBM bewerben Software, die Menschen in breite Gruppen einteilen kann. Aber China hat Neuland betreten, indem es eine ethnische Gruppe für Strafverfolgungszwecke identifiziert. Ein chinesisches Start-up-Unternehmen, CloudWalk, skizziert eine beispielhafte Lösung bei der Vermarktung seiner Überwachungssysteme. Die Technologie, so hieß es, könne "sensible Personengruppen" erkennen. "Wenn ursprünglich ein Uigur in einer Nachbarschaft lebt und innerhalb von 20 Tagen sechs Uiguren auftauchen", heißt es auf der Website, dann "sendet das System sofort einen Alarm" an die Strafverfolgungsbehörden.

Noch sind solche Systeme unvollkommen, denn häufig hängt ihre Genauigkeit von Umgebungsfaktoren wie der Beleuchtung und der Positionierung der Kameras ab. Dies könnte sich jedoch mit der weiteren technischen Entwicklung ändern. Zu den führenden Unternehmen in China gehören: Yitu, Megvii, SenseTime und CloudWalk, die jeweils einen Wert von mehr als einer Milliarde US-Dollar haben. Fidelity International und Qualcomm Ventures waren Teil eines Konsortiums, das 620 Millionen US-Dollar in SenseTime investierte. Sequoia investierte in Yitu. Unterstützt wird Megvii von Sinovation Ventures, dem Fonds des bekannten chinesischen Technologieinvestors Kai-Fu Lee.

Quelle:

NYT