Die Blackbox der neuen Digitalwirtschaft

Datensammler, -analytiker und -händler sorgen derzeit erstmals dafür, dass die ans Internet angeschlossene Welt so genau wie möglich erfasst wird. Es entstehen Listen von Menschen u. a. mit Demenz, Aids und Depression. Dabei geht es nicht darum, dass ein Arzt seine Schweigepflicht verletzt, sondern unsere privaten Chats werden gespeichert und ausgewertet. 

Die Digitalgesellschaft könnte nach der Dienstleistungsgesellschaft der nächste große Schritt sein, denn die Digitalwirtschaft ist ein Milliardengeschäft mit den persönlichen Daten von Milliarden von Menschen. Ein Mensch kann in soviele Segmente geteilt werden, dass daraus nahezu unendliche Digitalprodukte entstehen. An der Oberfläche sind es generelle Vorlieben für bestimmte Speisen, visuelle Reize, der Musikgeschmack und Modetrends, aber in den Tiefen der Onlinewelt geben die Menschen auch ganz intime und persönliche Details weiter, die ebenfalls gespeichert werden. Computer sind heute in der Lage unterschiedlichste Themen miteinander zu vernetzen, damit Unternehmen vermeintlich sichere Entscheidungen treffen können.

Wie schockierend der Einblick in die persönlichen Daten sein kann, erlebten Tausende Facebooknutzer nach dem Datenskandal. Erstmals zogen sich mehrere Tausend Facebooknutzer die über sie gespeicherten Daten. Bilder die schon lange gelöscht wurden tauchten dabei wieder auf - auch Chats und Videos. Das Internet vergisst nichts!

Die Blockchain ist das hungrigste aller Datenmonster 

Mit immer mehr Blockchain-Anwendung - stets als Argument die Transparenz und Effizienz unserer Gesellschaft - könnte der totalen Digitalgesellschaft zum Durchbruch verholfen werden. In der Blockchain könnte zukünftig jede Bewegung erfasst werden und dies könnte dazu führen, dass sich Menschen vollkommen anders Verhalten, einen anderen Weg zur Arbeit nehmen, bei bestimmten Geschäften einkaufen usw. Auch muss damit gerechnet werden, dass die Informationen in der Blockchain - auch wenn sie fälschungssicher sind - missbraucht werden. Die Blockchain ist ein Machtmonopol bislang ungeahnten Ausmaßes, denn Daten können nicht verändert werden.   

Es geht nicht mehr nur um den gläsernen Menschen, sondern um eine Ökonomie auf der Grundlage von unvorstellbaren Datenmengen, die in einem Händlernetzwerk zirkulieren, auf das nur wenige Personen Zugriff haben - bzw. nur wenige Unternehmen die technischen Möglichkeiten zur Auswertung besitzen. Auch mit der Blockchain-Technologie wird sich daran nichts ändern, denn selbst wenn Facebook die Technik einführt, dann bestimmt nicht für die Allgemeinheit oder für andere Unternehmen.

Während in Deutschland Behörden bereits in der analogen Welt nur stark verzögert Unternehmensverstöße aufdecken, dürften große Datenfirmen nahezu Narrenfreiheit genießen. Frank Pasquale plädiert dafür, dass "der Gesetzgeber verbieten sollte, dass bestimmte Informationen ohne ausdrückliche Erlaubnis weitergegeben werden, und das dieses Verbot auch durchgesetzt" wird. Unter weiter heißt es: "Während das Leben der meisten Bürger der Kontrolle durch den Staat unterliegt, verbergen große Unternehmen ihre Daten und Algorithmen vor den Behörden, die uns vermeintlich schützen." Pasquale regt an, dass Behörden zukünftig in der Lage sein sollten selbstlernende Systeme soweit zu kontrollieren, damit sie erkennen woher die Daten stammen. Auch sagt Pasquale, dass sich hinter der Behauptung vieler Experten, dass KI zu komplex sein, einfach der Wunsch nach einer größtmöglichen Deregulierung verbirgt.

Die künstliche Dummheit der Digitalgesellschaft

Verbraucher sind nicht länger dazu angehalten zu fragen, was passiert mit meinen Daten, sondern welche Daten werden von unterschiedlichen Datenhändlern abgerufen, damit Unternehmen eine Entscheidung z. B. darüber treffen, wie hoch der Kredit oder ein Versicherungsbeitrag ist.

Mit einem enormen bürokratischen Aufwand tritt am 25. Mai die Datenschutz-Grundverordnung in Kraft. Sie ist ein Tropfen auf den heißen Stein. Aber nun haben Bürger das Recht zu erfahren, "welche Logik Entscheidungsvorgängen zugrunde liegt, wenn Urteile über sie ausschließlich durch automatisierte Prozesse gefällt werden." Pasquale plädiert dafür, dass es ein weltweites Menschenrecht werden sollte. Ferner konstatiert er, dass der Staat es untersagen sollte, dass z. B. die Ergebnisse von Gesichtserkennungssoftware eine Rolle bei der Kreditvergabe spielen.

Bei einem Fortschreiten der derzeitigen Entwicklung könnte es in Zukunft soweit kommen, dass Bürger in der Onlinewelt nur noch dafür sorgen, dass ihre Daten möglichst vorteilhaft für sie sind. Damit würde sich auch das Verhalten der Bürger sowohl in der Online als auch analogen Geschäftswelt ändern. Dies könnte sich auch in das Privatleben fortsetzen - wenn Bürger keine Beratungsangebote mehr aufsuchen oder wegen bestimmten Erkrankungen nicht den Arzt aufsuchen. Es kann nicht in die Hände des Bürgers gelegt werden, dass jeder seine Daten permanent kontrolliert. Aus diesem Grund plädiert Pasquale dafür, dass Behörden die Datenbestände von Unternehmen und Datenhändlern auf verdächtige Daten hin kontrollieren. 

Pasquale warnt davor, dass "allen Versprechungen von Freiheit und Selbstbestimmung zum Trotz, die wir von den Herren des Informationszeitalters immer wieder hören, können ihre Blackbox-Methoden ebenso eine digitale Aristokratie entstehen lassen."

Quelle:

Frank Pasquale: Algorithmen außer Kontrolle, Der Handel mit persönlichen Daten zerstört Existenzen. Ein Plädoyer für strikte Regulierung, in: Le Monde diplomatique, Mai 2018.