Profil anzeigen

Code is law. Law is Code.

Ich habe heute zwei Beispiele dafür, dass Automatisierung in sozialen Kontexten (Gesetzen und Straßen
Code is law. Law is Code.
Von Johannes Klingebiel • Ausgabe #86 • Im Browser ansehen
Ich habe heute zwei Beispiele dafür, dass Automatisierung in sozialen Kontexten (Gesetzen und Straßenverkehr) eine deutlich komplexere Sache ist, als sie oft vermutet wird. Es sind beides zugegeben nicht unbedingt die spaßigsten Themen, aber dafür wichtig. (Ich gelobe Besserung!)
Rockt die Woche!
Johannes
P.S.: Doteveryone hat eine großartige Science Fiction Anthology mit dem Titel “Women Invent the Future” veröffentlicht. Kostenlos als eBook und für Print muss man nur das Porto zahlen.

Anfang 2000 schrieb der Harvard Professor Lawrence Lessing, dass das fundamentale gesetzgebende Element des Internets Code sei. Was in den 18 Jahren seit dem passierte ist, dass das Internet oder “Cyberspace” immer stärker mit der realen Welt verknüpft wurde. Infolgedessen entstehen auch immer mehr Versuche, Gesetze oder die menschliche Interaktion mit Gesetzen durch Code abzubilden.
Ein Beispiel ist der Einsatz von Gesichtserkennung, um Verdächtige aus Menschenmassen herauszufischen. Und das nicht nur in China, sondern auch in London, wo die Polizei ein System mit einer katastrophalen Fehlerquote von 98% einsetzt. (Vor allem dann, wenn die Zielperson nicht weiß und männlich ist)
Oder aber IBM, welches mithilfe eines hypothetischen Systems Flüchtlingen einen “Credit Score” geben könnte, um zu entscheiden ob dieser ein Terrorist ist oder nicht. Und natürlich Chinas Social Credit Score, welcher das algorithmische Herzstück des wohl größten Überwachungs- und Kontrollapparat der Geschichte ist.
Auch “Smart Contracts” sind ein Beispiel. Und obwohl einige Funktionen dieser spannend und positiv sind, ist die grundlegende Ideologie dahinter beunruhigend, wie Klaus Lenk im Interview mit Netzpolitik beschreibt:
Es gibt nicht mehr das, was der Soziologe Niklas Luhmann als brauchbare Illegalität bezeichnet hat. Denn man hat nur zwei Möglichkeiten sich zu verhalten: Man kann die Vorgaben befolgen oder man kann es bleiben lassen. Diese Situation taucht auch bei der Blockchain auf.
Das große Problem all dieser Versuche entweder Gesetze technisch abzubilden oder aber die Interaktionen mit dem Gesetz technisch zu unterstützen ist, dass sie die Interpretation den Entwicklern überlassen.
Promotors of the new legal technology suggest that the products can eliminate human discretion. Part of the appeal of legal automation is that it can replace bias with fairness and human error with mathematical precision. […] But this goal is illusory. Technology does not remove human choice. It merely shifts responsibility from lawyers, judges, and regulators to programmers. In doing so it hides the human choices that are equally plagued by error and bias under the guise of neutrality and objectivity.
(Der ganze Artikel geht noch auf andere Arten der Automatisierung von Gesetzen ein und ist selbst eine Zusammenfassung eines Papiers von Frank Pasquale, der sich bereits öfter mit diesen Themen auseinandergesetzt hat)
Ein Artikel in The Verge von letzter Woche beschäftigt sich mit der Frage, ob die Entwicklung autonomer Fahrzeuge möglicherweise ein Plateau erreicht. Das ganze Thema verdient alleine schon mehr Betrachtung, was aber wirklich interessant ist, ist ein Zitat von Andrew Ng, ehemals Baidu und heute Vorstandsmitglied von Drive.Ai.
“Rather than building AI to solve the pogo stick problem, we should partner with the government to ask people to be lawful and considerate. Safety isn’t just about the quality of the AI technology.”
Ng spricht damit ein Phänomen an, das The Atlantic zuletzt in einem anderen Kontext untersucht hatte: Automatisierung fügt sich nie zu 100% in die rein menschliche Umgebung ein, sondern verändert und prägt diese. (Passend bezeichnet als “Post-Human Architecture”)
Angenommen also selbstfahrende Autos erreichen nie 100% der versprochenen Leistung, sondern sagen wir 95%. Wie werden die übrigen 5% die Welt um sie herum verändern?
+ Jack Stilgoes Essay “Seeing like a Tesla” ist ein etwas längerer Text, der sich genau mit dieser Frage etwas ausführlicher beschäftigt. [PDF]
Merkwürdiges & Anderes
SEO, aber für alles—Google Maps werden nicht mehr länger passiv Informationen liefern, sondern Empfehlungen für Nutzer vorschlagen. Daraus ergibt sich die logische Frage: Wie wird SEO für Orte aussehen?
WhatsApp für den Wahlkampf—WhatsApp ist immer noch der unsichtbare Social Media Gigant. Tactical Tech hat sich mit dessen Einsatz in Wahlkämpfen rund um den Globus beschäftigt, inkl. Case Studies.
XYZ—Das Projekt XYZ des Tactical Technology Collective sammelt Publikationen, Informationen und Toolkits rund um digitale Sicherheit für Frauen.
Hat Dir diese Ausgabe gefallen?
Johannes Klingebiel

Ein unregelmäßiges Zine rund um Technologie, Internet, Publishing und Merkwürdiges.

Wenn Du keine weiteren Ausgaben mehr erhalten möchtest, kannst Du den Newsletter hier abbestellen.
Wenn Dir dieser Newsletter weitergeleitet wurde und er Dir gefällt, kannst Du ihn hier abonnieren.
Powered by Revue
Esswurmstraße 25, 81371 München, Germany