Heute morgen, ich weiß nicht genau ob auf 1Live oder WDR2, wurde darüber berichtet, dass Forscher aus Katar einen Weg gefunden hätten, aus Tweets nicht nur abzuleiten wer z. B. den IS unterstützt – sondern mit über 85% Wahrscheinlichkeit zu einem Unterstützer werden wird.
Google liefert dazu einen Wired-Artikel von letzter Woche:
Wissenschaftler aus Katar basteln am Minority Report: Mit 87-prozentiger Wahrscheinlichkeit kann ihr Algorithmus bestimmen, ob ein Twitter-User das Terrornetzwerk Islamischer Staat unterstützen wird oder nicht.
Und sofort kamen im Radio die Chilling Effects zur Sprache, ohne genau als solche bezeichnet oder beschrieben zu werden. Es wurde nämlich die Frage gestellt, was ich besser unterlasse um nicht in das Raster des Algorhytmus zu fallen. Dazu gehört dann z. B. das unmittelbare Twittern nach einem veröffentlichten IS-Video.
Und genau das hier beschriebene ist der Grund, warum wir in der letzten Ratssitzung als Grüne gegen mehr Videoüberwachung in Voerde gestimmt haben:
Es kann und darf doch nicht sein, dass ich mich demnächst nur noch so verhalte, wie man mir beibringt, damit ich von einer „dummen Maschine“ nicht versehentlich mit 85% Wahrscheinlichkeit für einen Terroristen gehalten werde. Und in der Folge dann ein deutscher Geheimdienst den Amerikanern meine Handynummer gibt, damit dann eine Drohne…
Klar, ein solches Szenario mag überzogen klingen. Aber vielleicht kann irgendwer ja mal erkennen, was tatsächlich droht, wenn ein solcher Algo ein False-Positiv meldet und das niemand merkt. Ich meine, ein Fehler in der Schufa kann schon die bürgerliche Existenz bedrohen, eine Fehlinterpretation einer Bahnhofskamera meine Freiheit – ist es da so unwahrscheinlich das Programme zur Terrorerkennung irgendwann auch Leben gefärhden?