Der Zaun ist verschwunden. Dafür gibt es einen Login. Das ist zunächst eine satirische Zuspitzung, keine Absage an digitale Werkzeuge. Ich arbeite gern mit Technik, wenn sie mir Arbeit abnimmt. Interessant wird es, sobald sie entscheidet, was ich darf, ohne mir erklären zu können, warum.
Ein Profil ist eine Beschreibung, nicht die ganze Person. Eine Prognose ist eine Einschätzung, nicht bereits die Zukunft. Werden diese Unterschiede vergessen, kann eine rechnerische Zuordnung im Alltag wie ein Urteil wirken. Der Mensch erhält eine Antwort, aber keinen greifbaren Ansprechpartner.
Das Werkzeug braucht einen Ausgang
Bei einem automatisierten Verfahren möchte ich wissen, welche Daten einfließen, wie Fehler berichtigt werden und wer für die Entscheidung verantwortlich bleibt. Dafür muss nicht jeder Besucher Quellcode lesen können. Eine verständliche Erklärung und ein tatsächlich erreichbarer Weg zur Überprüfung sind wichtiger als die Behauptung, das System sei besonders intelligent.
Die Gefahr liegt nicht nur in einem spektakulären Missbrauch. Sie kann auch in kleinen, dauernden Abhängigkeiten entstehen: immer neue Zustimmungen, immer neue Bewertungen, immer eine weitere Stufe bis zum vollständigen Zugang. Irgendwann ist man ständig beschäftigt, seine Zulässigkeit nachzuweisen.
Technik sollte die Handlungsmöglichkeiten von Menschen erweitern. Dazu gehört, dass sie sich begrenzen lässt. Ein gutes System besitzt deshalb nicht nur einen freundlichen Startbildschirm. Es besitzt einen nachvollziehbaren Korrekturweg und eine Tür, durch die man wieder hinausgehen kann.