Schwedischer Algorithmus schickt Kinder auf fjordüberquerende Schulwege und besiegt Mutter vor Gericht

Wir stellen uns gern vor, dass Ungerechtigkeit mit einem Paukenschlag daherkommt – vielleicht einer dramatischen Sirene, einem strengen Brief oder zumindest einem leicht besorgten Tweet. Aber in Göteborg im Jahr 2020 kam sie als eleganter Algorithmus daher, der Effizienz versprach. Die Stadt, des Verwaltungskopfschmerzes bei Schulplatzvergaben überdrüssig, übergab die Aufgabe einer Maschine. Schließlich, was könnte schon schiefgehen, wenn man Software entscheiden lässt, wo Hunderte von Kindern ihre prägenden Jahre verbringen sollen?

Eine ganze Menge, wie sich herausstellte. Der Algorithmus optimierte Entfernungen, Präferenzen und Kapazitäten, vergaß aber offenbar, dass Göteborg einen Fluss hat – einen großen, mit Fjorden und Autobahnen obendrein. Statt Gehwege zu berechnen, verwendete er die „Luftlinien“-Entfernung. Eltern starrten ungläubig auf die Schulplatzierungen ihrer Kinder: Schulen jenseits von Flüssen, über große Autobahnen hinweg, in Vierteln, die die Kinder noch nie besucht hatten. Ein 13-Jähriger, der diesen Weg im Winter zurücklegt? Keine Chance. Die Schulverwaltung bot ruhige, wenig hilfreiche Ratschläge: Legen Sie einfach Einspruch ein, wenn Sie ein Problem mit Ihrer Platzierung haben – als ob das Problem eine Frage des persönlichen Geschmacks und nicht eines systemischen Fehlers wäre.

Betreten Sie Charlotta Kronblad, eine Forscherin im Bereich Technologie, ehemalige Anwältin und Mutter eines der 700 betroffenen Kinder. Sie legte nicht nur Einspruch gegen die Platzierung ihres Sohnes ein; sie verklagte die Stadt und argumentierte, dass das gesamte Entscheidungssystem rechtswidrig sei. Die Verteidigung der Stadt? Der Algorithmus sei lediglich ein „Unterstützungswerkzeug“, und sie legten weder Code noch Dokumentation oder Erklärung vor. Das Gericht legte die Beweislast vollständig auf Kronblad. Ohne Zugang zur Blackbox des Algorithmus konnte sie die Beweisschwelle nicht erreichen. Der Fall wurde abgewiesen. Der Algorithmus gewann.

Dies ist keine isolierte schwedische Kuriosität. Kronblad zieht schmerzhafte Parallelen zum britischen Post Office-Skandal, wo das Horizon-IT-System Hunderte von Betreibern fälschlich des Diebstahls beschuldigte, und zum niederländischen Skandal um Kinderbetreuungszuschüsse, wo ein Algorithmus Tausende von Eltern fälschlich als Betrüger markierte und Familien in Schulden und Pflegefamilien stürzte. In allen Fällen operierten die Maschinen hinter einem Schleier technischer Komplexität und institutioneller Abwehrhaltung. Fehler vervielfachten sich. Der Schaden vertiefte sich. Die Rechenschaftspflicht hinkte hinterher.

Kronblads Schlussfolgerung ist klar: Wenn Gerichte sich der Technologie beugen, anstatt sie zu hinterfragen, und wenn die Geschädigten die Mängel des Systems beweisen müssen, ohne Zugang zum Code zu haben, gedeiht algorithmische Ungerechtigkeit. Sie fordert, die Beweislast auf die Parteien zu verlagern, die tatsächlich Zugang zum Algorithmus haben, und Verfahrensregeln zu schaffen, die eine systemische Abhilfe ermöglichen. Bis dahin, warnt sie, werden wir von Skandal zu Skandal stolpern – denn wenn Ungerechtigkeit fast lautlos per Code geliefert wird, muss Rechenschaft mit voller Lautstärke antworten.