Vi föreställer oss gärna att orättvisa anländer med en smäll – kanske en dramatisk siren, ett strängt brev, eller åtminstone en milt bekymrad tweet. Men i Göteborg 2020 anlände den som en elegant algoritm som lovade effektivitet. Staden, trött på den administrativa huvudvärken med skolplaceringar, överlämnade jobbet till en maskin. För vad kan väl gå fel när man låter mjukvara bestämma var hundratals barn ska tillbringa sina formativa år?
Mycket, visade det sig. Algoritmen optimerade avstånd, preferenser och kapacitet, men glömde tydligen att Göteborg har en älv – en stor sådan, med fjordar och motorvägar på köpet. Istället för att beräkna gångvägar använde den fågelvägsavstånd. Föräldrar stirrade på sina barns placeringar i misstro: skolor tvärs över älven, över stora motorvägar, i stadsdelar barnen aldrig besökt. En 13-åring som går den vägen på vintern? Inte en chans. Skolförvaltningen gav lugna, oanvändbara råd: överklaga bara om du har problem med din placering – som om problemet vore en fråga om personlig smak och inte ett systemfel.
In kommer Charlotta Kronblad, forskare i teknik, tidigare jurist och mor till ett av de 700 drabbade barnen. Hon överklagade inte bara sin sons placering; hon stämde staden och hävdade att hela beslutsystemet var olagligt. Stadens försvar? Algoritmen var bara ett ”stödverktyg”, och de lämnade ingen kod, ingen dokumentation, ingen förklaring. Domstolen lade bevisbördan rakt på Kronblad. Utan tillgång till algoritmens svarta låda kunde hon inte uppfylla beviskravet. Målet avvisades. Algoritmen vann.
Detta är inte en isolerad svensk egenhet. Kronblad drar smärtsamma paralleller till Post Office-skandalen i Storbritannien, där Horizon IT-systemet falskt anklagade hundratals föreståndare för stöld, och den nederländska barnbidragsskandalen, där en algoritm felaktigt flaggade tusentals föräldrar som bedragare, vilket kastade familjer i skuld och fosterhemsplacering. I alla fall opererade maskinerna bakom en slöja av teknisk komplexitet och institutionell defensivitet. Fel multiplicerades. Skadan fördjupades. Ansvarsskyldigheten haltade.
Kronblads slutsats är skarp: när domstolar hänvisar till teknik snarare än ifrågasätter den, och när de som skadas måste bevisa systemets brister utan tillgång till koden, frodas algoritmisk orättvisa. Hon efterlyser en förskjutning av bevisbördan till de parter som faktiskt har tillgång till algoritmen, och processuella regler som möjliggör systematisk upprättelse. Tills dess, varnar hon, kommer vi att snubbla från skandal till skandal – för när orättvisa levereras av kod i nästan tystnad, måste ansvarsskyldighet svara på full volym.