Ombudsmann bestätigt: Algorithmus schlecht im Beurteilen von Menschen – Regierung antwortet mit „Wir werden es prüfen“

Die Grünen-Chefin David Shoebridge hat einen beißenden Bericht des Commonwealth-Ombudsmanns aufgegriffen, um die Regierung unter Druck zu setzen, die menschliche Übersteuerung seines „unfairen“ Altenpflege-Bewertungstools wiederherzustellen – und nutzt dafür die letzten beiden Sitzungswochen des Parlaments. Denn nichts sagt Dringlichkeit wie ein 104-seitiges Dokument und eine gesetzliche Frist.

Der am Montag veröffentlichte Bericht des Ombudsmanns empfiehlt der Regierung, die Gesetzgebung zu ändern, damit Altenpflegekräfte, die ältere Australier für häusliche Unterstützungspakete bewerten, das Ergebnis ändern können, wenn das algorithmusgesteuerte Bewertungstool eine falsche Entscheidung über die Finanzierung trifft. Bekannt als Integrated Assessment Tool (IAT), führt es offenbar zu unfairen Ergebnissen und hat das öffentliche Vertrauen in die Altenpflege untergraben. Gutachter treffen ältere Menschen, füllen einen Fragebogen über ihre Bedürfnisse aus, und dann entscheidet ein Algorithmus, ob Finanzierung gewährt werden soll und in welcher Höhe – denn was könnte schon schiefgehen, wenn man einen Computer die Komplexität menschlicher Bedürfnisse entscheiden lässt?

„Die Leute raufen sich die Haare über das, was passiert“, sagte Shoebridge. „Wir haben Altenpflegekräfte, die versuchen, ihren Klienten zu helfen … und der Computer sagt einfach nein. Der Ombudsmann hat uns nun gesagt, dass dies unfair war, seit es konzipiert wurde. Dass es willkürliche und unfaire Ergebnisse für Menschen produziert, die in einer Lebensphase sind, in der sie dringend Hilfe und Unterstützung brauchen.“ Mit anderen Worten: Der Algorithmus tut genau das, was Algorithmen tun: effizient und gefühllos falsch liegen.

Staatliche Gesundheitsbeamte waren von den algorithmischen Änderungen am IAT, die im November eingeführt wurden, so alarmiert, dass sie Hunderte von Fällen protokollierten, in denen schutzbedürftige ältere Australier schwer unterbewertet wurden, wie Guardian Australia zuvor enthüllte. Nichts sagt „wir hören zu“ wie eine Tabelle mit Fehlern.

In einer gemeinsamen Erklärung sagten Altenpflegeminister Sam Rae und Gesundheitsminister Mark Butler, die Regierung werde „den Bericht des Ombudsmanns sorgfältig prüfen“ und einige seiner Empfehlungen umsetzen. Sie haben eine unabhängige Überprüfung beauftragt, wie das IAT Menschen bewertet und priorisiert – denn im Zweifel beauftragt man eine Überprüfung. Von den 10 Empfehlungen wurden sechs angenommen und zwei, darunter die Einführung einer menschlichen Übersteuerung für Gutachter und die Änderung der Altenpflegegesetzgebung, zur Kenntnis genommen. „Zur Kenntnis genommen“ ist Regierungssprache für „wir melden uns“.

„Wir haben noch zwei Sitzungswochen des Parlaments, in denen Senat und Repräsentantenhaus eine Vereinbarung treffen und eine menschliche Übersteuerung für die Altenpflege einführen können“, sagte Shoebridge, vermutlich während er seinen Kalender prüfte und seufzte.

Rae sagte, ein neuer Eskalationsweg sei bereits eingeführt worden, der es ermögliche, ein falsches Ergebnis zur Überprüfung durch einen Delegierten eskalieren zu lassen, „was eine weitere Ebene menschlicher Aufsicht und Nuance in das Bewertungssystem bringt“. Denn nichts sagt Nuance wie ein bürokratischer Eskalationsprozess. „Unsere Antwort entspricht den Grundsätzen des Berichts des Ombudsmanns und ermöglicht menschliches Ermessen, Bewertungsentscheidungen, die nicht zweckmäßig sind, auf eine Weise umzukehren, die für alle älteren Menschen fair und verantwortungsvoll ist.“

Der Commonwealth-Ombudsmann Iain Anderson war jedoch nicht ganz überzeugt: „Ich denke, dass Gutachter Entscheidungen ändern können, weil sie klinisch unangemessen erscheinen, wirklich wichtig ist, und daher bin ich besorgt, dass der Eskalationsweg dies nicht unbedingt tun wird.“ Mit anderen Worten: Danke für die zusätzliche Ebene, aber es ist nicht die Übersteuerung, um die wir gebeten haben.

Eine Altenpflege-Gutachterin mit mehr als vier Jahrzehnten Pflegeerfahrung, die mit Guardian Australia unter der Bedingung Anonymität sprach, sagte, Eskalationswege seien nicht gut genug. „Der Delegierte hat nicht vor diesem älteren Menschen gesessen“, sagte sie. „Der Delegierte hat diesen Menschen nicht gesehen. Ich habe es.“ Sie bemerkte, dass sie zwar Fälle an einen speziell geschulten Delegierten eskaliert, dies aber Zeit und Verwaltungsarbeit kostet – denn nichts verbessert ein kaputtes System wie mehr Papierkram. Sie sagte, sie und ihre