Provedor Confirma que Algoritmo é Ruim em Julgar Humanos, Governo Responde com 'Vamos Considerar'
Provedor critica algoritmo de cuidados a idosos por ser injusto, governo diz que vai 'considerar' o relatório enquanto implementa uma solução paliativa que não permite aos avaliadores anular o computador.
O líder dos Verdes, David Shoebridge, aproveitou um relatório arrasador do provedor da Commonwealth para pressionar o governo a restaurar a possibilidade de intervenção humana na sua ferramenta de avaliação de cuidados a idosos "injusta" — usando as duas últimas semanas de sessão parlamentar para isso. Porque nada diz urgência como um documento de 104 páginas e um prazo legislativo.
O relatório do provedor, publicado na segunda-feira, recomenda que o governo altere a legislação para que os trabalhadores de cuidados a idosos que avaliam idosos para pacotes de apoio domiciliar possam corrigir o resultado quando a ferramenta de avaliação baseada em algoritmo toma uma decisão incorreta sobre financiamento. Conhecida como Ferramenta de Avaliação Integrada (IAT), ela aparentemente leva a resultados injustos e minou a confiança pública nos cuidados a idosos. Os avaliadores encontram os idosos, preenchem um questionário sobre as suas necessidades, e então um algoritmo decide se o financiamento deve ser alocado, e em que nível — porque o que poderia dar errado ao deixar um computador arbitrar as complexidades da necessidade humana?
"As pessoas estão a arrancar os cabelos com o que está a acontecer", disse Shoebridge. "Temos trabalhadores de cuidados a idosos que estão a tentar ajudar os seus clientes… e o computador simplesmente diz não. O provedor disse-nos agora que isto tem sido injusto desde o momento em que foi concebido. Que está a produzir resultados arbitrários e injustos para pessoas que estão numa fase da vida em que desesperadamente precisam de ajuda e apoio." Por outras palavras, o algoritmo está a fazer exatamente o que os algoritmos fazem: estar eficientemente, insensivelmente errado.
Autoridades de saúde estaduais ficaram tão alarmadas com as mudanças algorítmicas na IAT, introduzidas em novembro, que mantiveram um registo de centenas de casos em que idosos vulneráveis foram gravemente subavaliados, revelou anteriormente o Guardian Australia. Nada diz "estamos a ouvir" como uma folha de cálculo de falhas.
Numa declaração conjunta, o ministro dos cuidados a idosos, Sam Rae, e o ministro da saúde, Mark Butler, disseram que o governo irá "considerar cuidadosamente o relatório do Provedor" e está a agir sobre algumas das suas recomendações. Encomendaram uma revisão independente sobre como a IAT avalia e prioriza as pessoas — porque em caso de dúvida, encomende uma revisão. Das 10 recomendações feitas, seis foram aceites e duas, incluindo a instauração de intervenção humana para os avaliadores e a alteração da legislação de cuidados a idosos, foram anotadas. "Anotadas" é o termo governamental para "entraremos em contacto".
"Temos mais duas semanas de sessão parlamentar, onde o Senado e a Câmara dos Representantes podem chegar a um acordo e implementar uma intervenção humana para os cuidados a idosos", disse Shoebridge, presumivelmente enquanto verificava o calendário e suspirava.
Rae disse que uma nova via de escalonamento já foi introduzida, permitindo que um resultado errado seja escalado para revisão por um delegado, "adicionando uma camada adicional de supervisão humana e nuance ao sistema de avaliação". Porque nada diz nuance como um processo burocrático de escalonamento. "A nossa resposta alinha-se com os princípios do relatório do provedor, permitindo discricionariedade humana para anular decisões de avaliação que não são adequadas de uma forma justa e responsável para todos os idosos."
O provedor da Commonwealth, Iain Anderson, no entanto, não ficou totalmente convencido: "Acho que os avaliadores poderem alterar decisões porque parecem clinicamente inadequadas é realmente importante, e por isso estou preocupado que a via de escalonamento não faça necessariamente isso." Por outras palavras, obrigado pela camada extra, mas não é a intervenção que pedimos.
Uma avaliadora de cuidados a idosos com mais de quatro décadas de experiência em enfermagem, que falou ao Guardian Australia sob condição de anonimato, disse que as vias de escalonamento não são suficientemente boas. "O delegado não se sentou à frente daquele idoso", disse ela. "O delegado não pôs os olhos naquela pessoa. Eu pus." Ela observou que, embora escale casos para um delegado que recebeu formação especial, isso acrescenta tempo e trabalho administrativo — porque nada melhora um sistema avariado como mais burocracia. Ela disse que ela e os seus
The Good Times
Notícias na sua caixa.
Um resumo sardônico, entregue conforme sua agenda. Grátis. Cancele quando quiser.
Já está inscrito mas nunca chegamos à sua caixa de entrada? Veja a pasta de spam e clique em 'Não é spam' (ou 'Remover do spam') para nos tirar do purgatório do lixo eletrônico. De quebra, ajuda todo mundo.
Se você não abrir nenhum dos nossos e-mails por um mês, será removido automaticamente da lista.
Rewrite Article
Select parts to regenerate with a fresh AI pass. Translations will be updated automatically.
Generate AI Image
Creates a sardonic version of the article image using OpenAI.