• Ongeveer 400.000 uitkeringsontvangers ten onrechte beschuldigd door algoritme
• Veel landen automatiseren het socialezekerheidsstelsel om de kosten en fraude te verminderen
• AI-zorgsystemen hebben menselijk ingrijpen nodig, zeggen experts
• Experts zeggen dat sommige overheidsalgoritmen racistisch zijn

MELBOURNE – Toen de Australische welzijnsorganisatie Nathan Kearney mailde om te zeggen dat hij duizenden dollars schuldig was, wist de muzikant dat er iets aan de hand was. Maar hoe hij ook probeerde, Kearney kon niemand in de regering bereiken om het vreselijke onrecht recht te zetten.

Dat was in 2016, het begin van een beproeving van vijf jaar.

Ten eerste: een hele reeks intimiderende telefoontjes van incassobureaus. Vervolgens werd zijn belastingkorting ingehouden om achterstallige bedragen van ongeveer A$2.000 ($1.400) te betalen die hij volgens de overheid schuldig was.

Een jaar na de eerste schuldbekentenis kreeg hij een nieuwe, waarin hij vertelde dat hij ongeveer A$4.000 ($2.700) schuldig was.

“Het ging mijn begrip gewoon te boven, hoe ze mij om dat geld konden vragen”, zegt Kearney, 33, die zijn gedeelde huis in Brisbane moest verlaten en terug moest verhuizen naar het huis van zijn ouders, honderden kilometers verderop.

‘Het was de enige manier waarop ik me kon voorstellen dat ik het financieel zou kunnen redden’, zei Kearney, wiens schulden nog hoger werden nadat hij talloze therapiesessies had gekocht om een ​​beproeving te doorstaan ​​die hem ‘echt heel depressief’ had gemaakt.

“Het kostte me vijf jaar om weer op de been te komen”, vertelde hij aan Context.

Kearney is een van de ongeveer 400.000 uitkeringsontvangers in Australië die ten onrechte werden beschuldigd van het verkeerd aangeven van hun inkomen bij de welzijnsinstantie, en die vervolgens boetes kregen opgelegd.