Distopia digitale: L’algoritmo che punisce i poveri

DI ED PILKINGTON

The Guardian.com

In tutto il mondo, dalla più piccola città dell’Illinois, a Rochdale in Inghilterra, da Perth, in Australia, a Dumka nel nord dell’India, ovunque è in atto una rivoluzione nel modo in cui i governi stanno trattando i poveri.

Nessuno si accorge che cosa sta succedendo e forse non se ne è sentito nemmeno parlare. E’ una cosa programmata da ingegneri e da programmatori a porte chiuse, in luoghi governativi segreti e lontano dalla vista della gente.

Solo matematici e informatici riescono a comprendere appieno questo cambiamento epocale, alimentato dalla intelligenza artificiale (AI), da algoritmi che fanno previsioni, da modelli di rischio e dalla biometria. Ma se qualcuno di voi fa parte dei milioni di persone più vulnerabili che stanno in fondo alla catena di chi subisce questa rimodulazione radicale delle prestazioni assistenziali, saprà riconoscere che è una cosa reale e che le sue conseguenze possono essere gravi – persino mortali.

The Guardian ha indagato per gli ultimi tre mesi sul modo in cui vengono spesi miliardi per l’innovazionei AI per cercare di comprendere come interagisce con lo stato il ceto a più basso reddito. Allo stesso tempo i reporter in USA, UK India e Australia hanno preso atto della nascita di uno stato di welfare digitale.

Leggendo i vari articolo si vede che i sussidi di disoccupazione, di sostegno per figli, casa e alimentazione vengono codificati insieme a tanti altri dati on-line. Enormi somme vengono spese dai governi di tutto il mondo industrializzato e in via di sviluppo per trovare il sistema su come automatizzare la povertà e per studiare il processo per trasformare le esigenze dei cittadini più poveri in numeri, su come sostituire la parola di un assistente sociale umano con un freddo, esangue processo decisionale prodotto dalle macchine.

Ci sono situazioni raccontate dai reporter del Guardian che dipingono un quadro del 21° secolo di una distopia dickensiana che si sta diffondendo ad una velocità pazzesca. Il politologo americano Virginia Eubanks lo ha definito: “ospizio digitale”.

Il sitoweb dei Servizi Umani del Dipartimento del governo australiano Foto: Dave Hunt / AAP

Date retta ai governi, e sentirete grandi promesse su come le nuove tecnologie trasformeranno la povertà in una nobile e munifica impresa. I pagamenti saranno più veloci, l’efficienza e la trasparenza saranno maggiori, si ridurranno gli sprechi, si risparmieranno soldi dei contribuenti, si sradicheranno gli errori e i pregiudizi degli umani, e sarà garantito che le poche risorse raggiungeranno i più bisognosi. Ma spesso, queste promesse sono cadute nel vuoto.

Nel momento in cui l’austerità domina il panorama politico, milioni di persone si sono viste tagliare o bloccare i sussidi da programmi informatici che operano in un modo che solo pochi sembrano capaci di controllare o addirittura di comprendere. Errori che sono diventati endemici non lasciano alle vittime nessuna alternativa e nessun  risarcimento.

Questa settimana, l’automazione della povertà sarà portata sulla scena mondiale. Philip Alston, un avvocato per i diritti umani, osservatore ONU per la povertà estrema, presenterà all’Assemblea generale delle Nazioni Unite a New York un rapporto innovativo che dà l’allarme sulle implicazioni, per i diritti umani, nella corsa alla digitalizzazione della protezione sociale.

L’analisi di Alston si basa in parte sugli studi ufficiali svolti dall’ONU sulla povertà in UK e USA e in parte su dati governativi, di organizzazioni dei diritti umani e di esperti provenienti da più di 34 paesi. E possibile che forniscano una istantanea definitiva su dove si trova adesso il mondo e dove sta andando, con cenni alle vessazioni e allo scotto a cui vanno incontro quelle persone che vivono in una casa dei poveri (ospizio) digitale che si allarga sempre più rapidamente.

In Illinois, The Guardian ha scoperto che i governi statali e federali hanno unito le loro forze per chiedere che molti destinatari dei fondi per l’assistenza sociale restituiscano i “pagamenti-non-dovuti”, in certi casi per gli ultimi 30 anni. Questo sistema di “debito-alla-zombie”, che si può riconoscere con ricerche tecnologiche, crea paura e disagio per la parte più vulnerabile della società.

Come ha detto uno di quei assistiti: “Dovete restituire quello che avete mangiato.”

Nel Regno Unito, il Guardian ha indagato sul sito del governo relativo a Newcastle, dove sono stati spesi milioni per lo sviluppo di una nuova generazione di robot del welfare per sostituire gli esseri umani. Aziende private tra cui una impresa di New York guidata dal primo miliardario-robotico al mondo, stanno perfezionando un processo che ha generato un nuovo gergo “forza lavoro virtuale”, “Augmented decision-making”, “automazione del processo-robotico”

Il governo sta spingendo molto la sua missione digitale  malgrado i danni già inflitti a milioni di inglesi-a-basso-reddito per effetto della sua agenda “digital by default”. Chi si lamenta parla di una situazione di fame, di sporcizia, di paura e di panico che sta vivendo.

Attiviste indiane protestano contro la decisione del governo di dare  ai bambini un pasto gratis solo se in possesso della carta biometrica nazionale Aadhaar. Foto:  AFP / Getty Images

In Australia, dove il Guardian ha scritto ampiamente sul robodebt, lo schema accusato di aver recuperato a torto debiti storici, riconosciuti da un algoritmo difettoso, vediamo che il governo ha aperto un nuovo fronte digitale, usando l’automazione per sospendere milioni di pagamenti del welfare system. I destinatari si vedono tagliati i sussidi senza preavviso.

La storia più inquietante arriva da Dumka in India. Qui, si apprende qual è stato l’orribile impatto umano che ha colpito le famiglie a seguito della Aadhaar, il numero unico di identificazione a 12 cifre che il governo indiano ha rilasciato a tutti i residenti nella zona dove si è svolto il più grande esperimento di biometria del mondo.

 La nuova high-tech mette tutto insieme tutta nell’assistenza sociale, lavoro, disabilità e salute, spesso senza un minimo dibattito pubblico.

Motka Manjhi ha pagato il prezzo più alto quando un computer si è impallato e la sua identificazione digitale – la sua chiave per Aadhaar – non lo ha più riconosciuto. Hanno bloccato il suo sussidio di sopravvivenza, è stato costretto a saltare i pasti e ha cominciato a perdere peso. Il 22 maggio, è crollato ed è morto davanti a casa sua. La sua famiglia è convinta che sia morto per fame.

Le indagini di The Guardian fanno luce sui requisiti comuni di questi nuovi sistemi, sia nei paesi in via di sviluppo o in quelli già sviluppati, sia in oriente che in occidente. La somiglianza più evidente è che tutto succede alla velocità della luce, con approcci hi-tech che attraversano trasversalmente i servizi sociali, il lavoro, le pensioni, la disabilità e la salute, spesso senza nemmeno un dibattito pubblico minimo o una qualche assunzione di responsabilità.

Nell’ambito di questa rivoluzione, l’elemento umano del welfare viene a perdersi. Anziché parlare con un essere umano che valuta personalmente le reali esigenze della persona, ora tutto viene messo on line, dove una analisi stimerà e assegnerà un punteggio di rischio per il futuro e un algoritmo deciderà quale sarà il destino della persona.

Nel nuovo mondo, la disuguaglianza e la discriminazione possono rafforzarsi. Che cosa ti succede se sei uno dei cinque milioni di adulti che, nel Regno Unito, non hanno regolare accesso a Internet o che non hanno una bassa o solo una minima alfabetizzazione con il computer? Che cosa succede se l’algoritmo, semplicemente, accentua le attuali distorsioni di razza e di classe esistenti, rendendo ancora più marcato il divario tra chi ha studiato e chi fa un lavoro manuale, tra ricchi e poveri, tra bianchi e neri?

Ma c’è anche un qualcosa di kafkiano e di agghiacciante che abbraccia tutto il mondo. Come ha scoperto in modo tanto tragico Manjhi, gli errori si fanno. Le macchine si sbagliano. Se non c’è nessuno intorno a noi che ci guarda come si guarda una persona e non come un numero a 12 cifre che deve essere elaborato, il risultato può essere fatale.

Il computer dice: “Non si paga”. E adesso che facciamo?

 

Ed Pilkington

Fonte : https://www.theguardian.com

Link  : https://www.theguardian.com/technology/2019/oct/14/automating-poverty-algorithms-punish-poor?fbclid=IwAR1f8ugu5p04Cizz5ThBt3xC9aGgFEFguOwG2EFCUx2NDowMEFZm0Vk4-2k

14.10.2019

 

Traduzione per www.comedonchisciotte.org  a cura di BOSQUE PRIMARIO

Pubblicato da Bosque Primario

Precedente La storia mai raccontata della caccia segreta ai dati cartografici dei nazisti
Prossimo L’insurrezione cilena

9 Commenti

  1. Il bellissimo film Brazil di Terry Gilliam denuncia esattamente questo mondo distopico dove la tecnologia ha soppiantato qualsiasi forma di umanesimo, dove l’intelligenza artificiale diventa deficienza reale. Era il 1985, un anno dopo 1984.
    Utile ricordare anche la High Frequency Trading, sistema di transazioni borsistiche automatizzate che muove senza controlli oltre la metà degli scambi e che ormai sta vivendo di vita propria, dato che nessuno è più in grado di controllare
    https://www.money.it/La-truffa-del-trading-ad-alta-frequenza

    L’useful idiot del nuovo millennio è digitale

  2. meglio una guerra che distrugge tutto che questa umanità col cervello bruciato da televisione , videogiochi , smartphone , internet

  3. Vincenzo Siesto da Pomigliano

    Adesso capisco i discorsi dell’esimio (…) Mattarella dopo il ritorno dalla Silicon Valley….
    Ma non preoccupiamoci: nessuna macchina può sostituire l’Uomo (notate la U maiuscola). Fra poco tutto il mondo artificioso che gli uomini (con la u minuscola) hanno creato crollerà. Eh, si! C’è una bella differenza tra Uomo (Homo Sapiens) e uomo (homo stultus tecnologicus)!!!
    E capisco anche perché secondo un servizio giornalistico di ieri tra le giovani generazioni aumenta un certo tipo di ignoranza (l’analfabetismo funzionale).

  4. Agghiacciante. Consiglio la visione del bellissimo film di Ken Loach “Io Daniel Blake”, parla proprio di questo problema in UK. effettivamente con quell’efficienza robotica, tra un please e un sorry ti schiacciano come una mosca.

  5. Le macchine sbagliano perché dietro c’è la mafia che pianifica la morte e la povertà perché ci hanno guadagnato sopra. I capriespiatori nOn funzionano più perché sono capitoli vecchi e triti.

  6. Posso e forse devo concordare! Però sempre il solito dubbio terribile: cosa vuole il povero? Una vita migliore e più vivibile, più cultura, più democrazia, magistratura più decente e congrua, ”politici” migliori, istituzioni adeguate, più giustizia, più EQUITA’ oppure trasformarsi in ricco??? Personalmente sono nato povero e povero morirò! Ma non leggo analoga affermazione da parte di nessuno!! Chissà per che!

  7. Guardatevi il vecchio “The Terminal” e scoprirete cos’è un mondo “ordinato” con i database.

  8. E’ proprio un bel futuro quello che stanno cercando di costruirci ,in mano alle macchine che decideranno tutto per noi anche come isolarci e ucciderci!
    Un po come il denaro solo elettronico, con un click mi blocchi tutto e mi mandi in disgrazia e mi tieni per le palle .UN grande futuro che va rigettato al mittente con gli interessi!!!!

  9. Con gesti lenti e solenni Dwar Ev procedette alla saldatura, in oro, degli ultimi due fili.
    Gli occhi di venti telecamere erano fissi su di lui e le onde subteriche portarono da un angolo all’altro dell’universo venti diverse immagini della cerimonia.
    Si rialzò con un cenno del capo a Dwar Reyn, e s’accostò alla leva dell’interruttore generale: la leva che avrebbe collegato, in un colpo solo, tutti i giganteschi calcolatori elettronici di tutti i pianeti abitati dell’Universo – 96 miliardi di pianeti abitati – formando il super circuito da cui sarebbe uscito il supercalcolatore, un’unica macchina cibernetica racchiudente tutto il sapere di tutte le galassie.
    Dwar Reyn rivolse un breve discorso agli innumerevoli miliardi di spettatori. Poi, dopo un attimo di silenzio disse: “Tutto è pronto Dwar Ez”. Dwar Ez abbassò la leva. Si udì un formidabile ronzio che concentrava tutta la potenza, l’energia di novantasei miliardi di pianeti. Grappoli di luci multicolori lampeggiarono sull’immenso quadro, poi, una dopo l’altra si attenuarono. Draw Ez fece un passo indietro e trasse un profondo respiro. “L’onore di porre la prima domanda spetta a te, Dwar Reyn”. “Grazie” rispose Dwar Reyn “Sarà una domanda cui nessuna macchina cibernetica ha potuto, da sola, rispondere”. Tornò a voltarsi verso la macchina. “C’è Dio?”. L’immensa voce rispose senza esitazione, senza il minimo crepitio di valvole o condensatori.
    “Sì: adesso, Dio c’è.”
    Il terrore sconvolse la faccia di Dwar Ev, che si slanciò verso il quadro di comando.
    Un fulmine sceso dal cielo senza nubi lo incenerì, e fuse la leva inchiodandola per sempre al suo posto.

    Frederic Brown, La Risposta (1954)