Introduzione e traduzione di Lea Ghisalberti per ComeDonChisciotte.org

Da notare che persino su giornali mainstream inizia a vedersi un pò di lucidità. In questo articolo, si deridono i “pericoli meccanici” dell’intelligenza artificiale per lasciare spazio all’unico vero pericolo che si cela dietro tali tecnologie: quello politico. Il pericolo di portare avanti, anche se in modo celato, l’ideologia del libero mercato come forza portante del progresso e del benessere sociale. Il pericolo di dimenticarsi che persino un’intelligenza artificiale dipende dai suoi educatori per la formazioni dei propri “schemi decisionali”. Proprio per questo, finchè i valori trasmessi continueranno ad essere il profitto e l’efficienza, non ci sarà mai spazio per una nuova fase.

La vera minaccia dell’intelligenza artificiale

di Evgeny Morozov

A maggio, più di 350 dirigenti tecnologici, ricercatori e accademici hanno firmato una dichiarazione che mette in guardia dai pericoli esistenziali dell’intelligenza artificiale. “La mitigazione del rischio di estinzione da parte dell’IA dovrebbe essere una priorità globale insieme ad altri rischi per la società, come le pandemie e la guerra nucleare”, hanno avvertito i firmatari, dopo un’altra lettera di alto profilo, firmata da Elon Musk e Steve Wozniak, cofondatore di Apple, che chiedeva una moratoria di sei mesi sullo sviluppo di sistemi avanzati di IA.[…] L’ansia crescente per l’intelligenza artificiale non è dovuta alle noiose ma affidabili tecnologie che completano automaticamente i nostri messaggi di testo o che dirigono gli aspirapolvere robot a schivare gli ostacoli nei nostri salotti. È l’ascesa dell’intelligenza artificiale generale, o A.G.I., a preoccupare gli esperti. L’A.G.I. Essa non esiste ancora, ma alcuni ritengono che le capacità in rapida crescita di ChatGPT di OpenAI suggeriscano che la sua comparsa sia vicina. Sam Altman, cofondatore di OpenAI, l’ha descritta come “sistemi generalmente più intelligenti degli esseri umani”. Immaginate i Roomba, non più condannati a passare l’aspirapolvere sui pavimenti, che si evolvono in robot tuttofare, felici di preparare il caffè del mattino o piegare il bucato, senza essere mai stati programmati per farlo.

Sembra allettante. Ma se questi Roomba dell’A.G.I. dovessero diventare troppo potenti, la loro missione di creare un’utopia senza macchia potrebbe diventare problematica per i loro padroni umani che spargono polvere. Le discussioni sull’A.G.I. sono piene di questi scenari apocalittici. Tuttavia, una nascente lobby di accademici, investitori e imprenditori sostiene che, una volta resa sicura, l’AIG sarebbe una manna per la civiltà. Il signor Altman, il volto di questa campagna, si è imbarcato in un tour globale per affascinare i legislatori. All’inizio di quest’anno ha scritto che l’A.G.I. potrebbe dare una spinta all’economia, incrementare la conoscenza scientifica e “elevare l’umanità aumentando l’abbondanza”. È per questo motivo che, nonostante tutte le contestazioni, così tante persone intelligenti nell’industria tecnologica si stanno impegnando per costruire questa tecnologia controversa: non usarla per salvare il mondo sembra immorale.

Sono fedeli a un’ideologia che vede questa nuova tecnologia come inevitabile e, in versione sicura, come universalmente benefica. I suoi sostenitori non riescono a pensare ad alternative migliori per sistemare l’umanità ed espanderne l’intelligenza. Ma questa ideologia, chiamata A.G.I.ismo, è sbagliata. I veri rischi dell’A.G.I. sono politici e non si risolvono addomesticando i robot ribelli. La più sicura delle A.G.I. non fornirebbe la panacea progressista promessa dalla sua lobby. E nel presentare la sua comparsa come quasi inevitabile, l’A.G.I. distrae dalla ricerca di modi migliori per aumentare l’intelligenza. All’insaputa dei suoi sostenitori, l’A.G.I. è solo un figlio bastardo di un’ideologia molto più grande, che predica che, come disse memorabilmente Margaret Thatcher, non ci sono alternative, non al mercato.

Piuttosto che distruggere il capitalismo, come ha lasciato intendere Altman, l’A.G.I. – o almeno la corsa a costruirla – è più probabile che crei un potente (e molto più moderno) alleato per il credo più distruttivo del capitalismo: il neoliberismo. Affascinati dalla privatizzazione, dalla concorrenza e dal libero scambio, gli architetti del neoliberismo volevano dinamizzare e trasformare un’economia stagnante e favorevole al lavoro attraverso i mercati e la deregolamentazione. Nel corso degli anni, il neoliberismo ha attirato molti, moltissimi critici, che lo hanno incolpato della Grande recessione e della crisi finanziaria, del trumpismo, della Brexit e di molto altro. Non sorprende, quindi, che l’amministrazione Biden abbia preso le distanze da questa ideologia, riconoscendo che i mercati a volte sbagliano. Fondazioni, thinktank e accademici hanno persino osato immaginare un futuro post-neoliberista.

Tuttavia, il neoliberismo è tutt’altro che morto. Peggio ancora, ha trovato un alleato nell’A.G.I., che si propone di rafforzare e replicare i suoi principali pregiudizi: che gli attori privati superino quelli pubblici (il pregiudizio del mercato), che adattarsi alla realtà sia meglio che trasformarla (il pregiudizio dell’adattamento) e che l’efficienza prevalga sulle preoccupazioni sociali (il pregiudizio dell’efficienza): Invece di salvare il mondo, il tentativo di costruirla peggiorerà solo le cose. Ecco come.

• L’A.G.I. non supererà mai le esigenze di profitto del mercato.

[..] Come sempre, gli esperti della Silicon Valley minimizzano il ruolo del mercato. In un recente saggio intitolato “Perché l’Intelligenza Artificiale salverà il mondo”, Marc Andreessen, un importante investitore tecnologico, ha persino dichiarato che l’Intelligenza Artificiale “è di proprietà delle persone e controllata dalle persone, come qualsiasi altra tecnologia”. La maggior parte delle moderne tecnologie è di proprietà delle aziende. E saranno loro – non le mitiche “persone” – a monetizzare la salvezza del mondo.

E lo stanno davvero salvando? Finora i risultati sono scarsi. Aziende come Airbnb e TaskRabbit sono state accolte come salvatrici della classe media assediata; le auto elettriche di Tesla sono state viste come un rimedio al riscaldamento del pianeta. Soylent, il frullato sostitutivo del pasto, si è imbarcato in una missione per “risolvere” la fame nel mondo, mentre Facebook ha giurato di “risolvere” i problemi di connettività nel Sud del mondo. Nessuna di queste aziende ha salvato il mondo. Una decina di anni fa l’ho chiamato “soluzionismo”, ma “neoliberismo digitale” sarebbe altrettanto appropriato. Questa visione del mondo riformula i problemi sociali alla luce di soluzioni tecnologiche a scopo di lucro. Di conseguenza, i problemi che appartengono al dominio pubblico vengono reimmaginati come opportunità imprenditoriali sul mercato. […]

• L’A.G.I. attenuerà il dolore dei nostri problemi più spinosi senza risolverli.

Il neoliberismo ha il talento di mobilitare la tecnologia per rendere le miserie della società sopportabili. Ricordo un’innovativa iniziativa tecnologica del 2017 che prometteva di migliorare l’uso della metropolitana di Chicago da parte dei pendolari. Offriva premi per scoraggiare gli utenti della metropolitana dal viaggiare nelle ore di punta. I suoi creatori hanno sfruttato la tecnologia per influenzare il lato della domanda (i passeggeri), ritenendo troppo difficili i cambiamenti strutturali del lato dell’offerta (come l’aumento dei fondi per il trasporto pubblico). La tecnologia aiuterebbe i cittadini di Chicago ad adattarsi al deterioramento delle infrastrutture della città, anziché ripararle per soddisfare le esigenze del pubblico. Questo è il pregiudizio dell’adattamento – l’aspirazione che, con una bacchetta tecnologica, possiamo diventare desensibilizzati alla nostra condizione. È il prodotto del neoliberismo, che non smette di promuovere l’autosufficienza e la resilienza. […]

La festa dei risolutori è solo all’inizio: Che si tratti di combattere la prossima pandemia, l’epidemia di solitudine o l’inflazione, l’Intelligenza Artificiale viene già presentata come un martello multiuso per molti chiodi reali e immaginari. Tuttavia, il decennio perduto a causa della follia soluzionista rivela i limiti di tali soluzioni tecnologiche. Certo, le numerose Apps della Silicon Valley – per monitorare le nostre spese, le calorie e i regimi di allenamento – sono occasionalmente utili. Ma per lo più ignorano le cause di fondo della povertà o dell’obesità. E senza affrontare le cause, rimaniamo bloccati in un palcoscenico di adattamento, non di trasformazione.

C’è una differenza tra l’incoraggiarci a seguire le nostre abitudini di cammino – una soluzione che favorisce l’adattamento individuale – e il capire perché le nostre città non hanno spazi pubblici su cui camminare – un prerequisito per una soluzione politica che favorisca la trasformazione collettiva e istituzionale. […]

• L’A.G.I. mina le virtù civiche e amplifica le tendenze che già non ci piacciono.

Una critica comune al neoliberismo è che ha appiattito la nostra vita politica, riorganizzandola intorno all’efficienza. “Il problema del costo sociale”, un articolo del 1960 che è diventato un classico del canone neoliberale, predica che una fabbrica inquinante e le sue vittime non dovrebbero preoccuparsi di portare le loro controversie in tribunale. Queste battaglie sono inefficienti – chi ha bisogno di giustizia, in ogni caso? – e ostacolano l’attività di mercato. Questa fissazione per l’efficienza è il modo in cui siamo arrivati a “risolvere” il cambiamento climatico lasciando che i peggiori trasgressori continuino come prima. Il modo per evitare le catene della regolamentazione è ideare un sistema – in questo caso, la tassazione del carbonio – che permetta a chi inquina di acquistare crediti per compensare il carbonio in più che emette. Questa cultura dell’efficienza, in cui i mercati misurano il valore delle cose e sostituiscono la giustizia, corrode inevitabilmente le virtù civiche.

I problemi che ne derivano sono visibili ovunque. Gli accademici temono che, sotto il neoliberismo, la ricerca e l’insegnamento siano diventati merci. I medici lamentano il fatto che gli ospedali diano priorità ai servizi più redditizi, come la chirurgia elettiva, rispetto alle cure d’emergenza. I giornalisti odiano il fatto che il valore dei loro articoli sia misurato in bulbi oculari. Sarà ancora così nell’utopia dell’A.G.I.? O sistemare le nostre istituzioni attraverso l’A.G.I. sarà come consegnarle a consulenti spietati? Anch’essi propongono “soluzioni” datate per massimizzare l’efficienza. Ma queste soluzioni spesso non riescono a cogliere l’intreccio disordinato di valori, missioni e tradizioni che sta alla base delle istituzioni – un intreccio che è raramente visibile se si gratta solo la superficie dei dati.

L’altro famoso detto neoliberale di Margaret Thatcher è che “la società non esiste”. La lobby dell’A.G.I. condivide inconsapevolmente questa visione cupa. Per loro, il tipo di intelligenza che si riproduce è una funzione di ciò che accade nella testa degli individui piuttosto che nella società in generale.

A causa di questo pregiudizio risolutivo, anche le idee politiche apparentemente innovative sull’A.G.I. non riescono a entusiasmare. Prendiamo la recente proposta di un “Progetto Manhattan per la sicurezza dell’A.I.”. Questa proposta si basa sulla falsa idea che non ci siano alternative all’A.G.I. Ma la nostra ricerca di aumentare l’intelligenza non sarebbe molto più efficace se il governo finanziasse un Progetto Manhattan per la cultura e l’istruzione e le istituzioni che le alimentano? Senza questi sforzi, le vaste risorse culturali delle nostre istituzioni pubbliche esistenti rischiano di diventare meri set di dati per l’addestramento delle start-up dell’A.G.I., rafforzando la falsa credenza che la società non esista. Ma con la sua inclinazione antisociale e i suoi pregiudizi neoliberali, l’A.G.I. lo è già: Non abbiamo bisogno di aspettare i Roomba magici per mettere in discussione i suoi principi.

Di Evgeny Morozov, New York Times del 30 giugno 2023

Selezione e traduzione di Lea Ghisalberti per ComeDonChisciotte.org

Fonte: https://www.nytimes.com/2023/06/30/opinion/artificial-intelligence-danger.html