Di scuole, app e merce umana

22 Oct 2019 Gentile Professoressa OMISSIS, mi chiamo Giacomo Tesio, sono il papà di OMISSIS e da venti anni mi occupo professionalmente di programmazione e sicurezza informatica. Correntemente sviluppo applicazioni finanziare per alcune banche multinazionali, ma le mie esperienze sono estremamente variegate e pertinenti alla questione che mi trovo a sottoporle. La disturbo perché non posso autorizzare la piattaforma Edmodo a realizzare e diffondere un dettagliato profilo psicologico e culturale di mia figlia in cambio dei servizi, pur attraenti, che tale piattaforma fornisce. Edmodo è una di quelle società statunitensi che la Professoressa Zuboff, della Harvard Business School, descrive nel suo libro “The Age of Surveillance Capitalism”. Il loro business model si basa sulla creazione e la vendita di modelli previsionali (detti behavioral futures) del comportamento degli utenti (in questo caso insegnanti, genitori e ragazzi) attraverso i quali influenzare il loro comportamento attraverso stimoli specificatamente studiati sulla base dei loro personali bias cognitivi. Questi modelli previsionali, realizzati attraverso quella serie di tecniche statistiche generalmente note con il nome di machine learning o (più recentemente) intelligenza artificiale, hanno un valore enorme per coloro che intendono influenzare per qualsivoglia ragione una persona specifica, un gruppo o una comunità, per ragioni commerciali, sociali o politiche. Ogni volta che un ragazzo visualizza un contenuto, completa un esercizio o comunque interagisce con una piattaforma come Edmodo, la sua attività viene registrata sui server di tale azienda. Oltre alle informazioni che Edmodo condivide con insegnanti e genitori, la piattaforma è in grado di rilevare e registra i tempi necessari al ragazzo per effettuare un compito, il numero di volte che visualizza un contenuto, su quali frasi si sofferma maggiormente e molto molto altro. E questo ogni singola volta, per tutto il tempo che il ragazzo utilizzerà questa piattaforma “didattica”. A queste informazioni specifiche dello studente si aggiungono le relazioni sociali, estremamente importanti in un’età delicata come l’adolescenza, e delle quali l’azienda verrà altresì informata: chi sono i compagni di ciascun ragazzo, come andavano a scuola, chi sono gli insegnanti etc… Questi dati (e parliamo di Gigabyte per ogni alunno) verranno mantenuti dall’azienda in questione per sempre, ma verranno anche analizzati e rivenduti in varie forme a terzi, impattando non solo la vita degli studenti nel presente, ma la loro autonomia e la loro libertà futura. Già oggi, i recruiter di molte aziende fanno uso di dati raccolti su social network come questi per selezionare i candidati ad un posto di lavoro più remissivi e più fragili in modo da poterli pagare meno a parità di competenza. Nel caso specifico di Edmodo, poi, va sottolineato che si tratta di una società statunitense che mantiene i dati acquisiti su server collocati negli USA e che non risponde alle leggi europee sulla privacy. In caso di un data breach, i costi di una causa a San Francisco sarebbero insostenibili per le famiglie degli studenti ed avrebbero scarsissime possibilità di successo. E non parliamo di una eventualità remota: solo a maggio 2017 un hacker noto come nclay è riuscito a sottrarre informazioni personali di 78 milioni fra insegnanti, genitori ed alunni, mettendo in vendita le informazioni online. Inoltre, ad ogni passaggio di proprietà della società (uno è avvenuto l’8 Aprile del 2018) anche l’acquirente e i suoi stake holder avranno accesso ai dati raccolti in precedenza da Edmodo. I Terms of Services, lunghi ed illegibili come sempre e per di più in inglese anche nella versione italiana per disincentivarne ulteriormente una lettura accurata a genitori e studenti, riportano diversi passaggi critici:

• si chiede ai minori di 13 anni di non inviare informazioni su se stessi attraverso la piattaforma se i professori non hanno ottenuto il consenso dei genitori, come se i ragazzi potessero essere caricati della responsabilità che la legge non gli riconosce
• si chiede agli insegnanti di assumersi la responsabilità per la raccolta dei dati da parte dei Publisher Software, chiedendo loro di comprenderne i meccanismi (meccanismi che solo un esperto di sicurezza informatica può comprendere appieno)
• non riconoscono alcuna responsabilità sui Publisher Software di terze parti
• si stabilisce in sede contrattuale la giurisdizione competente per eventuali cause nella contea di San Francisco

Nella pagina sulla Privacy Edmodo:

• si solleva dalla responsabilità nei confronti dei dati raccolti da terze parti attraverso la loro piattaforma (vedi sezione “Business we cannot control”)
• si solleva dalla responsabilità nei confronti di data breach causati da loro fornitori (vedi sezione “Agents”)
• si solleva dalla sicurezza fisica dei dati scrivendo “we cannot guarantee security. Unauthorized entry or use, hardware or software failure, and other factors may compromise the security of user information.”
• si lascia aperta la possibilità di mantenere “per sbaglio” dati personali anche degli utenti che abbiano richiesto la cancellazione dell’account.

Per quanto ad un utente inesperto possa sembrare una piattaforma curata ed affidabile, la mia ventennale esperienza nel settore mi costringe ad una più cauta e consapevole valutazione dei rischi. In questo caso, riterrei irresponsabile da parte mia autorizzare Edmodo a raccogliere e trattare informazioni su mia figlia. Ritengo inoltre altamente diseducativo abituare bambini e ragazzi alla sorveglianza invisibile di queste piattaforme, perché finiscono per assuefarsene e considerarla inevitabile, smettendo di usarle con competenza e spirito critico e finendo dunque per venire usati attraverso di esse. Non posso dunque registrare mia figlia ad Edmodo. Come informatico mi sento anche in dovere di consigliarle l’abbandono della piattaforma stessa per l’intera classe, a sua propria tutela ed a tutela dei ragazzi e dei genitori meno preparati in materia. Ma se ritiene di voler continuare ad usare comunque Edmodo, le devo chiedere di fornire a mia figlia materiali didattici equivalenti su un canale di comunicazione diverso. Ad esempio sarò felice di dotare la bambina di una chiavetta USB su cui potrà caricare i materiali che Lei intende utilizzare. A tal riguardo le posso garantire l’adozione dei più elevati standard di sicurezza da parte nostra e se necessario posso spiegare alla classe ed alla scuola come difendersi professionalmente dai virus informatici. In alternativa, se preferisce, può utilizzare gli strumenti Ministeriali come il Calendario del Diario Online di Regel. Rimango naturalmente a disposizione per qualsiasi chiarimento. Se lei o altri insegnanti fossero interessati ad approfondire queste problematiche, sarò felice di mettere a disposizione vostra e della scuola le mie competenze, in modo assolutamente gratuito. Potremmo per esempio valutare, insieme al Dirigente Scolastico il Professor OMISSIS che ha ricevuto copia di questa missiva, l’installazione di un software come Moodle presso un server sotto il controllo fisico della scuola. La prego però di non fraintendere la mia decisione in merito ad Edmodo. Apprezzo moltissimo l’apertura alle nuove tecnologie nell’insegnamento della sua disciplina ed ho assoluta fiducia nella sua competenza e professionalità. In questo caso però non posso ignorare la mia esperienza in materia, mettendo a rischio la libertà e l’autonomia di mia figlia per alimentare un business che, al di là della retorica commerciale, la considera poco più di un topo da laboratorio. Cordialmente, Giacomo Tesio