Immuni all’autoritarismo tecnologico

di Loretta Borrelli
Striscia di Pat Carra

Mi interessa parlare della app Immuni in relazione a un ambito della tecnologia in cui il pensiero femminista ha dato un grande contributo, quello della elaborazione delle interfacce (Human Computer Interaction) cioè il rapporto tra gli esseri umani e le macchine. Nel lavoro di Lilly Irani, di Luiza Prado de O. Martins, di Sarah Fox, di Daniela Rosner (solo per citarne alcune) c’è una critica importante all’approccio universale e fintamente neutro di determinate modalità di progettazione.
Questo discorso non è entrato nella discussione politica che riguarda la app Immuni, anche perché non abbiamo ancora a disposizione il prodotto finale per poterlo analizzare ma, nonostante questo, si possono già mettere in luce diversi aspetti critici.

Nello sviluppo di interfacce e di sistemi digitali è largamente utilizzata una metodologia chiamata Human Centered Design. Secondo questo approccio progettuale, qualsiasi prodotto per essere efficace deve porre al centro l’esperienza dell’utente (chiamata “user flow”). Per farlo è fondamentale indagare quali sono i suoi bisogni e desideri.
Molto spesso si parte dall’ideazione di un “soggetto tipo” che dovrebbe utilizzare l’applicazione. L’user avrà delle caratteristiche, una storia, un modello concettuale, cioè una conoscenza del mondo (la memoria procedurale, cioè l’insieme di conoscenze che permettono di interagire con l’interfaccia in modo automatico, e la memoria riflessiva, cioè le nozioni e le idee che abbiamo accumulato nel corso della nostra vita).
In un approccio femminista all’HCI, la definizione dell’user si cala invece nell’esperienza di una comunità, nell’esperienza viva della sua quotidianità. È un metodo che va contro le tecnologie pensate e progettate dall’alto, e imposte come soluzioni passepartout; non si parte da un principio che si considera universale, ma dalla vita quotidiana e dalla realtà delle comunità a cui ci si vuole rivolgere. Si prende in considerazione la relazione con i soggetti per cui si sta progettando l’applicazione.
Partire da questo approccio femminista alla progettazione non ci serve per suggerire miglioramenti della app Immuni. Ci serve, piuttosto, per mettere in luce e disinnescare un autoritarismo tecnologico che si sta diffondendo, non tanto usando strumenti di controllo, ma creando una narrazione consolante.

Già nel nome dell’applicazione, Immuni, è evidente l’arroganza della politica istituzionale. Normalmente, per questo tipo di prodotti, il nome apre la strada al modello concettuale alla base dello strumento e aiuta gli utenti a capire a cosa serve e perché dovrebbero scaricarla. Questa applicazione ci promette immunità ma da cosa? Ci viene spontaneo pensare, dal virus.
In questi due mesi mi sono trovata d’accordo con le analisi che vedono la nostra scelta di stare chiusi in casa come un atto di responsabilità e consapevolezza dell’interdipendenza. Ma non dobbiamo dimenticare che a questo si lega anche un sentimento che non è positivo e altruistico: la paura di ammalarsi. Le applicazioni per cellulare che monitorano il benessere e lo stato fisico di un utente sono progettate per essere una esperienza in cui il singolo utente si rispecchia in se stesso, riguardano il suo corpo, la sua salute e la sua immunità. Da questo si può ragionevolmente ipotizzare che il “soggetto tipo”, intorno a cui si muove la progettazione, ha paura per se stesso e degli altri sconosciuti. La app dovrebbe rispondere al bisogno di calmare quella paura, attraverso il tracciamento dei contatti con persone estranee contagiose.
Eppure sappiamo, dalle informazioni sul suo funzionamento, che la app non potrà garantire nessuna protezione dal virus né dalle altre persone potenzialmente pericolose, perché di fatto comunicherà solo a posteriori se si è entrati in contatto con una persona positiva al coronavirus. Solo dopo, persino dopo 4-5 giorni, il tempo minimo del manifestarsi dei sintomi nell’altro pericoloso, dovrebbe arrivare sul proprio smartphone una notifica che informa dell’avvenuto contatto. Non c’è simultaneità, e non c’è soddisfazione del bisogno. Questo potrebbe provocare un grande senso di frustrazione negli utenti, abituati a una delle caratteristiche fondamentali delle tecnologie digitali, la simultaneità.

Nonostante l’evidente elemento fallimentare di partenza, che è chiaro a qualsiasi progettista, la politica insiste nel mantenere in piedi la sua narrazione. Non è per scarsa competenza, sicuramente non dell’azienda Bending Spoons, specializzata in questo tipo di prodotti. Rispondere al perché di questa scelta non è facile, ma possiamo fare un ulteriore passo avanti immaginando qualcosa di più del “soggetto tipo” che userà l’applicazione. A compensare quel primo stato di frustrazione potrebbe essere il desiderio di entrare a fare parte di un sistema di assistenza sanitaria, reso più agevole grazie alla compilazione di un diario dei propri sintomi.
Arrivando a questo punto dell’esercizio, per me è stato inevitabile pensare alla dichiarazione di Giuseppe Conte nella sua ultima conferenza stampa: una persona su quattro si infetta attraverso rapporti familiari.
In tutto il rumore che si sta creando, questa frase ci mostra quello di cui si parla troppo poco, in relazione alla app. Molte persone in questi due mesi hanno vissuto l’esperienza fisica ed emotiva di essere contagiate dai propri legami stretti, in famiglia nel chiuso delle case. E in tante sono state abbandonate a loro stesse, prive di controlli, tamponi e visite mediche, senza sapere se avevano il virus, capendo poi che saperlo non avrebbe risolto l’angoscia e lo shock.
Che impatto avrà il racconto delle famiglie su questa app, quando si farà strada nell’opinione pubblica? Darà il senso di inutilità dello strumento tecnologico, e in generale della retorica della tecnologia come risolutiva?
Il nostro “soggetto tipo” sarà qualcuno che non ha vissuto direttamente questa esperienza di vulnerabilità e abbandono, potrà credere per qualche tempo di far parte di un sistema di tutela e di aiuto sanitario garantito; ma la frustrazione si potrebbe trasformare in grande rabbia, quando anche questo bisogno non verrà soddisfatto. La compilazione del suo diario e la rappresentazione di quei dati potrà provocare un effetto deflagrante. La sensazione fisica non riuscirà a trovare una corrispondenza nella trasformazione del corpo in forma di grafici. L’esperienza del virus sarà completamente diversa. In questo c’è un pericolo per la politica istituzionale che racconta la tecnologia come soluzione valida a un problema sociale. Per molte persone si verrà a creare una crepa che renderà evidente l’illusione. Sarà impossibile fermare l’emergere di qualcosa che di solito resta in ombra. Le tecnologie di controllo funzionano meglio nella ripetizione tranquilla della quotidianità, ma quando c’è un evento traumatico, è inevitabile che l’esperienza fisica si mostri. L’angoscia di sapere o non sapere se si ha il virus è grande, e scatena il panico se i sintomi sono forti e incomprensibili. L’esperienza del corpo non può essere assopita.

Per quello che a oggi sappiamo, la app presenta una serie di effetti negativi in più, nel momento in cui si viene a conoscenza del possibile contagio: lascia l’utente solo e sola a vedere i grafici sulla sua salute e allo stesso tempo invita alla responsabilità civile di auto-isolamento. Potrà creare una folla di gente costretta a rimanere in loop di quarantene, generando situazioni comiche ed esasperanti.
Per rendere meglio il senso di frustrazione torniamo a calarci nell’esperienza reale degli utenti:
– immaginiamo il caso dell’utente fortunato che vive da solo, esce di casa dopo due mesi di lockdown, dopo cinque giorni riceve il messaggio che è entrato in contatto con un soggetto risultato positivo: deciderà di rimanere in casa quindici giorni. Da solo con il proprio device a controllare costantemente l’andamento dei propri parametri, vivendo nella paura di non sapere se ha il virus. Dopo la quarantena auto-imposta, uscirà di casa una seconda volta, dopo un giorno un’altra notifica gli consiglierà un’altra quarantena. È probabile che il contatto contagioso sia il vicino di casa che vive in un appartamento di un’altra scala del condominio e lavora ogni giorno in una stanza che ha un muro in comune con l’appartamento dell’utente (ma questo l’utente non lo saprà mai);
– immaginiamo il caso di una famiglia in cui tutti hanno la app. Dopo la scoperta del primo caso, non arriverà assistenza sanitaria e il cellulare confermerà che sono vicini a persone care contagiate, rimarranno tutti in casa e intanto si ammaleranno altri familiari, forse qualcuno riuscirà a fare un tampone, si andrà avanti così fino a che non guarirà l’ultima persona della famiglia.

Questi scenari possono sembrare estremi, ma nella progettazione di un’applicazione si immaginano tutte le possibilità di fruizione, anche le più disastrose. Il secondo scenario riguarderà almeno un utente su quattro, a cui faranno il tampone, e i suoi familiari, a cui non faranno il tampone. Queste ipotesi sono utili per correggere eventuali frustrazioni dell’utente ed evitare che disinstalli la app. La compilazione di un diario dei propri sintomi potrà per qualche giorno distrarre l’utente, ma qualsiasi progettista sa che non è sufficiente. Qualsiasi altra interazione e funzionalità non può garantire all’utente un rinforzo positivo tale da annullare la sensazione negativa che deriva dal contesto in cui vive, in cui lo stato sociale è stato smantellato.
Da che cosa deriva allora la presunzione che gli utenti installeranno o non disinstalleranno la app?

Torniamo alla progettazione: un altro strumento utile alla promozione delle app è la narrative, concetto mutuato dal giornalismo che indica una comunicazione che riflette una specifica visione dei fatti o del mondo. L’unica cosa che posso ipotizzare è che chi sta pensando a questa app crede di avere una narrative molto forte. La scopriremo nel dettaglio solo dopo il rilascio. Per adesso abbiamo pochi accenni abbastanza deboli: la spinta all’altruismo, che poco si sposa con una app per il singolo e due mesi di lockdown in cui il resto del mondo è rimasto fuori dalla percezione dell’utente (meglio aspettare giugno, quando forse la paura sarà di nuovo viva); l’idea di contribuire alla ricerca epidemiologica con i propri dati, che è stata smentita da alcuni esperti per cui sarebbero necessari altri tipi di dati.
Esiste però uno strumento politico che ha un potere sui cittadini molto più grande: a me sembra evidente che tanta arroganza politica derivi dalla sicurezza che dà la creazione di un immaginario tecnologico, di una storia in cui credere.
L’immaginario tecnologico ha un forte impatto sociale, maggiore dell’effettivo funzionamento della tecnologia. Il vero bisogno a cui risponde l’app Immuni è promettere una libertà che nessuno può dare, la libertà dal virus. Che la app non funzioni non importa, è sulla tecnologia come viatico che si fonda la narrazione dominante; di sicuro i partiti di qualsiasi schieramento lo sanno, perché stanno rispondendo, di volta in volta, secondo precise necessità retoriche.
È un racconto a cui tutti quanti stanno credendo, una credenza proposta o imposta come risolutiva. Alla politica istituzionale di tutto il mondo è utilissima, le possibilità dell’invenzione sono infinite, una volta giunti all’inevitabile fallimento di questa applicazione si potranno invocare altre mirabolanti soluzioni. Se l’assistenza sanitaria risulterà insufficiente, l’intelligenza artificiale potrebbe essere la prossima proposta, che permetterà di negare e nascondere l’assenza dei medici di base sul territorio, per promuovere l’idea di un soggetto che vive in un mondo totalmente digitalizzato e lì trova le sue risposte. La stessa retorica che abbiamo visto con l’insegnamento a distanza.
Quando sarà proposta la nuova immaginazione, le aziende high tech risponderanno. Tutti noi siamo ormai convinti che niente è impossibile nella tecnologia, non ci curiamo di come venga fatto, siamo convinti che tutto sia possibile. È una fede che abbiamo introiettato. Un potere infinito per un uso politico ed economico che accomuna tutti i paesi del mondo cosiddetto sviluppato, e che il virus non ha per adesso intaccato. Per adesso, perché tutto questo funziona finché non emerge l’esperienza viva: la consapevolezza che si è vulnerabili nei confronti di un virus, il bisogno di cura, la certezza che non possiamo eliminare la morte. Nonostante i tentennamenti, sembra che la politica istituzionale continui a sottovalutare la forza di un’esperienza che già molte persone hanno fatto in questi due mesi.

Purtroppo anche il pensiero critico in questo periodo ha sottovalutato questa forza. Si è concentrato su principi etici essenziali, anche condivisibili, su cui basare la costruzione di questa tecnologia, senza analizzare troppo i bisogni a cui rispondeva. In molti discorsi si dava per scontata la sua necessità sociale e scientifica. Intanto abbiamo visto due grandi multinazionali, Apple e Google, giocare le proprie carte in una partita di potere con la Comunità europea e vincere. Questo braccio di ferro è velocizzato dalla pandemia, ma non ha a che vedere con la risoluzione della pandemia stessa. Ha a che vedere soltanto con un equilibrio di potere tra UE e multinazionali americane, ma l’evoluzione di tutto questo è ancora sfocata, per adesso abbiamo solo osservato quali sono le mosse di una parte e dell’altra. Allo stato attuale delle cose, paradossalmente grazie a Google e Apple, sembra che gli utenti usando la app sul proprio cellulare, su cui è installato il sistema operativo delle due grandi multinazionali, potranno avere la tutela della privacy grazie alla decentralizzazione e alla cancellazione dei dati. Chi sta partecipando a questo dibattito critico ha dato troppo credito alla tecnologia e ha tolto spazio a quelle voci che avrebbero potuto ribaltare l’immaginario.
Ma sono fiduciosa: il femminismo lo ha dimostrato, quando l’esperienza del corpo produce un simbolico diverso, quando indica e dà voce a quello che si vuole tacere, fa esplodere e frantuma la narrazione dominante.
È nelle nostre emozioni fisiche di paura della malattia, è nelle relazioni contagiose vissute nella emergenza che potremo demistificare una tecnologia proposta come onnipotente e renderci immuni all’autoritarismo tecnologico.

Le pagine di Erbacce contrassegnate da copyright sono protette e non riproducibili in nessun modo. Tutte le altre immagini e i testi di Erbacce sono rilasciati con licenza
Creative Commons Attribuzione – Non commerciale – Non opere derivate 3.0 Unported License
Licenza Creative Commons