Antonella Viola: “Scusa non ho capito la domanda” dice Alexa con suadente voce femminile
“Scusa non ho capito la domanda” dice Alexa con suadente voce femminile. Anche se da pochi mesi è possibile scegliere la voce maschile, Alexa, così come Siri, era stata pensata come donna. Pazienti, accomodanti e remissive, “le” assistenti virtuali si portavano dietro tutti gli stereotipi di genere che contribuiscono a discriminare le donne nella società. Fino al 2019, chi avesse rivolto a Siri insulti sessisti (Siri, sei una puttana) si sarebbe sentito rispondere “Se potessi, arrossirei”, frase che è stata sostituita, dopo forti proteste dell’ONU, con un “Non ti rispondo neanche”.
Perché una macchina, che è chiaramente asessuata, assume un genere? Perché il genere, a differenza del sesso, non è legato alla biologia ma è una categoria sociale e culturale, e, come tale, la si può applicare anche a ciò che non è umano ma creato dall’umanità.
Le macchine sono già nelle nostre vite e lo saranno sempre di più. Grazie all’intelligenza artificiale, le macchine oggi sono in grado non solo di elaborare, custodire e utilizzare meglio di noi le informazioni, ma anche di imparare e “pensare”. Ecco che le applicazioni diventano infinite: dalla soluzione di problemi complessi nelle grandi aziende, alla medicina di emergenza, dalla cura della persona, alla selezione del personale. Se però alle macchine affideremo ruoli sempre più complessi e strategici, è ovvio domandarsi come bisogna realizzare queste nuove tecnologie affinché portino benefici, e non problemi, all’umanità. Antropomorfizzare le macchine tecnologicamente avanzate può semplicemente riflettere i nostri bias di genere, trasportarli direttamente nella tecnologia, o, al contrario, essere una scelta, come può accadere nel disegno di un robot con sembianze umane. Da molti punti di vista, la somiglianza tra robot ed essere umano potrebbe infatti essere utile, ma solleverebbe la questione del genere da assegnare agli eventuali umanoidi e degli stereotipi di genere che questo processo si porterebbe dietro. Ci sentiremmo più tutelati se a darci informazioni circa i nostri investimenti finanziari fosse un robot-maschio molto determinato e sicuro di sè? O più sereni se il robot che si prende cura della nostra salute ci ricordasse una dolce e materna infermiera? Probabilmente per la maggior parte di noi la risposta è sì, perché siamo tutti vittime di stereotipi culturali difficili da scardinare. Infatti, finora i robot sono spesso stati dotati di caratteristiche di genere, attraverso le voci, i nomi, il colore, le sembianze o altro ancora.
Tuttavia questa scelta si porta dietro il rischio di perpetrare e rinforzare gli stereotipi da cui stiamo cercando di allontanarci. Se i robot che si occupano di sicurezza o di business sono associati a genere maschile e quelli destinati all’assistenza o alla casa sono femminili, non facciamo altro che validare, con la tecnologia, la tesi che alcuni lavori sono per donne e altri per uomini. Non solo: amplifichiamo la concezione di un mondo binario che, nelle questioni di genere, sta invece diventando sempre più fluido. Se non riflettiamo attentamente, creiamo un futuro già ingabbiato negli stereotipi del passato.
Con grande stupore, si è compreso che le intelligenze artificiali sono violente, razziste, sessiste, omofobe e intolleranti. E, come per gli esseri umani queste caratteristiche non sono innate ma frutto dell’azione dell’ambiente culturale in cui la persona cresce, anche nel caso delle macchine queste aberrazioni non sono insite nel loro algoritmo ma derivano dai dati con i quali “nutriamo” le nostre creature. Gli algoritmi sono come dei bambini avidi di libri: leggono tantissimo e imparano il linguaggio e le caratteristiche che trovano ripetuti nei dati a cui hanno accesso. Se i linguaggi con cui ci si rivolge alle donne sono volgari, offensivi e sessisti, anche le macchine lo saranno.
Il problema legato agli stereotipi di genere e alla discriminazione che ne deriva diventa importantissimo nel momento in cui utilizziamo l’intelligenza artificiale nell’ambito delle risorse umane, come avviene sempre più spesso nelle grandi aziende. L’idea è che una macchina, che non usa valutazioni soggettive, sia il migliore alleato delle aziende al fine di selezionare il personale. E, se non valesse anche qui quanto abbiamo analizzato finora, sarebbe anche il migliore alleato delle donne o di tutte quelle persone che sono discriminate per etnia, religione o qualunque motivo che non ha nulla a che vedere con le capacità professionali. Tuttavia, le cose non vanno in questo modo perché le macchine usano algoritmi e dati che non sono neutrali. Consideriamo il motore di ricerca Google per gli annunci di lavoro: la probabilità di trovare offerte per lavori ben pagati e di alto profilo è cinque volte maggiore per gli uomini che per le donne. È l’algoritmo che decide, sulla base del genere, quali siano i lavori più adatti alla persona che sta cercando.
Se continuerà ad esserci una prevalenza maschile tra gli sviluppatori delle nuove tecnologie (circa il 78% di presenza maschile nel settore), se si useranno algoritmi costruiti su stereotipi di genere e dati ottenuti osservando una società disuguale, il rischio che le intelligenze artificiali del futuro siano stupide come quelle biologiche del passato è altissimo. La scienza e la tecnologia non sono mai neutre e hanno effetti importanti sul modo in cui interpretiamo la realtà.
Per progettare il futuro serve una visione nuova della scienza e della tecnologia: è quello di cui si occupa la gendered innovation. Nel 2005, Londa Schiebinger, professoressa di Storia della Scienza a Stanford, coniò il temine “gendered innovations” per il suo progetto di ricerca che si occupa dell’impatto di sesso e genere nella ricerca e nell’innovazione. Il progetto ha avuto un’enorme diffusione in tutto il mondo ed ha portato anche la Commissione Europea a creare un gruppo di lavoro specifico in questo campo di ricerca. Perché è così importante considerare sesso e genere nella ricerca e nell’innovazione? Per esempio per il diritto alla giusta cura.
Per troppo tempo la medicina si è occupata prevalentemente della patologia declinata al maschile, tralasciando differenze che sono fondamentali per prevenire, diagnosticare e curare le malattie delle donne. Le differenze genetiche legate alla presenza di una coppia diversa di cromosomi sessuali e i livelli diversi di ormoni sessuali circolanti hanno conseguenze sulla fisiologia dei due sessi, ben oltre gli aspetti legati alla riproduzione. Già a livello strutturale e morfologico, maschi e femmine mostrano importanti e ben note diversità, con gli uomini tipicamente forniti di una maggiore massa muscolare e ossea e una minore massa grassa rispetto alle donne. Mentre queste differenze sono però ben note a tutti, altre, che riguardano meno l’aspetto esteriore e più il funzionamento dei nostri organi interni, sono poco conosciute. Le dimensioni dei polmoni e delle vie respiratorie, per esempio, sono diverse in uomini e donne. Anche il cuore delle donne è più piccolo nel complesso e, in particolare, in alcune aree specifiche come ventricolo sinistro.
Le caratteristiche fisiologiche legate al sesso sono state a lungo sottovalutate, per una serie di ragioni. Una di queste è che, a causa del ciclo mestruale e delle gravidanze, i soggetti di sesso femminile sono da sempre ritenuti più variabili. E, poiché quando si fanno esperimenti si tende a ridurre la variabilità per avere dati più facilmente analizzabili, la ricerca si è spesso basata su esperimenti che coinvolgevano animali o soggetti di sesso maschile. Nei casi migliori, venivano arruolati soggetti di entrambi i sessi, senza però poi distinguere i risultati in fase di analisi. Non solo: molti studi di fisiologia e fisiopatologia sono iniziati in tempi lontani, nelle scuole di medicina o nelle scuole militari che fornivano i soggetti sani da arruolare nelle sperimentazioni. Non deve quindi sorprendere che buona parte della nostra medicina sia riferita alla fisiologia del maschio caucasico di circa 70 Kg di peso. Tutto questo ha causato un ritardo nella comprensione dei fattori che determinano non solo la salute e la malattia nel sesso femminile, ma anche nella prevenzione, nella diagnosi e nella cura delle patologie delle donne.
Ma non sono solo le differenze biologiche a fare la differenza. Le vie attraverso cui i determinanti del genere agiscono sulla salute sono molteplici e complessi e includono: pratiche, valori, norme e comportamenti discriminatori; maggiore esposizione o vulnerabilità alla malattia, alla disabilità o alle lesioni; un sistema sanitario e una ricerca scientifica a misura di maschio. Tutti questi fattori agiscono insieme per creare disuguaglianza in termini di salute. Nel mondo, le donne vivono in condizioni socio-economiche svantaggiate rispetto agli uomini: meno proprietà, salari più bassi, impieghi precari. Questo significa minori risorse per la propria salute – dall’alimentazione alle terapie – e minore potere per influenzare le istituzioni a occuparsene. D’altro canto, sono spesso le donne a farsi carico di lavori pesanti e difficili, che ne debilitano il fisico e la mente. In molte società, le ragazze non possono studiare: un livello culturale inferiore agli uomini, oltre a renderle dipendenti da questi e a mantenerle in uno stato socio-economico di inferiorità, fa sì che abbiano anche minore consapevolezza del proprio corpo e di come mantenerlo in salute. La limitazione della libertà femminile causa anche un minore accesso allo sport e all’attività fisica in generale. Questa sedentarietà culturalmente imposta si riflette direttamente sulla salute delle donne in termini di maggiore predisposizione all’obesità, all’osteoporosi, alle malattie cardiocircolatorie e persino alle malattie autoimmuni.
Negli ultimi anni, il problema della medicina di genere si è riproposto anche con le terapie innovative legate alla cura dei tumori sfruttando il sistema immunitario. Nonostante sappiamo da tempo quanto siano diverse in termini qualitativi e quantitativi le risposte immunitarie di uomini e donne, quando l’immunoterapia dei tumori è passata all’uso sui pazienti, ci si è accorti che il sesso gioca un ruolo importante nel determinarne il successo. Una ricerca scientifica e clinica che non consideri l’importanza di sesso e genere è una ricerca che provoca discriminazione e che blocca lo sviluppo di quella medicina personalizzata a cui tutti puntiamo.
L’importanza della corretta analisi dei dati non è legata “solo” alla possibilità di offrire la migliore cura possibile a ogni persona; anche aspetti puramente di mercato possono beneficiare di un approccio di innovazione e ricerca di genere. Tra il 1997 e il 2000, l’agenzia del farmaco statunitense FDA ha ritirato dal mercato 10 farmaci per gli effetti collaterali gravi che si sono verificati nella popolazione. Otto di questi farmaci avevano un profilo di tossicità alto nelle donne. Oltre a evitare inutili sofferenze, se si fosse applicato un corretto approccio di ricerca e analisi dei dati, le case farmaceutiche avrebbero risparmiato molti miliardi di dollari.
Ampliare i confini della nostra visuale è un vantaggio per tutti. Portare il concetto di genere nell’analisi dei problemi e delle soluzioni è essenziale non solo per quanto riguarda il diritto alla salute e l’economia legata alla salute, ma anche in generale per il futuro del pianeta. Anche nello studio del cambiamento climatico serve infatti un approccio nuovo, non più monocorde ma sinfonico. Un esempio concreto viene proprio dal fluido mondo animale. Ci sono specie, tra cui le tartarughe e i pesci, in cui la determinazione del sesso è legata alla temperatura. Temperature alte inducono la differenziazione di giovani tartarughe di sesso femminile, squilibrando il rapporto maschi:femmine. Questo squilibrio tra i sessi è ovviamente estremamente pericoloso perché non permette la riproduzione e mette le specie a rischio di estinzione. La determinazione del sesso legata alla temperatura potrebbe causare, d’altro canto, un forte squilibrio a favore dei maschi in diversi tipi di pesci, sempre con conseguenze disastrose. Il riscaldamento delle acque, inoltre, si accompagna ad ulteriori cambiamenti che si stanno verificando nelle nostre acque, quali la riduzione di ossigeno disciolto e l’acidificazione. Entrambi questi parametri sono coinvolti nella determinazione del sesso negli animali acquatici. Nel complesso, il riscaldamento globale agirà quindi in misura differente sugli animali a seconda del loro sesso e ignorare queste variabili metterebbe a rischio l’intero ecosistema.
Il mondo è cambiato e il futuro che ci attende è fatto di incredibili possibilità e grandi problemi.
Nella medicina, in questi ultimi 50 anni abbiamo sostituito i nostri organi con organi artificiali, per esempio il cuore e la retina, sintetizzato insulina per la cura del diabete, modificato il DNA per curare malattie genetiche, e molto altro ancora. Anche la ricerca scientifica è cambiata profondamente, grazie alla tecnologia. Oggi possiamo raggiungere una profondità di analisi impensabile non solo 50 ma persino 20 anni fa.
D’altro canto, stiamo vivendo nel pieno di una crisi ecologica senza precedenti. I cambiamenti climatici causati dal riscaldamento della Terra hanno, e avranno sempre di più, effetti devastanti sull’umanità. E tutto ciò causerà nuova povertà, nuove migrazioni di massa, nuove tensioni sociali e nuove malattie.
Tutta questa complessità, immaginifica e struggente, che ci viene incontro non può essere gestita in maniera semplicistica, guardandola da un solo punto di vista, quello che è stato da sempre utilizzato in tutti i campi del sapere: il punto di vista maschile.
Per fare in modo che questo non accada, serve un profondo cambiamento nella ricerca scientifica e tecnologica. A partire dal 1900, abbiamo assistito ad una graduale specializzazione e compartimentalizzazione dei saperi, che hanno portato da un lato a migliorare le conoscenze in tutti i settori ma, dall’altro, hanno causato una perdita di connessione e commistione culturale di cui oggi vediamo gli effetti. Ho conosciuto nel corso della mia vita professionale decine di brillantissimi ricercatori che avrebbero potuto insegnarmi tanto nelle loro discipline, ma che non si erano mai accostati alla filosofia, non dico dell’essere ma persino della scienza, o al linguaggio della scienza e alle sue implicazioni. D’altro canto, un vero umanista oggi non può essere completamente privo di nozioni di biologia, ecologia o fisica. Bisogna ripensare ai nostri corsi universitari, alla struttura stessa delle nostre università che separano gli edifici per discipline. Bisogna contaminarci perché l’innovazione nasce solo laddove c’è contaminazione di saperi.
Per vivere un futuro migliore del passato dobbiamo creare un nuovo linguaggio, una nuova semantica per parlare con le intelligenze artificiali e con gli uomini del domani dell’importanza delle differenze per il raggiungimento della parità.
(Editoriale pubblicato su La Stampa)