Trump affronta una causa per l'ordine esecutivo mentre la teoria critica della razza alimenta la ricerca sull'IA

101

Oggi, i gruppi per i diritti civili – incluso il NAACP Legal Defense Fund – hanno intentato una causa contro l'amministrazione Trump sulla base del fatto che un ordine esecutivo Trump viola i diritti di libertà di parola e "minerà gli sforzi per promuovere la diversità e l'inclusione sul posto di lavoro". La causa segue l'opposizione all'ordine esecutivo da parte di una serie di gruppi, tra cui la Camera di commercio degli Stati Uniti, nonché il recente intervento di un'agenzia federale in un'iniziativa Microsoft sulla diversità lanciata tra le richieste di giustizia razziale.

L'ordine esecutivo faceva parte dell'attacco concertato della Casa Bianca all'addestramento alla diversità e alla teoria critica della razza. Trump ha chiamato la teoria critica della razza "propaganda tossica" che "distruggerà il nostro paese". Ha anche affermato che la formazione sulla diversità è progettata per dividere gli americani e ha detto che gli studenti dovrebbero invece ricevere una "educazione patriottica". All'inizio di settembre, un promemoria del Dipartimento del Lavoro ha ordinato alle agenzie federali di annullare i contratti con i fornitori che coprono la teoria critica della razza o il "privilegio bianco" nel loro lavoro, definendo il movimento intellettuale "antiamericano" e "propaganda antiamericana".

E se hai guardato i dibattiti presidenziali tra il presidente degli Stati Uniti Donald Trump e lo sfidante Joe Biden, le parole "intelligenza artificiale" o "tecnologia" non sono mai uscite, ma l'argomento correlato della teoria critica della razza sì. Durante il dibattito, Trump ha ribadito la sua posizione precedente, definendo "razzista" la formazione sulla sensibilità razziale e sostenendo che insegna alle persone a odiare gli Stati Uniti. Quando gli è stata data l'opportunità di denunciare le opinioni razziste, ha invece detto al gruppo della supremazia bianca Proud Boys di "stare a guardare". Biden ha risposto definendo Trump un razzista e ha affermato che l'allenamento sulla sensibilità razziale può fare una grande differenza nella lotta al razzismo sistemico.

L'ordine esecutivo, che Trump ha firmato una settimana prima del dibattito, minacciava di tagliare i finanziamenti federali alle agenzie e ai beneficiari di sovvenzioni che non si conformavano. Ciò ha portato a confusione all'interno delle agenzie federali e l'Università dell'Iowa ha temporaneamente sospeso gli eventi sulla diversità. Il presidente dell'Università del Michigan Mark S. Schlissel si è opposto all'ordine, sostenendo che la formazione sulla diversità ha lo scopo di unire le persone. Ha definito l'ordine esecutivo un tentativo di impedire alle persone di "affrontare i punti ciechi" e ha detto che la sua università rimane impegnata a smantellare l'oppressione strutturale.

Sebbene Trump abbia recentemente compiuto sforzi per espellere la teoria critica della razza, alcuni ricercatori di intelligenza artificiale stanno sostenendo l'obiettivo come un modo per valutare l'equità dei modelli di intelligenza artificiale.

Storia, politica e teoria critica della razza

Seguire questi argomenti richiede una chiara comprensione della teoria critica della razza, che invita gli studiosi a considerare gli impatti della razza, del razzismo e del potere, come un movimento intellettuale e una struttura. Il termine è nato alla fine degli anni '70 e '80 quando scrittori come il professore della NYU School of Law Derrick Bell cercarono di capire perché il movimento per i diritti civili si fosse bloccato e si fosse adoperato per affrontare ciò che attivisti e studiosi vedevano come il ritorno al progresso. Secondo il libro Critical Race Theory: An Introduction, scritto da Richard Delgado e Jean Stefancic, la teoria critica della razza trae lezioni dai movimenti per i diritti civili, Black Power e Chicano, nonché dal lavoro di individui come Frederick Douglass, Sojourner Truth, Cesar Chavez e Martin Luther King, Jr.

La teoria critica della razza ha fornito un quadro sociologico che ha toccato per la prima volta la legge e l'istruzione, ma è cresciuto fino a comprendere altri campi, come la salute pubblica, l'istruzione e gli studi etnici. Include la premessa che il razzismo si è normalizzato negli Stati Uniti ed è quindi più difficile da affrontare. La teoria critica della razza afferma che le categorie razziali sono una costruzione sociale e considera il problema del privilegio dei bianchi e l'importanza dell'intersezionalità. Reso popolare da Kimberlé Crenshaw, l'intersezionalità propone che l'identità di una persona includa concetti sovrapposti di razza, classe, genere, religione e identità sessuale.

La California ha una storia di leadership nell'educazione agli studi etnici. Il primo College of Ethnic Studies è stato creato in California nel 1969, a seguito delle più lunghe proteste guidate dagli studenti nella storia degli Stati Uniti. Gli studenti di colore hanno definito gli studi etnici di vitale importanza per la loro istruzione e uno studio della Stanford University del 2016 ha rilevato che le lezioni di studi etnici hanno migliorato la frequenza e i voti degli studenti a rischio di abbandono della scuola superiore. Questi risultati sono particolarmente importanti poiché il bambino medio nato in America oggi non è bianco.

Il governatore Gavin Newsom ha firmato la scorsa estate un disegno di legge che ha reso gli studi etnici un requisito di laurea della California State University, rendendo la California il primo stato della nazione a farlo. Ma all'inizio di ottobre, citando un modello di curriculum "non sufficientemente equilibrato", Newsom ha posto il veto a un disegno di legge che avrebbe richiesto agli studenti delle scuole superiori di prendere almeno un semestre di studi etnici per ottenere un diploma. L'autore di Bill, membro dell'Assemblea, Jose Medina, anch'egli democratico, ha definito il veto "un fallimento nel respingere la retorica razziale e il bullismo di Donald Trump".

L'IA di Google si tuffa nella sociologia

Il presidente Trump potrebbe essere impegnato in una campagna per sopprimere la teoria critica della razza, ma l'idea sta prendendo piede in Google. Uno dei più grandi datori di lavoro di talenti di ricerca sull'IA, Google sta incorporando la teoria critica della razza nei suoi processi di sviluppo tecnologico e analisi dell'equità, ha detto a VentureBeat Meg Mitchell, co-responsabile dell'etica di Google AI, in un incontro con i giornalisti la scorsa settimana.

“Questo è stato un po 'un intervento con i nostri primi scienziati sociali. Quindi il nostro team è stato in grado di convincere tre scienziati sociali, che sono i primi ricercatori, etnografi, persone che hanno molte conoscenze su genere e identità in Google, che esaminano la teoria critica della razza per rendere letteralmente questa parte del nostro processo di sviluppo ", lei disse.

Questo sforzo include un documento di ricerca intitolato "Towards a Critical Race Methodology in Algorithmic Fairness", che è stato pubblicato nel dicembre 2019 da quattro membri di Google Research. Mitchell ha detto che il documento è uno dei primi lavori di Google sulla teoria critica della razza.

Il documento, che è stato presentato all'inizio di quest'anno alla conferenza Fairness, Accountability and Transparency (FAccT), esorta la comunità di ricerca sull'etica dell'IA a guardare alla teoria critica della razza quando valuta la ricerca sull'equità. Il problema, sostengono i coautori dell'articolo, è che molti moderni quadri di equità algoritmica mancano di contesto storico e sociale e utilizzano la categorizzazione razziale in modi anonimi o decontestualizzati.

"Sebbene riconosciamo l'importanza di misurare la razza ai fini della comprensione dei modelli di prestazioni differenziali o dell'impatto differentemente negativo dei sistemi algoritmici, in questo lavoro sottolineiamo che la raccolta dei dati e gli sforzi di annotazione devono essere radicati nei contesti sociali e storici della classificazione razziale e formazione di categorie razziali ", si legge nel documento. "Semplificare troppo significa fare violenza, o anche di più, reinserire la violenza nelle comunità che già sperimentano violenza strutturale".

Misurare l'equità e cercare giustizia

Sebbene monitorare la razza possa essere importante per verificare l'assenza di discriminazione, decidere semplicemente che gli algoritmi dovrebbero ignorare la razza non risolve il problema, ha detto a VentureBeat l'autore principale e ricercatore senior di Google Alex Hanna in un'intervista. Leader del settore come il dottor Safiya Noble avvertono che i tentativi di rimuovere la razza dall'equazione possono effettivamente perpetuare le gerarchie sociali esistenti costruite sull'ineguaglianza.

"Quello che trovo così prezioso nella teoria della razza critica è che mette al centro della corsa dell'equità algoritmica in un modo che l'equità algoritmica spesso la ovvia o la ignora", ha detto Hanna. "Una delle cose di cui mi preoccupo di più in questo campo è che c'è una conversazione sull'equità come una sorta di metrica che può essere risolta, piuttosto che un invito a un'indagine sulla giustizia, la crescita e il benessere umano e la distruzione delle strutture suprematiste bianche. E quindi questa è la cosa più importante che penso perdiamo quando non adottiamo un obiettivo critico della teoria della razza ".

In generale, Hanna crede che la ricerca all'intersezione tra razza e tecnologia sia tra alcuni dei lavori più importanti emersi dalla comunità dell'equità algoritmica. Un esempio notevole è il progetto Gender Shades, creato da Timnit Gebru, co-leader di Google AI, Joy Buolamwini, fondatrice di Algorithmic Justice League, e Deb Raji. La loro ricerca fondamentale ha scoperto che la tecnologia di riconoscimento facciale funziona male sulle donne con la pelle scura. Gender Shades ha modellato la percezione dell'equità algoritmica al Congresso, così come nelle città che hanno implementato divieti di riconoscimento facciale, come San Francisco e Portland, Oregon.

La razza, come l'equità, è essa stessa un concetto contestato, e ne consegue che un approccio multidimensionale è utile.

"Incoraggiamo i ricercatori sull'equità algoritmica a esplorare come le diverse dimensioni razziali e le relative misurazioni potrebbero rivelare diversi modelli di ingiustizia nei sistemi sociotecnici", si legge nel documento di Google. "È fondamentale espandere la portata dell'analisi oltre la cornice algoritmica e interrogare in che modo i modelli di oppressione razziale potrebbero essere incorporati nei dati e nel modello e potrebbero interagire con il sistema risultante".

Da quando è emersa per la prima volta la comunità dell'equità algoritmica, il ricercatore Arvind Narayanan ha identificato 21 diversi modi per misurare l'equità. Esistono bias statistici, equità di gruppo, equità individuale e una serie di metriche di equità di classificazione binaria, ma scegliere una metrica particolare o dare la priorità a una metrica rispetto a un'altra è tutt'altro che semplice.

Hanna concorda sul fatto che le metriche comportano compromessi intrinseci e ritiene che queste misure facciano appello al desiderio degli informatici di quantificare i problemi. Al contrario, crede che le persone dovrebbero chiedersi che aspetto hanno la giustizia e la riparazione e considerare come affrontare i danni di una popolazione lesa.

Reinventare ciò che è possibile con la teoria critica della razza

Forse il lavoro più influente sull'intelligenza artificiale che incorpora direttamente la teoria critica della razza è Race After Technology, un libro del professor Ruha Benjamin, professore associato di African American Studies. Il libro considera il concetto di un "nuovo codice Jim" e avverte che gli algoritmi stanno automatizzando i pregiudizi e gli ingegneri devono guardarsi dall'uso di pratiche di progettazione che amplificano le gerarchie razziali. La sua chiamata a reimmaginare la tecnologia deriva da un principio critico della teoria della razza che incoraggia la narrazione multi-narrativa.

Durante un discorso alla Conferenza internazionale sulle rappresentazioni dell'apprendimento (ICLR) all'inizio di quest'anno, Benjamin ha esortato i professionisti del deep learning a considerare il contesto sociale e storico o rischiare di diventare come i lavoratori IBM che hanno svolto un ruolo nell'attivazione dell'Olocausto.

Il documento di ricerca di Google sostiene che i quadri di equità algoritmica devono iniziare dalle prospettive dei gruppi oppressi. In tal modo, si unisce a una lunga serie di lavori recenti nella ricerca sui pregiudizi algoritmici, poiché sempre più aziende e governi esplorano modi per mettere in pratica i principi dell'IA.

A giugno, Microsoft Research ha condotto un'analisi del corpo esistente di ricerca sui pregiudizi della PNL e ha implorato la comunità dell'equità algoritmica di considerare le gerarchie sociali come il razzismo nella valutazione dei modelli linguistici. Quest'estate, attingendo al lavoro di Benjamin, i ricercatori dell'Università di Oxford hanno presentato un documento intitolato "The Whiteness of AI", in cui hanno applicato la teoria critica della razza alle rappresentazioni dell'IA nella fantascienza e nella cultura pop e hanno concluso che questi lavori tendono a cancellare le persone di colore.

A luglio, un trio di ricercatori di DeepMind di Google ha presentato un documento che esplora i modi per creare un'IA decoloniale e prevenire la diffusione dell'oppressione algoritmica. E all'inizio di questo mese, un articolo di Abeba Birhane e Olivia Guest ha scoperto che la decolonizzazione dell'informatica richiede di vedere le cose dal punto di vista delle donne nere e di altre donne di colore. Ciò, sostengono i coautori, può portare a un minor numero di casi di ricerca sull'apprendimento automatico che è radicata nella pseudoscienza come l'eugenetica o la fisionomia, che deduce le caratteristiche dall'aspetto fisico di una persona.

Pensieri finali

La teoria della razza critica appartiene a una tradizione statunitense di esame critico che ha informato i movimenti abolizionisti e femministi. In Critical Race Theory: An Introduction, Delgado e Stefancic ipotizzano che la teoria critica della razza sia nata da studi legali critici e dal femminismo radicale. Il libro traccia una linea da personaggi storici come W.E.B. DuBois e Ida B. Wells ai movimenti sociali più recenti. Cita anche opere derivate da Latinx e studiosi critici queer.

Sembra che una linea simile possa essere tracciata per le proteste di dimensioni storiche negli ultimi anni, comprese le proteste di Black Lives Matter e il movimento #MeToo. Al di là dell'intelligenza artificiale e della politica tecnologica, è praticamente impossibile considerare le principali questioni del nostro tempo – morti COVID-19, continue ricadute economiche, disuguaglianza nell'istruzione e il destino dei lavoratori essenziali durante la pandemia – senza vederli attraverso il prisma della razza.

Quando si parla di regolamentazione dell'intelligenza artificiale e dell'impatto della politica sulla vita delle persone, ignorare il contesto storico e sociale è stato utilizzato per giustificare comportamenti selvaggi e negare giustizia a coloro che chiedono la fine della disuguaglianza sistemica.

Derrick Bell, cofondatore della teoria della razza critica e professore di diritto della New York University, ha definito il razzismo una forma di controllo sia per i neri che per i bianchi negli Stati Uniti e ha affermato che "dire la verità come la vedi dà potere". Credeva che chiamare gli Stati Uniti un paese suprematista bianco fosse riconoscere un fatto fondamentale per la guarigione, proprio come un alcolizzato deve ammettere di avere un problema prima di iniziare la strada verso la guarigione.

La teoria critica della razza riconosce l'esistenza di razzismo e dinamiche di potere che sono più antiche degli Stati Uniti e continuano a plasmare la storia americana. È anche in linea con ciò a cui Bryan Stephenson, un uomo che Desmond Tutu chiama "il Mandela dell'America", si riferisce quando incoraggia un onesto resoconto del nostro passato e un esame di coscienza critico come un modo per riconciliare le trasgressioni del passato.

Dalla riforma della legge antitrust alla regolamentazione del riconoscimento facciale e ad altri spinosi argomenti di politica tecnologica che devono affrontare i prossimi leader a Washington, DC, i modi in cui l'intelligenza artificiale può danneggiare le persone saranno in primo piano. E se chiamiamo quel quadro giustizia riparativa, teoria critica della razza o qualsiasi altro nome, i tentativi di affrontare l'impatto negativo che gli algoritmi possono avere sulle vite umane saranno incompleti senza una revisione critica fondata sul contesto sociale e storico. Piuttosto che essere uno strumento di divisione, l'esame critico è essenziale per costruire quella che Thomas Jefferson ha definito "un'unione più perfetta".

In che modo le startup stanno scalando la comunicazione:

La pandemia sta spingendo le startup a dare un'occhiata da vicino all'aumento delle loro soluzioni di comunicazione. Impara come