Google prende di mira Margaret Mitchell, leader dell'etica dell'IA, dopo aver licenziato Timnit Gebru

0
36

Google ha revocato i privilegi dei dipendenti di Margaret "Meg" Mitchell, leader del team di intelligenza artificiale etica, e sta attualmente indagando sulla sua attività, secondo una dichiarazione fornita da un portavoce dell'azienda. Se Google licenzierà Mitchell, significherà che la società ha effettivamente scelto di decapitare il proprio team di etica dell'IA in meno di due mesi. In un'intervista con VentureBeat il mese scorso, l'ex co-lead dell'etica di Google AI Timnit Gebru ha affermato di aver lavorato con Mitchell dal 2018 per creare uno dei team più diversificati all'interno di Google Research.

Gebru ha twittato martedì sera che la mossa di Google di congelare l'account del dipendente di Mitchell riecheggiava il modo in cui il suo era stato congelato prima che lei fosse licenziata. Quando VentureBeat ha inviato un'email a Google per chiedere se Mitchell fosse ancora un dipendente, un portavoce ha fornito la seguente dichiarazione:

"I nostri sistemi di sicurezza bloccano automaticamente l'account aziendale di un dipendente quando rilevano che l'account è a rischio di compromissione a causa di problemi con le credenziali o quando è stata attivata una regola automatizzata che implica la gestione di dati sensibili. In questo caso, ieri i nostri sistemi hanno rilevato che un account aveva esfiltrato migliaia di file e li aveva condivisi con più account esterni. Lo abbiamo spiegato al dipendente oggi. Stiamo attivamente indagando sulla questione come parte delle procedure standard per raccogliere ulteriori dettagli ".

Il mese scorso, Google ha licenziato Gebru a seguito della richiesta della leadership di Google di revocare un documento di ricerca sull'intelligenza artificiale di cui era coautrice sulle conseguenze negative dei modelli linguistici su larga scala, compreso il loro impatto sproporzionato sulle comunità emarginate sotto forma di impatto ambientale e perpetuando gli stereotipi. Da allora, Google ha rilasciato un trilione di modelli di linguaggio parametrico e ha detto ai suoi ricercatori di intelligenza artificiale di dare un tono positivo su argomenti ritenuti "sensibili". Alcuni membri della comunità di ricerca sull'IA si sono impegnati a non rivedere il lavoro dei ricercatori di Google durante le conferenze accademiche per protesta.

Mitchell ha criticato pubblicamente le azioni intraprese dai leader di Google come Jeff Dean, capo dell'IA, a seguito della cacciata di Gebru.

Supponiamo che tu abbia un problema con l'alienazione costante delle donne nere e che abbia causato gravi danni nelle loro vite.
Potresti:
A) prova a riparare quel danno
B) prova a trovare più persone di colore a cui piaci (l'approccio simbolico).
Buona fortuna … ..https: //t.co/rrhL8AQDIF

– MMitchell (@mmitchell_ai) 19 gennaio 2021

Dopo che Gebru è stata licenziata, April Curley, una donna nera queer che ha detto di essere stata licenziata da Google lo scorso autunno, ha raccontato pubblicamente numerose esperienze negative durante il suo periodo come reclutatrice di talenti da college e università storicamente neri (HBCU).

Martedì è emersa la notizia che il CEO di Google Sundar Pichai incontrerà i leader della HBCU a seguito delle accuse di razzismo e sessismo nei confronti dell'azienda da parte di dipendenti attuali ed ex.

I membri del Congresso interessati a regolamentare l'intelligenza artificiale e oltre 2.000 dipendenti Google si sono uniti a figure di spicco della comunità di ricerca sull'intelligenza artificiale nel mettere in dubbio il licenziamento di Gebru. I membri del team di etica dell'IA di Google hanno chiesto il suo ripristino in una serie di richieste inviate alla leadership dell'azienda.

Gli organizzatori hanno citato il modo in cui Google ha trattato Gebru e l'impatto che l'intelligenza artificiale può avere sulla società come motivatori dietro l'istituzione della Alphabet Workers Union, che si è formata all'inizio di questo mese e una settimana fa contava 700 membri. Gebru aveva precedentemente sostenuto l'idea di un sindacato dei lavoratori come un modo per proteggere i ricercatori di intelligenza artificiale dalle retribuzioni aziendali.

Negli ultimi giorni l'amministrazione Biden entrante ha condiviso l'impegno per la diversità e per affrontare i pregiudizi algoritmici e altri danni alla società causati dall'intelligenza artificiale attraverso la sua piattaforma di politica scientifica e tecnologica. Esperti di intelligenza artificiale, legge e politica hanno dichiarato a VentureBeat il mese scorso che il trattamento di Gebru da parte di Google potrebbe avere un impatto su una serie di questioni politiche, tra cui il passaggio di una maggiore protezione degli informatori per i lavoratori tecnologici e un maggiore finanziamento pubblico della ricerca indipendente sull'IA.

Quello che accadrà a Mitchell continuerà a plasmare gli atteggiamenti verso l'autogoverno aziendale e la speculazione sulla voracità della ricerca prodotta con i finanziamenti di Big Tech. Un documento di ricerca pubblicato alla fine del 2020 ha confrontato il modo in cui Big Tech finanzia la ricerca sull'etica dell'intelligenza artificiale con la storia di Big Tobacco nel finanziamento della ricerca sanitaria.

VentureBeat

La missione di VentureBeat è quella di essere una piazza della città digitale per i responsabili delle decisioni tecniche per acquisire conoscenze sulla tecnologia trasformativa e sulle transazioni.

Il nostro sito fornisce informazioni essenziali sulle tecnologie e strategie dei dati per guidarti mentre guidi le tue organizzazioni. Ti invitiamo a diventare un membro della nostra community, per accedere a:

  • informazioni aggiornate sugli argomenti di tuo interesse
  • le nostre newsletter
  • contenuti gated leader di pensiero e accesso scontato ai nostri eventi preziosi, come Transform
  • funzionalità di rete e altro ancora

Diventare socio

LASCIA UN COMMENTO

Per favore inserisci il tuo commento!
Per favore inserisci il tuo nome qui