LinkedIn afferma di aver ridotto i bias nel suo algoritmo di suggerimento della connessione

0
6

Tutte le sessioni di Transform 2021 sono ora disponibili on-demand. Guarda ora.

In un post sul blog di oggi, LinkedIn ha rivelato di aver recentemente completato audit interni volti a migliorare People You May Know (PYMK), una funzionalità basata sull'intelligenza artificiale sulla piattaforma che suggerisce ad altri membri di connettersi con gli utenti. LinkedIn sostiene che i cambiamenti "parino il campo di gioco" per coloro che hanno meno connessioni e trascorrono meno tempo a costruire le proprie reti online, rendendo PYMK apparentemente utile per più persone.

PYMK è stata la prima funzionalità di raccomandazione basata sull'intelligenza artificiale su LinkedIn. Apparendo nella pagina La mia rete, fornisce suggerimenti di connessione basati su elementi comuni tra gli utenti e altri membri di LinkedIn, nonché i contatti che gli utenti hanno importato dalle rubriche di posta elettronica e smartphone. In particolare, PYMK si basa su connessioni condivise e informazioni sul profilo ed esperienze, nonché su cose come l'impiego in un'azienda o in un settore e un background educativo.

PYMK ha funzionato abbastanza bene per la maggior parte degli utenti, secondo LinkedIn, ma ha fornito ad alcuni membri un numero "molto elevato" di richieste di connessione, creando un ciclo di feedback che ha ridotto la probabilità che altri membri meno collegati sarebbero stati classificati in alto nei suggerimenti PYMK . I membri frequentemente attivi su LinkedIn tendevano ad avere una maggiore rappresentazione nei dati utilizzati per addestrare gli algoritmi che alimentano PYMK, portandolo a diventare sempre più prevenuto verso l'ottimizzazione per gli utenti frequenti a spese degli utenti poco frequenti.

"Un problema comune quando si ottimizza un modello di intelligenza artificiale per le connessioni è che spesso crea un forte effetto "ricco diventa più ricco", in cui i membri più attivi sulla piattaforma costruiscono una grande rete, ma i membri meno attivi ci perdono", Albert Cui, senior product manager di AI e machine learning presso LinkedIn, ha detto a VentureBeat via e-mail. “È importante per noi rendere PYMK il più equo possibile perché abbiamo visto che le reti dei membri e la loro forza possono avere un impatto diretto sulle opportunità professionali. Per avere un impatto positivo sulle reti professionali dei membri, dobbiamo riconoscere e rimuovere qualsiasi barriera all'equità".

Algoritmi distorti

Questa non è la prima volta che LinkedIn scopre distorsioni negli algoritmi di raccomandazione che alimentano le funzionalità della sua piattaforma. Anni fa, l'azienda ha scoperto che l'intelligenza artificiale utilizzata per abbinare i candidati di lavoro con le opportunità classificava i candidati in parte sulla base della probabilità con cui si candidavano per una posizione o rispondevano a un reclutatore. Il sistema ha finito per indirizzare più uomini che donne per ruoli aperti semplicemente perché gli uomini sono spesso più aggressivi nel cercare nuove opportunità. Per contrastare ciò, LinkedIn ha creato un algoritmo contraddittorio progettato per garantire che il sistema di raccomandazione includa una distribuzione rappresentativa degli utenti di genere prima di riferire le corrispondenze curate dal sistema originale.

Nel 2016, un rapporto del Seattle Times ha suggerito che anche l'algoritmo di ricerca di LinkedIn potrebbe dare risultati distorti, lungo le linee di genere. Secondo la pubblicazione, le ricerche dei 100 nomi maschili più comuni negli Stati Uniti non hanno attivato alcuna richiesta se gli utenti intendessero prevalentemente nomi femminili, ma ricerche simili di nomi femminili popolari abbinati a cognomi segnaposto hanno fatto emergere il suggerimento di LinkedIn di cambiare "Andrea Jones" ad "Andrew Jones", da "Danielle" a "Daniel", da "Michaela" a "Michael" e da "Alexa" ad "Alex", per esempio. LinkedIn ha negato all'epoca che il suo algoritmo di ricerca fosse parziale, ma in seguito ha lanciato un aggiornamento in modo che a qualsiasi utente che cerca un nome completo se intendesse cercare un nome diverso non vengano richiesti suggerimenti.

La storia recente ha dimostrato che gli algoritmi di raccomandazione dei social media sono particolarmente inclini a bias, intenzionali o meno. Un articolo del Wall Street Journal del maggio 2020 ha portato alla luce uno studio interno di Facebook che ha rilevato che la maggior parte delle persone che si uniscono a gruppi estremisti lo fa a causa degli algoritmi di raccomandazione dell'azienda. Nell'aprile 2019, Bloomberg ha riferito che i video realizzati da creatori di estrema destra erano tra i contenuti più visti di YouTube. E in un recente rapporto di Media Matters for America, il gruppo di monitoraggio dei media presenta prove che l'algoritmo di raccomandazione di TikTok sta spingendo gli utenti verso account con visualizzazioni di estrema destra presumibilmente vietate sulla piattaforma.

Correggere per lo squilibrio

Per affrontare i problemi con PYMK, i ricercatori di LinkedIn hanno utilizzato una tecnica di post-elaborazione che ha riclassificato i candidati PYMK per diminuire il punteggio dei destinatari che avevano già ricevuto molti inviti senza risposta. Questi erano per lo più membri o celebrità "ubiquitariamente popolari", che spesso ricevevano più inviti di quanti potessero rispondere a causa della loro importanza o delle loro reti. LinkedIn pensava che ciò avrebbe ridotto il numero di inviti inviati ai candidati suggeriti da PYMK e quindi l'attività complessiva. Tuttavia, mentre le richieste di connessione inviate dai membri di LinkedIn sono effettivamente diminuite dell'1%, le sessioni delle persone che hanno ricevuto inviti sono aumentate dell'1% perché i membri con meno inviti ora ne ricevevano di più e gli inviti avevano meno probabilità di essere persi nelle caselle di posta degli influencer.

Come parte del suo lavoro in corso Fairness Toolkit, LinkedIn ha anche sviluppato e testato metodi per riclassificare i membri in base alle teorie dell'uguaglianza di opportunità e delle probabilità uguali. In PYMK, IM e FM qualificati ora ricevono uguale rappresentanza nelle raccomandazioni, con conseguente aumento degli inviti inviati (un aumento del 5,44%) e delle connessioni effettuate (un aumento del 4,8%) ai membri poco frequenti senza avere un impatto significativo sui membri frequenti.

“Una cosa che ci interessava di questo lavoro era che alcuni dei risultati erano controintuitivi rispetto a quanto ci aspettavamo. Abbiamo previsto una diminuzione di alcune metriche di coinvolgimento per PYMK a seguito di questi cambiamenti. Tuttavia, abbiamo effettivamente visto un aumento del coinvolgimento netto dopo aver apportato queste modifiche", ha continuato Cui. "È interessante notare che questo era simile a quello che abbiamo visto alcuni anni fa, quando abbiamo cambiato il nostro sistema di classificazione dei feed per ottimizzarlo anche per i creatori, e non solo per gli spettatori. In entrambi questi casi, abbiamo scoperto che dare la priorità a metriche diverse da quelle tipicamente associate alla "viralità" ha effettivamente portato a vittorie di coinvolgimento a lungo termine e a una migliore esperienza complessiva".

Tutto sommato, LinkedIn afferma di aver ridotto del 50% il numero di destinatari sovraccarichi, ovvero i membri che hanno ricevuto troppi inviti nell'ultima settimana, sulla piattaforma. La società ha anche introdotto altre modifiche al prodotto, come un pulsante Segui per garantire che i membri possano ancora ascoltare gli account popolari. "Siamo stati incoraggiati dai risultati positivi delle modifiche che abbiamo apportato finora agli algoritmi PYMK e non vediamo l'ora di continuare a utilizzare [our internal tools] per misurare l'equità nei confronti dei gruppi sulla falsariga di altri attributi oltre la frequenza delle visite alla piattaforma, come età, razza e sesso", ha affermato Cui.

VentureBeat

La missione di VentureBeat è quella di essere una piazza cittadina digitale per i responsabili delle decisioni tecniche per acquisire conoscenze sulla tecnologia trasformativa e sulle transazioni.

Il nostro sito fornisce informazioni essenziali sulle tecnologie e sulle strategie dei dati per guidarti nella guida delle tue organizzazioni. Ti invitiamo a diventare un membro della nostra community, per accedere a:

  • informazioni aggiornate sugli argomenti di tuo interesse
  • le nostre newsletter
  • contenuti gated leader di pensiero e accesso scontato ai nostri eventi preziosi, come Trasforma 2021: Per saperne di più
  • funzioni di rete e altro

Diventare socio

LASCIA UN COMMENTO

Per favore inserisci il tuo commento!
Per favore inserisci il tuo nome qui