Facebook ha creato una nuova squadra per individuare i problemi prima che si presentino

Christophe Simon/AFP/Getty Images

Nel tentativo di individuare le vulnerabilità nel suo sistema prima che i malintenzionati le sfruttino, Facebook ha assunto un team di ex agenti dell'intelligence, ricercatori e acquirenti di media e li ha liberati sui suoi prodotti.



Facebook chiama questo gruppo 'Team operativo investigativo' e ha indirizzato i suoi membri a trovare le peggiori cose possibili che si possono fare utilizzando Facebook e ad aiutare l'azienda a prevenirle.

libri per guarire un cuore spezzato

Il gruppo, la cui esistenza viene rivelata per la prima volta in questa storia, sta testando i sistemi pubblicitari di Facebook, le pagine, Instagram, Messenger e altro. Facebook ha detto a BuzzFeed News che il team sta cercando comportamenti preoccupanti in paesi come il Myanmar, esaminando parole chiave e altri segnali che potrebbero essere utilizzati per promuovere violenza . E sta indagando sugli strumenti commerciali di Facebook, cercando di individuare le vendite di prodotti problematiche.



Quello che abbiamo ora è una serie di persone che stanno veramente cercando come potresti fare qualcosa di sbagliato, ha detto a BuzzFeed News la direttrice dell'integrità aziendale di Facebook Lynda Talgo. Poiché la squadra è ancora in fase di costruzione, ha rifiutato di specificare il numero di persone o la cattiva attività riscontrata fino ad oggi. Il loro intero compito è guardare avanti e capire cosa sta arrivando dietro l'angolo.

La creazione di questo team da parte di Facebook è l'ultimo segno di un continuo cambiamento di mentalità tra i giganti della Silicon Valley, che si stanno rendendo conto che non possono semplicemente assumere il meglio dei loro utenti e devono prepararsi al peggior comportamento immaginabile. Google, per esempio, ha creato un Scrivania di intelligenza di YouTube aveva lo scopo di rilevare contenuti controversi prima che diventino in crisi. E Twitter ha recentemente iniziato limitare la visibilità di tweet di persone il cui comportamento indica che potrebbero tentare di ingannare il suo sistema.

Parlando delle mie esperienze e dei miei colleghi con cui parlo in questo campo, sembra che ci sia una responsabilità più ampia su tutta la linea che tutti noi sentiamo, ha detto Talgo.

Il team è nato l'anno scorso, quando i dirigenti dell'azienda hanno ammesso internamente ciò che era dolorosamente chiaro dall'esterno: il suo problema non era semplicemente che gli mancavano alcuni cattivi attori determinati a sfruttare il suo sistema, ma piuttosto che non aveva mai previsto abusi così eclatanti nel primo luogo.

Facebook ha sofferto di un fallimento dell'immaginazione, ha detto Rob Goldman, il suo responsabile pubblicitario, in un incontro, secondo Talgo. E Sheryl Sandberg, il suo direttore operativo, ha visto una lacuna nella mentalità in gran parte ottimista dell'azienda e ha detto ai suoi leader di assumere persone con prospettive di vita diverse rispetto ai dipendenti di Facebook, molti dei quali hanno un background tecnico e analitico. Facebook aveva bisogno di persone che avessero visto un po' di merda.

Di tutte le grandi aziende tecnologiche, Facebook potrebbe aver bisogno di più di questo cambiamento di mentalità. Ha, a volte, vissuto in un buco della realtà , apparentemente ignaro degli elementi cattivi dell'umanità che sfruttano il suo servizio proprio sotto il suo naso. Ha mancato tristemente un collegamento al Cremlino campagna di troll che ha utilizzato il suo servizio durante le elezioni statunitensi del 2016 per mettere gli americani l'uno contro l'altro. Ha perso molteplici usi discriminatori della sua piattaforma pubblicitaria, dal targeting che consente ai proprietari di escludere le persone per razza ai datori di lavoro escludendo persone per età. Ha mancato la manipolazione delle categorie pubblicitarie generate dagli utenti per creare targeting pubblicitario bigotto opzioni, incluso come bruciare gli ebrei. E ha mancato l'uso di Cambridge Analytica di dati di Facebook ottenuti illecitamente nel suo lavoro durante le elezioni del 2016.

È un elenco doloroso per Facebook e il team delle operazioni investigative è una risposta diretta al targeting pubblicitario utilizzato in modo improprio e alle interferenze elettorali, ha detto la società a BuzzFeed News.

Mentre Facebook è ancora vago sui dettagli del lavoro di questo team, la sua creazione indica che l'azienda ha imparato una o due cose dalla crisi continua che ha subito negli ultimi due anni. Era chiaro alla fine dell'anno scorso che dovevamo fare di più e fare qualcosa di diverso, ha detto Talgo. E onestamente non era chiaro prima.

perché le cheeto piccanti fanno male al tuo corpo?

Se vuoi tenerti aggiornato sulle ultime novità su Facebook, Amazon, Apple e Google, iscriviti all'aggiornamento Tech Giant , una newsletter di BuzzFeed News dell'autore di questo pezzo, Alex Kantrowitz.