Gli algoritmi della censura

Dopo la pessima figura per aver censurato la celebre foto della bambina che scappa dal napalm – simbolo della guerra in Vietnam – Facebook, che ormai è diventato un’importante fonte d’informazioni, ha deciso di assumersi le proprie responsabilità da editor più potente e influente del mondo e definire regole più precise per la selezione dei contenuti che vengono giornalmente pubblicati e condivisi sulla piattaforma.
In quel caso furono gli algoritmi ad agire, che in quella foto l’unica cosa che considerarono fu la nudità di una bambina; l’immagine andava quindi rimossa per tutelare infanzia e dignità. Si scatenò un dibattito sulla libertà di espressione che Facebook con quella rimozione aveva negato: censurare immagini di questo tipo equivale a censurare la storia, non basta cavarsela con un “ci scusiamo è stata una svista dell’algoritmo”; ciò che viene richiesto a Facebook è di prestare la massima attenzione sui contenuti che consente e quelli che nega.
Se in un primo momento, forse per scrollarsi di dosso un po’ di responsabilità, Mark Zuckerberg definiva con estrema decisione che la sua creatura fosse una semplice tech company e non una media company, ora è costretto a fare un passo indietro e prendere provvedimenti. Il nuovo medium non può più permettersi queste inadeguatezze!

facebook-hack.jpg

A svelare i nuovi meccanismi di censura è stato il The Guardian, celebre testata giornalistica britannica, che ha recentemente reso noti i cosiddetti “Facebook Files”.  Se prima era l’algoritmo – sulla base delle segnalazioni degli utenti – a provvedere all’eventuale rimozione di contenuti che violavano i “Community Standards” di Facebook, ora l’azienda ha deciso di assumere persone in carne e ossa: si tratta dei moderatori. Questi nuovi censori dell’era digitale hanno il compito di visionare per 8/9 ore al giorno, tutti i contenuti che vengono segnalati dagli utenti. La quantità di materiale da visionare è pressoché infinita, i moderatori hanno un tempo massimo di 10 secondi per controllare ogni singolo elemento e stabilire se questo violi o meno gli standard della piattaforma. Un mestiere difficile, con forti ripercussioni psicologiche sugli impiegati, giovanissimi e a volte alla prima esperienza lavorativa. Immaginate di dover guardare per 9 ore di seguito immagini e video di abusi su bambini e animali, morti violente, decapitazioni e tutto ciò che di macabro e inquietante possa Internet offrire. Se nelle Homepage di Facebook questi contenuti non compaiono è grazie al lavoro svolto dai moderatori.

La quantità di contenuti da rivedere, verificare e controllare sul social network è davvero consistente e spesso travolge i moderatori che, sopraffatti anche da stress e stati di ansia, possono commettere errori. È quindi sempre più impellente, per l’azienda, stabilire regole e linee guida di volta in volta più rigide e precise per “facilitare” il compito dei propri impieagti. Ma come si stabilisce cosa è giusto pubblicare e cosa no? I “Facebook Files” contengono un insieme di regole circa ciò che è consentito e ciò che è assolutamente negato, regole che in alcuni casi suscitano un po’ di perplessità.

foto-censurate-di-erna-solberg

Enunciati come “la bambina deve controllarsi prima che il papà le spacchi la faccia” e “spero che qualcuno ti uccida”, sono considerati “passabili” in quanto generici e non riconducibili ad una vera e propria minaccia. Sono invece inammissibili espressioni come “qualcuno spari a Trump” perché riferiti ad un capo di Stato che, in quanto tale, appartiene ad una categoria protetta e da proteggere. Video in diretta di autolesionismo possono essere permessi, perché Facebook non è intenzionato a censurare persone che stanno vivendo delle difficoltà. Così come sono consentiti: i video di morti violente – al massimo contrassegnate come inquietanti – perché possono contribuire a creare consapevolezza di problemi come le malattie mentali, e gli abusi non sessuali sui minori, qualora non siano legati al sadismo. Sono invece da censurare video di arte digitale che riproducono scene con rapporti sessuali.

È davvero possibile riuscire a tracciare – sempre – una linea netta tra ciò che è giusto e ciò che è sbagliato?

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione / Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione / Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione / Modifica )

Google+ photo

Stai commentando usando il tuo account Google+. Chiudi sessione / Modifica )

Connessione a %s...

Blog su WordPress.com.

Su ↑

%d blogger hanno fatto clic su Mi Piace per questo: