Joaquin Candela, directorul şi specialistul companiei în astfel de tehnologii, a declarat că Facebook lucrează la un instrument care depistează automat live-urile care conţin nuditate, violenţă şi orice alt tip de conţinut care încalcă regulile platformei. Momentan, funcţia este testată pe Facebook Live.

Mai degrabă decât să se bazeze pe utilizatori, să raporteze conţinutul ofensiv, care trebuie apoi să fie verificat de angajaţi, sistemul ar face acest lucru pe cont propriu. Compania mai lucrează şi la o modalitate de a detecta automat conţinutul extremist, cum ar fi pozele violente şi clipurile, dar adăugarea livestreamurilor pe listă necesită cercetări şi eforturi adiţionale.

A existat recent o dezbatere pe această temă, după ce Antonio Perkins şi-a difuzat live moartea. Acesta a fost împuşcat mortal de autorităţile din Chicago, iar Facebook a lăsat clipul pe site, cu un avertisment legat de conţinutul grafic. Motivul ar fi faptul că înregistrarea ar servi ca exemplu pentru consecinţele reale ale actelor de violenţă. În continuare, reţeaua socială va şterge orice clip care senzaţionalizează aceste acte.

Candela a spus că sunt două provocări majore în reglementarea conţinutului clipurilor live. Algoritmul trebuie să fie rapid şi trebuie ca natura acestor clipuri să fie înţeleasă corect. Această iniţiativă se alătură demersurilor Facebook de a ne curăţa News Feedurile de ştiri false, anunţate şi detaliate de Mark Zuckerberg luna trecută.