Zwaar incident met Facebook Live: een 15-jarig meisje dat verkracht wordt door zes mannen in Chicago, en dat belandt op een livestream die 40 mensen bekijken. Het is niet de eerste keer dat zwaar geweld zomaar op het platform terecht komt. Vraag is hoe Mark Zuckerberg en co dit gaan aanpakken, want Facebook zet alles op alles om hét platform van de livestream te zijn. 

Een vreselijk verhaal in Chicago: de moeder van een 15-jarig meisje die de politie kwam melden dat haar dochter sinds zondag vermist was. En ze vertelde er meteen bij dat ze op Facebook haar dochter had gevonden. Ze toonde screenshots van een video waarin de dochter een gang rape moest ondergaan. “Het was verschrikkelijk, vreselijke beelden”, zo vertelde de moeder aan CBS Chicago. “Ik kon het niet aan om alles te bekijken, maar wat ik zag was gewoon niet te omschrijven. Ze goten allerlei zaken over haar, ze was zo bang…”

De politie neemt de zaak zeer ernstig, zo schrijft Mashable. Want 40 mensen hebben effectief de live video bekeken. Niemand diende klacht in bij de politie. Die heeft nu een onderzoek naar de kijkers lopen, naast uiteraard een klopjacht op de daders van de verkrachting. De woordvoerder van de politie van Chicago, Anthony Guglielmi, tweette ondertussen dat het meisje terug is bij haar moeder.

Facebook verwijderde ondertussen de video, op vraag van de politie. Maar op zich kan de tech gigant niet veel doen om te vermijden dat dit soort beelden toch terecht komt op hun platform. Facebook reageerde wel op de zaak: “Dit is een vreselijke misdaad, wij staan uiteraard niet toe dat dit soort video’s worden gepubliceerd op Facebook. We nemen de verantwoordelijkheid om mensen veilig te houden op Facebook zeer ernstig. Elke video die verkrachting toont of suggereert, of geweld verheerlijkt, wordt meteen verwijderd.”

LOCATED: Deahvion Austin was found by 10th district officers. She is now at the Area with her mother & detectives are conducting interviews. https://t.co/1UEAiL0JYn

— Anthony Guglielmi (@AJGuglielmi) March 21, 2017

Donkere kant van het live fenomeen

Maar daarmee is het probleem van de gewelddadige livestreams op Facebook niet weg. Nog maar een paar maand geleden, in januari, werden vier mensen gearresteerd, nadat ze een mentaal gehandicapte hadden gemarteld en dat via een Facebook Live had wereldkundig gemaakt.

Het is een donkere kant van heel het ‘live’ fenomeen dat Facebook introduceert, dat erg grote gevolgen kan hebben. Want geweld op zich is natuurlijk niet nieuw op sociale media, maar wat doe je als het live gebeurt op je platform? En het gebeurt alleen maar vaker op Facebook.

Uiteraard heeft Facebook strikte regels voor wat kan en mag gepost worden. Dat zijn de zogenaamde “Community Standards.” Die zijn behoorlijk strikt (zo is Facebook redelijk puriteins als het op bloot aankomt) maar vandaag worden die regels niet afgedwongen in real time.

Maar Facebook werkt er wel aan: een soort rapid response team. “We hebben een team dat 24 op 24 paraat staat, zeven op zeven. Net om meldingen over dit soort video’s onmiddellijk ernstig te kunnen nemen”, zo liet Facebook in de zomer van 2016 weten. “De regels voor live video zijn dezelfde als voor de rest van al onze content. Iemand van ons review team kan meteen een livestream laten onderbreken als er geweld is, of als onze Community Standards niet gerespecteerd worden.”

YouTube staat al stapje verder

Het komt er dus op neer dat iemand eerst wel klacht moet indienen: zonder zo’n klacht bij Facebook komt dat review team niet in actie. Vraag is of dat volstaat. Want de schade kan al erg groot zijn, voor iemand klacht gaat indienen. Het volume aan video dat er bijkomt op Facebook is gigantisch, maar nog niets vergeleken met wat er op YouTube allemaal bijkomt. Dus eens Facebook op zo’n niveau zou komen, wordt het nog veel problematischer.

Google staat duidelijk al verder, met hun YouTube, om computers beelden te laten herkennen. Met hun Cloud Video Intelligence API kunnen ze beelden van specifieke voorwerpen filteren uit beelden. Geweld wordt zo tot op zekere hoogte herkend. Probleem is dat computers hoe dan ook heel veel moeite hebben om context te herkennen: er zit een geweer in omdat het om te lachen is, of is dit echt geweld?