»Vi byggede denne teknologiske platform, så vi kan støtte de mest personlige, følelsesladede, rå og instinktive måder, som folk vil kommunikere på.«
Sådan sagde Mark Zuckerberg, da Facebook lancerede live-streaming tjenesten Facebook Live i foråret 2016.
Og råt er det blevet.
Inden for de seneste måneder er flere brutale videoer blevet transmitteret direkte til et bredt publikum via Facebooks live-streaming tjeneste Facebook Live. Voldtægt, mord og selvmord er blevet set af flere hundredtusindvis af mennesker verden over.
Senest har videoer af mord og selvmord i Thailand, en voldtægt i Sverige og et mord i USA skabt omtale i medierne.
Episoderne placerer Facebook i et dilemma mellem egne kommercielle interesser og live-funktionens ucensurerede natur, lyder det fra Filip Wallberg, ekspert i sociale medier.
»Det er nogle særdeles uheldige sager, Facebook har. Hvis det udvikler sig til en epidemi, kan det presse dem, fordi det kan ende med at annoncører trækker sig.Men live-video er noget som brugerne ønsker, og hvis den mulighed ikke var på Facebook, ville brugerne søge andre steder hen – eksempelvis mod Twitter eller Youtube. Dilemmaet med Live er, at det svært at filtrere, for når noget foregår direkte, kan alt ske. Og en computer kan ikke genkende en voldtægt eller et selvmord, som den eksempelvis har lært at genkende en brystvorte som nøgenhed,« siger Wallberg.
Berlingske har tidligere beskrevet, hvordan algoritmen gør, at opslag, der benytter sig af Facebook Live får en højere score i Facebooks rangering af opslag, og dermed når ud til flere brugere.
»Facebook’s algoritmer prioriterer live videoer højere end almindelige videoer, fordi de bliver betragtet som meget aktuelle for brugerne. Det betyder, at der er stor sandsynlighed for, at live-video ender øverst i dit news-feed,« siger Mikael Lemberg, der tidligere har arbejdet for Facebook og derfor har indgående kendskab til algoritmen. Han er idag direktør for produkt-innovation hos softwarevirksomheden Falcon.io.
Problematikken bliver forstærket af, at de live-streamede mord og selvmord kan føre til flere mord og selvmord. Forskning viser, at mord har samme mønster som smitsomme sygdomme. Det konkluderede forskeren April Zeoli og hendes kolleger i 2012 på baggrund af en undersøgelse af mord-raten i Newark, New Jersey.
Det samme gælder for selvmord. Der er stærke beviser for, at selvmord smitter. Det kunne blandt andet ses, da Marilyn Monroe begik selvmord i 1962. I månederne efter steg selvmordsraten med 12 procent, viste studier. Det er blandt andet derfor, at eksperter advarer om at beskrive selvmord i detaljer i medierne. Livslinien har tidligere rost Facebook for at indføre værktøjer, der kan ”være med til at redde liv”, men er også bekymrede for, om episoderne kan være smitsomme.
»Vi kan godt være nervøse for om den positive smitteeffekt, der ligger i at folk tager afstand fra det og kommer med forslag til hjælp, ikke er nok til at hamle op med den meget lille gruppe mennesker, der poster materiale, der kan have en negativ smitteeffekt,« siger Jeppe Kristen Toft, direktør hos Livslinien.
Tidligere har Facebook forsøgt at reagere på episoder med live-selvmord ved at lancere værktøjer, der gør det lettere og mere tilgængeligt for brugere at anmelde videoer, som de mistænker for at have morbidt indhold. Men lige lidt har det hjulpet – siden lanceringen har nye sager trukket nye overskrifter.
Det presser Facebook til at finde en løsning på problemet. Over for Berlingske skriver virksomhedens danske presseafdeling, at »brugernes sikkerhed er af høj prioritet«.
”Facebook har et team siddende, der døgnet rundt monitorerer voldeligt indhold, men Facebook er naturligvis også afhængige af hjælp og anmeldelser fra brugerne,” skriver Facebook PR Danmark i en mail.
Berlingske ville gerne have spurgt Facebook, om de mener, det er tilstrækkeligt at placere ansvaret for at stoppe den slags begivenheder hos brugerne, og hos deres villighed til at anmelde videoerne. De har afvist at stille op til interview.
I stedet henviser de til en pressemeddelelse, Facebook sendte ud i forbindelse med det live-streamede mord i Cleveland i USA. Her lagde de igen op til, at problemet kan løses ved at folk anmelder videoerne, mens de kører.
Men det er utilstrækkeligt, at Facebook placerer ansvaret for at anmelde de brutale videoer hos sine brugere. Det mener professor i formel filosofi og leder af center for information og boblestudier ved Københavns Universitet Vincent Hendricks.
»Det er spøjst at sige, at man har nogle »community standards«, men dem skal brugerne selv administrere, når det samtidig er Facebook, der får nyhederne og videoerne ud til offentligheden. Det er normalt dem, der stiller platformen for nyhederne til rådighed, der er ansvarlige for, hvad der bliver råbt ind i megafonen,« siger Hendricks.
Det er ikke første gang, at Facebook Live bliver udsat for kritik. I januar spurgte Guardian efter live-streaminger af tortur og mord:
”Har Facebook lanceret et monster, de ikke kan styre?”
Det har de i nogen grad, mener Vincent Hendricks.
»Der er ingen der sidder og overvåger, fordi de regner med, at brugerne selv kan administrere det. Det har vi bevist, at det kan vi ikke. Facebook er vokset sig så stor, at de er nødt til at tage et samfundsansvar,« siger han.
Vi skal passe på med at overreagere, lyder det modsat fra Filip Wallberg.
»Hver gang der opstår en ny måde at udtrykke sig på digitalt, så sker der misbrug. Og det bliver typisk dækket mere intenst i medierne i starten. Vi skal være mådeholdende med at udråbe noget til ”et monster” eller et større samfundsmæssigt problem,« siger Wallberg.