Hele ideen med en algoritme er, at man kun bliver konfronteret med indhold på sociale medier, som man gerne vil se. 

Men hvad nu, hvis man er seksuelt tiltrukket af mindreårige og mest af alt gerne vil se på børn?

Så er det stadig muligt, hvis du går på Instagram eller Facebook. 

Det skriver The New York Times på baggrund af et forsøg, mediet har foretaget med den algoritme, der genererer brugerdefineret indhold til softwarevirksomheden Metas platforme Instagram og Facebook.

Journalister fra The New York Times oprettede to falske Instagram-profiler, hvorfra de promoverede to forskellige reklamer for et smykkemærke for børn. 

  • Den ene var en virkelig reklame, hvori et armbånd bliver båret af en femårig pige, som derudover er iklædt en undertrøje, og hvis ansigt vender væk fra billedet. 

  • Den anden reklame var en, som The New York Times havde fremstillet, hvori selvsamme armbånd og undertrøje bliver afbilledet, men uden nogen børnemodel.

Meta blev betalt for reklamerne, som The New York Times bestilte til at nå ud til et kvindeligt publikum, der gik op i emner som barndom, dans og cheerleading. 

Men det var ikke her, reklamerne havnede, viser The New York Times analyse.

95 procent af seerne af reklamen, hvor barnet bar smykket, var mænd. Flere af dem mænd, som gav udtryk for at have seksuel interesse for pigen i reklamen, og som tilbød den falske profil penge for at få pigen i reklamen til at udføre seksuelle tjenester for dem. 

Til mediet fortæller forskere og tidligere ansatte hos Meta, at noget af skylden tilfalder Metas egen billedgenerator, som viser brugere billeder – og reklamer – som minder om dem, brugerne tidligere har vist interesse for. 

Har man først vist interesse for mindreårige børn på sociale medier, vil Metas algoritme altså fortsat vise én lignende indhold. 

The New York Times har forelagt kritikken for Meta, som afviser kritikken af Metas algoritme og kalder det eksperiment, The New York Times har foretaget, for »fabrikeret«.