Roblox og Discord under beskytning for sviktende barnesikkerhet

To av internettets største lekeplasser, Roblox og Discord, er offisielt i den varme stolen på grunn av barnesikkerhet - og det ser ut til at ting kan bli rotete.

Myndighetene i Florida og New Jersey har satt i gang alvorlige undersøkelser av hvordan disse plattformene beskytter (eller ikke beskytter) sine unge brukere. Roblox, som har vanvittige 85 millioner daglige spillere, og Discord, med 200 millioner månedlige brukere, står nå overfor juridisk press for å forklare hvordan de faktisk beskytter barna, og ikke bare lover at de gjør det.

"Statsadvokat James Uthmeier i Florida har stevnet Roblox Corp. for å få informasjon om hvordan selskapet markedsfører seg mot barn og hvordan det arbeider mot rovdyr."

Fokuset er på om Roblox gjør nok for å forhindre interaksjoner mellom barn og potensielle rovdyr. Ifølge Uthmeiers kontor vil de ha kvitteringer: modereringspolitikk, hvordan aldersbekreftelse fungerer (eller ikke fungerer), og hvor lett det er for barn å unngå foreldrekontroll.

Roblox svarte og sa:

"Vi har til hensikt å samarbeide med riksadvokatens kontor og ser frem til å dele alt arbeidet Roblox gjør for å bidra til å holde brukerne trygge."

En god PR-uttalelse, men den offentlige opinionen er allerede i full sving - og ikke på en god måte.

Bilde: Uenighet

Problemer med Discord

Hvis Roblox får varme, kan Discord stå enda nærmere ilden.

New Jersey Attorney General Matthew Platkin saksøkte nettopp Discord rett opp, og beskyldte selskapet for å villede familier om hvor trygg appen egentlig er. Søksmålet hevder at Discord lovet beskyttende funksjoner som meldingsfiltre, men ikke leverte. Barna ble fortsatt eksponert for forferdelige ting - vi snakker om seksuelt misbruk av barn, voldelig innhold og til og med terrorrelaterte medier.

"Discord villedet brukere og foreldre ved å overdrive sikkerhetsfunksjonene og unnlot å skanne meldinger, selv mellom venner", heter det i søksmålet.

Uff da.

Enda mer fordømmende er det at søksmålet sier at Discord ikke håndhever sin egen aldersgrense (angivelig 13+), noe som gjør det veldig enkelt for yngre barn å slippe gjennom sprekkene.

Discords offisielle svar? Ganske defensivt:

"Med tanke på vårt engasjement med riksadvokatens kontor, er vi overrasket over kunngjøringen om at New Jersey har anlagt sak mot Discord i dag."

Oversettelse: "Vent, saksøker dere oss? Vi trodde vi var gode?"

Hvorfor eksploderer det nå?

Begge plattformene har prøvd å fikse ting, i det minste på papiret.

Roblox hevder at de har rullet ut 40 sikkerhetsoppdateringer bare i 2024, inkludert en stor oppdatering i november som blokkerer barn under 13 år fra å komme inn i sosiale rom som virtuelle klubber. Discord, på sin side, fikk sin administrerende direktør Jason Citron til å vitne foran Kongressen i fjor om barnesikkerhet - akkurat idet selskapet forbereder seg på en mulig børsnotering.

Men for mange mennesker (og mange foreldre) føles det som for lite og for sent.

Bloombergs Businessweek rapporterte i fjor sommer at Roblox hadde alvorlige problemer med å holde overgripere borte fra plattformen. Siden 2018 har amerikansk politi arrestert over to dusin personer som er anklaget for grooming eller misbruk av ofre de har møtt gjennom Roblox. Og innsidere sier at problemet er enormt, delvis på grunn av plattformenes enorme omfang.

"Ansatte hos Roblox beskrev bredden i utfordringen med å overvåke selskapets enorme brukerbase."

Selv med all AI, alle modifikasjoner og rapporteringssystemer på plass, slipper dårlige aktører likevel gjennom.

"Roblox, Discord i morgen"

Både Roblox og Discord står overfor alvorlige juridiske problemer, og publikums tillit står definitivt på spill.

Hvis Roblox ikke kan vise at systemene er vanntette, risikerer de mer regulering (og sinte foreldre som trekker barna sine ut). For Discord kan søksmålet ikke bare forsinke børsnoteringen, men også svekke omdømmet akkurat i det øyeblikket selskapet prøver å utvide seg fra spillkretser til en bredere sosial plattform.

Det er også et større spørsmål om ansvarlighet. Hvor ansvarlige bør plattformene være når de fungerer mer som lekeplasser enn tradisjonelle sosiale nettverk? Og hvor realistisk er det å overvåke områder med hundrevis av millioner av brukere?

Disse sakene kan skape stor presedens for hvordan apper håndterer barnesikkerhet i fremtiden, ikke bare for Roblox og Discord, men for hele internett.

Dette handler ikke bare om to selskaper som havner i trøbbel. Det handler om hvem som har ansvaret når virtuelle lekeplasser blir farlige.