På innsiden av Roblox' sikkerhetsdrama etter et anspent CEO-intervju

Det siste ROBLOX CEO-intervjuet har presset langvarig tvil om plattformens sikkerhetskultur i full visning. Roblox har vært under lupen i årevis, men tallene har forsterket oppmerksomheten. Selskapet har nå rundt 150 millioner aktive brukere hver dag, mange av dem barn, og har tidligere registrert et internt tall på mer enn 13 000 rapporterte tilfeller av utnyttelse av barn i løpet av ett enkelt år.

I The New York Times' teknologipodcast Hard Fork ble David Baszucki, medgrunnlegger og administrerende direktør i Roblox, spurt direkte om rovdyr som retter seg mot barn på tjenesten. Hans beslutning om å beskrive problemet som "en mulighet" traff uvanlig godt, fordi det ikke kom isolert, men mot et bakteppe av søksmål, moderasjonssvikt og politiske kamper som allerede har strukket foreldrenes tillit til det ytterste.

Tre amerikanske delstater - Louisiana, Kentucky og Texas - har gått til søksmål med påstand om at Roblox ikke har gjort nok for å beskytte mindreårige. I mer enn 20 andre saker i føderale domstoler hevdes det at plattformen har muliggjort seksuell utnyttelse. Samtidig har Roblox lansert AI-drevet aldersestimering og utvidede chatterestriksjoner, og har deretter fremhevet disse verktøyene som bevis på at de ligger i forkant av den øvrige bransjen.

Hard Fork-programlederne Casey Newton og Kevin Roose formulerte spørsmålene sine i denne konteksten. Da Newton spurte hvordan han tenkte om "problemet med rovdyr på Roblox", svarte Baszucki:

"Vi ser det ikke nødvendigvis bare som et problem, men også som en mulighet. Hvordan lar vi unge mennesker bygge, kommunisere og henge sammen? Hvordan bygger vi fremtidens kommunikasjon samtidig?" - David Baszucki.

Resten av svaret gjorde det klart at han mente en mulighet til å innovere innen moderasjon og kommunikasjonsdesign. Formuleringen gjorde imidlertid en av de mørkeste realitetene på enhver plattform for barn til en vekstutfordring. For kritikerne forsterket det mistanken om at Roblox-ledelsen ser på sikkerhet som nok et teknisk problem som må optimaliseres, i stedet for en hard grense som kan begrense hva et selskap bør gjøre.

Gjennom hele intervjuet med ROBLOX-sjefen vendte Baszucki stadig tilbake til skala som både forklaring og skjold. Han viste til at Roblox-brukere logger rundt 11 milliarder timer per måned, og pekte på Steal a Brainrot, et hitspill som nådde 25 millioner samtidige spillere i løpet av sommeren, som et bevis på hva plattformens infrastruktur kan støtte. På spørsmål om det er lett for overgripere å omgå filtrene, avviste han å svare direkte, men sa i stedet

"Det er en av de viktigste tingene vi gjør, og det er å prøve å holde folk på plattformen vår... vi prøver alltid å ligge i forkant." - David Baszucki.

Da Newton fulgte opp og spurte rett ut om han trodde Roblox hadde et rovdyrproblem, innrømmet ikke Baszucki premisset.

"Jeg tror vi gjør en utrolig jobb med å innovere i forhold til antall mennesker på plattformen vår og timene, ved å virkelig lene oss inn i fremtiden for hvordan dette kommer til å fungere." - David Baszucki.

Utvekslingen utkrystalliserte spenningen. På den ene siden et selskap som har brukt nesten to tiår på å bygge verktøy for brukergenererte spill og nettsamfunn, og som nå lener seg tungt på AI-filtrering og aldersestimering for å håndtere risiko. På den andre siden står en voksende gruppe foreldre, lovgivere, utviklere og interesseorganisasjoner som mener at det grunnleggende spørsmålet forblir ubesvart: Er dette nok, og hvem skal bestemme?

Dette spørsmålet har blitt skjerpet av saker utenfor podcasten. Roblox utestengte nylig YouTuberen Schlep, en skaper som bygde opp et stort publikum ved å iscenesette "rovdyrjakt"-operasjoner i Roblox-områder. Videoene hans, som han hevder har ført til flere arrestasjoner, ble fjernet, og kontoen hans ble stengt i henhold til Roblox' regler mot selvtekt. Støttespillere har samlet seg bak hashtaggen #freeschlep og hevder at hans arbeid fremhevet feil i selskapets egne systemer. For dem hørtes det ut som en feiltolkning av øyeblikket å høre administrerende direktør kalle rovdyrkrisen en "mulighet" dager etter å ha kuttet av en av de mest synlige, om enn kontroversielle, vakthundene.

Det juridiske presset øker også. Law By Mike, en populær YouTuber og praktiserende advokat, har offentlig signalisert planer om å gå til søksmål mot Roblox på grunn av påståtte mangler i barnevernet. Hans engasjement er viktig fordi han befinner seg i to verdener: Han forstår mekanismene bak plattformstyring og snakker til det samme publikummet av foreldre og tenåringer som behandler Roblox som en sosial allmenning. Sammen med de statlige og føderale søksmålene, utvider hans press fronten som Roblox må forsvare sin rekord på.

Inne i Hard Fork-intervjuet prøvde Baszucki å skifte rammen fra krisehåndtering til langsiktig arkitektur. Han beskrev det nye systemet for aldersestimering i ansiktet - en videoselfie som brukes til å vurdere en brukers alder før de får lov til å chatte - som enda et signal i en stabel som også inkluderer atferdsdata og selvrapportert alder.

"Vi gjør allerede en haug med ting: Vi har veldig, veldig gode tekstfiltre, det er ingen bildedeling, og vi gjør en masse overvåking. Men hvis vi legger til enda et signal, kan det virkelig hjelpe oss med å ta gode beslutninger." - David Baszucki.

Han hevdet at plattformen historisk sett har byttet litt vekst mot sikkerhet ved å filtrere tekst kraftig, og påkalte det gamle memet om Roblox-chatten som kollapset til "hashtag, hashtag, hashtag" når forbudte ord ble blokkert. Med kunstig intelligens, sa han, kan filtrene bli mer presise og motstandsdyktige mot fiendtlige taktikker, som for eksempel brukere som prøver å kode kontaktinformasjon gjennom kodede fraser.

Podcasten, som produseres som en del av The New York Times Podcast-portefølje, holdt seg ikke lenge i det tekniske sporet. Roose tok opp en rapport fra 2024 fra Hindenburg Research som beskyldte Roblox for å "gå på akkord med barns sikkerhet for å kunne rapportere vekst til investorer" og pekte på reduserte utgifter til tillit og sikkerhet. Baszucki avviste firmaet med en latter. "Morsomt. La oss fortsette på denne måten", sa han, og bemerket at Hindenburg siden hadde gått konkurs, og hevdet at overgangen til AI-gjennomgangssystemer er det samme som å gå fra håndbygde biler til et samlebånd. Poenget, foreslo han, var ikke å kutte hjørner, men å bruke bedre verktøy.

Vektleggingen av AI plasserer Roblox i en kjent kategori. Sosiale nettverk brukte store deler av 2010-tallet på å love at automatiserte systemer ville rydde opp i misbruk og feilinformasjon i stor skala, bare for å oppdage harde grenser for hva maskinlæring kan bedømme på en pålitelig måte. Roose og Newton minnet Baszucki om denne historien. Han svarte med å insistere på at Roblox' interne målinger viser at filtreringen og oppdagelsen blir bedre etter hvert som nye modeller tas i bruk, og at plattformens "forbløffende" omfang gjør at den typen automatisering ikke bare er effektiv, men også nødvendig.

Selv innenfor spill er Roblox' moderasjonsholdning under press. Interesseorganisasjoner som Women In Games, Out Making Games og BAME in Games publiserte nylig et åpent brev der de kritiserte selskapets utkast til regler for opphavspersoner i forbindelse med "sensitive temaer". "Roblox' nylig foreslåtte retningslinjer for "sensitive temaer" representerer et tilbakeskritt for både kreativ utfoldelse og sosial rettferdighet", heter det i brevet, som advarer om at det å behandle temaer som likestilling, reproduktive rettigheter og raserettferdighet som valgfrie eller risikofylte "sensitive" soner, risikerer å begrave historier som er viktige for unge spillere. - Kvinner i spill, Out Making Games og BAME i spill.

Denne kritikken fokuserer ikke på overgripere eller alderskontroll, men den handler om det samme underliggende problemet: hvem som setter grensene for hva unge brukere kan se og diskutere, og hvem disse avgjørelsene tjener.

Hard Fork-samtalen flyttet til slutt til Polymarket, en kryptovaluta-basert prediksjonsplattform som Baszucki roste som et kraftig informasjonssignal. Da Roose spurte, halvt på spøk, om han noen gang ville sette et prediksjonsmarked inne i selve Roblox, svarte Baszucki bekreftende, og erkjente deretter den juridiske kompleksiteten. På spørsmål om det ville være en "forferdelig idé" å gjøre prediksjonsmarkeder til et spill for barn, svarte han

"Jeg synes faktisk det er en strålende idé hvis det kan gjøres på en pedagogisk måte som er lovlig... bare et spill som heter Dress to Impress Predictor, der det ikke er snakk om å prøve å få tak i penger fra barn eller noe sånt. Jeg ville vært en stor tilhenger av det." - David Baszucki.

For et selskap som allerede er under gransking for hvordan det behandler mindreårige, vil ideen om å bygge en spillbasert prediksjonsmotor i Roblox, selv uten direkte økonomiske innsatser, være vanskelig å skille fra bredere debatter om loot boxes, spillmekanikk og digital tvang.

Newton bemerket flere ganger at samtalen føltes anspent. Baszucki insisterte på at han ikke var frustrert, bare overrasket over at fokuset forble på sikkerhet i stedet for lettere bransjetemaer, og beskrev gjentatte ganger Roblox' posisjon som en "situasjon med stort ansvar", som også er en "utrolig mulighet". Han avviste bildet av en administrerende direktør som tilbringer dagene med å se seg over skulderen, og hevdet at selskapet har vært forebyggende når det gjelder sikkerhet "fra dag 1", og til og med stoppet veksten i de første ukene for å bygge grunnleggende modereringsverktøy.

Denne selvtilliten fortsatte til slutten av ROBLOX CEO-intervjuet, da Roose stilte et personlig spørsmål: om Roblox ville være trygt nok når hans egen lille sønn ba om å få spille det. Baszucki gikk lenger enn et enkelt ja.

"Roblox er en fantastisk plattform akkurat nå for barnet ditt", sa han, og tilbød seg å vise interne beregninger under taushetsplikt om nødvendig, og la til at foreldre fortsatt er "den ultimate dommeren av ansvar". - David Baszucki.

Svaret fanger selskapets holdning i miniatyr. Roblox posisjonerer seg selv som et selskap som allerede ligger i forkant av utviklingen, som allerede er tryggere enn mange andre, og som allerede bruker verktøy som andre etter hvert vil ta i bruk. Det uløste spørsmålet er om denne selvvurderingen stemmer overens med erfaringene til familier som har sett grooming- eller utnyttelsessaker dukke opp fra plattformen, eller til skapere og talsmenn som sier at deres egne advarsler ble feid til side helt til søksmål og overskrifter tvang frem en reaksjon.

Ingenting av dette visker ikke ut det Roblox har bygget opp. Plattformen har en vedlikeholdsrolle i den bredere nettspilløkonomien: Den er både en kreativ verktøykasse og et enormt sosialt knutepunkt der barn lærer hvordan nettsamfunn fungerer, på godt og vondt. Hard Fork-episoden viser hvor skjør denne posisjonen kan være når tilliten vakler. Baszuckis uttalelser introduserte ikke nye fakta om Roblox' sikkerhetssystemer, men de avslørte hvordan selskapets ledelse rangerer sine prioriteringer. Innovasjon, skala og en langsiktig visjon for plattformen står i sentrum, mens en klar erkjennelse av skade ligger nærmere utkanten.

Les også, Roblox overgår 100 millioner aktive brukere daglig, en milepæl som understreker hvor raskt plattformens publikum har vokst, og hvorfor enhver beslutning om sikkerhet, moderering og retningslinjer nå har konsekvenser langt utover et enkelt ROBLOX CEO-intervju.