INTERNETTSENSUR Spill-plattformen Roblox har innført KI-basert automoderasjon av chatmeldinger på plattformen, som skal skrive dem om til et mer respektfullt språk.
Roblox skriver i en pressemelding at de har rullet ut en ny KI-drevet funksjon for omskriving av chat i sanntid. Funksjonen erstatter ufint språk med en høflig omformulering for å holde samtaler på et dannet nivå. De som deltar i en chat skal få et varsel når en melding er blitt omskrevet av filteret.
Plattformen har også forbedret sin algoritme for å oppdage meldinger som bryter deres vilkår, ved å blant annet ta høyde for kodespråk der bokstaver er erstattet med tall.
X-brukeren The Vigilant Fox er bekymret for at slik funksjonalitet etter hvert vil implementeres på alle kommunikasjonsplattformer på nett, og målrette seg mot uønskede narrativer, i tråd med USAs nye cyberstrategi overfor «destruktiv propaganda».
Ifølge brukere er chatfunksjonen nå ubrukelig, da man opplever masseutestengelser uten noen forklaring eller åpenbar årsak.
Nylig innførte plattformen også ansiktsverifisering for å avgjøre brukernes alder, som respons på en rekke søksmål med bakgrunn i rapporter om at Roblox utsatte barn for risiko for grooming og farlig innhold. Ansiktsverifiseringstjenesten som Roblox bruker er Peter Thiel-finansierte Persona, som nylig fikk kritikk for dets koblinger til det amerikanske regimet. Peter Thiel er tidligere kjent fra det private overvåkningsselskapet Palantir, som samler data om sivilbefolkningen i USA og andre land okkupert av Washington. Norske myndigheter fikk nylig kraftig kritikk for sin bruk av bedriftens tjenester.
