Roblox bruger allerede AI til at moderere stemmechats, men den endelige beslutning træffes stadig af mennesker
Alle, der nogensinde har spillet konkurrenceprægede onlinespil, ved, hvor giftigt et sted voice chat kan være i spil. I modsætning til tekstchat, hvor det tager tid at skrive noget, sker stemmechat med det samme, hvilket gør det meget vanskeligt at moderere. For at løse dette problem implementerer Roblox aktivt kunstig intelligens (AI), men erkender, at menneskelig kontrol fortsat er nødvendig for at sikre et sikkert miljø for spillerne.
Her er, hvad vi ved
Under Game Developers Conference (GDC ) 2025 talte Kiran Bhat, Senior CTO hos Roblox, og Hannes Heikinheimo, Head of Voice Chat Security, om året med at bruge AI til moderation. Bhat bemærkede, at den største vanskelighed ikke kun ligger i at opdage stødende ord, men også i at forstå tonen, intensiteten og konteksten, der afgør, om udsagnene virkelig er stødende.
På trods af disse udfordringer har kunstig intelligens vist sig at være meget effektiv. Bhat forklarede, at 85 % af den giftige adfærd kan koges ned til blot fire hovedkategorier, og de fleste overtrædelser er forbundet med omkring 50 nøgleord. Maskinlæring gør et fremragende stykke arbejde med at identificere disse mønstre, hvilket reducerer antallet af klager over misbrug i stemmechat betydeligt.
AI har dog sine begrænsninger. Heikinigheimo understregede, at selv om algoritmer giver stabilitet og upartiskhed, kan de ikke altid fortolke sjældne eller kontekstuelt komplekse sager korrekt, hvor menneskelig dømmekraft fortsat er uundværlig.
Kilde: Videogamer
