全球在线游戏平台Roblox推出AI实时聊天违规改写功能

2026年3月9日，全球头部UGC在线游戏创作平台Roblox正式上线AI驱动的全新聊天净化功能。区别于传统内容治理中直接屏蔽违规内容的处理方式，该功能可实时将违规表述改写为合规语言，同时尽力保留用户原本表达意图，升级后的文本过滤系统对变体违规内容的识别误判比例已降低约20倍，为平台内容合规治理提供了创新思路。

不少经常参与多人在线游戏的用户都有过类似体验：队友发来的消息被一串#号完全覆盖，既猜不到原本想说什么，也直接打断了整局游戏的沟通节奏。Roblox此次推出的新功能，正是为了解决这个长期困扰行业的内容治理痛点。

在Roblox此前的规则中，用户聊天内容触发违规关键词后，系统会直接用占位符屏蔽整条违规内容，这也是行业内非常普遍的做法。但这种“一刀切”的处理方式，往往会打断对话连贯性，甚至引发不必要的用户误解：很多轻度违规的情绪化表达，核心信息本身并不违规，只是表述粗鲁，完全屏蔽后直接变成了信息空白。

Roblox给出的新方案，是让AI做“润色”而非“消音”：例如原本会被完全屏蔽的脏话“Hurry TF up!”，AI会将其改写为中性的“Hurry up!”，既消除了违规表述，也完整保留了用户“催促进度”的核心意图。为了避免信息不对称，当消息被AI改写后，聊天窗口会向所有参与者发出明确提示，保障交流的透明度。

除了新增AI实时改写功能，Roblox此次还对底层文本过滤系统做了全方位升级。在内容治理场景中，违规用户常常会借助leetspeak（黑客语）替换字符、谐音改写等方式绕过检测，传统过滤系统要么无法识别违规内容，要么容易误判正常发言。