大型游戏创作平台《罗布乐思》已运用机器学习AI技术开展语音聊天审核工作长达一年之久。鉴于该平台拥有庞大的儿童用户群体，公司始终将审核工作视为重中之重。在近日举行的GDC 2024游戏开发者大会上，《罗布乐思》公司高级技术总监Kiran Bhat和语音安全负责人Hannes Heikinheimo透露，尽管AI审核成效显著，但在某些情况下，人工审核仍具有不可替代的优势。
Bhat在演讲中指出：;实时监控语音并非易事，因为这不仅需要识别语音内容，还需捕捉说话者的语气和强度，从而准确判断某段话是否带有恶意。”他进一步解释道，;上下文信息同样是判断话语是否冒犯的关键因素，这使得问题变得更为复杂。”
为应对这些挑战，公司采用了将违规内容划分为4个主要类别的策略，并发现85%的违规内容均属于这些类别，且;绝大多数”可通过50个关键词进行捕捉。Bhat表示：;若能涵盖这些类别的前50个关键词，审核工作便已相当到位。”
语音安全负责人Heikinheimo则强调了AI监管所取得的令人瞩目的成果：经过一年的运行，该系统已覆盖31个国家和地区，且每段;活跃聊天时间”的违规举报数量减少了一半。他提到，AI的一个显著优势在于其无情感且不会疲惫，因此在处理;非常明显的违规情况”时，机器比人类更为高效和稳定。然而，他也承认，在理解意图和进行判断方面，;人类仍强于机器”。
Heikinheimo解释道：;在处理那些可能接近判定边缘的情况，或在数据稀缺、机器学习系统难以充分训练的罕见情况下，人类审核员的表现仍更为出色。”