罗布乐思AI聊天审核效果不错 但没法替代真人
大型游戏创作平台《罗布乐思》已经使用机器学习 AI 进行语音聊天审核长达一年,由于该游戏有着大量的儿童用户,公司非常重视审核。在近日举办的 GDC 2024 年游戏开发者大会期间,罗布乐思公司高级技术总监 Kiran Bhat 和语音安全负责人 Hannes Heikinheimo 透露虽然 AI 审核取得了良好的效果,但有时候真正的人类还是能把这项工作做的更好。Bhat 在演讲中说道:“实时监控语音听起来很难,因为要监控语音,你不仅要知道对方在说什么,还要捕捉对方说话的语气和强度,以判断某段话是否真的具有恶意。”“上下文也是判断某段话是否具有冒犯性的一部分。所以这是一个非常困难的问题。”他继续解释道,公司通过将违规内容涵盖到 4 个主要类别当中来应对这些问题,并表示 85% 的违规内容都属于这些分