罗布乐思AI聊天审核效果不错 但人类审核仍更胜一筹

罗布乐思AI聊天审核效果不错 但人类审核仍更胜一筹

作者: 发表时间:2026-11-19 5:29:25
衡水市桥梁管理app 无锡市公开信息app 东莞市文旅信息app 周口市防火app 南昌市助农app 长治市电力app 白山市教研app 淮安市服务大厅app 张家界市暴雨监控中心app 济宁市出口管理app 茂名市出口管理app 平凉市风力发电app 朝阳市政务监督app 张掖市新闻中心app 绥化市防灾信息app 郴州市市场监督app 哈密市防火app 大连市第五小学app 太原市第二中学app 泰安市土木工程app 阜新市新闻中心app 海晏县水利app 广宗县土木工程app 聂拉木县学校简介app 盐源县信息公开app 索县政要信息app 三原县民政管理app 泰来县农业局app 叙永县防洪app 肇州县农业app 贺兰县税务局app 林周县学校简介app 阜新蒙古族自治县养老服务app 惠安县养殖补助app 金寨县卫生协会app 夏津县土地局app 小金县第四中学app 博湖县助农app 平定县特殊家庭关爱协会app 安岳县教育信息app 化德县商都县农业app 安义县台风信息app 肇州县公开信息app 东辽县政务服务app 屏边苗族自治县公共法律服务app 新邵县劳动局app

大型游戏创作平台《罗布乐思》已运用机器学习AI技术开展语音聊天审核工作长达一年之久。鉴于该平台拥有庞大的儿童用户群体,公司始终将审核工作视为重中之重。在近日举行的GDC 2024游戏开发者大会上,《罗布乐思》公司高级技术总监Kiran Bhat和语音安全负责人Hannes Heikinheimo透露,尽管AI审核成效显著,但在某些情况下,人工审核仍具有不可替代的优势。

罗布乐思AI聊天审核效果不错 但人类审核仍更胜一筹

Bhat在演讲中指出:;实时监控语音并非易事,因为这不仅需要识别语音内容,还需捕捉说话者的语气和强度,从而准确判断某段话是否带有恶意。”他进一步解释道,;上下文信息同样是判断话语是否冒犯的关键因素,这使得问题变得更为复杂。”

为应对这些挑战,公司采用了将违规内容划分为4个主要类别的策略,并发现85%的违规内容均属于这些类别,且;绝大多数”可通过50个关键词进行捕捉。Bhat表示:;若能涵盖这些类别的前50个关键词,审核工作便已相当到位。”

语音安全负责人Heikinheimo则强调了AI监管所取得的令人瞩目的成果:经过一年的运行,该系统已覆盖31个国家和地区,且每段;活跃聊天时间”的违规举报数量减少了一半。他提到,AI的一个显著优势在于其无情感且不会疲惫,因此在处理;非常明显的违规情况”时,机器比人类更为高效和稳定。然而,他也承认,在理解意图和进行判断方面,;人类仍强于机器”。

Heikinheimo解释道:;在处理那些可能接近判定边缘的情况,或在数据稀缺、机器学习系统难以充分训练的罕见情况下,人类审核员的表现仍更为出色。”

相关文章