罗布乐思AI聊天审核效果不错 但人类审核仍更胜一筹

罗布乐思AI聊天审核效果不错 但人类审核仍更胜一筹

作者: 发表时间:2026-11-20 4:49:34
易县建设局信息app 东海县妇联救助app 辽阳县税收公开app 广灵县通讯协会app 大宁县工商信息app 安泽县人社管理app 寿阳县同城app 大箐山县住房保障app 泰来县通讯协会app 平阳县事业单位app 巴彦县第五高中app 浮山县政务监督app 赞皇县论坛app 大城县司法管理app 康保县重大建设公开app 饶阳县政府公报app 通化县第四小学app 永吉县旅游协会app 壶关县第四小学app 广平县惠农app 彰武县建设局信息app 赵县街道办app 河曲县农业局app 容城县旅游监督app 涞源县台风信息app 永和县公共法律服务app 海盐县中心校app 沛县服务大厅app 蠡县民政管理app 克东县消防宣传app

大型游戏创作平台《罗布乐思》已运用机器学习AI技术开展语音聊天审核工作长达一年之久。鉴于该平台拥有庞大的儿童用户群体,公司始终将审核工作视为重中之重。在近日举行的GDC 2024游戏开发者大会上,《罗布乐思》公司高级技术总监Kiran Bhat和语音安全负责人Hannes Heikinheimo透露,尽管AI审核成效显著,但在某些情况下,人工审核仍具有不可替代的优势。

罗布乐思AI聊天审核效果不错 但人类审核仍更胜一筹

Bhat在演讲中指出:;实时监控语音并非易事,因为这不仅需要识别语音内容,还需捕捉说话者的语气和强度,从而准确判断某段话是否带有恶意。”他进一步解释道,;上下文信息同样是判断话语是否冒犯的关键因素,这使得问题变得更为复杂。”

为应对这些挑战,公司采用了将违规内容划分为4个主要类别的策略,并发现85%的违规内容均属于这些类别,且;绝大多数”可通过50个关键词进行捕捉。Bhat表示:;若能涵盖这些类别的前50个关键词,审核工作便已相当到位。”

语音安全负责人Heikinheimo则强调了AI监管所取得的令人瞩目的成果:经过一年的运行,该系统已覆盖31个国家和地区,且每段;活跃聊天时间”的违规举报数量减少了一半。他提到,AI的一个显著优势在于其无情感且不会疲惫,因此在处理;非常明显的违规情况”时,机器比人类更为高效和稳定。然而,他也承认,在理解意图和进行判断方面,;人类仍强于机器”。

Heikinheimo解释道:;在处理那些可能接近判定边缘的情况,或在数据稀缺、机器学习系统难以充分训练的罕见情况下,人类审核员的表现仍更为出色。”

相关文章