世界上最受欢迎的视频游戏之一《使命召唤》的发布公司Activision近期发布消息，称即将采取严厉措施打击仇恨言论和其他“有毒”行为。

近日，游戏公司Activision周三在一篇博客文章中宣布，将与人工智能公司Modulate合作，在其旗舰射击游戏《使命召唤》系列中，引入人工智能语音聊天审查系统，该系统是一款名为ToxMod的实时监控系统，由Modulate研发。

该系统可以用于“实时识别并打击有毒言论，包括仇恨言论、歧视性语言、骚扰”，新系统的初始测试版于周三开始向北美玩家推出，部署在《使命召唤：现代战争2》和《使命召唤：战区》两款早期作品中。两个月后，11月10日系列最新作《使命召唤：现代战争3》全球发布时，ToxMod也会跟随推出，届时该系统将覆盖游戏的全球玩家。

据悉，ToxMod系统可以对玩家之间的语音聊天进行实时监控，识别其中是否存在仇恨言论、辱骂、骚扰等违反游戏社区准则的内容。不过ToxMod不会直接对玩家进行惩罚，而是将检测到的违规语音内容提交给Activision的人工客服进行审核。目前监控将以英语开始，稍后将提供其他语言，并最终覆盖全球玩家。

对于这项举措，Activision表示，数据显示20%的玩家“在收到第一次警告后没有再犯，那些再次犯罪的玩家帐户会受到处罚，其中包括但不限于功能限制（例如语音和文本聊天禁令）和临时帐户限制。”

据了解，ToxMod系统使用语音转录、情感分析等技术，识别有害内容和正常言论之间的细微差异。相比直接依靠关键词过滤，这种方法可以更加准确地判断语音中的恶意程度。同时，最终审核仍由人工客服来执行，可以避免AI直接作出错误判断。

“ToxMod强大的数据分析功能可以评估谈话的语气、音色、情绪和背景，以确定恶意行为的类型和严重程度，以及其机器学习技术可以理解情绪和细微差别线索，帮助区分友好的玩笑和真正的不良行为。同时ToxMod的道德政策规定，它还可能会考虑说话者的种族、性别认同、性取向或其他人口统计数据，以确定某些行为是否可以接受。”Modulate在其网站上表示。

Activision首席技术官迈克尔·万斯在一份声明中表示，“长期以来，解决破坏性语音聊天问题一直是整个游戏领域面临的巨大挑战。通过这次合作，我们现在带来了Modulate最先进的机器学习技术，该技术可以实时扩展以适应全球执法水平。这是为所有玩家创造和维持有趣、公平和热情的体验的关键一步。”

Modulate首席执行官迈克·帕帕斯（Mike Pappas）表示，该公司“非常高兴能与Activision合作，推动信任和安全的前沿发展，这是在支持《使命召唤》这样规模的玩家社区方面向前迈出的一大步，并进一步强化了动视在这方面的持续承诺。”

在推行这一系统后，Activision方面反馈：“这种积极的玩家反馈和行为，符合我们做出这个举动的初衷，并且为下一步对玩家行为的规范提供明确的策略。事实上，《使命召唤》的各个团队都致力于消除游戏中的不良行为。利用新技术、发展重要的合作伙伴关系以及改进我们的方法是这一持续承诺的关键。一如既往，我们期待与更多的组织合作，继续让《使命召唤》对所有人来说都是公平且有趣的。”

对于监控带来的信息安全的潜在危险，Activision则回复到：“对游戏中的语音聊天受到监控和记录仅仅是为了明确的甄别恶意信息的目的，我们的语音聊天审核系统将专注于检测语音聊天与特定关键词中的危害，如果玩家不希望自己的声音受到监管，可以在设置菜单中禁用游戏内语音聊天。”

对此项举措，很多玩家表示支持：“希望游戏中永远不存在破坏性行为或骚扰行为。”