功能聚焦：情境化聊天审核

当我们谈论聊天审核时，我们究竟在谈论什么？

请想象这样的场景：那是 1997 年，您刚刚登录 Ultima Online——最早的大型多人在线角色扮演游戏（MMORPG）之一。转眼间，您便置身于一个广袤无垠的虚拟世界，其间遍布骑士、法师与巨龙，而最令人兴奋的是——那些与您一样、来自世界各个角落的其他玩家。

这是支持聊天功能的多人游戏方兴未艾的时代，其意义堪称革命性。我们第一次能够与好友组队、与陌生人交换故事（以及装备），并真正栖身于这些虚拟世界之中。那种感觉令人心潮澎湃。游戏不再是一项孤独的消遣，而成为一种社交化的共享体验。

然而，这片未知的疆域也带来了意想不到的挑战。您觉得，有人在聊天里打出「penis」这类字眼需要多长时间？如果您猜是不到两分钟，那就猜对了：仅仅用了 1 分 23 秒。而从那一刻起，聊天环境便一路沦为恶意挑衅、诈骗与出言不逊的温床。

当支持聊天功能的多人游戏在 20 世纪 90 年代末迅速兴起时，它带来了更多乐趣、更多连接的美好愿景，也让原本素昧平生、也许再无交集的陌生人之间缔结出真挚的友谊。尽管这些美好确实发生了，但它同样带来了恶意挑衅、恶意行为、诈骗，以及我们对匿名网络所熟知的其他种种有害行为，再加上一些游戏特有的诱因——比如在竞技对局中落败——足以让玩家怒火中烧。

游戏厂商引入了各种技术来应对这类有害行为，包括玩家举报、消息过滤、基于关键词的消息审核，以及后来的短语级有害内容检测。这些手段虽有帮助，却容易被规避、部署缓慢，这意味着那一小撮有害玩家（在大多数社区中占比 <5%）得以破坏绝大多数只想好好享受游戏的玩家的体验。由于缺乏人工审核聊天记录时所具备的情境，这些系统根本无法发现大部分问题，而它们至今仍是主流的处理方式。

过滤机制与人工聊天审核固然有所助益，但聊天中的有害行为问题——尤其是对大型游戏而言——其规模确实远超人力所能应对。在我们的客户中，一款游戏里有害聊天的占比在 1% 到 10% 之间不等，具体取决于游戏类型、玩法特点，以及该游戏所培育出的社区氛围。

基本的「过滤加人工审核」方式根本无法解决如此规模的问题。在 GGWP，我们相信，发现有害行为的最佳方式与人工审核员的做法如出一辙——即着眼于对话的情境。

GGWP 从五个层面应对聊天难题：我们会审视每一条消息、该消息所处的对话、围绕它的游戏情境、发送该消息的玩家的信誉，以及相关玩家之间的关系。如此一来，既能在有害行为苗头初现的当下即时将相关玩家禁言，也能让系统和审核员更轻松地准确、高效地对恰当的玩家施以处罚。

1. 消息层面

在最基本的层面上，GGWP 的系统会扫描聊天中发送的每一条消息。我们的 AI 运用了一系列技术，包括自然语言处理、针对不同年龄的词库、情感分析以及复杂的 Transformer 模型，以理解并识别单条消息中任何潜在的有害内容，并评估其严重程度。

这不仅包括直接的辱骂或露骨言辞，还涵盖了暗语、俚语，乃至隐晦的威胁或骚扰。我们力求捕捉传统工具可能遗漏的玩家特有用语和微妙的侮辱，因为我们深知，有害行为的表现形式多种多样，远不止露骨言辞一种。

2. 对话层面

审视单条消息只是起点。要充分理解一条消息的含义与语气，理解它被发送时所处的情境至关重要。GGWP 的系统会将一条潜在有害消息周围的整段对话纳入考量。

对话层面的情境涵盖多种因素：每位玩家迄今所说的内容、每位玩家乃至整段对话的情绪基调，以及对话中任何标志着转向有害氛围的转折点——这些转折点需要通过对一名或数名玩家禁言或警告来加以缓和。

通过评估此前与随后的消息，AI 能够更好地识别讽刺、影射，或可能升级为有害行为的激烈争执，并及时采取行动。

3. 游戏事件层面

当我们判定某句关于游戏玩法的模糊评论的含义、或检测某一事件的严重程度时，游戏内正在发生的情况至少与聊天消息本身同样有用。

举例来说，玩家在一场艰难的失利之后更容易情绪失控，并且尤其可能将矛头指向导致失利的那名玩家。组队一同排队的玩家，在与陌生人同场竞技时更有可能实施欺凌。而一名濒临掉段的玩家，在对局不顺时可能会更加焦躁，也更容易被激怒。

GGWP 的 AI 系统在审核聊天时会将这类游戏内情境纳入考量。通过将聊天消息与游戏内事件关联起来，系统能够做出更加明智的决策。能够在游戏进行过程中——而非事后审核聊天记录时——完成这一判断，意味着可以在一名情绪崩溃的玩家彻底失控之前就采取行动，从而避免竞技精神演变为充满敌意的氛围。

4. 玩家层面

我们将玩家层面视为整个系统的核心——归根结底，做出行动、参与聊天、并可能受到处罚或奖励的是玩家，而非消息本身。因此，考量发送消息的玩家的历史记录与信誉至关重要，在意图并非一望即知的模糊消息中尤为如此。

为此，GGWP 的系统会将玩家完整的长期聊天与行为历史纳入考量，并生成全面的信誉评分。有有害行为历史的玩家可能会被更快地标记，而一贯表现良好的玩家在处于临界的情形时则可能获得从宽认定的机会。这使得审核流程更加细致而公正，既能追究屡屡违规者的责任，又能确保偶尔的失误不会过度惩罚优秀的社区成员。

5. 关系层面

最后，理解玩家之间的关系能够显著提升聊天中有害行为检测的准确性。关系可以彻底改变一段对话的整体情境，也会改变某些内容究竟算是有害还是善意的调侃——例如，我们的「批评游戏表现」检测，在面对好友与面对陌生人时，感受会截然不同。

我们的系统懂得好友之间常常会开一些善意的玩笑，从而避免对那些只是与朋友说笑的玩家施加不必要的处罚。反之，系统也认识到，陌生人使用同样的言辞可能具有高度的有害性，尤其是当这种言辞不受欢迎且持续不断时；如果其影响范围较广（例如被群组中的众多玩家看到，并拉低了整个群组对话的质量），则危害更甚。

通过判定玩家之间的关系——无论他们是好友、熟人、陌生人还是敌对方——系统便获得了额外一层情境，从而能够准确甄别有害行为，并评估其严重程度及其对社区的影响。

优势

AI 驱动、情境感知的审核带来了诸多优势。在每一行聊天之外补充额外的情境，能够更准确地识别有害行为，从而为所有玩家营造更愉悦的环境。它能够适应不断演变的语言和行为模式，因此当新的梗和表达进入游戏用语时，系统也会随之调整。

它还能让人工审核员得以专注于最严重的案例，从而放大您团队的效能、提升其工作效率。凭借对新出现的有害模式更快的响应速度，系统能够防止事态升级，改善整体的社区健康度。

归根结底，我们的目标是重拾多人游戏最初的美好愿景：乐趣、连接与一个热情友好的社区。GGWP 的 AI 审核系统凭借对情境的专注，成为对抗有害行为之战中的一件利器，确保每一位玩家都能如游戏设计初衷那般尽享游戏乐趣。

点击此处，即可详细了解 GGWP 的聊天解决方案。