在选择供应商时，很难在深入合作之前就预知彼此的合作体验究竟会是怎样。近期，我们有幸与 thatgamecompany, 的后端工程师 Matthew Prince 坐下来交流，回顾了他将我们的审核平台集成到游戏中的经历。Matthew 详细介绍了 TGC 对我们平台所做的全面评估，分享了延迟、准确率、技术支持等关键考量标准。他还深入探讨了集成一款在线运营游戏的实务细节、我们两个团队之间的协作，以及这对维护玩家安全与社区健康所带来的积极影响。

GGWP：首先，能否请您做个自我介绍，并简单谈谈您在 thatgamecompany 的职责？

Matthew Prince：当然可以！我是 Matt，使用 he/him 人称代词，在 TGC 担任后端工程师已经将近一年了。我加入时，公司正打算引入一款更全面的审核工具，以提升我们的安全与支持标准，因此我被指派负责调研 GGWP 是否符合这些要求。在加入 TGC 之前，我曾在非营利组织 Trevor Project 工作，更早之前还在 Google 和 Microsoft 任职过。所以我在大公司和小公司都待过，但这是我第一次涉足游戏行业，非常令人兴奋，同时也伴随着独特的挑战。一切都很顺利、很有意思，你们大家也都非常好合作。

GGWP：能否请您为我们概述一下 TGC 的审核系统？

MP：我们以多种不同方式使用审核工具。我们有一个内部支持看板，审核团队可以在上面进行各类操作，例如在出现问题时向玩家发放道具，或者审阅玩家提交的举报，比如针对可疑聊天消息的举报。

而如果我们收到执法部门的请求，要求调查某些严重情况，例如儿童诱骗（grooming）案件，我们也会在这里进行处理。

所以我们既有后端方面的工作，也有实时翻译和实时审核方面的工作，后者会直接与我们的游戏客户端对接。我们的新系统会进行过滤、标记，并将数据写入数据仓库以供分析。

这只是我们工作的一个方面。我们还有一个平台，用于事后分析游戏中正在发生的情况，以便更好地了解我们整体的社区健康状况。这就是我们在启动本次合作之前，玩家支持与审核方面的大致情况。

GGWP：GGWP 在您整个审核体系中处于怎样的位置？

GGWP 已经相当深入地集成到我们的整个技术栈中。在实时审核方面，我们会将接收到的消息转发给你们进行初步分析，以判断其中使用的语言是否存在潜在风险。根据你们的分析结果，我们决定是否将其过滤，并直接反馈给客户端，对存在风险的消息进行标记。这些信息还会记录到 BigQuery 中，因此你们的语言分析成为了我们判断游戏内使用哪些语言的权威数据来源。

我们最近还与你们合作，启用了你们的自动审核系统。当你们在你们这一侧采取处置措施时，会向我们的支持看板发送一个回调，使我们能够管理哪些玩家已被警告或处置，并将其整合进我们现有的工作流程中。这有助于我们借助 GGWP 看板对玩家群体进行评级，并调查特定的违规事件。从本质上讲，我们已经将你们集成到了整个玩家支持技术栈中。

GGWP：您之前提到，您曾参与评估 GGWP 是否适合成为合作伙伴。这项评估都包含哪些内容？您当时关注的是哪些标准，又是如何评估集成工作所需投入的？

MP：GGWP 的文档清晰明了，API 也简单直接，所以我们团队很快就做好了测试准备。我们进行了多次集成测试，由于这是一项实时服务，我们重点检查了延迟。我们需要确保它不会引入过多延迟，并且在漏报和误报方面能够达到或优于我们当前的审核流程。价格也是一项考量因素，不过这方面我参与得没那么深入。

我们还评估了与 GGWP 实际合作会是怎样的体验。我们创建了一个 Slack 频道以便快速沟通，获取了用于测试的 API 密钥，并评估了生产环境中可预期的支持水平，包括故障发生时的响应时间和预期的停机时间。错误率是另一个考量因素，随着我们向你们发送的流量不断增加，我们密切监控着这些方面。

GGWP：而且你们运营的是一款在线游戏，因此从一家供应商切换到另一家一定会遇到挑战。你们是如何应对的？

MP：幸运的是，我们此前已经在后端搭建了一项服务，用于汇总我们所有的聊天消息，因此在更新审核做法时无需对客户端做任何改动。这让我们能够按照自己的节奏进行切换，只需把原先的供应商替换为 GGWP 即可。我们确实需要调整一些数据格式，以尽量减少对系统其余部分的影响，但从我们基于规则的系统迁移到你们的系统，整个过程所需的投入非常小。

GGWP：为确保玩家不受此次变更的影响，你们还有哪些其他方面的考量？

MP：在评估阶段，我们没有让任何会直接触达用户的实时流量经过 GGWP。我们搭建了一个测试应用，从生产环境中复制（fork）一份流量并发送给 GGWP，再将结果存储到我们的数据仓库中。这些结果包括延迟、标记以及检测到的语言。我们将这些结果与现有供应商的输出进行对比，重点关注两者之间的差异，并人工检查关键消息以判断准确率。

这是最重要的一环——查看两者的差异，并与玩家支持团队一起进行人工检查；辨别哪些看起来无害、哪些本不该被标记，或者“嘿，这条看起来风险相当高”。这就是我们在评估阶段所做工作的核心：获取数以万计、乃至数十万条这样的消息，然后逐步筛选出那些我们需要人工检查的关键消息。

GGWP：在这个过程中，与内部各团队协作的体验如何？要让安全团队之外的同事认同安全的重要性，是否很困难？

MP：是的，我的意思是，我确实带有一点个人倾向，因为我来自一条危机热线——在那里，人们所使用的措辞非常重要，必须确保一切都是安全的。尤其是在 Trevor 这样的机构工作过，会意识到对某些群体而言，审核有时可能演变为歧视，在涉及 LGBTQ+ 相关词汇时尤为如此。如果有人用某个词来进行自我认同，却因此被标记，这就是我们需要格外关注的地方。我在数据集中特别留意寻找这类例子，以此看看我们的表现究竟如何。

我想说，TGC 乃至我本人，都不把自己视为一家传统的游戏工作室。我们所有的游戏都非常注重情感优先，致力于营造社区归属感。让我们一举成名的《Journey》正是围绕这种人与人之间的连结而打造的，作为其精神续作的《Sky》同样如此。在整个 TGC，我们全神贯注的不仅是为玩家带来有趣、美好的体验，更要确保他们感到安全、受到保护，不会接触到任何有害内容。而这在很大程度上都归结于聊天。

对于我们的玩家安全与支持团队，我怎么称赞都不为过。无论在哪家公司，正是这样的团队构成了支柱，始终不厌其烦地强调这些事情。在 TGC，各个层级的人之所以加入这里，都是因为这些游戏曾打动过他们。那种同心协力、团结一致的精神贯穿于我们所做的一切之中。

是的，我只是 TGC 的一名后端工程师，但我始终努力保持对这一点的关注。我自己也玩过《Sky》。我希望确保我们不会造成任何伤害，在此基础上，我们还希望带来极为出色的体验。在这里，我还没有遇到过任何一个在玩家安全问题上不抱有同样关切与用心的人。审核在其中扮演着至关重要的角色——确保我们过滤掉不当行为，同时确保那些温暖人心的体验不会因此受到妨碍。

GGWP：鉴于管理层整体上对安全等方面的关注和投入，您在这些互动中扮演着怎样的角色？工程师对社区相关的决策是否拥有发言权或影响力？

MP：最初的许多调研工作都是在我们共享的 Slack 频道里进行的。我们的 CIO 觉得 GGWP 很有意思，于是我便深入研究了一番。随着工作的推进，我们让专门的玩家支持团队参与进来，以听取他们的看法。我们是一家远程办公的公司，因此必须以不同的方式凝聚在一起。这并不只是几位老板坐在会议室里拍板，而是要把合适的人聚到一起。在 TGC，关键在于由具备相关领域知识的人来做决策。这是一个高度协作的过程。如果我当初说 GGWP 行不通，我们或许就会去寻找另一家供应商了。我们会根据需要引入相关领域的专家，这在很大程度上是一种自下而上的方式。每个人都被赋予了做决策和沟通的权力。

GGWP：那么您自己的角色与职责又是怎样的？在安全相关工作与其他事务之间，时间是如何分配的？

Matthew Prince：自从实时翻译工作首次上线以来，我就逐渐退居二线了。我们当前的玩家支持开发工作主要聚焦于自动审核这一核心功能。近来，我专门与 GGWP 相关的工作量有所减少，不过玩家支持团队仍在勤勉地不断完善这套系统。但我现在所做的一切，依然都是为了给玩家提供更好的体验。我们会追踪可疑行为，确保每位玩家都处在公平的竞争环境中，而这也与玩家安全和支持息息相关。

GGWP：日常的维护工作是怎样的？在与我们的合作以及整个安全技术栈方面，您需要持续开展哪些工作？

Matthew Prince：我们设置了告警，用于追踪审核延迟、丢弃的请求等各项指标，以确保一切运转顺畅。我们正处于新功能开发阶段，正在推出并监控自动审核工具。在实时玩家支持方面，就代码层面而言，我们基本上无需过多干预。我们的审核员会持续调优模型，以改善使用体验。与你们合作的一大好处在于，从技术实现的角度来看，我们这一侧无需做任何改动。我们的审核员能够自行完成模型调优，而无需我们充当技术桥梁。

GGWP：Matthew，感谢您抽出时间，与我们分享将一款在线游戏与 GGWP 集成的经历。

关于 Matthew Prince

Matthew Prince 是 thatgamecompany 的高级后端工程师，此前曾就职于 Microsoft、Google，以及最近的 The Trevor Project。在整个职业生涯中，他始终专注于将玩家和用户放在首位——确保我们在打造丰富而充实的体验之前，首先不造成任何伤害。