保护审核员免受令人不安内容的影响

作者：Kimberly Voll 与 George Ng

引言

在瞬息万变的在线游戏世界中，玩家支持团队始终站在保护玩家免受有害及非法内容侵害的第一线。为了维护社区安全，这些团队往往会接触到最极端的令人不安内容，包括血腥暴力、儿童性虐待材料（CSAM）以及严重的骚扰。理解并应对此类接触所带来的心理影响，对于营造具有支持性的工作环境至关重要，也能确保那些防止他人受此类内容伤害的人，自身不会在此过程中受到伤害。

背景与影响

持续接触令人不安的内容会严重影响心理健康，导致创伤、不安全感以及长期的健康问题。有关这些风险的记录日益增多，凸显出为审核员提供全面支持与保护措施的重要性。

理解并应对这些影响不仅是一项道义之举，也对企业组织有着重大意义。值得注意的是，Scola 诉 Facebook 一案于 2020 年以 8500 万美元达成和解，揭示了审核员因接触令人不安内容而面临的深层心理健康挑战。这一具有里程碑意义的和解案，凸显了支持机制不足所带来的财务与声誉风险。最近，西班牙法院 2024 年的一项裁决进一步强调了企业在补偿和关怀审核员方面的责任，再次印证了在这些问题上审慎考量与采取行动的重要性。

这些案例有力地提醒我们，要保护那些守护在线世界之人的福祉，并审慎评估潜在风险与补救策略。尽管我们理解并非每个组织都能全面落实这些变革，但不断演变的环境促使我们认真思考，如何共同为审核员营造一个具有支持性的环境。

实用建议与示例

1. 通过专业培训为团队做好准备：

实施¹一套涵盖数字安全与心理韧性的全面培训计划，包括针对游戏内容的审核情境模拟。定期更新与复训有助于应对新出现的各类网络行为。

¹ FPA 是一个很好的资源，可与各公司合作打造量身定制的解决方案 – www.fairplayalliance.org

2. 借助智能内容过滤器减少接触：

集成由 AI 驱动的软件，对游戏聊天和用户上传内容进行 CSAM 与暴力内容的预筛查，并利用图像识别自动模糊处理潜在有害内容。这一初步过滤显著减少了人工审核员的直接接触，也为他们预留了缓冲，以便为可能看到的内容做好准备。

3. 强制执行休息与轮岗：

安排强制性轮岗，让审核员在内容审核与其他任务（如社区互动或游戏测试）之间轮换，以减轻职业倦怠。部署自动提醒系统，确保定期休息。需要认识到的是，尽管审核员有时可能认为这些轮岗并无必要，但脱敏是一个循序渐进的过程，这一特性可能会掩盖令人不安内容对其身心健康的真实影响。

4. 提供创伤知情护理与心理支持：

建立内部健康计划，提供随需可用的咨询服务。若不可行，则设法通过福利来承担外部咨询或支持的费用。例如，在遇到令人不安的案例后，团队成员可以通过专用应用程序立即联系专攻职业压力的心理专家。

5. 建立同伴支持体系：

建立同伴支持网络，让员工能够在安全、保密的环境中分享经验与应对策略。这可以通过定期聚会或由受过培训的员工管理的在线论坛来实现。

6. 提供清晰的资源与上报升级途径：

制定清晰、易于获取的严重案例处理规程，并显示在审核员的仪表板上。这可以包括一条直通法务团队的热线，用于即时举报 CSAM，以及一份用于升级处理暴力威胁的分步指南。确保定期对这些操作手册进行培训与审查。

7. 在适当情况下与执法部门协作

与当地网络犯罪部门建立合作关系，就应对网络犯罪提供专门的培训课程。建立一个资源中心，汇集各地区执法机构的联系方式，确保能够快速、准确地举报非法活动。在与执法部门合作时，了解恰当的专业术语十分重要，以确保问题能够得到妥善升级处理。

8. 提供自我关怀资源的获取渠道：

提供冥想与健康类应用程序的订阅，鼓励审核员参与自我关怀活动。每月组织健康工作坊，聚焦压力管理、正念与身体健康。

9. 倾听您的团队，并以定制化支持予以回应：

认识到每位团队成员对接触令人不安内容的反应可能各不相同，这凸显出支持工作需要采取细致入微的方式。识别个体需求并促进开放的沟通，能够形成更有效、更个性化的策略来减轻心理影响。这应当包括

• 个性化沟通：定期开展一对一会谈，讨论所面临的挑战与反馈。
• 自适应工作量管理：根据个体的敏感程度与压力水平调整工作量。
• 情商培训：使管理者具备有效支持团队所需的技能。
• 可定制的支持选项：提供多样化的支持资源，以满足不同需求。
• 反馈驱动的改进：将团队反馈纳入政策与计划的优化之中。
• 鼓励同伴支持：在团队成员之间促成非正式的支持网络。
• 建立融洽关系：投入精力建立信任、了解您的团队，从而让棘手话题更易于探讨。

结论

玩家支持团队的福祉，对于在线游戏社区的蓬勃健康发展至关重要。通过优先采取先进的内容过滤、全面支持、专业培训以及健康举措等保护措施，企业组织能够为其一线员工营造一个坚韧而具有支持性的环境。

本博客文章所表达的观点仅代表作者个人，不一定反映 GGWP 的官方政策或立场。所提供的内容仅供参考。

关于 Kimberly Voll

Kim Voll 是一位资深游戏设计师与开发者，热衷于打造具有包容性的在线游戏体验。她在认知科学与计算机科学（AI）方面的背景为其工作提供了支撑，将技术专长与以玩家为中心的设计理念融为一体。Kimberly 曾任 Riot Games 首席设计师，如今担任 Brace Yourself Games 的首席执行官，同时也是 Fair Play Alliance 的联合创始人，该组织是一个致力于营造更健康游戏社区的全球联盟。

关于 George Ng

George 是 GGWP 的联合创始人兼首席技术官。