近期，GGWP 邀请信任与安全（T&S）领域资深专家 Joi Podgorny 代表我们参加了在欧洲举办的两场 T&S 大会，旨在评估该行业的现状。以下是她的一些心得体会：

游戏行业引领潮流

由于多人游戏具有社交属性，数十年来，游戏行业一直走在信任与安全领域的最前沿。一些最鼓舞人心、以数据为驱动的实践案例正来自游戏运营，包括亲社会研究、将营收增长与有害行为减少相关联的分析，以及在产品开发早期便融入“安全设计”（safety by design）方法所带来的积极影响。

审核只是其中一环

大多数人提到信任与安全时，往往只会想到审核——无论是由数十（乃至数百）名人工审核员完成，还是借助 AI 模型辅助。但审核虽是信任与安全的重要组成部分，它同时还涵盖政策管理、用户参与、产品/工程层面的安全设计考量、声誉与行为分析，以及举报/申诉处理。而所有这些工作还必须经过分析与整合，以满足合规、透明度报告和内部利益相关方的需求。因此，内容审核只是信任与安全这块“大蛋糕”中的一小块。

人的作用仍不可或缺

在许多安全平台中引入大语言模型（LLM）和机器学习模型带来了巨大的前景。其中一项前景（在某些评论人士看来则是威胁）在于，可以裁撤数十年来与审核相伴而生的高昂人力成本。AI 能够帮助我们减少、甚至彻底免除人工在审核中历来承担的一些残酷、重复的工作——更不用说它在内容规模化处理方面的能力了。

但现实是，仍然需要专业人员来管理这些技术以及更多事务。我们依然需要有人来协助制定和管理社区准则、处理政策执行、质量保障等工作。所幸的是，当前许多安全平台都配备了经验丰富的团队来提供协助，因此品牌方无需将这些团队全部设在公司内部。

审查 vs 安全空间

信任与安全从业者正在应对的另一个热门话题，是近来不仅来自用户、也来自部分政府的“审查”呼声。该行业过去也曾经受住此类立场之争的风暴，但这一次的局势显得更加动荡多变。

正如以往一样，无论 T&S 从业者身处组织内的哪个岗位，他们都将为那些与声量骤增的“意见领袖”正面交锋的策略制定者提供助力，坚定不移地推进政策执行流程，并在必要之处做出妥协。优秀的安全工具在设计之初便能够根据不同品牌的需求进行定制，因此我们已做好准备。道德是信任与安全的基石（或者说本应如此），而保护我们所珍视的社区，将始终是指引我们的那颗北极星。

处罚即将到来

一系列新出台的国际法规，让我们所有信任与安全领域的从业者都在不断刷新资讯，期待了解更多细节。英国和欧盟的许多监管机构一直在努力提供各类材料，以帮助阐释遵守新法律的意图与具体操作，包括报告模板、对后续更详尽说明的承诺，以及供人提出疑问的渠道。

业内许多人感觉，我们仿佛只是在等待制裁和罚款开始，以便进入执法的下一个篇章。近期就有一起针对 OnlyFans 母公司的制裁，其时间恰逢 OSA（《在线安全法》）全面生效之日，尽管该违规行为针对的完全是另一部法律。我们当中有些人还记得 COPPA（《儿童在线隐私保护法》）实施初期的情形：在罚款（以及随之而来的新闻稿）开始之前，品牌方对投入合规工作一直犹豫不决。但愿管理社区的品牌方已经积累了足够的经验教训，明白尽早将安全融入产品才是更明智之举，但我们都清楚，总有一些品牌更需要靠惩罚性措施来推动其采取行动。

供应商越多 = 选择越多

希望竞争对手更少，好让自己的产品成为决策者唯一的选择，这本是人之常情。但现实是，竞争越激烈，就越需要凸显差异化、质量与成效。

您不能只是声称自己拥有 AI 模型。您的模型为何与众不同？您还能为品牌方提供哪些其他功能？您能拿出哪些成效，来让潜在客户确信：面对管理用户生成内容（UGC）这场风险“军备竞赛”，您正是最适合他们这一特定品牌、能帮助其化解风险的最佳选择？

在 GGWP，我们的核心差异化优势在于：我们是一个功能全面、性能一流的安全平台，让客户只需一款工具即可管理其所有沟通内容审核需求，而无需拼凑多套内部和外部工具。这使得品牌方的开发者能够专注于打造其核心产品，而不必分心去构建保障用户安全的工具。

归根结底，我们所有人都在努力让自己所处的这些互联空间变得更安全，也让那些为之吸引而来的用户获得更愉悦的体验。而空间如此之多、用户如此之众，因此，套用《人生切割术》（Severance）所代表的那股文化思潮中的一句话——我们的工作依旧神秘而重要。