健全なコミュニティを育む戦略と基盤づくりに取り組むプラットフォームリーダーのためのガイド。
今、Trust & Safetyで最も苦戦しているのは、モデレーションツールが不足しているプラットフォームではありません。モデレーションを設計の一部ではなく、問題が起きてから対応するための仕組みとして構築してきたプラットフォームです。エスカレーションも、危機も、規制当局からの問い合わせも、根本をたどれば同じ原因に行き着きます。コミュニティの健全性を、問題が起きる前に設計に組み込むものではなく、問題が起きてから対策を講じるものとして扱ってきたのです。
このシリーズでは、そのあり方を変えていきます。
Community Health Playbookで扱う内容
- コミュニティの健全性が、モデレーションではなく設計とインフラの課題である理由
- 禁止行為の列挙にとどまらず、プラットフォームの価値観を反映したポリシーを策定する方法
- アカウントの利用停止にとどまらない、成熟した制裁の枠組みとは
- 最も重要な場面で人間の判断を維持しながら、自動化を段階的に進める方法
- コミュニティの健全性を真に示す指標と、誤った安心感を生む指標
- より包括的なガバナンス体制にコンプライアンス要件を組み込む方法
- 成熟度の異なるプラットフォームで、それぞれが目指すべき状態とは
Your Trust Stack Podcast
信頼、安全性、モデレーションのプログラムを設計・運営する人々との対談。
礼節こそが安全を守る機能
Nathan Sawatzky, Supercell · 27:26
文化を築くのはコミュニティではなくブランドの役割
Annabel Ashalley-Anthony, Melanin Gamers · 25:22
年齢確認がついに大規模展開へ
Luc Delany, k-ID · 44:50
Moderationのその先へ:保護者との信頼関係を築く
Laura Higgins, Roblox · 33:22
コミュニティの健全性は設計の問題
モデレーションは一つのシグナルです。対応が追いつかなくなったとき、それは背後にある構造の問題を示しています。
プラットフォームで信頼と安全を損なう問題が発生する、ハラスメントが深刻化する、ポリシーを実効性のある形で適用できないと判明する、あるいはモデレーションの未処理案件が積み重なり、目に見える被害が生じる。そんなとき、まずモデレーションの仕組みを改善しようとしがちです。レビュアーを増やし、分類器を調整し、ポリシーを厳格化する。しかし、それでは介入すべき対象を見誤っています。
モデレーションの対応が追いつかないのは、行動規範が明確に確立されていなかった、ポリシーが実際に適用できるルールに落とし込まれていなかった、あるいは報酬の仕組みが望ましくない行動を促しているというサインです。設計上の問題は、モデレーションだけでは解決できません。
コミュニティが健全であるとは、プラットフォーム上の行動環境が、利用者の目標達成を支えている状態を指します。その状態を生み出すのは、意図を持った設計上の選択です。規範をどう伝えるか、違反にどう対応するか、参加の仕組みをどう構築するか、アイデンティティと説明責任をどう扱うか。これらはいずれも、モデレーションチームだけが担うものではありません。プロダクト、ポリシー、経営の各担当者、そしてそもそもプラットフォームを構築した人たちが担うべきものです。
本当に問うべきなのは、「問題行動にどう対処するか」ではなく、「何を実現するために設計しているのか」です。ほとんどのプラットフォームは、前者には答えられます。しかし、後者に答えを出しているプラットフォームは、ごくわずかです。
これは抽象的な捉え方の話ではありません。日々の運用に直接影響します。コミュニティの健全性を基盤として捉えるプラットフォームでは、オンボーディング、機能設計、ポリシーの表現、異議申し立てのプロセス、自動化のしきい値について、異なる判断を下します。一方、インシデント対応として捉えるプラットフォームでは、たいてい何かが起きた後に、プレッシャーの中で同じ判断を後付けで見直すことになります。
Community Health Playbookは、事後対応型のモデレーションから、エコシステム全体の健全性を先回りして支えるアプローチへの転換は実現可能だという考えに基づいています。ただし、その実現には、多くのプラットフォームが現在備えているものとは異なる問い、フレームワーク、そして組織としてのコミットメントが必要です。
3つのトラックで、課題の3つの層に対応
戦略がポリシーの指針となり、ポリシーが自動化の指針となります。各トラックには論理的な順序がありますが、前のトラックの完了が必須条件というわけではありません。
戦略とリーダーシップ
概念的な土台を築きます。プラットフォームの目標としてコミュニティの健全性が実際に何を意味するのか、コミュニティの仕組みはどこで機能不全に陥りやすいのか、そしてコンプライアンス要件を、真の健全性戦略の代わりではなく、その一部としてどう位置づけるべきかを扱います。その後のあらゆる意思決定の枠組みを左右するため、経営層の多くが最初に取り組むべき領域です。
- すべてのプラットフォームが同時にバランスを取るべき5つの視点:コンプライアンス、ブランド、UX、スケーラビリティ、正当性
- コンプライアンスがゴールではなく、最低限の基準である理由
- コミュニティの仕組みが構造的に機能不全に陥る箇所と、その原因やパターンの診断方法
- 真の健全性戦略の中に規制要件を位置づける方法
ポリシーと運用
実務者向けの領域です。実際に適用でき、組織の価値観に沿ったポリシーの策定方法、成熟した制裁の枠組みのあり方、そして禁止と罰則ばかりに偏りがちな仕組みの中に、望ましい行動を促すポジティブな強化をどう組み込むかを扱います。T&S責任者、コミュニティマネージャー、ポリシーチームが、すぐに実務に活かせる内容を最も多く得られるトラックです。
- コミュニティの健全性に対する責任を部門横断で担う体制
- 実際に適用でき、組織の価値観に沿い、ユーザーにもわかりやすいポリシーの書き方
- アカウント停止だけにとどまらない、段階的な制裁の枠組み
- 単なる成長施策ではなく、健全性を育む設計の仕組みとしてのポジティブな強化
自動化と測定
大規模なコミュニティの健全性を支える、技術と分析の基盤を扱います。自動化を進める順序、AI支援によるモデレーションの成熟度モデル、そして実際に何を測定すべきかを取り上げます。キューの処理量や異議申し立て率を捉える指標からわかるのは、運用の効率性です。それだけでは、コミュニティが健全かどうかはわかりません。
- 自動化の段階的な成熟:シャドーモードから大規模展開までの4つのフェーズ
- モデルの性能にかかわらず、人手による対応を維持すべきモデレーションのカテゴリ
- コミュニティの健全性を実際に示す指標と、誤った安心感を生む指標の違い
- 先行指標ダッシュボードの構築方法
プレイブックを読む
各レッスンの全文をこちらで公開しています。シリーズの進行に合わせて、新しいレッスンを追加していきます。

CHP: The Five Lenses Every Platform Must Balance
Community Health Playbook: Track 1, Lesson 1 A trust and safety framework for platform leaders, product managers, and T&S leads Every major T&S decision your platform has made in the last 12 months was a negotiation between competing pressures, whether or not
レッスンを読む →
CHP: Compliance is a Floor, Not a Ceiling
Community Health Playbook: Track 1, Lesson 2 A guide for platform leaders and T&S teams on COPPA 2.0 compliance, DSA requirements, and the community health strategy that begins where regulation ends What This Lesson Covers What the DSA, COPPA 2.0, and their pe
レッスンを読む →
CHP: Where Community Systems Break Down
Community Health Playbook: Track 1, Lesson 3 A guide for platform leaders and T&S teams on the community health failure modes that produce trust and safety crises, and the maturity model for diagnosing where your system is now The most expensive trust and safe
レッスンを読む →運用に責任を持つ方々に向けて
既存のポリシーがあり、モデレーション体制が稼働し、プロダクトにユーザーがいるなど、一定の運用基盤があることを前提としています。
Trust & Safetyの責任者
ポリシーとその執行基盤を構築、または再構築している方。
プロダクトマネージャーとプラットフォーム運営者
機能の設計や、ユーザーの行動を形づくる仕組みについて意思決定を行う方。
経営幹部と取締役
コンプライアンス上のリスクへの対応にとどまらず、コミュニティの健全性への投資を議論するための共通言語を必要としている方。
ゲームプラットフォームの運営者にとって、このシリーズで取り上げる課題は身近なものでしょう。子どもによるコンテンツ制作、ユーザー間の経済活動、音声や画像のモデレーションの難しさ、大規模イベントに伴う時期特有のリスクなどです。ただし、このフレームワークはゲームに限らず、コミュニティの行動を単なる管理対象のリスクではなく、プロダクトが生み出す成果と捉えるあらゆるプラットフォームに適用できます。