すべての投稿を。すべてのDMを。すべてのメンバーを守る。
ソーシャルプラットフォームの成否を分けるのは、新規メンバーが最初の１週間でどう感じるかです。GGWPは、投稿、コメント、DM、画像、音声ルーム、ユーザー名をリアルタイムでスコアリング。嫌がらせ、詐欺、組織的な集中攻撃を検知しながら、コミュニティに参加する魅力を生む軽口やスラング、議論はそのまま残します。
new_member_142
参加して３分で、もう４件のDMリクエストが届いた
thread_reply_88
⚠ フラグ検出：返信内での標的型ハラスメント
trust_layer
この１時間で18,400件の投稿をスコアリング、担当者の対応待ちは０件
AIモデレーションの精度
月間インタラクション数
対応言語
通報の自動解決率
あらゆるバーチャル空間を、ひとつのTrust & Safetyレイヤーで
共通の検知・コンテキスト分析・対応基盤が、ソーシャルネットワーク、専門コミュニティ、出会い系アプリそれぞれの運営実態に合わせて柔軟に対応します。
大規模ソーシャルネットワーク
- バイラル拡散や速報によるトラフィック急増時も、安定したカバレッジを維持
- コミュニティガイドラインに合わせて設定できる、統一された分類体系
- 文脈に応じた対応で、コミュニティに貢献するメンバーを保護
- 規制当局や報道機関の精査に備えた監査証跡
専門・趣味コミュニティ
- 仲間内のユーモア、スラング、議論を尊重しながら、加害行為を防止
- １〜２名のチームでも運用できる、エンタープライズ水準のモデレーション
- ルールセットを分けることなく、スペースごとにしきい値を設定
- Discordにネイティブ対応し、自社プラットフォーム外のコミュニティも保護
デーティング・ソーシャルディスカバリー
- DM内のグルーミング、性的脅迫、詐欺の意図を検知
- マッチ候補として表示される前に、プロフィール写真と自己紹介文を審査
- 別アカウントの作成や再登録を繰り返す違反者を追跡
- 人による判断や法務確認が必要な案件のエスカレーション経路を整備
フィードの速さに対応するモデレーション
投稿、コメント、DM、音声、画像、ユーザー名、通報を24以上の言語でモデレーション。冗談は冗談として、攻撃的な言動は攻撃的な言動として捉えられるよう調整されています。
フィードとコメントのモデレーション
キーワードリストではなく、意図と文脈に基づいて投稿、返信、コメントスレッドをスコアリングします。
DMとプライベートメッセージの安全対策
1対1のメッセージで、グルーミングの兆候、詐欺、望まない性的な接触を検出します。
グループとサーバーを幅広くカバー
公開グループ、非公開ルーム、Discordコミュニティに一貫したポリシーを適用します。
ボイスルームのモニタリング
音声ルーム、パーティーチャット、ライブスペースで、文字起こしに基づいて問題を検出します。
画像とメディアのスクリーニング
アバター、アップロード画像、ミーム、バナーに含まれるヘイトシンボル、ヌード、残虐なコンテンツを検出します。
ユーザー名のモデレーション
登録時と変更のたびに、差別的な表現、なりすまし、制裁回避を目的としたユーザー名をブロックします。
組織的な荒らしと集中攻撃の検出
複数のアカウントが連携し、特定のメンバーやスレッドに押し寄せる動きを捉えます。
信頼度評価と措置の適用
メンバーごとに行動を統一スコアで評価し、警告、ミュート、利用停止を自動で適用します。
コミュニティチームのためのセンチメントとライフサイクルのインサイト
コミュニティ全体のセンチメントとライフサイクルを分析することで、コミュニティ、プロダクト、サポートの各チームは、四半期ごとのアンケートを待たずに、新機能のリリースやポリシーの変更、モデレーションの判断に対するメンバーの反応を把握できます。
コミュニティの雰囲気の変化を把握
スペースやトピックを横断してセンチメントを追跡し、メンバーの離脱につながるずっと前に、コミュニティチームが雰囲気の変化を察知できるようにします。
プロダクトやポリシーの変更時の反応を確認
新機能のリリースや料金の変更、ガイドラインの更新に対するメンバーの反応を、まだ対応が間に合う段階で把握できます。
新規メンバーの定着を支援
ハラスメントが原因で、新規メンバーが参加後１週間以内に人知れず離脱しているスペースを明らかにします。
ソーシャルプラットフォームにTrust & Safetyを
フィード、DM、Discordの投稿やメッセージの一部をご共有ください。GGWPが何を検知し、何を許可するのか、そして批判や攻撃が殺到した際にどう対応するのかをご紹介します。