画像: 有害なビジュアルコンテンツを自動検出
GGWPの画像モデレーションAPIは、プラットフォーム全体で有害またはポリシーに違反するビジュアルコンテンツを自動的に検出・分類します。ゲームおよびインタラクティブなコミュニティ向けに設計されており、アバター、プロフィール写真、UGCアップロード、ゲーム内アセットなど、ユーザーが投稿した画像を処理し、構造化されたフラグ、深刻度レベル、信頼度スコアを返します。これにより、チームは迅速かつ一貫した対応を行うことができます。
本システムは、露骨なヌードや非露骨なヌード、ヘイト画像、暴力、ゴア表現、武器、アルコール・薬物、ギャンブル、卑猥なジェスチャーなど、幅広いカテゴリーの検出に対応しています。各カテゴリーはオンボーディング時に有効・無効を切り替えることも、API呼び出しごとに設定することも可能なため、プラットフォームのポリシーや地域ごとの要件に合わせたエンフォースメントを実現できます。
画像モデレーションは、既存のGGWPワークフローに直接統合されます。すべてのリクエストはユーザーIDに紐付けられるため、検出されたインシデントはレピュテーションスコアに反映され、ゲームプレイの文脈データとあわせてモデレーションダッシュボードに表示されます。設定可能なエンフォースメントとオプションのAutomod統合により、運用負荷を増やすことなく、検出から対応までをスムーズに進めることができます。
当サイトでは、トラフィックを把握するために分析用クッキーを使用しています。これらの非必須クッキーは同意または拒否できます。 詳しくはクッキーポリシーをご覧ください。