製品

画像: 有害なビジュアルコンテンツを自動検出

検出

AI画像モデレーション

GGWPの画像モデレーションAPIは、プラットフォーム全体で有害またはポリシーに違反するビジュアルコンテンツを自動的に検出・分類します。ゲームおよびインタラクティブなコミュニティ向けに設計されており、アバター、プロフィール写真、UGCアップロード、ゲーム内アセットなど、ユーザーが投稿した画像を処理し、構造化されたフラグ、深刻度レベル、信頼度スコアを返します。これにより、チームは迅速かつ一貫した対応を行うことができます。

画像モデレーション 1
画像モデレーション 2

コントロール

柔軟に設定できるビジュアルセーフティ検出

本システムは、露骨なヌードや非露骨なヌード、ヘイト画像、暴力、ゴア表現、武器、アルコール・薬物、ギャンブル、卑猥なジェスチャーなど、幅広いカテゴリーの検出に対応しています。各カテゴリーはオンボーディング時に有効・無効を切り替えることも、API呼び出しごとに設定することも可能なため、プラットフォームのポリシーや地域ごとの要件に合わせたエンフォースメントを実現できます。

エンフォースメント

統合されたモデレーションワークフロー

画像モデレーションは、既存のGGWPワークフローに直接統合されます。すべてのリクエストはユーザーIDに紐付けられるため、検出されたインシデントはレピュテーションスコアに反映され、ゲームプレイの文脈データとあわせてモデレーションダッシュボードに表示されます。設定可能なエンフォースメントとオプションのAutomod統合により、運用負荷を増やすことなく、検出から対応までをスムーズに進めることができます。

画像モデレーション 3