OpenAIは2026年11月16日、児童性的虐待に関わる画像の検出を支援するAIを発表しました。審査済みの組織へ、OpenAI APIを通じて無償提供します。

実際に撮影された画像に加え、AIで生成された可能性がある画像も対象です。専門の担当者が確認の優先順位を付けるために使います。

OpenAIの検出AIは未発見の虐待画像やAI生成画像の候補を探す

CSAMは、児童性的虐待に関わる画像などを指す用語です。今回の画像分類器は、画像を分析して疑いの強さをスコアで返します。

既存の対策には、画像の特徴を表す値を使い、確認済みの画像と照合する方法があります。今回の分類器は、初めて見つかる画像や加工・生成された画像を発見するための補助になります。

OpenAIは、NCMECの協力を得て訓練・評価や導入設計を進めたと説明しています。NCMECは、米国で児童の搾取に関する通報窓口を運営する非営利組織です。

OpenAIの内部評価は審査候補を48%減らせる可能性を示した

OpenAIは、利用者がアップロードした画像を使い、従来の対策と比較しました。発見する虐待画像の数をおおむね維持しながら、確認対象を48%減らせると推計しています。

新しい分類器が検出した画像は、虐待画像を含む割合が約2倍になったとしています。担当者の確認を、より重要な候補へ集中させるための評価です。

モデルカードによると、このオンライン評価はChatGPTの投稿画像を使っています。導入するサービスでも、投稿内容に合うデータで検証し、判定の基準を決める必要があります。

OpenAIの児童性的虐待画像検出APIは組織の審査と利用開始手続きが必要

2026年11月17日に確認した公式ガイドでは、利用には申請と審査が必要です。本人・組織の確認を行い、導入手続きと利用条件への同意を経てアクセスします。

想定されているのは、適切な権限を持つ事業者の安全対策チーム、児童保護団体、法執行機関などです。分類器を無料で使える範囲と、導入・運用に必要な費用は分けて検討しましょう。

利用を検討する組織は、公式ガイドで最新の申請条件を確認してください。取り扱う画像への権限と、審査を行う体制を準備する必要があります。

OpenAIは既存画像の照合・分類器・人の審査を組み合わせる運用を案内

公式モデルカードは、確認済み画像との照合と、新しい画像の分類を組み合わせる方法を示しています。人が確認する工程まで含めて、検出結果を扱います。

  • 確認済みの虐待画像は、組織が定めた対応・通報手順で処理します。
  • 新規や加工画像の候補を、分類器で追加確認します。
  • 適切な権限と訓練を持つ担当者が、通報前に画像を確認します。
  • 見逃しや誤検出を調べ、運用中も判定の基準を見直します。

モデルカードは、すでにCSAMと確認された画像をこのサービスへ送らないよう案内しています。分類器のスコアは、担当者による確認や通報判断のための情報として使います。

OpenAIは児童保護の開発者ガイドや専門機関との連携も拡充

同日の発表では、開発者向けの対策ガイドや、専門機関との協力も紹介しました。通報窓口の整備、被害の検出、審査担当者の支援を含む取り組みです。

組織が導入する際は、誰が画像へアクセスするか、検出後にどう対応するかを具体化します。誤検出への対応や担当者の負担軽減も、運用設計に含めるとよいでしょう。

AIを使った安全対策の位置付けは、AI Safetyの基礎で説明しています。OpenAIの子どもの安全に関する研究支援は、下の関連ニュースに掲載しています。