OpenAI、子どもの安全保護で新指針　児童性的搾取を防ぐ

OpenAIは8日(米国時間)、AI時代における米国の児童安全対策の強化に向けた基本方針「Child Safety Blueprint」を発表した。子どもの保護に関わる複数の団体や専門家の意見を反映し、被害防止のための取り組みの方向性を示した。

同方針では、AIで生成・改変された児童性的虐待画像(CSAM)に対応する法整備、事業者による報告や連携の改善、悪用を防止・検出するための安全対策をAIシステムの設計段階から組み込むことの3点を重点項目とする。

法的、運用的、技術的な手法を組み合わせることで、リスクの特定、対応の迅速化、説明責任の強化を図る。搾取の試みを早い段階で防ぎ、法執行機関への通報の質を高めることで、被害の未然防止や、リスク発生時の迅速な保護につなげる。

OpenAIは、児童性的搾取をデジタル時代における最も喫緊の課題と位置付けている。これまでも、自社システムの悪用防止に向けた安全対策を強化するとともに、全米行方不明・被搾取児童センター(NCMEC)や法執行機関と連携し、不正行為の検出と報告の改善に取り組んできた。

なお、同社は日本において3月に、国内の未成年ユーザーが安全にAIを活用できる環境づくりに向けた取り組みをまとめた「未成年の安全性に関するブループリント」も公開している。