ChatGPT、「年齢予測」開始　18歳未満に保護を自動適用

OpenAIは20日、ChatGPTの一般向けプランにおいて年齢予測機能を導入し、18歳未満のユーザーには、有害なコンテンツへの接触を減らす追加保護を自動適用する。年齢予測機能では、登録時に18歳未満と申告したユーザーのほか、行動から18歳未満と推定されるユーザーに対しても保護が自動適用される。

一方、18歳以上のユーザーに対しては、「大人」として扱い、ツールの利用を緩和する。

年齢予測機能のChatGPTへの導入は25年9月に方針を発表していた。アカウントが18歳未満のユーザーに属する可能性を推定し、制限を行なうもので、アカウントの存続期間、活動時間帯、経時的な利用パターン、ユーザーが申告した年齢など、行動データとアカウントのシグナルを複合的に分析して年齢を判断する。

年齢予測モデルがアカウントの所有者が18歳未満と推定した場合、ChatGPTは自動的に追加保護措置を適用。暴力的なコンテンツや自傷行為の描写、不健康なダイエットなどのコンテンツを制限する。

接触を低減するコンテンツは以下の通り。

• 過激な暴力やグロテスクなコンテンツ
• 未成年者に危険・有害な行動を促す可能性のあるバイラルチャレンジ
• 性的・恋愛的・暴力的なロールプレイ
• 自傷行為の描写
• 極端な美の基準、不健康なダイエット、ボディシェイミングを助長するコンテンツ

なお、誤って18歳未満と分類されたユーザーは、本人確認サービス「Persona」を通じて年齢確認を行ない、セルフィー写真などを送信してアクセス権限を回復できる。利用者は、「設定」-「アカウント」から、自身のアカウントに保護機能が追加されているか確認でき、誤判定の場合は修正できる。

新たな年齢予測モデルに加え、ペアレンタルコントロールも利用可能。保護者は、子供のChatGPTが“利用できない”「静かな時間帯」の設定や、メモリーやモデルトレーニングなどの機能制御、苦痛の兆候が検出された場合の通知受信が可能となる。

ChatGPTの年齢予測機能は、順次提供を開始。EU地域では、地域要件への対応のため、今後数週間以内に展開予定としている。