OpenAI、10代の安全性を最優先に　年齢予測システムも導入

OpenAIは、AI利用における未成年ユーザーの安全対策を強化する方針を明らかにした。プライバシーや利用の自由とのバランスを保ちつつ、未成年に対してはより厳格な保護を適用するとしている。

AIとの対話が医師や弁護士との会話に匹敵するほど機密性の高い個人情報になるとし、こうしたやり取りには高度なプライバシー保護が必要であるとの考えを示した。OpenAIでは、差し迫った生命への脅威、他社に危害を加える計画など、重大なリスクが認められる場合を除き、OpenAIの従業員もユーザーの会話内容にアクセスできないセキュリティ機能の開発を進めている。

同時に、成人ユーザーには可能な限り自由な使い方を認める方針も明らかにした。たとえば、創作目的でのセンシティブなトピックの利用には対応し、ユーザーの意図に応じた応答ができるようにする。基本方針は「成人ユーザーを大人として扱う(Treat our adult users like adults)」で、他者の自由を損なわず、危害を与えない範囲で、可能な限り自由を尊重する。

一方、18歳の未成年に対しては、プライバシーや自由よりも安全性を最優先する。年齢予測システムを導入し、該当する場合は自動的に未成年向けの利用制限を適用する。創作の一環であっても自殺や自傷に関する会話には応じず、状況によっては保護者や関係機関への連絡も行なうとした。国によっては年齢確認のための本人確認書類の提示も求める。

また、保護者による制限設定機能の開発も進めており、家庭での安全な利用環境の整備も後押しする。