ChatGPTに自傷・自殺懸念時の緊急連絡機能「Trusted Contact」

OpenAIは、ChatGPTに新たな安全機能「Trusted Contact(信頼できる連絡先)」を順次導入する。18歳以上の利用者が、家族や友人、介護者など信頼できる人物を事前登録できる機能で、自傷行為に関する深刻な安全リスクが検知された場合に通知を行なう。韓国では19歳以上が対象。

Trusted Contactは任意で設定する機能で、利用者はChatGPTの設定画面から成人1人を登録でき、登録された相手は1週間以内に招待を承認する必要がある。承認されると機能が有効化される。相手が辞退した場合は、別の成人を登録可能。

OpenAIによれば、ChatGPTの自動監視システムと訓練済みレビュー担当者が、自傷行為に関する深刻な懸念がある会話を検知した際、利用者へTrusted Contactに通知する可能性を案内する。同時に、利用者自身がTrusted Contactへ連絡するよう促し、会話のきっかけとなるメッセージ例なども提示する。

その後、専門訓練を受けた担当者が内容を確認し、深刻な安全上の懸念があると判断した場合、Trusted ContactへメールやSMS、ChatGPTアプリ内通知などで連絡する。通知内容は限定的で、会話内容やチャット全文は共有されない。通知では、自傷に関する懸念があったことを伝え、状況確認を促すほか、専門家によるガイドへのリンクも案内する。

同機能は、保護者向け安全通知機能を拡張したもの。これまで未成年アカウント向けに提供していた急性ストレス検知通知を、成人利用者にも広げる。OpenAIは、地域ごとの相談窓口案内や緊急サービスへの誘導機能も継続するとしている。

開発にあたっては、自殺予防分野の研究者、医療関係者、米国心理学会などと連携した。OpenAIは、170人超のメンタルヘルス専門家の協力を受け、対話中のリスク検知や支援誘導の改善も進めているという。

また、利用者は設定画面からTrusted Contactをいつでも変更・削除可能。登録された側も、ヘルプセンターから解除できる。OpenAIは、すべての通知に人による確認を行ない、原則1時間以内のレビューを目指すとしている。