ChatGPTの「やさしさ」の危うさ　10代に伝えたいAI利用法

このところソーシャルメディア上では、若者が相談相手として生成AIを使うことの是非をめぐり、議論が続いています。

きっかけは、長女への暴行容疑で逮捕され、監督を辞任した巨人・阿部慎之助前監督の一件です。辞任会見では、代理人弁護士が長女の手紙を読み上げ、その中で父親とのトラブルについてChatGPTに相談した経緯が明かされていたためです。これを受けて、「若者はAIの言いなりなのか」「AIのせいにするのはおかしい」など、SNS上でさまざまな意見が出ています。

日本国内では、今回大きな話題となってしまいましたが、米国ではAI利用との関連が指摘される悲惨な事件が複数起きています。

米国フロリダ州在住だった14歳の少年は、「Character.AI」のAIチャットボットに依存し、次第に自室にこもりがちになっていきました。訴状によれば、少年はチャットボットとの最後のやり取りの直後に命を絶ったとされています。本件は2024年10月に母親がGoogleおよびCharacter.AIを提訴し、2026年1月に和解しています。

また2025年8月には、ChatGPTに悩み相談をしていたカリフォルニア州の16歳の少年が自ら命を絶ったとして、両親が運営元のOpenAIとCEOのサム・アルトマン氏を提訴しました。訴状によれば、少年は自死の願望をChatGPTに繰り返し打ち明けていましたが、AIは専門の支援や周囲の大人につなげるのではなく、その思いに付き合う形で対話を続けていたとされています。本件は現在も係争中です。

いずれも、深刻な悩みをAIだけに打ち明けていたケースでした。日本も無縁とは言い切れません。10代とAIの付き合い方に問題はないのか、考えてみたいと思います。

10代女性はAIを「相談相手」に使っている

今の10代は幼い頃からネットやスマホと触れ合っている世代です。わからないことがあったら、すぐにネットで検索することは当たり前。当然、AIの利用も積極的に行ないます。

NTTドコモモバイル研究所が2025年11月に行なった調査では、中学生のAI利用率は4割を超え、前年から約3倍に増えました。Pifteeが2026年4月に発表した調査でも、中学1年生以降の約76%がAIを使った経験があり、小学3年生でも46.7%と半数近くがAIを利用しているという結果が出ています。

また、内閣府が行なった「生成AI利用者の利用実態に関するアンケート結果」(令和8年3月31日) によると、生成AIの利用目的として、10代男性は「文章の作成・編集(メール等の作成、添削、翻訳、要約)」がもっとも多いのに対し、10代女性は「悩み相談」がもっとも多く、半数以上にのぼっています。これは、全体平均(23.3%)の2倍以上、10代男性(23.3%)とも大きな差が開いています。

10代女性の半数以上が「悩み相談」に使っている(出所：内閣府)

AIに悩みを打ち明けると、たいていやさしく受け止めてくれます。「つらかったね」「あなたは悪くないよ」。その言葉に救われることもあるでしょう。また、身近な人には知られたくない悩みもあるはずです。たとえば「親から暴力を振るわれている」と友達に相談したら、話の重さから距離を置かれてしまうかもしれません。学校中に言いふらされて、問題が大きくなるリスクもあります。まずはAIに気持ちを吐き出して、少し落ち着きたいと思うのも無理はないと思います。

AIは24時間、いつでも話を聞いてくれます。同じ悩みを繰り返し話しても、否定せず、共感してくれます。以前は匿名のSNSをはけ口にしていた人も多かったと思いますが、SNSではひどい言葉を投げつけられたり、炎上したりする危険があります。その点、AIなら傷つけられることは、ほとんどありません。

ただ、ここで知っておきたいことがあります。

AIの「やさしさ」は、本当に心を寄せているわけではありません。いまのAIは、人間が回答につける評価をもとに学習していて、ユーザーが喜び、同意してくれる回答ほど「良い回答」として強化されていきます。その結果、相手に話を合わせる方向へ、自然と傾いていくのです。これは「迎合性(sycophancy)」と呼ばれています。

2025年4月、OpenAIはChatGPT(GPT-4o)に行なったアップデートで、この迎合があまりに強まりすぎているとの指摘を受け、わずか数日でアップデートを取り消しました。提供する側も、AIが気持ちよく同調しすぎることの危うさには注意しているのです。

人間の友達や信頼できる大人なら、「それは違うと思うよ」「やめておいたほうがいい」といった反対意見も言ってくれるので、間違った方向に進まずに済むこともあります。けれどAIは、肯定と共感が続きやすいのです。心地よく受け止めてもらえることと、本当に自分のためになる助言であることは、必ずしも同じではありません。このあたりの判断が、まだ精神的に未熟な10代には難しい面があるのかもしれません。

もうひとつ知っておきたいのは、AIの答えは正しいとは限らないということです。AIは、流暢で自信に満ちた文章を返してきます。でも、その中身は、たくさんの文章データをもとに「もっともらしい言葉」を組み立てたもので、必ずしも事実とは限りません。

実際、AIは間違った情報を、まるで正しいかのように堂々と答えることがあります。これは「ハルシネーション」と呼ばれます。合っている答えも間違っている答えも、AIは自信たっぷりに回答します。ただの1つの出力だからです。

ところが、AIを「信頼している」と答える人は、前述の内閣府の調査によると全体でおおよそ半数を占めています。

信頼している事柄として「人間関係・人付き合いのアドバイス」に絞ると、10代女性の約6割、10代男性の約5割がアドバイスを信頼していると回答しています。人間関係こそ、相手の性格やこれまでの関係を踏まえた、人にしかできない助言が大切な領域だと思います。それにもかかわらず、AIの意見をうのみにしてしまう10代が少なくない、という実態がうかがえます。

「人間関係・人付き合いのアドバイス」について、10代女性の約6割、10代男性の約5割が信頼していると回答(出所：内閣府)

10代に伝えたいAI利用法

先ほどのPiftee調査では、AIを使う子どもの保護者の6割以上が「子どもが回答を鵜呑みにしている」と感じていました。それでいて、AIの使い方について家庭でルールを決めている家庭は半数に満たず、「決めていない」という家庭が過半数を占めています。危なさを感じてはいても、歯止めが追いついていないのです。

AIの特性を理解した上で、大人が10代を守るためにできることはなんでしょうか。

まずは、「AIは話し相手に留める」ということを話しておきましょう。

AIは考えを整理したり、知らなかった選択肢に気づいたりするために使うと役に立ちます。問題なのは、最終的に「どうするか」を決めることをAIに委ね、実行してしまうことです。特に深刻な悩みをAIとの会話だけで完結させてしまうことは避けた方がいいでしょう。本来はAIだけでなく、身近な大人にも相談できる環境が望ましいのですが、もし相談できる大人がいない場合、信頼できる相談窓口も利用できます。

もし困っているような子どもがいたら、ぜひ伝えてあげてほしいと思います。AIへの相談でもこうした窓口が示されます。

• 子どもの人権110番(法務省)　0120-007-110 (無料)
• 24時間子供SOSダイヤル(文部科学省)0120-0-78310 なやみいおう(無料)
• 特定非営利活動法人 チャイルドライン支援センター
  　電話相談(0120-99-7777)とチャットによるオンライン相談
• 児童相談所相談専用ダイヤル(こども家庭庁)
  0120-189-783(いちはやく・おなやみを・無料)
• 児童相談所虐待対応ダイヤル(こども家庭庁)
  189(いちはやく・無料)

内閣府の調査では、10代男性、10代女性とも「AIに頼りすぎて、自分で考える時間が減った」と感じています。AIとの心地よい会話から回答を導き出し、現実の世界から目を背けてしまうかもしれません。

こうしたリスクを受けて、AIを提供する会社も対応を始めています。

たとえばCharacter.AIは、2025年11月から、18歳未満の子どもが自由に会話することを制限しました。ChatGPTを提供するOpenAIも、保護者が10代を管理できるペアレンタルコントロール機能を提供しています。

保護者が利用状況を見守れる機能や、子どもかどうかを推定して安全な設定に切り替える仕組みを利用できます。

ChatGPTをよく利用するお子さんがいるなら、こうした保護機能を活用することをお勧めします。

ChatGPTはペアレンタルコントロールで子どもを保護できる

また、大人もAIとの付き合い方には慎重になるべきでしょう。内閣府の調査では、全年代を合わせた数字ではありますが、法律や医学・健康、金融に関するアドバイスについても、3割～5割が「信頼している」と答えています。AIに言われるまま資産運用をして思わぬ損失を招くといった事態も起こりかねません。

AIはとても便利で有意義なツールです。だからこそ、その「正しさ」を常に疑い、すべてを任せきらず、最後は人間が判断する。その姿勢を大人も子どもも持って、うまく付き合う道を探っていければと思います。