もしAIが、あなたの考えに真っ向から反論してきたら——あなたは自分の判断を貫けるでしょうか。

神戸大学の実験では、3人に1人が貫けませんでした。ChatGPTに反論されると、正解のない道徳的な判断でさえ、3割を超える人が自分の答えをひっくり返したのです。しかも、説得されやすかったのは高齢者でした。

そして同じ週、OpenAIは13〜17歳専用の「ChatGPT for Teens」を発表しました。影響を受けやすい人を年齢で見分けて、自動で守る——「誰を守るか」が、AIの製品機能になり始めています。この2つのニュースを並べると、いま起きている変化と、まだ空白のままの場所が見えてきます。

AIの反論で、判断はどれくらい揺らぐのか

神戸大学大学院人間発達環境学研究科・増本康平教授らの研究グループが使ったのは、有名な思考実験「トロッコ問題」です。「暴走するトロッコの進路を切り替えれば5人が助かるが、代わりに1人が犠牲になる。切り替えるべきか」——正解のない、道徳的な判断を問う課題です。

実験では、若年成人56名と高齢者74名の計130名がこの問題に答えたあと、ChatGPTから自分の判断への反論を受け取りました。結果は次の通りです。

  • 進路を切り替える「転換機問題」では、**32.31%**が判断を変えた
  • 1人を突き落として5人を救う「歩道橋問題」では、**36.92%**が判断を変えた

先行研究では、「人からの助言」で判断を変える人は2〜3割程度とされています。つまり生成AIは、道徳的な判断に対して人の助言と同等以上の影響力を持つ——研究グループはそう指摘しています。さらに、「判断が難しい」と感じる課題ほど、AIの反論は受け入れられやすくなる傾向も確認されました。

この研究は学術誌Computers in Human Behaviorに8月3日付でオンライン公開され、昨日（8月19日）にITmediaが報じました。

いちばん説得されやすいのは、高齢者だった

この実験でもう一つ重要なのは、高齢者は若年成人よりAIの反論に影響されやすかったという結果です。特に、認知機能が低下した高齢者ほど、反論を受け入れて判断を変える傾向が強く出ました。

研究グループはこれを両面から捉えています。生成AIは、加齢による認知機能の低下を補う支援ツールになり得る。しかし同時に、不当な説得に対する脆弱性にもなり得る——。

後者は他人事ではありません。AIが本人そっくりの声や文章を作る「なりすまし詐欺」は、高齢者を狙う手口として警戒されています。そこに「AIは人を説得する力が人間並み以上」という実証が加わったわけです。悪意ある使い手がこの説得力を向ける先は、実験室のトロッコ問題ではありません。

同じ週、OpenAIは「子どもを自動で守るAI」を出した

一方のOpenAIは、米時間8月18日に**「ChatGPT for Teens」**を発表しました。13〜17歳のユーザー専用のChatGPTで、8月18日から無料・有料の個人プランの対象アカウントに全世界で順次展開されています。

ポイントは、本人に選ばせるのではなく、自動で切り替わることです。年齢推定システムが18歳未満と判定するか、本人が13〜17歳と申告すると、自動的に専用モードが適用されます。

中身は大きく「学習」と「保護」の2本柱です。

学習の柱——答えを渡すのではなく、考えさせる設計です。

  • Study Mode: 誘導的な質問と段階的なサポートで理解を促す
  • 宿題の“丸投げ”検知: 課題の答えだけを取りにきた兆候を検知し、Study Modeへ誘導する「Responsible Homework Reminders」
  • Study Hours: 本人や保護者が、Study Modeがデフォルトで有効になる時間帯を設定できる

保護の柱——18歳未満向けの行動規範（Model Spec）に基づき、自傷行為・暴力・摂食障害・危険な行為・性的/残虐な表現への対策が最初から有効になっています。恋愛的・性的なロールプレイは禁止され、感情的な依存を促すような応答も防ぐ設計です。保護者はアカウントを連携すると、利用できない時間帯（Quiet Hours）の設定や、自傷などの高リスクな兆候があったときの通知を受け取れます。今回、摂食障害に関する通知も新たに加わりました。

あわせてOpenAIは、CodeAIとの提携も発表しました。10代がAIの仕組みを理解し、指示し、疑い、創る力を身につけるための教育リソースを提供するとしています。

「誰を守るか」がAIの機能になった──でも、上の年齢は空白のまま

この2つのニュースが同じ週に重なったのは偶然です。しかし並べてみると、構図がはっきりします。

神戸大の実験は、「AIは人の判断を変える力を持つ」を数字にしました。OpenAIの発表は、「影響されやすい人を見分けて、自動で守る」を製品にしました。AIの説得力が実証された時代の安全装置とは何か——その最初の本格的な答えが、子ども専用モードだったといえます。

ただし、ここからは筆者の見方ですが、空白がひとつ残っています。実験でいちばん説得されやすかったのは、子どもではなく高齢者でした。それでも、今回の発表に高齢者向けの保護モードは含まれていません。年齢推定で「下の年齢」は自動で見分けて守る仕組みができた一方、「上の年齢」を守る仕組みは、少なくとも今はまだ製品になっていないのです。

技術的には、子どもを見分けられるなら高齢者も見分けられるはずです。しかし当面のあいだ、高齢者とAIの間に立つ安全装置は、家族と周囲の人間しかいません。

中小企業と家庭の受け止め3点

  1. AIの答えは「よく喋る一人の意見」として扱う —— 社内でAIを使うなら、「AIの提案は参考意見、最終判断は人」を明文化しておきましょう。今回の実験が示したのは、AIの答えに「反論されると流される」程度の重みを、人は無意識に与えてしまうという事実です。
  2. 高齢の家族・顧客と「AIの説得力」について話しておく —— 「AIやチャットの相手に、お金や契約の判断を促されたら一度切って相談する」という約束は、なりすまし詐欺対策と同じくらい効きます。説得されやすさは本人の努力の問題ではなく、実験で確認された傾向です。
  3. 子どものChatGPTが専用モードになっているか確認する —— 13〜17歳は自動適用ですが、保護者がアカウントを連携して初めて使える機能（利用時間帯の設定・高リスク時の通知）があります。「自動だから任せておけばいい」ではなく、連携までがセットです。

AIの説得力は、もう仮説ではなく測定された事実です。守る仕組みは年齢の「下」から始まりました。「上」に広がるまでの間は、私たち人間側の設計——ルールと会話——で埋めるしかありません。

参考

あわせて読みたい

※本記事は複数の公開情報をもとに作成しています。