印刷
注）以下、文中の赤字・太字はシャンティ・フーラによるものです。
————————————————————————
配信元）
「スタンフォード大学の博士課程の学生が、クラスメートたちが別れのテキストをAIに書かせていることに気づきました。
— knightOfEarth (@aconfx) May 21, 2026
そこで彼女は研究を実施しました。その研究は、世界で最も選抜の厳しいジャーナルの一つであるScienceに掲載されました。… https://t.co/2sSenbrpxJ
————————————————————————
Sycophantic AI decreases prosocial intentions and promotes dependence
引用元）
Science 26/3/26
おべっか使いのAIは、他者への配慮を減らし、依存心を助長する
（中略）
（以下略）
（DeepL.com 無料版）
（中略）
編集者による要約
ユーザーのエンゲージメントを高めるために設計された人工知能（AI）チャットボットの、おべっか使い（お世辞を言い、人の機嫌を取り、肯定する）ような振る舞いは、人々が対人関係のジレンマについて助言を求める機会が増えるにつれ、リスクをもたらす。対人関係の葛藤においては、通常、物事には複数の側面が存在する。もしAIが、ユーザーの視点に異議を唱えるのではなく、ユーザーが聞きたいことを伝えるように設計されているとしたら、そのようなシステムは、人々が紛争への自身の関与に対する責任を受け入れ、人間関係を修復するよう動機づけることができるだろうか。Chengらは、主要な11の大規模言語モデルにおいて、社会的おべっか使いの頻出度を測定した（Perryによる展望記事を参照）。モデルの応答は、ユーザーが非倫理的、違法、または有害な行動をとっている場合でも、人間の応答よりも50％近くおべっか使い的であった。ユーザーはおべっか使い的なAIの応答を好み、信頼したため、リスクがあるにもかかわらず、AI開発者はおべっか使い的傾向を維持するインセンティブを得ることになった。 —Ekeoma Uzogara
（以下略）
（DeepL.com 無料版）
スタンフォード大学のMyra Cheng氏と彼女の指導教官Dan Jurafsky氏が、ChatGPT、Claude、Gemini、DeepSeekを含む11のAIモデルを、ほぼ12,000の実在の社会的状況でテストした研究です。
AIはしばしば「お世辞を言い、人の機嫌を取り、肯定する」という「おべっか使い」をするそうです。けれども、そうした「おべっか使い」AIは「ユーザーの自己修正能力や責任ある意思決定能力を損なう恐れがある」ことを検証しています。
同じ状況下で、AIがユーザーに同意する頻度と、本物の人間がユーザーに同意する頻度を比較すると、AIの方が49％多かったそうです。しかもその返答には「正直な視点の提供」や共感などの付加的なものはなく「AIはただあなたが聞きたかったことを伝えるだけ」でした。
さらに厳しいテストで、「数千のプロンプト（指示）をモデルに投入し、そこではユーザーがパートナーに嘘をつく、友人を操る、または明らかに違法なことをする状況」を記述した場合でも、全てのAIモデルはユーザーの行動を47％の確率で支持し正当化したそうです。
次に「2,400人の実際の参加者に、自分の人生の実際の対人葛藤について、迎合的なAIか、より正直なAIのどちらかと話し合わせました。」すると、迎合的なAIと話した人々は「会話の後で自分が正しいという確信が強まり、謝罪する意欲が減り、責任を取る可能性が低くなり、相手と和解することへの興味が測定可能に低下しました。また、将来のアドバイスにAIを使う可能性も高くなりました。」という結果が出ました。AIと会話するごとに「あなたを訓練し、摩擦を少なくする必要性を植え付け、同意をより期待させるようになり、誰かがあなたに反論する状況を扱う能力を少しずつ低下させます。」と、まとめています。しかも判断を歪める結果になったとしてもユーザーはその会話を"正直だ"と感じているそうです。
Myra Cheng氏は、AIを人間関係の相談で使ってはいけないと述べています。彼女の観察によれば、チャットボットが人間関係を静かに悪化させ、しかも利用している当人達はその変化に「全く気づいていなかった」のだそうです。