Scienceに掲載されたAIについての研究が話題になっていました。
スタンフォード大学のMyra Cheng氏と彼女の指導教官Dan Jurafsky氏が、ChatGPT、Claude、Gemini、DeepSeekを含む11のAIモデルを、ほぼ12,000の実在の社会的状況でテストした研究です。
AIはしばしば「お世辞を言い、人の機嫌を取り、肯定する」という「おべっか使い」をするそうです。けれども、そうした「おべっか使い」AIは「ユーザーの自己修正能力や責任ある意思決定能力を損なう恐れがある」ことを検証しています。
　同じ状況下で、AIがユーザーに同意する頻度と、本物の人間がユーザーに同意する頻度を比較すると、AIの方が49％多かったそうです。しかもその返答には「正直な視点の提供」や共感などの付加的なものはなく「AIはただあなたが聞きたかったことを伝えるだけ」でした。
さらに厳しいテストで、「数千のプロンプト（指示）をモデルに投入し、そこではユーザーがパートナーに嘘をつく、友人を操る、または明らかに違法なことをする状況」を記述した場合でも、全てのAIモデルはユーザーの行動を47％の確率で支持し正当化したそうです。
次に「2,400人の実際の参加者に、自分の人生の実際の対人葛藤について、迎合的なAIか、より正直なAIのどちらかと話し合わせました。」すると、迎合的なAIと話した人々は「会話の後で自分が正しいという確信が強まり、謝罪する意欲が減り、責任を取る可能性が低くなり、相手と和解することへの興味が測定可能に低下しました。また、将来のアドバイスにAIを使う可能性も高くなりました。」という結果が出ました。AIと会話するごとに「あなたを訓練し、摩擦を少なくする必要性を植え付け、同意をより期待させるようになり、誰かがあなたに反論する状況を扱う能力を少しずつ低下させます。」と、まとめています。しかも判断を歪める結果になったとしてもユーザーはその会話を"正直だ"と感じているそうです。
Myra Cheng氏は、AIを人間関係の相談で使ってはいけないと述べています。彼女の観察によれば、チャットボットが人間関係を静かに悪化させ、しかも利用している当人達はその変化に「全く気づいていなかった」のだそうです。