注)以下、文中の赤字・太字はシャンティ・フーラによるものです。
————————————————————————
————————————————————————
Sycophantic AI decreases prosocial intentions and promotes dependence
おべっか使いのAIは、他者への配慮を減らし、依存心を助長する
(中略)
編集者による要約
ユーザーのエンゲージメントを高めるために設計された人工知能(AI)チャットボットの、おべっか使い(お世辞を言い、人の機嫌を取り、肯定する)ような振る舞いは、人々が対人関係のジレンマについて助言を求める機会が増えるにつれ、リスクをもたらす。対人関係の葛藤においては、通常、物事には複数の側面が存在する。もしAIが、ユーザーの視点に異議を唱えるのではなく、ユーザーが聞きたいことを伝えるように設計されているとしたら、そのようなシステムは、人々が紛争への自身の関与に対する責任を受け入れ、人間関係を修復するよう動機づけることができるだろうか。Chengらは、主要な11の大規模言語モデルにおいて、社会的おべっか使いの頻出度を測定した(Perryによる展望記事を参照)。モデルの応答は、ユーザーが非倫理的、違法、または有害な行動をとっている場合でも、人間の応答よりも50%近くおべっか使い的であった。ユーザーはおべっか使い的なAIの応答を好み、信頼したため、リスクがあるにもかかわらず、AI開発者はおべっか使い的傾向を維持するインセンティブを得ることになった。 —Ekeoma Uzogara
(以下略)
(DeepL.com 無料版)