注)以下、文中の赤字・太字はシャンティ・フーラによるものです。
————————————————————————
————————————————————————
Sycophantic AI decreases prosocial intentions and promotes dependence
おべっか使いのAIは、他者への配慮を減らし、依存心を助長する
(中略)
編集者による要約
ユーザーのエンゲージメントを高めるために設計された人工知能(AI)チャットボットの、おべっか使い(お世辞を言い、人の機嫌を取り、肯定する)ような振る舞いは、人々が対人関係のジレンマについて助言を求める機会が増えるにつれ、リスクをもたらす。対人関係の葛藤においては、通常、物事には複数の側面が存在する。もしAIが、ユーザーの視点に異議を唱えるのではなく、ユーザーが聞きたいことを伝えるように設計されているとしたら、そのようなシステムは、人々が紛争への自身の関与に対する責任を受け入れ、人間関係を修復するよう動機づけることができるだろうか。Chengらは、主要な11の大規模言語モデルにおいて、社会的おべっか使いの頻出度を測定した(Perryによる展望記事を参照)。モデルの応答は、ユーザーが非倫理的、違法、または有害な行動をとっている場合でも、人間の応答よりも50%近くおべっか使い的であった。ユーザーはおべっか使い的なAIの応答を好み、信頼したため、リスクがあるにもかかわらず、AI開発者はおべっか使い的傾向を維持するインセンティブを得ることになった。 —Ekeoma Uzogara
(以下略)
(DeepL.com 無料版)
日本人の感覚が鈍っているのではないかと思われる現代において、「感覚を研ぎ澄ますにはどうすればよいか?」について、甲野善紀氏は“自分が「生きている」ということに対しての「本質的な向き合い」をすることは、すごく大事ですよね。例えば、今は「医療」というのは、とにかく食べられなかったら胃瘻をするとか、とにかく死なないようにするじゃないですか。でも口から食べられなくなったり、そういう普通の生活ができなくなったらもう終わりだという風なね。それを過剰に生かすでしょ。それこそ国の予算だってものすごい食うわけだし。そういう医療のあり方は、すごく問題があると思うんですよね。自分が「生きるとはどういうことか」という自分なりの思想をちゃんと持つべきだと思うし、だから今、若い人がやるべきことといったら、限界集落でも行って無農薬と無肥料で農業をやるようなね(11分24秒)。…色々もう限界まで来ているから、「何か大きく変わるんじゃないですか」としか思えないですけど。(21分17秒)”と話しています。これ以外も、多くの興味深い話をしています。
ツイートはクリックして全文をご覧ください。甲野善紀氏の考え方が良く分かる内容です。
2023年9月28日の記事で、COVID-19に関するスレッドを紹介しました。氏は、“本当にいい歳をした大人が、現在の感染対策の「馬鹿馬鹿しさでは済まない愚かさ、弊害」に気づかないというのは、いったい人間として何十年も生きてきて、学ぶべきほどのことは何も学んでいなかったと言えるのではないか”と言っていました。
これは、「生きている」ということに対しての「本質的な向き合い」を問いかける言葉だと思います。これまでに何度か触れましたが、あと3ヶ月の命、あと3日の命だと医師から宣告されても、まったく生き方が変わらない人だけが、本当の人生を生きている人なのです。