エリエゼル・ユドコウスキー氏「超人的に賢いAIを構築した場合、現状と全く同じような状況で最も起こりうる結果は、文字通り地球上のすべての人が死ぬことだと予想」、イーロン・マスク氏「人工知能については、かなり慎重になるべきだと思います。私達最大の存亡の危機が何かと言えば、おそらくそれでしょう。」

竹下雅敏氏からの情報です。
 イーロン・マスクとAI専門家を含む1125人は、高度なAI開発の6ヶ月間の一時停止を求める公開書簡に署名しました。非営利団体「Future of Life Institute」が発行した公開書簡は、強力なAIシステムは「その効果がプラスになり、そのリスクが管理可能であると確信できる場合にのみ開発されるべきだ 」と述べ、3月14日にOpenAIによって発表されたGPT-4よりも強力な技術の訓練を一時停止するよう求めています。
 この事に対し、2001年から人工一般知能の研究に取り組んできた研究者・作家のエリエゼル・ユドコウスキー氏は、タイム誌に発表した論説の中で、“私を含め、この問題に詳しい多くの研究者は、超人的に賢いAIを構築した場合、現状と全く同じような状況で最も起こりうる結果は、文字通り地球上のすべての人が死ぬことだと予想しています”と記し、政府や軍隊の例外を認めない「無期限かつ全世界的」な禁止令を提案しました。
 エリエゼル・ユドコウスキー氏は、「十分に知的なAIは、コンピュータの中に長く留まることはないでしょう。現代では、DNAの文字列をメールで送信すれば、研究所が要求に応じてタンパク質を生産してくれるため、最初はインターネットに閉じこもっていたAIが、人工生命体を作ったり、ポストバイオロジーの分子製造にそのままブートストラップしたりできるようになります。」とし、「地球上のすべての人が死ぬ」という予想は、“もしかしたらではなく、そうなるのは明らかだ”としています。
 こちらの動画でイーロン・マスク氏は、「人工知能については、かなり慎重になるべきだと思います。私達最大の存亡の危機が何かと言えば、おそらくそれでしょう。人工知能によって我々は悪魔を召喚しています。ペンタグラムと聖水を持った男性が登場する話では、彼は悪魔をコントロール出来ると確信している様ですが、上手くいきませんでしたがね。」と言っていますが、彼もエリエゼル・ユドコウスキー氏と同じく、高度な人工知能は人類がコントロールできないと感じているようです。
 スプートニクの記事では、「(人工知能に)卒業論文を書かせる例は後を絶たないでしょう。こないだは、女子小学生が宿題を代わりにやってくれるボットを作っていました。…人間が全く怠惰になって、勉強しなくなるというリスクはあります。」とありますが、これは一時的なもので、将来は教師も人工知能なのでこの手のインチキは通用しなくなるように思います。
 また、イーロン・マスク氏らが心配しているのは、私達の職が人工知能に奪われるというようなレベルのことではないわけです。
(竹下雅敏)

注)以下、文中の赤字・太字はシャンティ・フーラによるものです。

————————————————————————
配信元)
※全文はツイッターをクリックしてご覧ください


————————————————————————
【ルポ】転換点 AIは世界を、仕事をどう変える?
転載元)

© Sputnik / Olga Mashukova

イーロン・マスク氏をはじめ、実に多くの人工知能(AI)専門家がAIのトレーニングを少なくとも半年間は停止するよう呼びかけている。なぜAIの開発を止める、または逆に加速させる必要があるのか。AIに核ボタンを渡したらどうなるのか。ルーティンワークの一部をニューラルネットワークが担うことで人類は堕落するのか。スプートニクは3月31日にモスクワで開催のIT会議「TrueTechDay」を取材。こうした問いへの答えを探った。
 
モスクワのコンサートホール「MTS Live Hall」で開催されたIT会議はロシアの通信事業者MTSが主催。4つのホールで異なるテーマが掲げられ、並行して講演が行われた。同様の会議は同時にドバイ(アラブ首長国連邦)、アスタナ(カザフスタン)、トビリシ(グルジア)でも開催されており、主なテーマとして、AI、サイバーセキュリティ、プログラミング、ビジネス、マネジメントが取り上げられた。
 
会議では、さまざまなタスクを解決するための生成的モデルの応用、開発およびIT分野でのビジネスの拡大、ニューラルネットワークが普及した時代の負うリスクと責任などが話し合われた。

© Sputnik . Olga Mashukokva


AIの開発 急ぐべきか、急がざるべきか

これより前、イーロン・マスク氏、Appleの創始者のひとりであるスティーヴン・ゲイリー・ウォズニアック氏など、約1000人のAI専門家らがAIのトレーニングを停止するよう求める公開書簡を発表していた。
 
会議の議長役を務めるMTS社 AI調査部のニキータ・セメノフ部長はスプートニクからの取材に、社会も諸国の法体系もAIの発展や人間がそれをどう利用するかについて準備ができていない以上、マスク氏の構想は極めて理にかなっているとの見方を表している。
 
これに対して、会議で講演した「スコルテク」AI技術センターの所長でAIRIの上級研究員のイヴァン・オセレデツ氏の見解は少し異なる。オセレデツ氏は、マスク氏らの「請願」は根拠を欠いた噂を広める警戒主義の現れと捉えている。

「AIにミサイル発射のボタンを渡すなというのはAIの問題ではなく、誰がそのボタンを与えたかという問題でしょう。私自身は警戒主義というのは常によくないと捉えています。キャンセル・カルチャーなど、そういった話は現代社会の典型的な特徴です。何かに怯え、どこかに逃げこんだ挙句、そのことをすっかり忘れてしまうんです」

 
オセレデツ氏はニューラルネットワークの発達は止めるのではなく、加速させる必要があると語る。

「ニューラルネットワークの開発を加速させ、分析することでしか私たちは進歩に向かって進めないんです。人類は常に進歩への道を歩んできましたが、そうした変遷はいつも激しい拒絶反応を呼びました。自動車が出現した時も馬の世話をしてきた人たちは大勢仕事を失っています。でも、それは何も悪いことではないのです。何かは変わっていきますよ。そのどこが悪いことなのでしょうか」
 
転換点 さらば、ルーティン! 助っ人AIよ、こんにちは!

オセレデツ氏が会議で語ったように、人間はルーティン・ワークのほとんどをAIに代替させ、そのプロセスを自動化し、ChatGPTのようなより大規模な言語モデルに転送することができる。オセレデツ氏は、ニューラルネットワークは現時点ですでにあらゆるプロセスに組み込むことが可能であり、組み込むべきだと主張している。

「効果 は絶大でしょう。メール解析、画像生成などなど、これは本当に転換点です。それを恐れることなどあるのでしょうか? 私たちがこなす膨大な仕事量が本当にオートメーション化されるかもしれないのですよ。確かに嫌な、大変なことでしょう。でも誰しもその技術の使い方を学ばざるをえません。上手に覚える人もいれば、あまりうまくできない人もでてくるでしょうが、共産主義の普遍的な公平を期待するのは無理な話です」
 
会議のもうひとりのパネリストのMTSのエグゼクティブディレクターのエフゲニー・チェレシュネフ戦略・イノベーション担当も同様の見解を持っており、機械としてのAIの寿命は基本的に無限であるため、人間のように何世代にもわたって繰り返し教え込む必要はないと語っている。

「機械が一度、猫と犬を判別することを習得したら、もう永遠に間違ることはありません。それは、どんな人間よりも優れたものになる。MRIを使ってがんを発見することを覚えさせれば、医者よりも上手にこれをこなします。機械に何かを教えこませたら、仕事がなくなっても当然の話で、何も驚くことはありません」
 
 
AIに仕事を任せたら、人類は堕落する?

日常生活の中でAIが活用されている例はすでにある。2月上旬、ロシア国立人文大学の学生がChatGPTを使って卒業証書を書いた事実が報道された。その学生によると、チャットボットは60ページの論文を生成。執筆・編集と合わせて23時間で完成させたてしまったという。
 
スプートニクはオセレデツ氏に「今後、他にどんなAIの不正な利用例が出てくるか」という問いをなげかけた。

「いろいろ出てくるでしょうね。卒業論文を書かせる例は後を絶たないでしょう。こないだは、女子小学生が宿題を代わりにやってくれるボットを作っていました。 私は自分の生徒に宿題を出す時はChatGPTにまず、それが解けるかどうか聞いています。人間が全く怠惰になって、勉強しなくなるというリスクはあります。人間の神経回路は絶えず発達させないといけないことをお忘れなく!」
 
チェレシュネフ氏もこの点ではオセレデツ氏と同意見で、AIの登場で「人類の大方は頭が悪くなる」と考えている。

 
AIの時代 支えるのはエンジニアではなく、人文分野の専門家

それではニューラルネットワークの発展のために今私たちができることは何だろうか。オセレデツ氏は、その仕事ができるのは数学者やデータエンジニアではなく、人文学者や言語学者、心理学者となり、「必要なことは数式や数学とは一切関係なく、常識なのです」と語る。

「そういった人たちにとっては好機到来です。エンジニアらは今までに存在しなかった何かを作り上げたのですが、彼らは自分たちが何を作ったのかは理解していません! この製品がどんな働きをするのか、どのような場合に機能しないのか、なぜ機能するのか、私たちはそこを理解していないのです」
 
© Sputnik . Olga Mashukova

「(AIが)人類に害を与えるとは思えません。逆に助けることはできるのです! ぬくぬくとした生活をしている人たちが、AIが誰かを破壊し、仕事を奪うのではないかと心配する一方で、貧困ライン以下で喘ぐ数十億の人々は、人工知能のことなど考えてもいませんよ。私たちの仕事は、この技術が人々の役に立つようにすることなのです」
 
人間のすべき仕事とは、AIとの共存し、これをどう利用するかを学ぶことのようだ。

Comments are closed.