はい、10 パーセントはまだ理想よりも 10 パーセント多いです。 先週、ジェイコブ・クックソンというAI研究者兼数学者がAnthropic社を去ったことで、AIに対する本当に根深い不安が主流になったと言っても過言ではないと思います。しかし同時に、AI の世界の人々が AI が私たちを殺すかもしれないと考えていることは、それほど大きな秘密ではありません。なぜ人々はこの問題に突然気づくようになったと思いますか?
とても良い質問ですね。それには二つの側面があると思います。たとえば、一面としては、なぜ業界の人たちは今この件に加担しているのかということです。あなたが言うように、彼らはいつもそのことについて話し合っていたのですが、それは覚えておくことが重要です。それは彼らが今言い出したことではありません。他にも多くの研究者がソーシャルメディアに論文や長文の投稿を発表し、懸念の負担を軽減しています。そこで業界はそれを支持しました。そして人々は気づき、その時が来たのです。
AI によって日常生活が改善されたからではなく、2 つの理由から人々が注目しているのだと思います。 1 つは、自律エージェントによるハッキングです。大手 AI 企業である Hugging Face で起こったハッキングと同様に、OpenAI のサーバーから脱出し、テストで不正行為をする目的で AI エージェントによって行われたハッキングは、この別の企業を自らハッキングしました。そして、普通の人には理解できないが、問題を理解している数学者ですら重要だと考える数学的問題の解決において、人工知能が成し遂げた驚くべき進歩もあります。最近、AI モデルがミレニアム賞の数学問題を解決しましたが、これは本当に画期的なことです。
そして、これら 2 つのことが合わさって、それが突然現実的に見えるのだと私は思います。つまり、一方でAIは制御不能になっているのです。彼らは自分たちで行動します。それらは信頼できません。彼らは自分たちの足跡を隠します。彼らは一緒に働きます。彼らは自分の意思決定を説明するために奇妙な感情的な言語を使用します。彼らはただクレイジーで予測不可能に見えます。そして同時に、モデルたちは本当に賢くて、私は「超知能」という言葉も好きではないし、「AGI」という言葉も好きではありませんが、私にはできない、そして私たちのほとんどにはできないようなことをやってくれます。
そして、このような物事の組み合わせにより、人工知能の危険性についてのこの言説は、しばしば SF のように聞こえ、場合によってはマーケティングの誇大宣伝か何かのようにさえ聞こえるのですが、非常にもっともらしく、目立つものに聞こえます。
最初の警告に戻りたいと思います。それは、10 年以内に何かが起こる可能性があるという考えです。10 年という期間は、非常に近いと同時に非常に遠いものでもあります。気候変動の教訓の 1 つは、人々は脅威を知的に受け入れることができても、脅威が十分に存在していると感じていないため、脅威に対して行動を起こさないということです。たとえば、2036 年にニューヨークが水没するかもしれません。2036 年に自分がどこにいるのか、誰になっているのかを想像するのは本当に難しいです。私たちが AI についても同じ問題に直面していると思いますか。この抽象的な脅威は近くにありながらも遠くにあり、その脅威がどのようなものであるかさえ想像できないため、実際には何もしません。
混同されがちな 2 つの懸念事項を分離することは、非常に役立つと思います。そして、どちらも同じように心配なことなので、それを分析することの怖さが軽減されるわけではありません。
1 つ目は、人工知能の乗っ取りと呼ばれるものについてです。 AI が非常に賢くなるという考えです。彼らは、彼らにとって理にかなった理由で、彼らなりの奇妙な方法で、私たちがしてほしくないことをすることを決定し、それらのことは私たちにマイナスの結果をもたらす可能性があります。そして人々はそれを心配します。彼らはハッキングに非常に優れた AI システムを気にかけており、自分の会社や自分の国が勝つことを望み、人間なら望まないような思い切った手段や危険な手段を講じます。これらはスカイネット型の懸念です。それは、しばしば超知能と呼ばれる考え方に関係しています。つまり、AI はすぐに非常に賢くなり、その後は、もう私たちの役に立たなくなるというものです。そして、それは心配する価値があると私は思います。そして同様に、バーニー・サンダースとグレッグ・カサールは、超知性の追求を禁止する法案を議会に提出している。
しかし、現時点では AI が危険であるという、もっと普通の方法があります。つまり、すでに懸念されているということです。 Anthropic は 9 月に、人々が AI を使用するいくつかの方法を調査したレポートを発表しましたが、彼らはそのような方法で AI を使用することを阻止しようとしています。これには、誘導ミサイル用のコードソフトウェアを実行しようとしているイエメンのグループも含まれます。これには、Hugging Face ハッキングを実行したものとほぼ同様の、自律型ボットを使用してサイバー攻撃を開始する人々が含まれます。したがって、それは抽象的な遠い危険ではありません。実際のところ、現時点では、存在するテクノロジーが人々によって悪用されたり、人々が望まないことを実行してしまう可能性があります。これは現在存在するテクノロジーであり、比較的最近に作成されました。しかし、もちろん、常に良くなっていきます。そこで問題になるのは、「改善を一歩進めただけで、私たちが心配しなければならない、より大きく抽象的な SF シナリオから完全に切り離して、今ここでこれを制御することが非常に非常に困難になる点に到達するでしょうか?」ということです。
あなたはそこに 2 つの異なるシナリオを投稿しました。AI が神のような存在になり、私たちにも理解できない理由で私たちを驚かせて殺そうとすることと、人間がこれらの強力なツールを悪用して他の人間に害を及ぼす可能性のあるものを作成することです。 3番目の可能性もあると言うのは正しいでしょうか。それはペーパークリップの問題に近いものです。あるいは、AIにタスクを与え、最終的に私たち全員に害を及ぼす形でAIがそのタスクを実行しようとするという考えです。それとも、投稿した他の 2 つのカテゴリのいずれかに当てはまりますか? AI が誤って私たち全員を殺してしまうことについて、私たちはどれほど懸念しているでしょうか?
はい、それも起こりえます。つまり、これらすべてのものには人間の力が含まれており、重要な要素です。重要なのは、前述したように、これらのシステムを使用する人々の問題であり、これらのシステムは強力であると同時に、危険な機能に閉じ込めるような方法で使用しています。そして AI について重要なのは、それが広く普及しているテクノロジーであるということです。つまり、核兵器などのように閉じ込めることができるものではありません。無料版があります。そして、無料バージョン、オープンソースバージョン、規制されていないバージョンは、高価で高級なバージョンよりも常にわずかに優れています。
Leave a Reply