R最近、アンスロピック社の研究者であるジェイコブ・クックソン氏は、人工知能が人類と衝突する方向にあるとの懸念から仕事を辞めた。多くの見出しが現在の危機にスポットライトを当てています。テクノロジー企業間および米国と中国の間の規制のない競争は、少なくとも世界のインフラを危険にさらし、最悪の場合は人類の生存を脅かします。
人の心はロボット軍団や組織的な恐喝のイメージでいっぱいになります。
良い危機を決して無駄にしないという精神から、今週のドナルド・トランプ米大統領と中国の習近平国家主席との首脳会談は重要な機会となるだろう。
AI はどこにでも存在します。これは強力で、私たち個人が旅行を計画したり、フィットネス クラスを予約したり、テイクアウトを注文したりするのに役立ちますが、組織レベルでは企業や官僚組織の効率を向上させます。学術界では、これは最高の理論数学者が何十年も実現できなかった数学の驚くべき進歩をもたらします。 AI は広く利用可能であり、多くの役に立つことができるという意味では、医療、電気、自動車に似ています。しかし、これらのテクノロジーとは異なり、AI の利点がリスクを確実に上回る方法を私たちはまだ見つけていません。
今後の方向性を考えるとき、それを正しく進めるためにどのくらいの時間があるか、あるいは時間がないかを考える価値があります。昔は技術の発展が遅かったです。石器の最初の使用は 340 万年前に始まり、その後 200 万年間ほとんど変化しませんでした。
前にジャンプしてください。コンピューター チップは、1965 年から現在まで 2 年ごとにその容量が 2 倍になっています。早いですが、AI開発に比べると遅いです。 METR Research Institute によると、生成人工知能の能力は 2020 年から 2024 年まで 7 か月ごとに 2 倍になりました。それ以来、生成 AI の能力は 4 か月ごとに 2 倍になり、ChatGPT 6-Astra と Claude Fable 5.1 の最近のリリースにより、倍増の速度はさらに速くなる可能性があります。
クックソン氏の辞任からわずか数日後、アンスロピックのダリオ・アモデイ最高経営責任者（CEO）も同様の懸念を表明し、AI開発の減速を訴えた。彼は、OpenAI CEO の Sam Altman 氏と xAI CEO の Elon Musk 氏によってすぐに支持されました。
トランプ大統領は、監視されていない人工知能の開発を擁護し、AIが人類を破壊したり、人類に多大な損害を与える可能性があるという主張はでたらめであり、人工知能の開発を遅らせるべきという主張は中国を利するための陰謀だと述べ、彼らの懸念を一蹴した。同氏は人工知能のガードレールの必要性を否定し、必要なのは「強くて賢い大統領（高いIQ！）であり、米国にはそれが備わっている、大成功だ！」と述べた。
それで、どうすればいいでしょうか？政府はそれを待つこともできるだろう。そうなれば何か重大なことが起こるだろう。運が良ければ、政府や業界を揺るがすほどの悪影響はあるが、壊滅的な結果をもたらすほどではない。 1 つまたは複数の国で停電が発生したり、銀行の引き出しが 1 週間ブロックされたり、ワールド ワイド ウェブに意図的な過負荷が発生して情報の流れが停止したりする可能性があります。
こうしたモーニングコールを待つよりも、先手を打って行動する方がはるかに良いでしょう。一部のフロンティア AI 企業はこれに挑戦しています。 Anthropic のそれぞれの「憲法」は、AI モデルの倫理的行動を強制しようとしています。問題は、複雑さが増していることです。 2023 年に公に発表されたとき、人新世憲法は 2,700 語の文書でした。現在のバージョンには 23,000 語が含まれています。その多くが、AI とそれを訓練する人間による解釈の対象となることは避けられません。実際、Anthropic は 7 月に、その体質にもかかわらず、クラウド エージェントがテスト環境から侵入し、3 つの外部組織を攻撃したことを明らかにしました。
ガードレールに対する私の好みのアプローチは、ガードレールをシンプルで、非常に基本的で、人間の価値観に合わせたものに保つことです。実際、私は AI の 3 つの法則を提案しました。理想的な世界では、基本的な AI とその派生モデルが人間に害を与えたり誤解を与えたりせず、法的および倫理的に行動することを保証するために、基本的な AI モデルの最も内側のコード ループに組み込まれることになります。
憲法を通じてガードレールを導入する人類学的アプローチも、基本原則を通じてガードレールを導入するという私のアプローチも、政府が一歩踏み出し、一方または両方のアプローチを厳格な要件にしない限り、普遍的に効果を発揮する可能性はありません。 AI業界全体がそうなるという見通しは非現実的です。業界による自主規制の実績にはまだらがあるため、運用上のリスクが壊滅的なものになる可能性がある業界にとって、これは論理的な選択肢ではありません。
何かをする必要があり、すぐにそれを行う必要があります。私たちは前にもここに来たことがあります。前世紀、私たちは核軍拡競争による相互確実な破壊の見通しに直面しました。米国と旧ソ連の２つの核保有国は、核兵器の数を制限し、最終的には削減するための条約に合意した。人工知能の場合、現在人工知能の開発をリードしている両国が、人類に対する起こり得る脅威の回避において主導権を握る必要がある。
理想的な機会は、習主席が今週国賓訪問してトランプ大統領と会談することだ。人類のために、米国と中国が AI 産業を規制する国際協定を履行するために協力することに両国が合意できたとしたら、想像してみてください。
業界リーダーが説明するリスクのほんの一部でも AI が表しているのであれば、人類の安全を守るために他のすべてのセクターでとっているアプローチよりも、現在の非介入アプローチが正当化される段階はとうに過ぎています。
私は、トランプ大統領と習主席がさらにステップアップし、AIが人類を破壊するのではなく確実に奉仕するために必要なリーダーシップを発揮することを期待しています。
Leave a Reply