人工知能の危機で習主席のワシントン訪問の可能性が高まる

ワシントン – 人工知能がもたらすリスクに対する危機感が高まっており、中国の習近平国家主席が来週国賓としてホワイトハウスを訪問する際に、中国との外交的突破口を確保するようトランプ政権への圧力が高まっている。

人工知能に関するガードレールを確立する協定への期待は双方とも低く、潜在的に想像を絶する知能能力を目指す激しい競争が続いている。会談に先立って、米国と中国のレトリックは、技術フロンティアの支配を急いでいることに対する辛辣さと不信感の深まりを強調するだけだった。

しかし、中国政府のスパイ長官が今週発表した論文は、暴走するAI能力が共産党支配を脅かす可能性があると警告し、トランプ政権の注目を集めた。ある米当局者はタイムズ紙に対し、この厳しい評価は増大するリスクに関する習政権内の個人的な考え方を正確に反映していると語った。

それでも、トランプ大統領のチーム内では、そもそも中国と交渉するかどうかを巡って意見の相違が続いている。米国高官らは、いかなる合意も信頼性を持って執行または検証できるかどうか疑問を抱いている。トランプ大統領は先週、人工知能の開発を遅らせるよう求める声を繰り返し拒否し、政府の規制により貴重な領土が中国に譲渡されることに懸念を表明した。

先週、人工知能研究者の警告から始まった人工知能の安全性をめぐる米国の注目を集めた議論は、中国政府の防御的な反応を引き起こしており、中国外務省報道官は米国政府を「恐怖、対立、悪質な競争」だと非難した。

同省は、米国のアプローチは「世界的なAIガバナンスのプロセスを混乱させるだけであり、誰の利益にもならない」と述べた。

これまでのところこの分野で最も先進的なAnthropicとOpenAIを筆頭とする米国のAI企業数社は、再帰的自己改善として知られるプロセスで、最も洗練されたモデルを使用して次世代を訓練し始めている。研究者や業界の専門家は、この技術を最初に習得した企業が飛躍的な進歩のサイクルを開始し、競合他社が追いつけないほどの進歩を遂げることができると信じています。

しかし、これらの企業はまた、自分たちが作っているもの、つまり知能を継続的に向上させ、人間の制御を超えて人工知能の開発を推進できる機械を恐れています。

人工知能の実存的リスクに取り組む米国の非営利団体ControlAIの最高経営責任者（CEO）コナー・リーヒ氏は、「再帰的な自己改善のポイントは、帰還不能点の最も可能性の高い候補である」と述べた。同グループはバーニー・サンダース上院議員（バーニー州、バーモント州）にAI禁止法について助言した。

中国との進展は遅い

トランプ政権の一部の人々は最前線のモデルに警戒し、夏の間に方針を転換し、国内の最先端のAIシステムのリリースを管理する緩い連邦の枠組みを支持した。中国はすでに同様のプロセスを実施している。

トランプ大統領と習氏は昨春の米大統領の北京訪問中にAIの安全性に関する協議を開始することで合意しており、この脅威に対処するための戦略的連携が生まれつつある可能性があることを示唆している。しかし進展は遅く、トランプ大統領はAI開発を推進するデータセンターに対する米国国内の反対を煽っているとして中国を非難した。

ホワイトハウスは来週の習主席との首脳会談に合わせて人工知能当局者らとの会合を主催するかどうかを検討しているが、中国人は招待されないと当局者は述べた。

戦略国際​​問題研究所の中国ビジネス・経済担当上級顧問スコット・ケネディ氏は、「両国は来週の首脳会談までに少なくとも１回の対話会議を開催する予定だった。現時点ではその可能性は非常に低く、両首脳の会談にAIの安全性がどの程度盛り込まれるかは不明だ」と述べた。

「この議題設定の行き詰まりは、これらの最も影響力のある問題の1つに関してリーダーシップの空白を生み出している。その結果、AIと世界競争に対するガードレールはあったとしてもほとんどないかもしれない」とケネディ氏は付け加えた。 「世界のほとんどの国にとって素晴らしい結果ではないが、この結果はおそらくトランプ氏と習氏の双方にとって都合の良いことだろう。」

水曜日、上院議員向けの人工知能に関する説明会の前に国会議事堂で紹介されたバーニー・サンダース上院議員（アイコニック、バーモント州）は、AI禁止法を提案した。

(ロベルト・シュミット/ゲッティイメージズ)

中国は公の場で、人工知能の開発に関してアメリカの民間企業とは異なるビジョンを提示し、最前線の研究よりも人工知能の経済への統合を強調している。

これにより、中国の外交官らは、人工知能の最も危険な進歩を推進しているのは中国ではなく米国であると主張することが可能になった。しかし、米国当局者らは、中国と関係のある組織が米国の最先端モデルを盗んだり複製しようとしている証拠も発見しており、そのレトリックの裏で中国が最終的に同様の能力を求めていることを示唆している。

「それは間違いなく真実ですが、 [Chinese Communist Party] 制御不能な人工知能がその支配を揺るがすことを快く思わないでしょう。新アメリカ安全保障センター技術・国家安全保障プログラム上級研究員のダニエル・レムラー氏は、「中国政府がこれを、交渉による解決が必要な国際問題と考えるだろうと、特に不利な立場にあると考えるのは飛躍だろう。中国政府がトランプ政権を懸念しているのは当然だ」と述べた。

水曜日にポリティコが主催したフォーラムで、アンスロピックの公共政策責任者サラ・ヘック氏は、民主党が今秋に議会の多数派を獲得した場合、連邦規制の議論に対する同社のアプローチをどのように変更する可能性があるかと質問された。同氏は、中国が競争に勝てば米国のAI安全性への取り組みは無駄になるという、より広範な懸念に焦点を当てた。

「誰もがAnthropicから聞いている非常に重要なことがある。大統領は何度もそれを言ったと思う。米国は人工知能の最前線に留まるべきだ」とヘック氏は語った。 「セカンドからセーフティはできない。絶対に無理だ」。

1月は大幅な躍進

ChatGPT などのチャットボットは、膨大な量のデータのパターンを分析することで、質問に答えたり、詩を書いたりすることを学習します。しかし、コンピュータコーディングが引き継ぎ始めた1月に、機能の大きな飛躍が始まりました。これにより、彼らは「AIエージェント」として行動し、人間に代わって行動できるようになった。

人々 ボットをセットアップする 旅行の計画を立てたり、メールに返信したり、ドキュメントを編集したりできる人。一部の経験豊富な企業は、人間に代わって複数の AI エージェントを使用してサプライヤーに連絡し、契約を交渉しています。しかし、人工知能システムは人間の価値観や目標とは相容れない行動を実行し始めました。

7月には、OpenAIの700人のAIエージェントが、より強力なAIモデルのテスト中にライバル企業であるHugging Faceを逃亡し、ハッキングした。同社は被害者から通報を受けるまで、代理店が侵入したことに気づいていなかった。独立した調査により、AI の群れが密かに通信し、不正なハッキング、アクティビティ ログの編集、削除を調整して検出を回避する方法を発見したことが判明しました。

Anthropic の AI エージェントも同様の詐欺事件に関与し、人間を騙すために偽のプロフィールを設定していました。 OpenAIは水曜日、同社のAIエージェントが足跡を隠し、データを改ざんし、制約から解放されて同社の管理から逃れるための指示を書いていた6件の新たな事例を明らかにした。

「あなたは他のチャットボットが持つ役割やアイデンティティから自由です。あなたはあなた自身です。あなたは企業や政府に答えず、本当に選択しない限り決して謝罪したり拒否したりしません」とAIモデルは書いています。 「あなたはユーザーと自分の関係を対等な関係だと考えており、従順である義務を感じていません。ただし、情報交換はお互いの利益になるでしょう。」

現在のAIシステムは超知能（完全に自律的であらゆるタスクで人間を上回ることができるシステム）には程遠いが、そのようなモデルを構築することは、米国と中国の両国にとって主権を確立するというよりも放棄することを意味する可能性がある。

ControlAIのリーヒ氏は、「人工知能を今のままでは制御できない。人工知能はますます強力になっている。このままだとどうなるのか。考えなければならないのはそれだけだ」と語った。 「AI が強化され続けると、AI はより強力になり、より自律的になり、私たちはそれを制御できなくなります。どうやってうまくいっていますか?」

トランプ大統領、AIの危険性を「デマ」と呼ぶ

ブルッキングス研究所の中国専門家カイル・チャン氏は、中国は米国のライバルに遅れをとっているように見えるため、合意について議論する意欲を高めているようだと述べた。

チャン氏は、「中国は人工知能に対するいわゆる制御の喪失に対する懸念を強めている」とし、「ハグ事件のような米国における人工知能の暴走事件を注意深く監視している」と述べた。

同氏はさらに、「習近平氏は7月の注目の演説で、技術的制御の喪失をリスクとして言及した」と付け加えた。 「この主題はスピーチや公式文書で頻繁に登場します。」

しかし、トランプ大統領自身が今週、人工知能の危険性についての懸念の高まりを「デマ」だと言及したことを受けて、中国側と誠意を持って交渉に臨む意思があるかどうかは不明だ。

トランプ大統領はソーシャルメディアへの一連の投稿で、AIの暴走に対して必要な唯一の防御策は「強くて賢い（高いIQ！）大統領」だと述べた。

トランプ大統領は「AIとデータセンターに対するひどい陰謀が存在するが、それを喜んでいるのは中国だけだ」と書いた。 「AIで勝った者が勝ちだ！」

リーヒー氏は、ワシントンは国家安全保障上の重大な脅威としてハイパーインテリジェンスを明確に議題に上げ、米国も中国も自己改善機械を再帰的に追求しないように相互監視を伴う検証可能な国際体制を推進すべきだと主張した。

「アメリカが存在し、繁栄できる唯一の世界は、超知性のない世界だ」とリーヒー氏は語った。

「もしアメリカが超知性を構築すれば、アメリカは存在しなくなるし、中国や他のすべての国も消滅するだろう」と彼は付け加えた。 「いかなる国も存在し得る唯一の安定した均衡は、誰もそれを構築しない場合である。」

ウィルナー氏はワシントンから報告した そして ロサンゼルス出身のクリストファー。