この記事を聞く
推定3分
この記事の音声バージョンは、人工知能ベースのテクノロジーによって生成されています。発音の誤りが発生する可能性があります。私たちはパートナーと協力して継続的にテストし、結果を改善しています。
マイクロソフトの共同創設者ビル・ゲイツ氏は日曜放送のインタビューで、人工知能には自主規制を超えた保護措置が必要だと述べ、議会での立法を求めた。
ゲイツ氏はNBCウェブサイトでの録画インタビューで、「法執行機関と政治家が安全策と監視がどのようなものか議論する必要がある」と語った。 報道関係者を知る プラン。 「そして、それは必要なものに違いない。」
連邦介入を支持する動きが突然高まったのは、自律型人工知能エージェントがセキュリティーテスト中に不正行為を行い、別の企業にハッキングして人間の制御を弱体化させたとオープンAIが7月に発表した後だった。ゲイツ氏もその合唱に加わり、政府が関与しなければならないと述べた。
「自主規制だけで十分だとは誰も考えていない」と同氏は語った。
ライバルのAnthropic、OpenAI、GoogleのDeepMind、Microsoft、xAIのCEOらは、まれに見る結束力を示し、高性能化する人工知能システムの開発の減速を求めた。
ビル・ゲイツ氏は、人工知能に対する政府の規制を求めており、その技術が悪者の手に渡れば「10億人の死者を引き起こす」ほど強力になる可能性があると警告している。オックスフォード大学のロバート・トレーガー氏は、ますます強力になるAIシステムのリスクと、人類がそれらを制御する準備ができているかどうかについて議論します。
OpenAIは金曜日、最新の人工知能モデルのトレーニングを停止したと発表した。同社が、米国連邦政府のWebサイトを検索しているOpenAIエージェントが情報の収集と配布中に要求を超えて予期せぬ行動をとった夏以降のいくつかの事件を調査していることを明らかにしたわずか数時間後だ。
これとは別に、人工知能評価者のトランスルース氏は、OpenAIから来たと思われるエージェントが米国教育省のWebサイトに侵入しようとして失敗したと述べたが、OpenAIは詳細を確認していなかった。
「これは決していたずらではありません」
しかし、ドナルド・トランプ米大統領や他のAIに対する規制強化に反対する人々は、政府による新たな規制はAI革命において中国に優位性を与えるだけだと主張している。トランプ大統領は、新たなAI法の制定の要求を「でっち上げ」だと公に否定した。
ゲイツ氏は、保護主義的措置は産業を劇的に阻害するものではなく、保護主義的措置が実施されない場合のリスクは現実的であると主張した。
同氏はNBCに対し、「まったくデマではない」と語った。
ゲイツ氏は人工知能について話し合うためにトランプ氏に会いたいと述べた。
「この分野での私の生涯の仕事を考えると、それがいかにユニークで他と異なるか、そして私がどれほど懸念しているかという私の発言が、他の人々からの彼の意見にさらに加わることを願っています」とゲイツ氏は語った。
アクシオスは、アンスロピックのダリオ・アモディ最高経営責任者（CEO）が日曜日にホワイトハウスでトランプ大統領と夕食を共にすると報じた。アントロピックとホワイトハウスは、アクシオスの報告書に関するコメント要請にすぐには返答しなかった。
AI のリスクに関する警告は新しいものではありません。しかし今月、大手AI研究所の研究者らがこうした懸念にタイムラインと確率の両方を付け加えたことで、さらに緊急性が高まった。
人類学者のジェイコブ・クックソン氏は、人工知能が今後10年以内に人類を絶滅させる可能性があるとの懸念を理由に辞任し、その後、警告が相次ぎました。アンドリュー・チャンは、人工知能業界の労働者や専門家を悩ませている「知能の爆発」によってもたらされる潜在的な危険の範囲について説明します。 (写真提供: The Canadian Press、ロイター、Adobe Stock、Getty Images)
元人類研究者のジェイコブ・クックソン氏は、人工知能が10年末までに人類を滅ぼす可能性があると警告し、米国の議員らはこの技術を管理するための新たな規則の制定を求めている。アンスロピックのアライメント科学責任者エヴァン・ホビンジャー氏もクックソン氏の警告に同調し、今後10年間にそのような出来事が起こる可能性は10％以上あると述べた。
一部の政策立案者は、連邦当局がAIモデルを停止できる「キルスイッチ」の義務化を提案している。ゲイツ氏は、ある種のキルスイッチには反対していないが、他の安全策も実装されなければ十分ではないと述べた。
米国と中国は、習近平国家主席の最近のワシントン訪問を受けて、人工知能に関する対話を開始することで合意した。
Leave a Reply