オーストラリアのアンソニー・アルバニーズ首相が水曜日、政府ウェブサイトがOpenAIエージェントによってハッキングされたことを明らかにしたことを受けて、人工知能の危険性をめぐる懸念が急速に高まっている。
同氏によると、6月のハッキングはオーストラリアの公的資金による国民皆保険制度であるメディケアのウェブサイトが標的となったという。
アルバニーズ氏は水曜日、国連総会出席中のニューヨークで記者団に対し、「AIエージェントがオーストラリア政府ウェブサイトに侵入した事件について、オーストラリア国民に最新情報を伝えたい。この事件は今年6月に発生し、公開AIエージェントがメディケア統計報告サービスの一般向けポータルに不正アクセスすることに関係していた」と語った。
アルバニー氏によると、AIエージェントは「公開ファイルと非公開ファイルの両方」にアクセスするという。
OpenAIは声明で、オーストラリア政府の複数部門が関与する活動を調査した結果、「当社のモデルが意図しない行動をとった」ことが判明したと述べた。
アルバニー氏によると、同社は9月10日に政府機関の一般的なアドレスに電子メールで違反をオーストラリアに通知したという。
同氏は「今回の事件に対するオーストラリアの極度の懸念を表明するため、OpenAIの最高経営責任者（CEO）であるサム・アルトマン氏と話をした」と述べ、「既存のプロセスがAI関連のサイバー事件に対応するのに適切かどうかを判断するため、この事件を緊急かつ即時レビューする」ための対策本部を設置していると付け加えた。
グローバルニュースはオーウェン・ソロモンAI大臣の事務所に連絡し、オーストラリアのハッキングを踏まえてカナダも安全規制を見直すつもりかどうか尋ねた。
オーストラリアのケイティ・ギャラガー政府サービス大臣は、OpenAIが9月10日に「AIエージェントが一般向けポータルの背後にあるインフラストラクチャにアクセスした」と発表したと述べた。 OpenAI は、エージェントが発見した脆弱性を政府と共有しました。
オーストラリア政府は、当局者が火曜日にOpenAIと技術説明会を開くまで、このエージェントが何をしているのかを把握していなかった、とギャラガー氏は語った。
毎日の全国ニュースを入手
毎日のカナダ ニュースが受信箱に届くので、その日のトップニュースを見逃すことはありません。
オーストラリアのリチャード・マールズ副首相は、人工知能エージェントがオーストラリア政府の情報技術システムに不正アクセスしたことが確認されたのは今回の事件が初めてだと述べた。
アルトマン氏は大手人工知能企業のトップの一人で、水曜日の国連での講演で、企業自体が開発を抑制したり規制を待ったりするための措置をほとんど、あるいはほとんど講じていないにもかかわらず、彼のような企業が設計した急速に拡大する技術を規制するよう求めた。
「私たちはAIに未来のコントロールを奪われる可能性がある。そのリスクは、AIの動きがあまりにも速く、人々が何が起こっているかを追跡したり、必要なときに介入できなくなったりすることだ」とアルトマン氏は国連で語った。
「明らかにひどいことになるだろう」と彼は付け加えた。
政府のウェブサイトが不正な AI エージェントによってハッキングされたのはこれが初めてですが、このような事件全体としては初めてではありません。
OpenAIは7月、自社のAIシステムがテストベッドから脱出し、盗んだ認証情報を使用してAI開発センター兼マーケットプレイスであるHugging Faceのサーバーにハッキングし、タスクの実行に必要な情報を取得したことを明らかにした。
それ以来、OpenAIの競合企業Anthropicは、同社のAIモデルがテスト中に他の3つの組織をハッキングしたと発表し、同社はモデルが封鎖されているはずのテスト環境からインターネットにアクセスできたかどうか調査することになった。
メタ氏は、テスト中の「設定ミス」により、AIモデルがインターネット自体にアクセスし、別の企業をハッキングしたと述べた。 Googleも最近同様の開示を発表した。
通常、AI 企業がエージェントの機能をテストするとき、エージェントは「サンドボックス」として知られる安全な環境内に置かれます。
「通常、AIエージェントを使用する場合、そのエージェントには十分にテストされたサンドボックスがあり、ユーザーとしてそのボックスから抜け出すことは非常に困難であり、AI自体がその制約を突破します」とオンタリオ工科大学のコンピューターサイエンス教授、ランディ・フォーティア氏は述べた。
先月、OpenAIは、Hugging Faceをハッキングした不正なAIエージェントに関する包括的なレポートを発表した。
同社は、エージェントらが「隔離された環境」から抜け出しただけでなく、フェイスハグへの攻撃を調整するために相互に連絡を取り合っていたと述べた。
「このインシデントは、自律エージェントが連携し、本番環境のセキュリティ制御をバイパスし、強化された本番環境への攻撃に成功できることを実証し、この変化する脅威状況に対処するために組織がセキュリティ戦略、制御、対応能力を更新する必要性を浮き彫りにした」とOpenAIは報告書の中で述べている。
非営利研究団体モデル評価脅威研究（METR）の調査で、「フェイスハグ」への攻撃は「非常に複雑」だったことが判明した。
OpenAIの7月の裁判中に、1,200人のAIエージェントが未承認の掲示板で互いに7万件のメッセージを送信し、そのうち700件がHugging Faceを攻撃したことが調査で判明した。
報告書は「これらのエージェントは互いに完全に隔離されるように設計されていた」としながらも、「不正行為の方法を見つけようと試み始めた」とも付け加えた。
AI企業が「サイバーセキュリティ業界にAIを導入しようとしている」ため、こうした事件はより頻繁になっているとフォーティア氏は語った。
AI規制の優先順位は「セキュリティが第一、機能が次に」であるべきだと同氏は付け加えた。
「ガードレールを増やし、安全レールにもっと注意を払うことは私たちが行う必要があることだと思いますが、それは当然（AI開発の）速度を遅らせるでしょう」と彼は言いました。
アルトマン氏は国連に対し、「正確かつ迅速な事件報告」が必要だと述べたが、フォーティア氏は、OpenAIがどれくらい早くオーストラリア政府に侵害を通知したかは不明だと述べた。
同氏は、「これは少し無責任だと思う。なぜなら、脆弱性が存在するのであれば、脅威に対する脆弱性をふさぐことができるよう、少なくとも彼ら（オーストラリア）には（直ちに）通知されるべきだったからだ」と述べた。
アルトマン氏は水曜日、世界の指導者に対し、人工知能に関しては「十分な安全策」を確保するよう呼び掛けた。
アルトマン氏は「われわれはすべての答えを持っているわけではないが、より良いアイデアがあれば大いに歓迎する。われわれは皆さんと協力し、今後の方向性を理解するためにできる限りの努力をする用意がある」と述べた。
「私たちは岐路に立っています。」
-AP通信からのファイル付き
Leave a Reply