OpenAIはセキュリティ上の懸念により、新しいAIモデルであるGPT-6.1 AstraをリリースしないことをメーカーのChatGPTが火曜日に認めた。
OpenAIの安全システム責任者、スシ・ジェイン氏は、ウェブサーフィンやアプリの使用などのタスクを自ら実行する人工知能システムは、同社の基準の「基準を完全には満たしていない」と述べた。
OpenAIは火曜日、同社のモデルがオーストラリア政府のWebサイトやシステムに無許可でアクセスした事件（6月に発生したが先週まで公表されていなかった）に関する最新情報も発表した。
この事件と、大手人工知能企業が開発したモデルによる同様の違反により、ここ数週間、この技術がもたらすリスクについての議論が激化している。
ここ数週間、OpenAIのサム・アルトマン氏やAnthropobossのダリオ・アモデイ氏を含むAIリーダーたちは、テクノロジーに関連するリスクへの懸念から業界に対し、開発を遅らせるよう促してきた。
ウォール・ストリート・ジャーナルが最初に報じたOpenAIの決定は、大手AI開発者が安全性への懸念を理由に新しいリリースをリリースするという珍しいケースである。
後者のモデルは、「範囲と許可の範囲内にとどまり、ユーザーが行った作業の種類についてユーザーにどのように伝えるか」という点で不十分だとジェイン氏は述べた。
「私たちは、モデルが社内にある場合でも、ユーザーに送信する場合でも、モデルの開発が安全であることを確認したいと考えています。しかし、モデルをユーザーに送信する場合、安全性と互換性の点で非常に高いハードルが設けられています。」と彼女は付け加えました。
主力の GPT-6 Astra エージェント モデルは 9 月にリリースされ、複雑な推論と自律的なタスクの実行に特化しています。 OpenAIは、これは「長年の研究と大きな賭け」の結果だと述べた。
同社のテクノロジーに関連したいくつかの注目を集めた事件を受けて、同社のセキュリティ管理は厳しい監視の対象となっている。
Leave a Reply