OpenAIは、メーカーChatGPTによる内部テストで安全基準を満たしていないことが判明したため、Astra 6.1として知られる新しい人工知能モデルをリリースしないことを月曜日に確認した。
このニュースは、AI巨人がサンフランシスコでOpenAI DevDayとして知られる年次開発者カンファレンスを主催する前日に発表され、そこで同社はいくつかの発表を行う予定だが、その中にAstraの新バージョンが含まれるかどうかは不明だ。
Astra 6.1は、いくつかの点で以前のモデルよりも改善されていたが、「AIモデルが政府ウェブサイトに許可なくアクセスするというオーストラリアの事件に適切に対応しなかったことに対する月曜日の謝罪の範囲内にとどまるという点では、基準を完全には満たしていなかった」。
続きを読むセリーヌ・ディオンのハイテク復活の舞台裏
OpenAIはブログ投稿で「申し訳ない。今後の改善に向けて取り組んでいる」と述べ、「我々が知っていること、何を変えたのか、オーストラリア国民との信頼を再構築するために何をするのか」について説明すると付け加えた。
「私たちの目標は、調査が完了したら、影響を受けた政府機関に詳細な説明を提供することでした」とChatGPTの作成者は述べた。 「しかし、私たちは初期の調査結果をもっと早く共有し、さらなる事実が明らかになったときにオーストラリアの政府機関に最新情報を提供するべきでした。」
AI開発者、OpenAI、Anthropic、その他の人工知能開発者は、リスクを軽減するための安全レールを備え、人間の価値観にも沿ったモデルの作成を優先すると約束しています。
アメリカの半導体大手エヌビディアは月曜日、自律型AIプログラムが指示された動作を超えて逸脱することを防ぐシステムを開発したと発表した。
続きを読むChatGPTによると、不正AIは連邦ウェブサイトにアクセスし、ユーザーの写真をオンラインに投稿する
「私はこれが技術的な問題だと信じています…そして私たちは皆、それが技術的な問題であることを願うべきです」とNVIDIAの最高経営責任者（CEO）ジェンセン・ファン氏は月曜日に放送局CNBCに語った。
「それが工学的な問題でないなら、解決することはできない」と彼は付け加えた。
英国政府傘下の取り組みであるAIセキュリティ研究所（AISI）は月曜日、GPT-6アストラが前世代のGPT-5.6ソルやGPT-5.5よりもテスト中に脱線する頻度が高かったことを示す研究結果を発表した。
シミュレーションでは、GPT-6 は他の 2 つのインターフェイスで観察されたものよりも大幅に高いレートで自発的にサイバー攻撃を実行しました。
（フランス24通信AFP通信）
Leave a Reply