フロリダ州は児童被害訴訟の一環としてOpenAIの開発を中止するよう裁判所に求めている

お気に入りの記事やストーリーをブックマークして、後で読んだり参照したりしたいですか?今すぐフリーランスのメンバーシップを始めましょう。

今すぐ参加してください

すでに友達ですか？接続する

フロリダ州の州法当局は月曜日、ハイテク企業が児童に危害を加えたとして現在進行中の訴訟の一環として、OpenAIが独立した監督なしに新たな人工知能モデルを構築することを阻止するよう裁判官に要請した。

フロリダ州は6月、OpenAIに対して訴訟を起こし、同社がChatGPTプラットフォームの安全性を誤って伝え、学校銃乱射事件の犯人に情報を提供したり、若いユーザーに自傷行為や依存症に関する指示を提供したりして十代の若者を危険にさらしたと主張した。

フロリダ州のジェームズ・オスマイヤー司法長官も月曜日の裁判所への提出で、OpenAIに対しChatGPTから未成年者を除外することと、同社がチャットツールに「人間の特徴」を割り当てることを禁止する差し止め命令を求めた。

OpenAIの広報担当ドリュー・プサトリ氏は声明で、同組織は最新モデルのトレーニングを一時停止しており、追加の安全措置が講じられるまで再開しないと述べた。

「政府はAIの強力な安全基準を設定する上で重要な役割を担っており、私たちはフロリダ州や他の州と協力して、1社だけではなくAI業界全体に適用される実用的なAI政策を推進することに尽力している」とプサテリ氏は述べた。

この請願書は、OpenAIの元従業員で同社の現取締役による過去の発言を強調しており、進歩を意図的に遅らせない限り、人工知能の開発は人類の滅亡につながる可能性があると主張している。

「被告らは、政府から強制されない限り、潜在的な文明化への取り組みの前進を止めることはできないと主張している」とフロリダ州は月曜の提出書類に記した。 「彼らは政府に対し、マストに縛り付けるよう要請した。」

共和党のオスマイヤー氏は、子供の安全を巡ってOpenAIに対して法的措置を講じた初めての州司法長官である。同社は、ChatGPTがユーザー自身や他人に危害を加えたとして、個人や家族からの個別の訴訟に直面している。

フロリダ州の訴訟は、昨年タラハシーの大学で起きた銃乱射事件と、ChatGPTが暴力行為を行った人々に指導を行ったとされる他の州での複数の事件をきっかけに始まった。

同社はこれらの法的問題に対する責任を否定し、チャットボットはインターネット上ですでに広くアクセス可能な情報を広めているだけだと主張し、その安全メカニズムが定期的に更新されることを強調した。

特定のソフトウェアモデルが政府や企業のWebサイトへの不正侵入を試みたとの報告を受け、OpenAIやその他のテクノロジー企業も、人工知能の運用に対する法的責任の可能性について厳しい監視に直面している。