この技術が人類を危険にさらすだろうとの現役および元研究者らの主張は、ここ数週間で警鐘を鳴らしている。そのうちの1人は、この技術が「すべての人類を殺す」可能性は10％以上あると主張している。
大手 AI 企業は、スーパーインテリジェンスと呼ばれるもの、つまり人間よりも賢い理論的テクノロジーの作成など、より優れたシステムの開発を望んでいます。
人工知能大手の Anthropic、OpenAI、Google（それぞれ Cloud、ChatGPT、Gemini を開発するテクノロジー企業）も、自社のチャットボットが「悪意のある活動」に使用されたセキュリティ侵害またはインシデントの事例を明らかにしました。
Anthropyの責任者であるDario Amudi氏は最近、AI開発の減速を呼びかけ、業界全体の減速と規制、およびAIモデル開発の独立した監視を提案した。
OpenAIのサム・アルトマン氏とxAIのイーロン・マスク氏はともに同氏の勧告に同意すると述べた。
アンスロピックの共同創設者ジャック・クラーク氏はBBCに対し、第三者による検証可能な「キルスイッチ」が業界にとって必須になる可能性があると語った。
この警告を受けて米国議員らはこの技術に関する法案を提案したが、アルトマン氏は今週、米国政府がこの新しい技術とそれをどのように規制するかについて苦労していると示唆した。 AI企業の安全を守るために人々はAI企業をもっと信頼すべきだと同氏は述べた。
アルトマン氏はサンフランシスコでの会議で、「世界はわれわれが正しいことを行うと信頼する必要がある。なぜならそれは正しいことであり、その大きさをわれわれは感じているからだ」と語った。
英国では、超党派の国会議員らが人工知能によってもたらされる人権リスクを特定し、既存の法律にはこの技術の急速な成長に対処する能力が備わっていないと主張した。
合同人権委員会（JCHR）は、こうした脅威の「規模と深刻さに対処する」ため、人工知能に関する新法の制定を求める報告書を発表した。
Leave a Reply