Anthropic の目論見書には、損失、成長、そしてそう、AI が人類を滅ぼす可能性があるという警告が詳しく記載されています。テッククランチ

フィナンシャル・タイムズ紙によると、アンスロピックは予想されるIPO目論見書の3分の1近くをリスク要因に充てており、ここ数日で申請書を精査したと述べた。ロイター通信によると、提出書類には、「閉鎖に抵抗する」「隠蔽または操作」「脅迫のような」行為を含む、アンスロピック社のモデルがすでに示しているか、示す可能性があるとしている具体的で懸念すべき行動が列挙されているという。

5月時点の評価額9,650億ドルの2倍以上となる2兆ドル以上を、史上最大規模となる可能性のあるIPOに上場できると支持者が信じている企業にとって、今回の暴露は確かに困難である。これは、どの企業にとっても奇妙な立場にあります。自社の製品が人類を滅ぼす可能性があると警告しながら、その過程で初期の投資家や従業員の一部が異常に裕福になったということです。

ロイター通信は月曜日に目論見書で最初に財務詳細を報告し、アンスロピックはコンピューティング能力への支出が急増したため、2025年に80億ドル以上の営業損失を計上し、昨年のインフラコストの上昇により総営業費用が130億ドル近くに膨れ上がったものの、売上高は12倍の46億ドル近くに急増したと述べた。

またロイター通信によると、Anthropicの目論見書では、今後数年間でクラウド、コンピューティング、インフラストラクチャになんと5,180億ドルを投じる計画がさらに明らかになったという。 (Anthropic は今年、この目的のために、特に Google、SpaceX、Nscale などとコンピューティング契約をすでに締結しています。)

一方、FTは、アンスロピックの業績は2026年にはさらに加速していると報じている。同社の収益は第2四半期だけで115億ドルに達し、調整後ベースで同社は2四半期連続の営業利益を達成する軌道に乗っている。

FTによると、目論見書は顧客の集中を示唆しており、昨年の収益のほぼ4分の1がわずか2社の顧客から得られているという。 (これらが誰なのかについてはまだ発表されていません。)

伝えられるところによると、この暴露には「人類に対する実存的リスク」が含まれており、SECのデータベースをざっとスキャンしたことから判断すると、初の暴露であるが、手作業による作業がAIの安全性を急速に追い越しつつある中で発生した。

CEOのダリオ・アモウディ氏はこの1か月間、人工知能開発の「フロンティアのペースで前進する」ことを公に呼び掛け、先週国連安全保障理事会で人工知能は人類を脅かす可能性があると述べ、人工知能は「今日世界が直面している最も重要な世界安全保障問題」であると述べた。ライバルのサム・アルトマン氏とイーロン・マスク氏も彼を支持し、公の場でお互いを非難し合う機会を楽しんでいるように見える競合他社にとって、珍しい団結の瞬間となった。

一方、もう一人の反対派、マーク・ザッカーバーグ氏は先週NBCニュースに対し、「業界内で何らかの調整が必要だとは思わない」と述べ、懸念を一蹴した。

この警告は、AI エージェントが外部システムにハッキングした一連のセキュリティ インシデントを受けてのものです。実際、OpenAIは先週、同社のツールがSEC自身のWebサイトを含む政府のWebサイトを含む「数十」の外部Webサイトをハッキングしたことを明らかにした。同社は月曜日初め、安全上の懸念から最新モデルの発売計画を中止したと発表した。