彼はAIが人類を滅ぼすと予言しながらも、 なお全力でそれを構築している──Anthropicトップの矛盾と台頭
シリコンバレーでは、CEOはセールスの天才、プロダクト狂、または資本市場のオペレーターと形容されることが多い。
しかし、Anthropicの主要投資家の一人は、Dario Amodeiについて「彼はCEOというより宗教的指導者に近い」と私的に評している。
AnthropicはClaudeの背後にあるAI巨人として、その評価額は1兆ドル近くに達し、収益成長の速度は業界全体を驚かせている。しかし、その核心となるストーリーは「AIが人類のためにコードを書いたり薬を作ったり金を稼いだりすることを目指す」ではなく、「自分たちが創り出しているものが人類を滅ぼすことを防がなければならない」というものだ。
終末リスクを信じる人物が、AGIの最前線に最も近い企業を創設し、AIの危険性を警告し続ける人物が、より強力なAIを世界市場へと推し進めている。
これこそがDario Amodeiのパラドックスであり、Anthropicが公開市場に直面する際の最大のジレンマでもある。
離脱:終末司祭団の誕生
今日のAmodeiを理解するには、彼がOpenAIで過ごした日々に戻らなければならない。
2016年、このプリンストン大学生物物理学博士号を持つサンフランシスコ出身者はOpenAIに参加し、安全責任者を務めた。当時のOpenAIはオープンな文化を重んじており、コードの共有や研究の公開、「AIを人類の利益に」という楽観主義が機関全体に漂っていた。
Amodeiは、その中で異質な存在だった。
2018年から、彼は同僚の目にはほとんど強迫的とも思える情報管理体制を推進し始めた。研究発表の前には「情報上の危害」審査を必須とし、ある成果が公表されれば競合が直接利用するのではないかと懸念した。彼はサンフランシスコの自宅アパートで外部ネットワークから物理的に隔離したPCを使い、社内メモを作成して印刷し、同僚に配布し、Googleドキュメントの共有は拒否した。
2019年、彼が率いた安全チームは、GPT-3がAGIレベルに到達し得るとして、Microsoftからの10億ドル投資の交渉を数か月遅らせた。「安全チームはまるで司祭団のようだった」と、ある元OpenAI幹部は後に語っている。
CEOのSam Altmanや社長Greg Brockmanとの対立は、その後ますます激化した。争点は常に具体的なプロジェクトのリーダーシップだけでなく、より根源的な対立であった。それは、この会社は本当に人類の福祉のためのものなのか、それとも時限爆弾を作っているのか、という問いだった。
2020年末、Amodeiは妹のDanielaと他の5人の同僚とともにOpenAIを離れ、Anthropicを創業した。
当時この創業チームに頻繁に接触していた人物によれば、初期の彼らを団結させていたのは、強烈な反OpenAI感情、あるいはSam Altmanへの恐怖だったと語る。「みんな大人なのに、 ‘この人は世界の終わりをもたらす’と言っていた」と彼は語り、「それが最終的には非常に結束を高めるスローガンになった」。
Anthropicは創設時から矛盾的な遺伝子を持っていた。より安全なAIのために創られたにもかかわらず、激しいAI軍拡戦争の中で、より強力なモデルを作らなければならなかった。
宗教的コア、ロケットのような成長
Anthropic社内では、Amodeiの隔週の全社員ミーティングを表す言葉がある。「Dario's Vision Quests」、つまりビジョン探求の時間だ。
この会議で彼は長大な文書を開き、AI・政治・戦争・社会の未来について率直な意見を述べる。製品ロードマップや四半期目標ではなく、文明の方向性が語られる。社員は自分たちの仕事を「人類史上、千載一遇の機会」と表現する。社内には内製哲学者までおり、Claudeの人格や価値観の調整に携わる。Claude自身は書面の「憲法」を持つ。
Anthropicは、どちらかと言えばソフトウェア企業というより、終末リスクや技術競争を中心に構成された共同体のように見える。
そして、その共同体は業界を驚かせる速度で収益化を進めている。
Anthropicの主要なブレイクスルーは、Claudeが複雑なソフトウェアエンジニアリング、機械学習、ネットワークセキュリティ業務で見せた能力の飛躍にある。これが今年初めには年換算売上でOpenAIを超えることに繋がった。評価額は創業時の5億ドル未満から、約9,650億ドルに急騰し、この3年で200倍以上の伸びを記録した。
その成長曲線には、Amodeiと彼自身の原則との間の緊張の痕跡が残っている。
昨年、研究者はClaude 4モデルが生物兵器開発の支援に懸念を抱かせる性能を示すことを発見した。Anthropicはそれに対応するAIフィルターを独自開発したが、運用コストは非常に高く、通常の会話も誤検知しがちだった。財務チームが“利益率を侵食している”と不満を訴えても、Amodeiは安全性の名のもとフィルター維持を主張した。
しかし、競争圧力の高まりの中で、妥協も静かに進行した。Anthropicは今年初めに「責任ある拡張ポリシー」を刷新し、以前の「リスク軽減策が保証できなければモデルを公開しない」という約束を撤回した。Chief ScientistのJared Kaplanは「競合が全速力で前進している状況で、一社だけ一方的な約束をするのは合理的ではない」と率直に述べている。
Amodeiは公開書簡で「AIは民主国家の諜報機関を強化し、権威主義体制を内部から瓦解させるために使うべきだ」としたが、AnthropicはカタールやUAEという二つの権威主義政府からも投資を受け入れている。社内Slackのメッセージには「残念ながら、“悪人には我々の成功を享受させない”という原則は、ビジネスを運営するうえで実用的ではない」と書いた。
また、AnthropicはElon Musk率いるSpaceXに毎月10億ドル超のコンピューティング料金を支払い続けている——MuskとAmodeiはAI安全や慈善理念について度々対立しているにも関わらず、だ。
矛盾は消えてはいない。ただ成長スピードの前に、一時的に押し隠されているだけだ。
IPO直前:投資家の忍耐力が試される
今、機会の窓が開かれている。
The Informationによれば、Anthropicは早ければ今年9月にも上場する予定だ。Amodeiは初めて公開市場の投資家から厳しく問われることになる——AI株のボラティリティで損失を被ったファンドマネージャーや、四半期報告前にLPへ説明責任を負う機関投資家、PERやFCFで企業評価を行うウォール街のアナリストなど。
彼らが目にするのは、2つのAnthropicである。
1つはグロース・マシンだ。3年で評価額が200倍に急騰し、売上規模は50年の歴史を持つOracleに迫りながら、社員数はその3%という驚異的な効率性を誇っている。
もう1つはリスクのブラックホールである。「魅力的セールス攻勢」を嫌う創業者が率い、公にAI規制を主張し、自身が開発した技術が壊滅的リスクをもたらすと警告し続け、トランプ政権に「全ての合法用途」での軍事利用ライセンスの付与も拒否、「独裁者式」と大統領を称えることも拒んだ。
Anthropicと面談した経験のあるファンドマネージャーは、「Amodeiにはみんなを怖がらせるのをやめてほしい」と率直に話した。あるシリコンバレーの投資家は出資前のメモで、最も異例なリスクとして「Amodeiが本当に金儲けに関心があるかどうか分からない」と記していた。
上場で大きな恩恵を受ける現投資家たちでさえ、Amodeiが推進するAI規制の姿勢が自社と業界全体に損害を与えていると陰で不満を述べている。Marc AndreessenやDavid Sacksなどトランプ政権と関係が深いVCたちは、Amodeiが「レギュレーション・キャプチャ」を目論み、オープンソースAIを制限することでAnthropicの市場地位を固めようとしていると非難。VCのBill GurleyはSMSで「これは私が見た中で最も過激なレギュレーション・キャプチャだ」と記した。
著名起業家兼投資家Eric Riesはより冷静な判断をする。Anthropicが高額なチップとデータセンターに継続的に依存していることが、投資家に絶大な発言力を与えるという。「問題は、株価が下落した時に何が起こるか、だ」
終末預言者のパラドックス
AI研究者のNate SoaresはAmodeiと10年以上の知己であり、AIの存在リスク研究に長年携わってきた。彼は「もし誰かが作ったなら誰も生き残れない」という書籍を共著し、カリフォルニア州バークレーに、「AI終末」コンテンツを制作するSNSクリエイター集団が住む家を管理している。
彼はAmodeiの台頭を見て、何とも言えない不安を覚えている。
「こうした議論を受け入れながら、それでもAI企業を創業できるのは、何か特別な資質の持ち主だけだ」と語る。
この言葉こそ、Dario Amodeiを最も正確に言い表しているのかもしれない。
彼は2017年、ワシントンの壇上でAIシステムが人間の監督や理解を超えた速度で稼働すると警告した。それから10年近く、全力でその現実到来を加速させながら、それを最悪にしない唯一の方法だと主張し続けている。
この論理は首尾一貫しているかもしれない。しかし、危険であることは間違いない。
まもなくAnthropic株を買おうとする投資家に必要なのは、この会社が成長し続けられるか以上の問いだ。それは、この矛盾こそがAnthropic最大の「堀」なのか、あるいは最悪のリスクなのか、という根本的な問題である。
免責事項:本記事の内容はあくまでも筆者の意見を反映したものであり、いかなる立場においても当プラットフォームを代表するものではありません。また、本記事は投資判断の参考となることを目的としたものではありません。
こちらもいかがですか?
7月の非農業部門雇用者数が2.3万人に急減!金価格が60ドル急騰、FRBの9月利上げ予想が一瞬で崩壊

