FTXとAI終末論、アンソロピックに影響「穏やかな時代は終わった」

By: www.blockmedia.co.kr|2026/09/27 05:35:41

Googleで優先ソースとして追加

Constellation

FTX破産前、アンソロピックと深い関係…大規模投資

サム・バンクマン、終末論の根源「効果的利他主義」に傾倒

哲学的、感情的、文化的共感が存在

[ブロックメディアイ・ジョンファ記者] 「もう穏やかな時代には戻れない（Things will never be chill again）」

人工知能（AI）開発会社アンソロピックの従業員のノートパソコンには、このようなモットーが貼られていることがよくある。AI終末論を意味することもあり、「だから終末を防ぐためにもっと努力しなければならない」という意味にもなる。

ウォールストリートジャーナル（WSJ）は26日（現地時間）、AI終末論の根源を探る長文の記事で、破産した暗号通貨取引所FTXとアンソロピックが密接な関係にあると報じた。アンソロピックの創設者アモデイは、FTXのサム・バンクマンが主催するイベントに頻繁に参加しており、投資金も受け取っていた。

彼らは効果的利他主義（Effective Altruism・EA）という哲学思想を通じて深い絆を形成した。EAはAI終末論の理論的基盤である。詐欺の疑いで25年の刑を受けて服役中のサム・バンクマンは、自身がEAに影響を受けたことを公然と述べていた。

FTXとAI終末論のつながり

出発点はAIではなく哲学だった。EAは限られたお金と資源でできるだけ多くの人に助けを提供しようという哲学から始まった。寄付金1ドルでどれだけ多くの命を救えるかを考えるようなものだ。

この論理を遠い未来まで拡張することで、関心の対象も変わった。現在の人を助けることだけでなく、未来に存在する多くの人を脅かす「実存的危険」を防ぐことが重要な課題として浮上した。

AIが人類全体を消滅させる可能性が少しでもあるなら、それを防ぐことは非常に大きな価値を持つという論理だ。WSJによれば、EA陣営ではAIによる人類滅亡の可能性が5%に過ぎなくても、備える価値があると考えている。

この時点でFTXが登場する。

サム・バンクマンはEAの代表的な支援者だった。FTXが急成長していた2020年から2022年の間、彼はFTX財団を設立した。サム・バンクマンは「世界に最も大きなポジティブな影響を与える団体に資金を提供する」と述べた。

彼の関心には、パンデミックや世界開発だけでなく、人類文明の崩壊の可能性も含まれていた。FTX財団の関係者は、太平洋の島国ナウルを購入し、人類の50〜99.99%が死亡する災害に備えるためのバンカーを建設するという内容のメモをやり取りしていた。このメモは2023年の破産関連の訴訟過程で明らかになった。

サム・バンクマンはAIの進展も同じ視点で見ていた。彼はAIが人間よりも賢くなる場合、人間に対して友好的でない可能性があると懸念していた。

アンソロピックに5億ドル投資

このような問題意識は実際の投資につながった。ダリオ・アモデイアンソロピック共同創業者は、2021年に新興AI企業の資金を調達するためにEA陣営の支援者に手を差し伸べた。その中の一人がサム・バンクマンだった。

ダリオ・アモデイアンソロピックCEO。出典=ロイター(REUTERS/Bhawika) Chhabra

サム・バンクマンはアンソロピックに5億ドルを投資した。彼の投資チームが最初に勧めた金額の5倍だった。FTXはアンソロピックの主要株主の一つとなった。アンソロピックはこの資金を大規模AIモデルの安全性を研究し改善するために使用すると発表した。

FTX財団は、いくつかのAI安全研究非営利団体にも資金を約束した。つながりはお金にとどまらなかった。

FTX財団の慈善事業を率いていたニック・ベクステッドは、その後AIのリスクを減らすための団体を率いた。彼は過去にアモデイなどアンソロピック共同創業者たちが生活していた家で一緒に暮らしていたこともあった。この家はEAとAI安全論者たちの交流の場であった。

FTXの姉妹会社アラメダリサーチを率いていたキャロライン・エリソンもAIの進展方向について同様の考えを持っていた。エリソンはアンソロピックに別途1000万ドルを投資した。

2022年には、アンソロピックと他のAI研究所の関係者がバハマのエルユセラ島で開催されたイベントに集まった。このイベントではAIのリスクとEAが主要なテーマとして扱われた。場所は当時バハマに本社を移したFTXが予約した。

AIリスク論の代表的な人物であるエリジャー・ユドコフスキーは、この場で汎用人工知能（AGI）が人類を滅ぼす理由を発表した。今後100年以内に人類が滅亡する可能性を75%以上と見る人々だけが参加できる昼食会も開かれた。

FTXは崩壊したが思想は残った

FTXは2022年に顧客資金を返還できずに破産した。サム・バンクマンは25年の懲役刑を言い渡された。FTXが保有していたアンソロピックの株式も債権者の返済のために売却された。

FTXの崩壊はEA陣営にも大きな打撃を与えた。WSJは、サム・バンクマンが収監された後、EAというブランド自体が忌避対象になったと報じた。EAの指導者たちはサム・バンクマンとの距離を置いた。彼をよく知らないと否定した。

FTXが消えたからといってAI安全論まで消えたわけではなかった。アンソロピックの古参メンバーの中には、AI安全とEAコミュニティとの関係を続けている者も多かった。AIが人間を欺き、支配権を掌握する可能性などを研究する作業も続けられた。

AI安全陣営の研究と集まりを支援するコンステレーション（Constellation）も活動を続けている。この団体はホームページで自らをこう説明している。

「AIが引き起こす可能性のある『極端な大規模人命被害』と『人間文明に対する永続的な制御力喪失』を減らすことを目指しています。」

FTXの逆説はここにある。顧客資金の流用で崩壊したデジタル資産取引所が、結果的に今日のAI安全論争の一つの柱にかなりの資金を供給したという点だ。

アンソロピックのメンバーが共有しているモットーには、その問題意識がそのまま残っている。

「Things will never be chill again。」

このモットーは「二度と穏やかではない」という意味だけではない。英語の「chill」には心を置いてゆったりと過ごすというニュアンスがある。したがってAI安全論の文脈では、「もう二度と心を置いて生きる時代には戻れない」という意味で読まれることができる。

AIが人類全体を脅かす可能性を受け入れれば、以前のように技術の進展を気楽に見守ることはできないということだ。

FTXは消えた。しかしFTXが支援したEAネットワークとAI終末論の論争はシリコンバレーの真ん中に残った。「もう心を置くことはできない」という言葉は、その世界観を凝縮している。

--価格

本コンテンツは、一般的な情報提供のみを目的としたものであり、金融、投資、法律、または税務に関する助言を構成するものではありません。ここに記載されているイベント、報酬、オンラインキャンペーン、またはそれらに関連する情報は、暗号資産の購入、売却、取引、その他いかなる取引の推奨、勧誘、または招待とみなされるべきではありません。暗号資産は価格変動が非常に大きく、損失が発生する可能性があります。WEEXのサービス、プロダクト、および関連イベントの提供状況は、地域によって異なる場合があります。お客様は、ご自身の参加が適用される現地の法令を遵守していることを自ら確認する責任を負うものとします。