FTX та апокаліптична теорія AI, вплив на Anthropic: "Спокійні часи закінчилися"

FTX банкрутство передувало глибоким зв'язкам з Anthropic... великі інвестиції

Сем Бенкман, коріння апокаліптичної теорії "ефективний альтруїзм"

Є філософська, емоційна та культурна спільнота

[Журналіст Blockmedia Лі Чонг Хва] "Тепер ми не можемо повернутися до спокійних часів (Things will never be chill again)"

На ноутбуках працівників компанії Anthropic, що займається розробкою штучного інтелекту (AI), часто наклеюють такі стікери. Це може означати апокаліптичну теорію AI, а також "тому ми повинні працювати більше, щоб запобігти апокаліпсису".

26 числа (місцевий час) Wall Street Journal (WSJ) опублікував довгу статтю, в якій стверджується, що банкрутство криптовалютної біржі FTX та Anthropic мають тісний зв'язок. Засновник Anthropic, Діаріо Амодей, часто відвідував заходи, організовані Семом Бенкманом з FTX, і отримував інвестиції.

Вони сформували глибокі зв'язки через філософську течію, відому як ефективний альтруїзм (Effective Altruism, EA). EA є теоретичною основою апокаліптичної теорії AI. Сем Бенкман, який отримав 25 років ув'язнення за звинуваченнями у шахрайстві з криптовалютою, відкрито заявляв, що був під впливом EA.

Зв'язок між FTX та апокаліптичною теорією AI

Вихідною точкою була не AI, а філософія. EA почалася з ідеї допомогти якомога більшій кількості людей з обмеженими грошима та ресурсами. Це означає, що потрібно розрахувати, скільки життів можна врятувати за один долар пожертви.

Ця логіка розширюється на далеке майбутнє, і об'єкт інтересу змінюється. Важливим завданням стало не лише допомагати сучасним людям, а й запобігати "екзистенційним ризикам", які загрожують багатьом людям, які можуть існувати в майбутньому.

Якщо AI має хоч якусь можливість знищити людство, то запобігання цьому є надзвичайно цінним. За даними WSJ, у середовищі EA вважають, що навіть якщо ймовірність знищення людства через AI становить лише 5%, це варто підготовки.

На цьому етапі з'являється FTX.

Сем Бенкман був одним із провідних спонсорів EA. У період швидкого зростання FTX з 2020 по 2022 рік він створив фонд FTX. Сем Бенкман заявив: "Я буду фінансувати організації, які можуть мати найбільший позитивний вплив на світ".

У його інтереси входили не лише епідемії та світовий розвиток, а й можливість руйнування людської цивілізації. Представник фонду FTX обговорював ідею купівлі островної країни Науру в Тихому океані для будівництва бункера на випадок катастрофи, в якій загине 50-99,99% людства. Ця записка була виявлена під час судового процесу, пов'язаного з банкрутством у 2023 році.

Сем Бенкман також розглядав розвиток AI з тієї ж точки зору. Він висловлював занепокоєння, що якщо AI стане розумнішим за людей, він може не ставитися до людей доброзичливо.

Інвестиція в Anthropic на 500 мільйонів доларів

Ця свідомість проблеми призвела до реальних інвестицій. Співзасновник Anthropic Діаріо Амодей звернувся до спонсорів EA у 2021 році, щоб залучити фінансування для нової AI компанії. Одним із них був Сем Бенкман.

Діаріо Амодей, CEO Anthropic. Джерело: Reuters (REUTERS/Bhawika)

Сем Бенкман інвестував 500 мільйонів доларів в Anthropic. Це було в 5 разів більше, ніж початкова сума, яку запропонувала його інвестиційна команда. FTX став одним з основних акціонерів Anthropic. Anthropic заявила, що ці кошти будуть використані для дослідження та покращення безпеки великих AI моделей.

Фонд FTX також пообіцяв фінансування кільком некомерційним організаціям, які займаються дослідженнями безпеки AI. Зв'язок не обмежувався лише грошима.

Нік Бекстед, який очолював благодійні проекти фонду FTX, згодом очолив організацію, що працює над зменшенням ризиків AI. Він навіть жив у будинку, де раніше мешкали співзасновники Anthropic, такі як Амодей. Цей будинок був місцем зустрічі для представників EA та захисників безпеки AI.

Керолайн Еллісон, яка очолювала сестринську компанію FTX Alameda Research, також мала подібні погляди на розвиток AI. Еллісон окремо інвестувала 10 мільйонів доларів в Anthropic.

У 2022 році представники Anthropic та інших AI дослідницьких установ зібралися на заході, що проходив на острові Елюсера в Багамах. На заході основними темами були ризики AI та EA. Місце було заброньоване FTX, який на той час переніс свою штаб-квартиру на Багамах.

Еліезер Юдковський, представник апокаліптичної теорії AI, на цьому заході представив причини, чому загальний штучний інтелект (AGI) може знищити людство. Також відбувся обід, на який могли потрапити лише ті, хто вважає, що ймовірність знищення людства протягом наступних 100 років перевищує 75%.

FTX зник, але ідеї залишилися

FTX збанкрутував у 2022 році, не змігши повернути кошти клієнтів. Сем Бенкман отримав 25 років ув'язнення. Акції Anthropic, які належали FTX, також були продані для погашення боргів.

Падіння FTX завдало великої шкоди і EA. WSJ повідомляє, що після ув'язнення Сема Бенкмана бренд EA став об'єктом уникнення. Лідери EA дистанціювалися від Сема Бенкмана, заперечуючи, що добре його знають.

Але зникнення FTX не означає зникнення теорії безпеки AI. Багато старих членів Anthropic продовжують підтримувати зв'язки з спільнотою безпеки AI та EA. Дослідження можливості обману людей AI та захоплення контролю також триває.

Констеляція (Constellation), організація, що підтримує дослідження та зустрічі в середовищі безпеки AI, також продовжує свою діяльність. Ця організація описує себе на своєму веб-сайті так:

"Ми прагнемо зменшити 'екстремальні масові жертви', які можуть бути викликані AI, та 'втрату постійного контролю над людською цивілізацією'."

Парадокс FTX полягає в тому, що цифровий активний обмін, який зруйнувався через зловживання коштами клієнтів, в результаті забезпечив значне фінансування для сьогоднішніх дебатів про безпеку AI.

Мото, яке ділять члени Anthropic, все ще містить це усвідомлення проблеми.

"Things will never be chill again."

Це мото не лише означає "більше не буде спокійно". У англійській мові "chill" має відтінок безтурботності. Отже, в контексті безпеки AI це можна прочитати як "ми не можемо повернутися до часів, коли жили безтурботно".

Приймаючи можливість, що AI може загрожувати всьому людству, ми не можемо більше спокійно ставитися до розвитку технологій.

FTX зник. Але мережа EA, яку підтримував FTX, та дебати про апокаліптичну теорію AI залишилися в самому центрі Силіконової долини. Слова "ми більше не можемо бути спокійними" стисло передають цю світогляд.

Цей контент надано лише для загальних інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-акцій або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами. Криптоактиви є дуже волатильними та можуть призвести до збитків. Доступність послуг, продуктів WEEX та пов’язаних із ними подій може відрізнятися залежно від регіону. Ви несете відповідальність за забезпечення відповідності вашої участі чинному місцевому законодавству та нормативним актам.