Щойно я побачив останню переписку Віталіка в X про один із найдивніших перерозподілів багатства у крипто, і це справді неймовірна історія. У 2021 році команда Shiba Inu буквально зробила аірдроп величезної кількості токенів SHIB на його гаманець без дозволу. Їхній хід був очевидним — наклеїти «Віталік володіє половиною нашого запасу» на маркетинг і скористатися хайпом. Класичний хід мем-криптовалюти.

Проблема в тому, що це дійсно спрацювало. Ці токени зросли у цінності, досягнувши понад мільярда доларів у балансовій вартості. Але Віталік не хотів брати участь. Він описав весь процес ліквідації як хаотичний — навіть дзвонив своїй мачусі в Канаді, щоб прочитати 78-значне число з його шафи, щоб консолідувати ключі гаманця і фактично продати актив, поки не вибухнув бульбашка. Він зміг продати частину за ETH і надіслав $50 мільйонів на GiveWell. Але залишився з купою SHIB.

Тут стає цікаво. Він поділив те, що залишилось, навпіл. Одна частина пішла на CryptoRelief, яка фінансувала медичну інфраструктуру в Індії та підтримувала Балві, його власну дослідницьку ініціативу. Інша половина пішла до Інституту майбутнього життя (Future of Life Institute), організації, яка працює над екзистенційними ризиками від ШІ, біотехнологій і ядерної зброї. На папері це здавалося ідеальним співпадінням — FLI показав йому дорожню карту, що охоплює основні категорії ризиків, а також про-мирні та про-епістемічні ініціативи.

Але Віталік очікував, що FLI зможе вивести приблизно 10-25 мільйонів, враховуючи, наскільки тонка ліквідність SHIB. Замість цього вони зуміли зібрати близько 500 мільйонів. CryptoRelief зробили щось подібне зі своєю частиною. Собача монета, яку ніхто серйозно не сприймав, створила момент благодійності на мільярд доларів.

Але потім FLI різко змінив курс.

За словами Віталіка, організація перейшла до агресивних культурних і політичних дій як основної стратегії, що дуже відрізняється від початкового підходу до екзистенційних ризиків. Їхнє виправдання — що ШІ швидко прогресує і потрібно діяти активно, щоб протистояти лобістській силі великих компаній ШІ. Можливо, логічно, але Віталік занепокоєний.

Його тривога проста: масштабна координована політична дія із величезними фінансовими потоками зазвичай дає збої. Це спричиняє непередбачувані наслідки, викликає відгуки і часто вирішує проблеми у спосіб, що стає авторитарним і крихким, навіть якщо це не було початковою метою.

Він навів як приклад підхід FLI до біобезпеки. Їхня головна стратегія — вбудовувати обмежувальні рамки у моделі ШІ та біосинтезуючі пристрої, щоб вони відмовлялися від небезпечних виходів. Віталік назвав цей підхід дуже крихким. Відкриття, тонка настройка, обходи — вони роблять ці обмеження легкими для обходу. Якщо просунути цю логіку до кінця, вийде «заборонити відкритий код ШІ» і потім «підтримати одну хорошу компанію ШІ для встановлення глобального домінування і не дозволяти іншим досягти того ж рівня». Це авторитарна пастка.

Він також підняв структурну проблему з регуляторною стратегією. Коли уряди обмежують небезпечні технології, звільняються національні безпекові організації. Але ці ж організації часто є джерелом ризику самі по собі. Програми витоку з лабораторій уряду — ідеальний приклад того, як ця динаміка працює.

Тим не менше, Віталік зазначив, що його надихає деяка недавня робота FLI, зокрема «проголошення про ШІ, орієнтоване на людину», яке, ймовірно, об’єднує консерваторів, прогресивних, лібертаріанців і охоплює Америку, Європу та Китай. Вони також досліджують способи запобігання концентрації влади в руках ШІ, що дійсно важливо.

Але головне послання важко ігнорувати. Донат, який Віталік ніколи не планував робити, з токенів, які він ніколи не хотів тримати, профінансував організацію, яка відійшла від підходу, у який він вірив, і тепер витрачає сотні мільйонів у спосіб, що викликає у нього дискомфорт. Він, очевидно, кілька разів висловлював ці занепокоєння FLI перед тим, як зробити їх публічно.

Це один із тих моментів, коли бачиш, як навіть найкращі наміри можуть ускладнитися, коли у гру вступає величезний капітал. Мем-криптовалюта, шафа у Канаді і мільярдний поворот у політичну боротьбу за політику ШІ. Не міг би й краще придумати.