10-річна ворожнеча: якщо б OpenAI не був фальшивим, то не було б потужності Anthropic.

Журналістка “Уолл-стріт Джорнел” Кіч Хейдж опублікувала довге розслідування, що розкриває десятирічну приватну ворожнечу між засновником Anthropic Даріо Амодеєм та генеральним директором OpenAI Семом Альтманом. Ця стаття є адаптацією статті Кіч Хейдж “Десятирічна ворожнеча, що формує майбутнє ШІ”, редагованою та перекладеною BlockBeats.
(Попередній контекст: 360周鴻禕: Token ніколи не зможе бути таким, як мобільний трафік «безлімітний», ШІ лише ставати дорожчим)
(Додаткова інформація: “Ризики ШІ для демократії та людського суспільства”: важлива стаття, написана батьком ШІ Йошуа Бенгіо разом з 25 дослідниками, включаючи Тан Фен)

Журналістка “Уолл-стріт Джорнел” Кіч Хейдж опублікувала довгий розслідувальний репортаж, в якому, завдяки численним інтерв’ю з теперішніми та колишніми працівниками і керівниками обох компаній, вперше систематично розкриває особисту ворожнечу між засновниками Anthropic та OpenAI, що триває вже десять років. Формування глобального ШІ-ландшафту залежить не лише від конфлікту технічних шляхів, але й від ніколи не залікованої приватної травми.

Даріо Амодей останніми місяцями вживав значно різкіші висловлювання в закритих колах, ніж на публіці. Він порівняв юридичний конфлікт між Семом Альтманом та Ілоном Маском із “Гітлером проти Сталіна”, назвав пожертву президента OpenAI Грега Брокмана у 25 мільйонів доларів на суперполітичний комітет, близький до Трампа, “злом” (evil), а OpenAI та інших конкурентів - “табачними компаніями, які продають продукти, знаючи, що вони шкідливі”.

Після загострення конфлікту з Пентагоном він також у Slack назвав OpenAI “лицемірним” (mendacious), написавши: “Ці факти свідчать про поведінкову модель, яку я часто бачив у Семі Альтмані”.

Внутрішньо Anthropic цю стратегію бренду називають створенням “здорової альтернативи” (healthy alternative) для конкурентів, а під час цьогорічного Суперкубка було опубліковано анонімну рекламу, яка сатирично критикує OpenAI за впровадження реклами в чат-ботів, як один з проявів цієї стратегії.

Історія починається в 2016 році в спільній квартирі на Делано-стріт у Сан-Франциско. Даріо та його сестра Даніела Амодей жили тут, а співзасновник OpenAI Брокман часто приходив у гості через свою дружбу з Даніелою. Одного дня Брокман, Даріо та тодішній наречений Даніели, ефективний альтруїст та філантроп Голден Карнофскі, сиділи разом і сперечалися про правильний шлях розвитку ШІ: Брокман вважав, що всіх американців слід інформувати про те, що відбувається на передовій ШІ, тоді як Даріо та Карнофскі вважали, що чутливу інформацію спочатку слід повідомляти уряду, а не транслювати на публіку. Ця розбіжність пізніше стала вододілом у філософських підходах двох компаній.

Після того як Даріо був вражений талантами OpenAI, він приєднався до компанії в середині 2016 року, працюючи з Брокманом над навчанням ШІ грати в електронні ігри. Але протягом чотирьох років конфлікти навколо влади та почуття приналежності постійно загострювалися. У 2017 році основний інвестор OpenAI Маск вимагав скласти список внесків кожного працівника та звільнити на основі цього, в команді з приблизно 60 осіб було звільнено від 10% до 20%. Даріо вважав це жорстоким, і серед звільнених був один, хто пізніше став співзасновником Anthropic.

Того ж року етичний консультант, якого найняв Даріо, запропонував, щоб OpenAI виконувала роль координаційного органу між ШІ-компаніями та урядом. Брокман, з цього приводу, розвинув ідею “продажу AGI Раді безпеки ООН ядерним державам”, що Даріо вважав майже зрадою, і він на деякий час розглядав можливість звільнення.

У 2018 році, після виходу Маска, Альтман взяв на себе керівництво. Він і Даріо досягли згоди: працівники висловлювали недовіру до керівництва Брокмана та головного вченого Іллі Сутскевера. Даріо погодився залишитися за умови, що обидва більше не будуть керувати, але незабаром виявив, що Альтман одночасно пообіцяв обом, що вони мають право звільнити його, що суперечило цим двом обіцянкам.

Після запуску розробки серії GPT, між високим керівництвом почалися найжорсткіші конфлікти щодо того, хто може брати участь у проекті мовних моделей. Тодішній директор з досліджень Даріо не дозволив Брокману втручатися, а Даніела, яка разом з Алексом Радфордом спільно керувала проектом, погрожувала піти з посади, якщо він не буде відсторонений. Особисте бажання Радфорда стало частиною війни агентів між керівниками.

Кваліфікації Даріо зростали разом із успіхом GPT-2 та GPT-3, але він відчував, що Альтман зменшує його внесок. Коли Брокман обговорював статут OpenAI в подкасті, Даріо розлютився, оскільки його внесок у статут був більшим, а його не запросили; дізнавшись, що Брокман та Альтман збираються зустрітися з колишнім президентом Обамою, але виключили його, він також був незадоволений.

Конфлікт досяг апогею під час одного засідання. Альтман викликав братів Амодей до кімнати для нарад, звинувативши їх у підбурюванні колег подавати негативні відгуки про нього до ради директорів. Обидва заперечили. Альтман стверджував, що інформація надійшла від іншого високопосадовця, Даніела на місці викликала цього високопосадовця для підтвердження, і той сказав, що нічого не знає.

Альтман відразу ж заперечив, що говорив це, і між сторонами спалахнула жорстка суперечка. На початку 2020 року Альтман вимагав, щоб керівники писали взаємні рецензії, Брокман написав жорсткий відгук, в якому звинуватив Даніелу в зловживанні владою та використанні бюрократичних процесів для усунення опонентів, Альтман попередньо переглянув оцінку “жорстка, але справедлива”. Даніела заперечувала кожен пункт, суперечка загострилася до того, що Брокман одного разу запропонував відкликати оцінку.

Наприкінці 2020 року команда, очолювана Даріо, вирішила піти, і Даніела очолила переговори з юристами про умови виходу. Альтман особисто відвідав дім Даріо, щоб умовити його залишитися, Даріо запропонував прийняти лише прямий звіт до ради директорів і чітко заявив, що не може працювати з Брокманом. Перед виходом він написав довгу пам’ятну записку, в якій розділив компанії ШІ на “ринкові” та “для суспільного блага”, вважаючи ідеальним співвідношення 75% для суспільного блага й 25% ринкових. Через кілька тижнів Даріо, Даніела та майже дванадцять працівників покинули OpenAI та заснували Anthropic.

Сьогодні, через п’ять років, обидві компанії оцінюються в понад 300 мільярдів доларів і змагаються за першість на IPO. Коли в лютому цього року закінчилася AI-самміт у Нью-Делі, прем’єр-міністр Індії Моді та присутні технологічні лідери підняли руки, тоді як Амодей та Альтман вирішили не брати участь, лише незручно доторкнувшись ліктями.