10-летняя вражда: если бы OpenAI не был лицемерен, не было бы силы Anthropic

《Уолл-стрит джорнэл》 журналист Кич Хаджи опубликовал обширное расследование, раскрывающее личную вражду между основателем Anthropic Дарио Амодеем и генеральным директором OpenAI Сэмом Альтманом, длительностью в десять лет. Этот текст основан на статье Кича Хаджи «Десятилетняя вражда, формирующая будущее ИИ», редакция и перевод от BlockBeats.
(Предыстория: 360周鴻禕: Токены никогда не смогут быть как мобильный интернет с безлимитным доступом, ИИ будет становиться все дороже)
(Дополнительный контекст: «Риски ИИ для демократии и человеческого общества»: весомая статья, написанная отцом ИИ Йошуа Бенгио в сотрудничестве с Тан Фэнем и 25 другими учеными)

Журналист Уолл-стрит джорнэл Кич Хаджи опубликовал длинное расследование, впервые систематически раскрывающее личную вражду, продолжающуюся десять лет, между основателями Anthropic и OpenAI, через множество интервью с нынешними и бывшими сотрудниками и руководителями двух компаний. То, что формирует глобальный ландшафт ИИ, — это не только борьба за технические пути, но и незаживающая личная травма.

В последние месяцы Дарио Амодей использовал гораздо более резкую лексику внутри компании, чем на публике. Он сравнил судебные споры Сэма Альтмана и Илонa Маска с «Гитлером против Сталина», назвав пожертвование президента OpenAI Грега Брокмана в 25 миллионов долларов суперполитическому действию, близкому к Трампу, «злым» (evil) и сопоставил OpenAI и других конкурентов с «табачными компаниями, которые, зная о вреде, все равно продают продукты».

После эскалации конфликта с Пентагоном он также назвал OpenAI «лицемерным» (mendacious) в Slack, написав: «Эти факты указывают на поведенческую модель, которую я часто наблюдаю у Сэма Альтмана».

Внутри Anthropic эта стратегия бренда называется созданием «здоровой альтернативы» (healthy alternative) конкурентам, в этом году во время Суперкубка вышла реклама, не называющая OpenAI, которая высмеивает внедрение рекламы в чат-ботов, что стало ее публичным продуктом.

История начинается в 2016 году в гостиной квартиры на Делано-стрит в Сан-Франциско. Дарио и его сестра Даниэла Амодеи жили здесь, а соучредитель OpenAI Брокман часто навещал их из-за дружбы с Даниэлой. Однажды Брокман, Дарио и тогдашний жених Даниэлы, эффективный альтруист и филантроп Холден Карнофский, сидели вместе и обсуждали правильный путь развития ИИ: Брокман считал, что следует сообщить всем американцам, что происходит на переднем крае ИИ, тогда как Дарио и Карнофский полагали, что чувствительную информацию следует сначала сообщить правительству, а не транслировать ее общественности. Это расхождение позже стало водоразделом философских направлений двух компаний.

Впечатленный талантом OpenAI, Дарио присоединился в середине 2016 года, и он вместе с Брокманом проводил ночи, обучая ИИ играть в видеоигры. Но за четыре года сотрудничества конфликты вокруг власти и чувства принадлежности только углубились. В 2017 году основной инвестор OpenAI Маск потребовал перечислить вклад каждого сотрудника и уволить по результатам, из команды из 60 человек от 10% до 20% были уволены, Дарио считал это жестоким, среди уволенных был один, который позже стал соучредителем Anthropic.

В том же году этический консультант Дарио предложил, чтобы OpenAI выступала в качестве координационного органа между ИИ-компаниями и правительством, из этого Брокман вывел идею «продать AGI Совету Безопасности ООН ядерным державам», что Дарио считал почти предательством, и он на время рассматривал возможность увольнения.

После выхода Маска в 2018 году Альтман взял на себя руководство. Он и Дарио пришли к консенсусу: у сотрудников не было доверия к руководству Брокмана и главного научного сотрудника Ильи Сутскевера. Дарио остался, поставив условие, что оба не будут руководить, но вскоре понял, что Альтман одновременно пообещал обоим, что у них есть право уволить его, два этих обязательства противоречили друг другу.

После запуска разработки серии GPT разгорелся наиболее острый конфликт вокруг того, кто может участвовать в проекте языковой модели. Дарио, занимавший пост научного директора, не позволял Брокману вмешиваться, а Даниэла, совместно руководившая проектом с Алеком Радфордом, шантажировала угрозой увольнения с поста, личные желания Радфорда были втянуты в борьбу между руководством.

Квалификация Дарио возросла на фоне успеха GPT-2 и GPT-3, но он чувствовал, что Альтман приуменьшает его вклад. Когда Брокман говорил на подкасте о уставе OpenAI, Дарио возмутился, что, хотя он внес больший вклад в устав, его не пригласили; узнав, что Брокман и Альтман собираются встретиться с бывшим президентом Обамой, но не пригласили его, он также был недоволен.

Конфликт обострился в ходе одной из встреч. Альтман вызвал братьев Амодеи в конференц-зал и обвинил их в подстрекательстве коллег к подаче отрицательной обратной связи о нем в совет директоров. Оба отрицали. Альтман сказал, что информация поступила от другого руководителя, Даниэла на месте вызвала этого руководителя для разбирательства, и тот заявил, что ничего не знает.

Альтман немедленно отрицал, что говорил это, и стороны начали горячую дебат. В начале 2020 года Альтман потребовал от топ-менеджеров написать взаимные рецензии, Брокман написал жесткую обратную связь, обвинив Даниэлу в злоупотреблении властью и исключении оппонентов с помощью бюрократических процессов, Альтман предварительно просмотрел оценку «жесткая, но справедливая» (tough but fair). Даниэла по пунктам опровергала обвинения, спор escalated до того, что Брокман в какой-то момент предложил отозвать свою рецензию.

В конце 2020 года команда, сосредоточенная вокруг Дарио, решила уйти, и Даниэла возглавила переговоры с юристами о выходе. Альтман лично пришел к Дарио, чтобы его удержать, Дарио заявил, что будет согласен только на прямую отчетность перед советом директоров и ясно дал понять, что не сможет работать с Брокманом. Перед уходом он написал длинную памятку, разделив ИИ-компании на «рыночные» и «общественные», полагая, что идеальное соотношение составляет 75% общественных интересов и 25% рыночных. Через несколько недель Дарио, Даниэла и около дюжины сотрудников покинули OpenAI и основали Anthropic.

Сегодня, спустя пять лет, обе компании оцениваются более чем в 300 миллиардов долларов и стремятся провести IPO. В феврале этого года, во время закрытия саммита по ИИ в Нью-Дели, премьер-министр Индии Моди и присутствующие технологические лидеры подняли руки, Амодей и Альтман решили не участвовать, лишь неловко коснувшись локтей.