Коли тривога щодо ШІ охоплює Кремнієву долину, чому a16z обирає «холодне ставлення»?

Щодо широкого обговорення статті «Зараз відбувається велика подія» та викликаної нею паніки навколо ШІ, нещодавно блогер David Oks опублікував заперечення.

У своїй статті він зазначив, що нинішня паніка щодо швидкого масштабного безробіття через ШІ сильно перебільшена.

David Oks вважає, що заміщення праці залежить від «відносної переваги», а не від «абсолютної здатності». Поки загальний результат «людина + ШІ» залишається кращим за роботу лише ШІ, людство не буде швидко витіснене.

Реальний світ наповнений «вузькими місцями», що виникають через інституції, організації та людську природу, і саме вони визначають, що технологічне поширення відбувається поступово, а не вибухово.

Крім того, попит має еластичність, а підвищення ефективності зазвичай призводить до більшого, а не меншого попиту на працю.

«ШІ глибоко змінить суспільство, але процес буде повільним і нерівномірним, і звичайним людям не потрібно панікувати», — каже він.

David Oks — американський блогер і дослідник, одночасно є дослідним партнером венчурної компанії a16z.

Нижче наведено повний текст його статті—

Два дні тому на Твіттері з’явилася стаття під назвою «Зараз відбувається велика подія», автором якої є Matt Shumer.

Майже одразу ця стаття стала дуже популярною. На сьогодні її переглянули майже 100 мільйонів разів, і вона продовжує набирати обертів.

Ще більш вражаюче — її широко поширювали люди з абсолютно різними поглядами, наприклад консервативний коментатор Matt Walsh («Це дуже хороша стаття»), та ліберальний коментатор Mehdi Hasan («Можливо, це найвартий уваги матеріал сьогодні, цього тижня або навіть місяця»).

Я чув багато людей, які говорили, що цю статтю їм особисто переслали батьки, брати, сестри та друзі.

Я очікую, що ця стаття з часом стане найчитанішою у цьому році довгою статтею.

Її здатність торкнутися такої кількості людей цілком зрозуміла.

Для більшості звичайних користувачів «штучний інтелект» — це просто безкоштовна версія ChatGPT для відповідей на питання, написання листів тощо.

Але тепер люди починають усвідомлювати, що ШІ стане потужною реальною силою.

Це рік, коли звичайні люди починають серйозно думати про те, як він змінить їхнє життя. І першою думкою зазвичай є — чи не забере ШІ їхню роботу, зробить їхні навички безцінними, погіршить їхнє життя.

Паніка поширюється. «The Atlantic» говорить про безробіття через ШІ, Берні Сандерс — про безробіття через ШІ, а Matt Walsh заявляє: «ШІ знищить мільйони робочих місць».

Це вже відбувається. Все змінюється. Лавина вже почалася.

Більшість дискусій, які ми ведемо зараз, дуже скоро стануть неактуальними. Ми входимо у час паніки.

Тому, у цей момент, якщо хтось, назвавшись «фахівцем у галузі ШІ», напише статтю про те, що ми зараз у ситуації, схожій на лютий 2020 року — коли рівень заражень COVID-19 стрімко зростав — це буде дуже доречно.

Його ідея полягає в тому, що, як і з пандемією, штучний інтелект скоро увірветься у життя звичайних людей з неймовірною силою удару; і єдиний спосіб підготуватися — підписатися на ШІ-продукти, заощаджувати гроші, щодня витрачати годину на експерименти з ШІ, навіть слідкувати за Matt Shumer, щоб «завжди знати, який модель зараз найкраща».

Це насправді не дуже хороша стаття — значна її частина очевидно згенерована ШІ, і сам Shumer це визнає — але у будь-якій поширюваній точці зору важливіше час і позиціонування, ніж якість змісту. А у Shumer час і позиція ідеальні.

Я вважаю, що жодна стаття не вплине так глибоко на сприйняття ШІ звичайними людьми, як ця. Вона стане символічним текстом нашої епохи.

І це дуже погано. Проблема не у тому, що її написала ШІ, а у тому, що її оцінка впливу ШІ — з коренем неправдива.

Я не вважаю, що ми зараз у ситуації, схожій на переддень пандемії 2020 року. Я не думаю, що звичайним людям потрібно дуже хвилюватися через ШІ. І я не вважаю, що висновки з цієї статті — про масштабне безробіття, кардинальні зміни у світі за кілька місяців, «лавину вже почали» — відповідають реальності.

Мені здається, що ці неправильні уявлення можуть спричинити катастрофічні наслідки.

Я кажу так не тому, що не вірю у ШІ. Навпаки, я вважаю, що ШІ стане надзвичайно важливим, і його кінцевий вплив буде щонайменше порівнянним із винаходом електрики або парової машини, а можливо, й одним із найважливіших відкриттів у історії людства. Майбутнє однозначно буде зовсім іншим, ніж минуле.

Але це не означає, що ми зараз у ситуації «лютий 2020 року». Я справді не вірю, що нас чекає масове безробіття, раптове завершення людської праці розуму або щось подібне до «лавини».

Наступні кілька років можуть здатися дивними, особливо якщо ви постійно слідкуєте за новинами у сфері ШІ. Але вплив ШІ у реальному світі буде повільнішим і більш нерівномірним, ніж уявляє Shumer. Людська праця не зникне швидко. І незалежно від того, чи витрачає людина годину щодня на використання ШІ, вона в цілому почуватиметься добре.

Справжнє заміщення праці — набагато складніше, ніж здається

ШІ стане надзвичайно потужним: воно буде постійно дивувати нас, і здатність його зростатиме, причому швидкість цього зростання буде зростати. Уже зараз багато завдань виконує ШІ так само добре, як і кваліфікований людина, і таких завдань буде все більше.

Але це не означає, що людська праця буде масово витіснена.

Головне у розумінні заміщення праці — це те, що воно залежить від «відносної переваги», а не від «абсолютної переваги».

Проблема не у тому, чи може ШІ виконати якусь людську задачу, а у тому, чи дає участь людини у процесі загальний результат, кращий за роботу лише ШІ.

Інакше кажучи, чи може людська участь підвищити продуктивність. Це зовсім інше питання. Навіть якщо ШІ перевершує людину у кожній окремій задачі, якщо «людина + ШІ» дає кращий результат, економічно має сенс зберігати людську працю.

Наприклад, у програмуванні, навіть якщо ШІ вже дуже сильний, співпраця людини і машини (так званий «кіборг-режим») все ще переважає роботу лише ШІ — адже потрібно повідомляти ШІ про свої уподобання, вимоги компанії, потреби клієнтів.

Це хороша новина для працівників, оскільки їхня продуктивність зростає. За умови еластичного попиту, перспектива людської праці залишається оптимістичною. (Можливо, саме тому кількість вакансій у сфері програмування зросла протягом року після запуску Claude Code).

Зі зростанням можливостей ШІ, людська взаємодоповнюваність може зменшитися, але цей «кіборг-епоха» триватиме довше, ніж уявляють.

Модель світу без людської взаємодоповнюваності — це крайній сценарій: коли ШІ у будь-якому завданні і за будь-яких умов повністю витісняє людину, і людська участь не потрібна ніде. Це нереально.

Проблема не у тому, що моделі недостатньо хороші, а у тому, що реальний світ наповнений «людськими вузькими місцями».

Світ керується людьми, а люди — це істоти неефективні, емоційні, консервативні, конкурентні, легко налякані. І поки ці вузькі місця існують, їх потрібно обробляти саме людям.

Вузькі місця визначають усе

Майже у всіх сферах причина низької ефективності — людський фактор: законодавство і регулювання, корпоративна культура, неформальний досвід, внутрішні конфлікти, галузеві норми, офісна політика, державна політика, ієрархічна структура, бюрократія, залежність від стосунків, уподобання щодо наративів і брендів, змінність смаків, обмежене розуміння, і найголовніше — опір змінам.

У довгостроковій перспективі технології поступово зменшують ці вузькі місця, як вода, що повільно шліфує камінь. Але це потребує часу. Загальні технології, як електрика, потребували десятиліть для значного підвищення продуктивності. Поширення ШІ може бути швидшим, але вузькі місця залишаються реальні.

Це також пояснює, чому, незважаючи на потужність моделей, у реальності заміщення робочих місць залишається обмеженим.

GPT-3 з’явився шість років тому, GPT-4 — три роки тому, і навіть у найпростіших сферах, таких як обслуговування клієнтів, масове звільнення ще не почалося.

Зміни відбуваються поступово, швидше схожі на поширення технологій, ніж на цунамі.

Інтелект не є обмежуючим фактором — головне у цьому світі — організації і інституції.

Попит на людську працю навіть може зростати

Чому, за умов абсолютної переваги ШІ, людська праця все ще може зростати? Тому що еластичність попиту набагато більша, ніж ми думаємо. Це «парадокс Джевонса»: підвищення ефективності, навпаки, збільшує загальний попит.

Приклад — програмне забезпечення.

Кожне підвищення ефективності програмування (нові мови, фреймворки, інструменти) у кінцевому підсумку призводить до зростання попиту на софт і, відповідно, до збільшення кількості інженерних вакансій. Якщо ШІ значно підвищить продуктивність, попит на софт може ще більше зрости.

Поки людство і ШІ залишаються у фазі взаємодоповнюваності, це вигідно для працівників у цілому.

Навіть якщо роботу не потрібно, люди все одно винаходять її

У довгостроковій перспективі людська взаємодоповнюваність може зменшитися до нуля. Але цей процес буде дуже довгим, і до того часу ми, ймовірно, вже увійдемо у суспільство високого добробуту.

Історія показує, що кожного разу, коли підвищується виробнича ефективність, людство використовує додаткові ресурси для нових професій і занять.

Від надлишку сільського господарства до сьогоднішніх барист, йогів, подкастерів, стримерів — у майбутньому з’явиться ще більше дивних і цікавих професій.

Звичайним людям буде добре

Мій висновок — зміни, які принесе ШІ, будуть значно м’якшими, ніж уявляють багато.

Звичайно, хтось втратить роботу, хтось потребуватиме перекваліфікації, хтось не зможе адаптуватися. Але загальний перехід буде поступовим.

Пандемія — не найкраща аналогія. Звичайний працівник — той, хто не цікавиться Anthropic і регулярно інвестує у індексні фонди — навряд чи опиниться у скрутному становищі через ШІ.

Багато речей з часом покращаться, деякі — погіршаться, а багато залишаться без змін. Людям просто потрібно поступово змінювати спосіб роботи і не панікувати.

Наступні кілька років будуть сповнені невизначеності і хаосу, але справжні ризики, ймовірно, не у технологіях, а у соціальних і політичних реакціях.

Якщо громадськість почне вірити, що «ШІ скоро спричинить лавину безробіття», результатом може стати не більше навчання ШІ, а політична мобілізація, що вимагатиме обмежень у використанні ШІ, заборони дата-центрів, гарантій роботи на все життя і навіть законодавчих бар’єрів для технологічного прогресу.

Якщо ШІ принесе підвищення продуктивності, швидше медичних і наукових проривів, і нову еру людської цивілізації, така реакція стане величезною соціальною втратою.

Можливо, краще зробити так, щоб громадськість усвідомила, що ШІ дуже потужний і швидко прогресує — і це добре.

Shumer правильно каже: «Зараз відбувається велика подія». Але нам не потрібно лякати звичайних людей цим.

Вони будуть у порядку.