五角大樓 з Anthropic конфлікт, генеральний директор Dario Amodei підкреслює, що він не поступиться. Пентагон підписав нову угоду з OpenAI, яка приймає подібні обмеження. Як ти вважаєш, хто в цій ситуації зробив правильно?

Особисто я вважаю, що Dario зробив неправильно. Той, хто продає сталь, вимагає, щоб кузня не могла робити ножі з сталі… а продавець ножів не дозволяє м’яснику використовувати ножі, бо м’ясник може бути агресивним і вбити когось. Все має постійно вдосконалювати систему, а не вводити односторонні заборони. Після відкриття ядерної енергії хіба не створювали атомні бомби? Просто потрібно мати обмежувальні правила. Під час зустрічі Dario відкрито виступав і, здається, став на моральну висоту. Але як розумна людина, ти повинен попередньо пояснити особливі випадки. Наприклад, не можна моніторити людей, але можна коригувати у крайніх випадках. Він не підходить на посаду CEO, краще — головний технічний директор. CEO має балансувати між різними інтересами та ресурсами, що може шкодити компанії. У майбутньому обов’язково буде законодавство щодо AI, адже зростання AI небезпечніше за ядерну зброю.

Я не захищаю Міноборони і ОТМАНа, кожен має робити свою справу. Міноборони точно не використовує AI для спілкування. ОТМАН, якщо буде розумним, обов’язково домовиться про правила, а не вводитиме односторонні заборони і не виступатиме з позиції сили.