Источник изображения: https://x.com/VitalikButerin
Предыстория последней точки зрения
Недавние публикации сообщают, что соучредитель Ethereum Виталик Бутерин считает: будущее искусственного интеллекта должно быть направлено на усиление человеческих возможностей, а не на создание полностью автономных сверхинтеллектуальных (ASI) систем. В социальных сетях и публичных выступлениях он подчеркивает, что новые AI-лаборатории должны иметь четкие уставы, уделяя первоочередное внимание сотрудничеству человека и машины и разработке инструментов для повышения человеческого потенциала. Он также рекомендует отказаться от создания систем, способных к автономной работе более одной минуты.
Эта точка зрения возникла на фоне обостряющихся мировых дискуссий о безопасности искусственного интеллекта, рисках автономии и вопросах регулирования. По мере того как общий искусственный интеллект (AGI) и сверхинтеллектуальный AI (ASI) становятся центральными темами общественных обсуждений, вопросы о замещении человеком принятия решений и потере контроля над AI приобретают особое значение как для технологического сектора, так и для общества в целом.
Ключевые аргументы Виталика
Позиция Виталика строится на двух основных принципах:
- AI должен быть ориентирован на развитие инструментов для усиления человеческих возможностей — это направление, по его мнению, действительно полезно для общества и пока недостаточно развито;
- Необходимо избегать разработки систем с длительным автономным принятием решений. Он предлагает ограничить автономную работу, например, одной минутой, чтобы человек всегда сохранял контроль над границами поведения AI.
Виталик отмечает, что несмотря на стремление многих компаний ASI к высокой автономии, инструментов AI, предназначенных для поддержки мышления, повышения продуктивности и стимулирования социального прогресса, пока недостаточно. Поэтому он призывает сосредоточить технические исследования и общественное внимание на направлениях, усиливающих человеческое мышление и способности.
Автономия AI и усиление человеческих возможностей
Полностью автономный AI — это системы, работающие вне непосредственного контроля человека, самостоятельно принимающие решения и выполняющие действия. Такие системы обладают значительной сложностью и потенциалом, но несут риски этического характера, угрозу безопасности и потери контроля.
AI, ориентированный на усиление человеческих возможностей, поддерживает мышление, принятие решений и выполнение физических задач — например, улучшает обработку информации, помогает творческой работе, оптимизирует анализ сложных систем. Такие инструменты имеют четкие рамки применения, зависят от человеческого участия и контроля, интегрируя совместную работу человека и машины в практические процессы.
