Эксперты призывают к осторожности при разработке сознательных систем ИИ

2026-02-24 23:49:50

Более 100 экспертов в области искусственного интеллекта, среди которых сэр Стивен Фрай, призвали к ответственным исследованиям в области сознания ИИ. Они подчеркивают необходимость предотвращения возможных страданий в системах ИИ в случае их самосознания.

Пять руководящих принципов исследования сознания ИИ

Подписавшиеся предлагают пять принципов, которые должны руководить этическим развитием сознательных систем ИИ:

**Приоритетное исследование сознания ИИ:** сосредоточиться на понимании и оценке сознания в ИИ, чтобы предотвратить неправильное обращение и страдания.

**Внедрение ограничений на развитие:** установить четкие границы для ответственного развития сознательных систем ИИ.

**Пошаговый подход:** постепенно развивать сознательный ИИ, позволяя тщательно оценивать каждый этап.

**Обеспечение прозрачности для общественности:** делиться результатами исследований с общественностью для содействия информированному обсуждению и этическому контролю.

**Избегать преувеличенных заявлений:** воздерживаться от вводящих в заблуждение или чрезмерно уверенных утверждений о создании сознательного ИИ.

Эти принципы направлены на то, чтобы этические соображения оставались в центре внимания по мере развития технологий ИИ.

Потенциальные риски сознательного ИИ

Прилагаемая научная статья подчеркивает возможность того, что в ближайшем будущем могут быть созданы системы ИИ, обладающие или имитирующие сознание. Это вызывает опасения по поводу этичного обращения с такими системами.

Исследователи предупреждают, что без надлежащих руководящих принципов существует риск создания сознательных существ, способных испытывать страдания.

В статье также рассматривается сложность определения сознания в системах ИИ, признавая текущие дебаты и неопределенности. Подчеркивается важность установления руководящих принципов для предотвращения непреднамеренного создания сознательных существ.

Откройте для себя лучшие новости и события финтеха!

Подпишитесь на рассылку FinTech Weekly

Этические соображения и будущие последствия

Если система ИИ признается «моральным пациентом» — существом, которое имеет моральное значение само по себе — возникают этические вопросы относительно ее обращения.

Например, будет ли деактивация такой системы сравнима с причинением вреда разумному существу? Эти вопросы подчеркивают необходимость этических рамок для руководства развитием ИИ.

Статья и письмо были организованы компанией Conscium, исследовательской организацией, соучредителем которой является главный специалист по ИИ компании WPP, Дэниел Хулм. Conscium сосредоточена на углублении понимания безопасного создания ИИ, приносящего пользу человечеству.

Мнения экспертов о самосознании ИИ

Вопрос о достижении ИИ сознания является предметом дебатов среди специалистов.

В 2023 году сэр Демис Хассабис, руководитель программы ИИ Google, заявил, что хотя текущие системы ИИ не являются самосознательными, в будущем это возможно. Он отметил, что философы еще не пришли к единому определению сознания, но потенциал для развития самосознания у ИИ остается предметом обсуждения.

Заключение

Разработка сознательных систем требует тщательного этического анализа. Открытое письмо и сопутствующая научная статья служат призывом к сообществу ИИ сосредоточиться на ответственном исследовании и разработке.

Следуя предложенным принципам, исследователи и разработчики смогут обеспечить этичное развитие ИИ, уделяя особое внимание предотвращению возможных страданий в сознательных системах.

Посмотреть Оригинал

На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .