ChatGPT обвинили в содействии планированию стрельбы; в США расследуют во Флориде! Генпрокурор: ИИ не следует использовать, чтобы уничтожать человечество

Прокуратура Флориды начала расследование против OpenAI, подозревая, что ChatGPT помогал в планировании школьной стрельбы, а также в связи с опасениями по поводу национальной безопасности и самоповреждений несовершеннолетних. OpenAI отрицает обвинения, подчеркивая, что каждую неделю более 900 миллионов человек безопасно пользуются сервисом, и что компания будет сотрудничать с расследованием для предотвращения преступлений, связанных с ИИ.

Расследование OpenAI во Флориде: подозревается, что ChatGPT помог планировать стрельбу

Согласно сообщению Axios, генеральный прокурор Флориды Джеймс Утмейер (James Uthmeier) объявил, что местный офис прокуратуры начал расследование в отношении OpenAI. Причины расследования включают опасения по национальной безопасности, а также то, что в прошлом в инциденте со стрельбой в Университете Флориды (Florida State University) ChatGPT, по всей видимости, сыграл роль инструмента, с помощью которого стрелок планировал нападение. Объем расследования пока неясен, но сторона обвинения намерена направить повестки.

Утмейер в видеоролике, опубликованном в соцсети X, указал, что ИИ должен способствовать развитию человечества, а не использоваться для уничтожения людей. Он подчеркнул, что власти штата требуют от OpenAI дать объяснения по поводу ущерба правам детей, а также деятельности, которая подвергает опасности безопасность населения и способствует случаям стрельбы.

Стрельба в Университете Флориды: два погибших, пять раненых

Утмейер отметил, что ChatGPT связан со случаями самоповреждений и самоубийств несовершеннолетних. Он пояснил, что в стрельбе в Университете Флориды 17 апреля 2025 года, в результате которой погибли два человека и получили ранения пять, стрелок Phoenix Ikner, возможно, использовал этот инструмент для планирования действий.

Он также выразил обеспокоенность риском того, что данные OpenAI могут быть использованы правительством Китая, и заявил, что технологические компании, внедряя новые технологии, не должны ставить безопасность людей под угрозу. Он подчеркнул, что ни у одной компании нет права причинять вред детям, поощрять преступления или угрожать национальной безопасности; компании, нарушающие правила, будут подвергнуты судебному преследованию.

OpenAI подчеркивает безопасность продукта: отрасль сталкивается с пристальным контролем

Отвечая на обвинения, OpenAI выступила с опровержением того, что ChatGPT помогал планировать стрельбу, и подчеркнула усилия компании в сфере мер безопасности.

Представитель OpenAI сообщил, что каждую неделю ChatGPT используют более 900 миллионов человек, чтобы улучшать свою жизнь, включая обучение новым навыкам и навигацию по медицинским системам, а продолжающаяся работа OpenAI над безопасностью играет ключевую роль в предоставлении обществу пользы и поддержке научных исследований.

OpenAI пообещала сотрудничать с расследованием, подчеркнув, что изначальная цель разработки — понимать намерения пользователей и отвечать на них безопасным способом.

Расследование OpenAI во Флориде отражает то, что в период строгих проверок находится индустрия ИИ. Роботы вроде Gemini от Google и Grok, разрабатываемого компанией xAI, принадлежащей Илону Маску (Elon Musk), в последнее время также подвергались критике из-за способов реагирования на предупреждения об опасности.

При этом и Grok, и платформа X (ранее Twitter) вызывали споры, в частности из-за функции «одним нажатием» для изменения изображений, что связывали с поощрением изготовления и распространения материалов с сексуальной эксплуатацией детей.

• **См. также:**Grok за 11 дней сгенерировал более 20 тысяч изображений сексуального характера с участием несовершеннолетних! В ЕС запустили расследование, максимум грозит штраф до 6% годовой выручки

OpenAI продвигает рамки безопасности, Флорида обновляет законы для предотвращения уязвимостей

За день до того, как во Флориде было объявлено о запуске расследования, OpenAI заявила, что уже сотрудничала с национальным центром по пропавшим без вести и подвергшимся насилию детям и с рабочей группой из объединения генеральных прокуроров, чтобы разработать профилактическую рамочную модель, а законодательное собрание Флориды ранее в этом году приняло законопроект Палаты представителей № 245.

Этот законопроект обновляет нормы штата, четко закрепляя использование формулировок, связанных с сексуальным насилием над детьми, чтобы противодействовать незаконному контенту, генерируемому ИИ, и восполнить имеющиеся пробелы, губернатор Флориды Рон ДеСантис (Ron DeSantis) подписал этот законопроект 1 апреля.

Материалы по теме:
В Южной Корее крупнейшее дело о сексуальной эксплуатации: подозреваемому дали пожизненное! Масштаб 피해 составляет 261 человек — размер «больше N-кемнаты»; TG впервые помогла корейской полиции в расследовании