Tòa án Tối cao Gujarat yêu cầu phản hồi từ Trung ương và Chính phủ Gujarat về PIL liên quan đến việc lạm dụng Deepfakes do AI tạo ra

(MENAFN- Live Mint) Tòa án tối cao Gujarat vào thứ Ba đã gửi thông báo tới chính phủ trung ương và chính quyền địa phương về một đơn kiện tập thể liên quan đến việc lạm dụng trí tuệ nhân tạo để tạo ra các nội dung deepfake và nội dung tổng hợp nhằm vào các cơ quan Hiến pháp.

Một hội đồng chia thành của Chánh án Sunita Agarwal và Thẩm phán DN Ray cũng đã chỉ đạo Giám đốc Công an Gujarat gửi phản hồi, nêu rõ rằng các câu hỏi về việc phát hành thông báo tới các nền tảng trung gian Meta, Google, X, Reddit và Scribd sẽ được xem xét sau khi nhận được phản hồi từ các chính phủ.

** Cũng xem** | Cuộc chiến chống deepfake của Ấn Độ là một trận đấu phức tạp

Đơn kiện tập thể, do luật sư Vikas Vijay Nair đệ trình, yêu cầu các cải cách pháp lý và hướng dẫn quy định để bảo vệ các cơ quan Hiến pháp và pháp luật khỏi việc lạm dụng AI trong việc tạo và phát tán các video và hình ảnh giả mạo, chỉnh sửa.

Người khởi kiện đề nghị tòa án ra lệnh cho các cơ quan cũng như các tập đoàn công nghệ Meta, Google và X ngay lập tức cấm phát hành, truyền tải và truyền thông tất cả các hình ảnh, video và nội dung kỹ thuật số do AI tạo ra của các cơ quan Hiến pháp trên tất cả các mạng xã hội.

Ngoài ra, đơn kiện còn yêu cầu bắt buộc sử dụng watermark “dữ liệu do AI tạo ra” trên tất cả các nội dung như vậy, và cấm tuyệt đối việc phát tán và rút khỏi các nội dung này trong thời gian thực.

Đơn kiện đề nghị các cơ quan phối hợp xây dựng các quy trình vận hành tiêu chuẩn (SOP) cho tất cả các đồn cảnh sát và các đơn vị tội phạm đặc biệt tại Gujarat liên quan đến nội dung do AI tạo ra, cũng như ra lệnh cho các nền tảng trung gian như Meta, Google, X, Reddit và Scribd tuân thủ nghiêm ngặt các nghĩa vụ pháp lý liên quan đến thẩm định, gắn nhãn nội dung và khả năng truy xuất nguồn gốc.

** Cũng xem** | Quy tắc gỡ bỏ deepfake trong hai giờ gây tranh cãi lớn về tuân thủ của các tập đoàn công nghệ lớn

Đơn kiện nhấn mạnh việc lạm dụng công nghệ deepfake để tạo ra các video bắt chước giọng nói, biểu cảm khuôn mặt và chuyển động cơ thể với độ chính xác đáng kinh ngạc.

Theo đơn kiện, công chúng thường gặp khó khăn trong việc phân biệt nội dung thật và nội dung bị chỉnh sửa, dẫn đến nhầm lẫn, tổn hại danh tiếng và suy giảm niềm tin công chúng.

Thay mặt chính quyền bang, Luật sư Tổng Kamal Trivedi đã trình bày trước tòa rằng vấn đề này cần được xem xét nghiêm túc và cho biết đã có sự lạm dụng rộng rãi và nghiêm trọng nội dung trực tuyến qua deepfake và các vật liệu tổng hợp, gây thiệt hại lớn và không thể khắc phục.

Luật sư cũng trích dẫn quan điểm quốc tế về vấn đề này, lưu ý rằng nhiều quốc gia đã ban hành các luật nghiêm ngặt để điều chỉnh trí tuệ nhân tạo và việc lạm dụng deepfake.

Phiên tòa tiếp theo sẽ diễn ra vào ngày 20 tháng 3.

MENAFN24022026007365015876ID1110781643