Các công ty luật hàng đầu tính phí hơn 2.000 USD mỗi giờ, hồ sơ tòa án bị phanh phui “AI bịa đặt, sai sót lan tràn”

Mỹ luật sư hàng đầu Sullivan·Cromwell (Sullivan & Cromwell) mới đây đã công khai xin lỗi trước một thẩm phán liên bang, vì các tài liệu nộp tại tòa án phá sản của họ tràn đầy các sai sót do AI tạo ra, bao gồm các vụ án giả, trích dẫn bịa đặt và các điều luật không tồn tại, những “lỗ hổng” này thậm chí còn bị một hãng luật bên ngoài vạch trần. Trớ trêu thay, các đối tác của công ty tính phí 2,000 USD mỗi giờ, nhưng lại không thể thực hiện ngay cả khâu rà soát, hiệu đính cơ bản.

Luật sư hàng đầu dính “tai tiếng” ! Bị lộ dùng AI viết tài liệu mà sai sót dày đặc

Sự việc xảy ra trong một vụ án phá sản liên quan đến Tập đoàn Thái tử Campuchia (Prince Group) tại Tòa án Phá sản Manhattan của Mỹ. Sullivan·Cromwell đại diện cho người thanh lý do chính quyền thuộc Quần đảo Virgin thuộc Anh chỉ định ra tòa, nhưng trong các tài liệu nộp cho tòa lại xuất hiện hàng loạt lỗi do AI tạo ra, tổng cộng hơn ba chục chỗ.

Những sai sót này thậm chí không phải do chính nội bộ của công ty phát hiện, mà là do văn phòng luật sư đối phương trong cùng vụ, Boies Schiller Flexner, tiết lộ trong tài liệu công khai. Các loại lỗi bao gồm: trích dẫn tên các vụ án giả tồn tại hoàn toàn không có thật; trong tài liệu xuất hiện những lời nói/ý kiến bịa đặt mà chưa từng được nói hoặc viết; thậm chí hoàn toàn bịa đặt một phần các điều khoản của “Luật Phá sản Hoa Kỳ”.

Andrew Dietderich, Giám đốc mảng tái cơ cấu toàn cầu của Sullivan·Cromwell, trong bức thư ngày 18 tháng 4 gửi thẩm phán Martin Glenn đã thừa nhận rằng một số lỗi thuộc về “ảo giác AI” (hallucinations).

Rà soát nội bộ coi như vô hình, đối tác của công ty tính phí hai nghìn USD mỗi giờ?

Phía công ty cho biết trong thư rằng họ đã có chính sách “đầy đủ và các yêu cầu đào tạo” đối với việc sử dụng công cụ AI, và trước khi được cấp quyền sử dụng công cụ AI, luật sư cũng phải hoàn thành khóa đào tạo, trong đó có nêu rõ yêu cầu “không tin bất kỳ nội dung nào, mọi thứ phải được tự mình xác minh”. Tuy nhiên, các chính sách nêu trên đã không được triển khai khi chuẩn bị tài liệu đó, và quy trình rà soát hai lần do người chịu trách nhiệm giám sát phụ trách cũng không thể chặn bất kỳ sai sót nào.

So với mức phí của đối tác công ty hơn 2,000 USD mỗi giờ, vụ việc này đã gây ra nhiều tranh luận rộng rãi trong các giới pháp lý trong và ngoài nước. Trong thư, công ty cho biết sau khi phát hiện sai sót, đã tiến hành rà soát toàn diện tất cả các tài liệu khác trong vụ án, xác nhận rằng “ảo giác AI” chỉ xuất hiện trong tài liệu này, và sau đó đã nộp phiên bản đã được đính chính.

“Ảo giác AI” gây chấn động giới pháp lý, trách nhiệm đạo đức của luật sư lại bị đưa ra xem xét

Sự kiện lần này không phải là lần đầu giới pháp lý gặp cảnh “lộn xộn” do AI. Năm 2023, hai luật sư tại Manhattan (New York) bị thẩm phán liên bang phạt 5,000 USD vì đã nộp cho tòa một bản tóm tắt pháp lý tràn đầy các vụ án do ChatGPT bịa đặt. Trong những năm gần đây, đã có hàng chục vụ việc mà thẩm phán đã ra phán quyết/ra quyết định xử phạt đối với luật sư vì sử dụng AI để nghiên cứu pháp lý và soạn thảo tài liệu nhưng lại không xác minh đầy đủ nội dung.

Hiệp hội Luật sư Hoa Kỳ (ABA) đã có yêu cầu rõ ràng rằng luật sư phải thận trọng khi sử dụng các mô hình AI, và về mặt đạo đức, luật sư cũng có trách nhiệm đảm bảo tính chính xác của mọi tài liệu nộp cho tòa án. Pháp luật hiện chưa cấm luật sư sử dụng AI, nhưng nghĩa vụ xác minh sau khi sử dụng vẫn thuộc về chính bản thân luật sư.

Trump rất thích nhãn hiệu! Văn phòng lão làng danh tiếng cao xin lỗi

Sullivan·Cromwell được thành lập hơn 100 năm, là một trong những hãng luật lâu đời nhất và có uy tín cao nhất tại Mỹ, có hơn 900 luật sư, nổi tiếng trên toàn cầu về các lĩnh vực sáp nhập và mua lại, kiện tụng quản trị công ty và đầu tư tư nhân. Gần đây, hãng luật này tiếp tục nhận được sự chú ý vì đại diện cho Tổng thống Trump xử lý nhiều vụ án kháng cáo.

Vụ “lùm xùm” do AI lần này, không nghi ngờ gì nữa, đã tạo thêm một vết nứt khó có thể bỏ qua lên “bộ mặt” của hãng luật tinh hoa này, đồng thời một lần nữa gióng lên hồi chuông cảnh báo cho toàn bộ ngành công nghiệp pháp lý.

Bài viết này “Hãng luật top phí hơn hai nghìn USD mỗi giờ, bị lộ ‘ảo giác AI, sai sót dày đặc’ trong hồ sơ tòa án” lần đầu tiên xuất hiện trên Chuỗi Tin ABMedia.