Một công ty luật chuyên về thương tích cá nhân tại Mỹ, Morgan & Morgan, đã gửi email khẩn cấp đến hơn 1.000 luật sư của mình trong tháng này, cảnh báo rằng trí tuệ nhân tạo (AI) có thể tạo ra các án lệ giả mạo, và việc sử dụng thông tin sai lệch trong hồ sơ pháp lý có thể dẫn đến bị sa thải.

Một thẩm phán liên bang ở Wyoming gần đây đã đe dọa áp dụng biện pháp trừng phạt đối với hai luật sư của công ty này vì đã đưa vào hồ sơ kiện Walmart những trích dẫn án lệ không có thật. Một trong hai luật sư đã thừa nhận trong hồ sơ tòa án rằng anh ta đã sử dụng một chương trình AI, và công cụ này đã "bịa" ra các vụ án. Luật sư này đã xin lỗi và gọi đó là một sai lầm không cố ý.

Hiện tượng AI tạo ra thông tin giả mạo trong các tài liệu pháp lý đã khiến nhiều tòa án trên khắp nước Mỹ phải đặt câu hỏi hoặc xử lý kỷ luật các luật sư trong ít nhất bảy vụ việc trong hai năm qua. Điều này tạo ra một thách thức công nghệ mới đối với cả nguyên đơn lẫn thẩm phán.

Vụ kiện chống lại Walmart trở nên đáng chú ý vì liên quan đến một công ty luật danh tiếng và một tập đoàn lớn. Tuy nhiên, những trường hợp tương tự đã xuất hiện trong nhiều vụ kiện khác kể từ khi các chatbot như ChatGPT đưa AI vào lĩnh vực pháp lý, làm nổi bật một rủi ro mới trong tố tụng.

Phát ngôn viên của Morgan & Morgan từ chối bình luận. Walmart cũng không đưa ra phản hồi. Hiện thẩm phán vẫn chưa quyết định liệu có áp dụng biện pháp kỷ luật đối với các luật sư trong vụ kiện liên quan đến một chiếc ván trượt điện bị lỗi hay không.

Sự phát triển của AI tạo sinh giúp rút ngắn thời gian nghiên cứu và soạn thảo tài liệu pháp lý, khiến nhiều công ty luật hợp tác với các nhà cung cấp AI hoặc tự phát triển công cụ của riêng mình. Theo khảo sát của công ty mẹ Reuters, 63% luật sư được hỏi cho biết họ đã sử dụng AI trong công việc, trong đó 12% sử dụng thường xuyên.

Tuy nhiên, AI tạo sinh thường tạo ra thông tin không chính xác, được gọi là "ảo giác" (hallucinations) trong ngành. Do AI đưa ra câu trả lời dựa trên các mô hình thống kê từ tập dữ liệu lớn thay vì xác minh thông tin thực tế, các chuyên gia pháp lý cảnh báo rằng luật sư cần thận trọng khi sử dụng công nghệ này.

Theo quy định về đạo đức nghề nghiệp, luật sư phải chịu trách nhiệm kiểm tra và đảm bảo tính chính xác của các tài liệu pháp lý mà họ đệ trình. Hiệp hội Luật sư Hoa Kỳ (ABA) đã nhấn mạnh với 400.000 thành viên của mình rằng quy định này áp dụng ngay cả với những sai sót vô tình do AI tạo ra.

"Chỉ vì công cụ nghiên cứu pháp lý thay đổi không có nghĩa là hậu quả sẽ khác đi," Andrew Perlman, Trưởng khoa Luật tại Đại học Suffolk và là người ủng hộ việc sử dụng AI trong ngành luật, nhận định.

"Khi một luật sư sử dụng ChatGPT hoặc bất kỳ công cụ AI tạo sinh nào để tạo ra trích dẫn án lệ mà không kiểm tra, điều đó đơn giản là thiếu năng lực," Perlman nói.

Một trong những trường hợp đầu tiên mà tòa án khiển trách luật sư vì sử dụng AI sai cách xảy ra vào tháng 6/2023. Khi đó, một thẩm phán liên bang ở Manhattan đã phạt hai luật sư tại New York 5.000 USD vì trích dẫn các vụ án không có thật trong một vụ kiện thương tích cá nhân chống lại một hãng hàng không.

Theo VTV.VN