Ít có vụ án nào khiến ông Hamid Ismail phải lăn tăn nhiều sau gần 2 thập kỷ làm luật sư, nhưng ông đã thực sự ngạc nhiên khi một thân chủ do ông bào chữa đã bị kết án với sự hỗ trợ của công cụ trí tuệ nhân tạo (AI) tại bang Sabah của Malaysia.

Ismail biết các tòa án ở Sahbah và bang láng giềng Sarawak đang thử nghiệm công cụ AI để nhận các khuyến nghị về xử án trong khuôn khổ một chương trình thí điểm trên toàn quốc. Tuy vậy, ông vẫn cảm thấy bất an trước việc công nghệ này được sử dụng vào thời điểm mà các luật sư, thẩm phán, và công chúng vẫn chưa hiểu đầy đủ về nó.

AI không phải là hiếm trong hệ thống tư pháp thế giới, nhưng…

Đã không có tham vấn phù hợp về việc sử dụng công nghệ này, và vấn đề này cũng không được tính đến trong luật hình sự của Malaysia.

Luật sư Ismail nói: “Bộ luật tố tụng Hình sự của chúng tôi không quy định về việc sử dụng AI tại tòa án… Tôi cho rằng hành động đó là vi hiến”. Luật sư này cho biết thêm, bản án do AI khuyến nghị cho thân chủ của ông về tội sở hữu ma túy là quá nặng.

Các tòa án tại các bang Sabah và Sarawak thí điểm phần mềm do Sarawak Information Systems – một hãng của chính quyền bang, phát triển. Hãng này cho biết, họ đã tổ chức các cuộc tham vấn và thực hiện một số bước đi để giải quyết các mối quan ngại được nêu ra.

Còn trên thế giới, chuyện sử dụng trí tuệ nhân tạo trong hệ thống tư pháp hình sự đang gia tăng nhanh chóng, từ ứng dụng điện thoại di động “luật sư chatbot” DoNotPay tới các thẩm phán robot ở Estonia ra phán quyết về các tranh chấp nhỏ, rồi đến các trọng tài robot ở Canada và các thẩm phán AI trong các tòa án Trung Quốc.

Giới chức cho hay các hệ thống dựa trên AI khiến việc kết án trở nên nhất quán hơn và có thể giảm tình trạng án tồn đọng một cách nhanh chóng với chi phí rẻ, giúp các bên trong tiến trình pháp lý tránh được tình trạng kiện tụng kéo dài, tốn kém, và căng thẳng.

Theo một cuộc điều tra toàn cầu do hãng nghiên cứu Gartner tiến hành vào năm 2021, hơn 1/3 trong số các quan chức chính quyền được hỏi cho biết họ có kế hoạch gia tăng đầu tư vào các hệ thống vận hành nhờ AI bao gồm chatbot, công nghệ nhận diện khuôn mặt, và khai thác dữ liệu.

Tháng 4/2022, giới chức liên bang Malaysia sẽ kết thúc chương trình thí điểm các công cụ xử án bằng AI trên toàn quốc. Theo họ, các công cụ này “có thể cải thiện chất lượng xét xử”.

Một phát ngôn viên của Chánh án Liên bang Malaysia cho biết, việc sử dụng AI trong các tòa án “vẫn trong giai đoạn thử nghiệm”. Ông này từ chối bình luận thêm.

Tình tiết giảm nhẹ

Giới phê bình cảnh báo các rủi ro từ AI có thể củng cố, phóng đại định kiến đối với người thiểu số và các nhóm bị gạt sang bên lề. Họ cho rằng công nghệ này thiếu năng lực của một vị thẩm phán biết cân đo các hoàn cảnh đơn lẻ hoặc thích ứng với hiện thực xã hội đang thay đổi.

Luật sư Ismail nói với hãng tin Reuters: “Trong xử án, các thẩm phán không chỉ nhìn vào các dữ kiện của vụ án – họ cũng xem xét các tình tiết giảm nhẹ và sử dụng trí tuệ nhận định, đánh giá. Nhưng AI thì không thể sử dụng trí khôn như thế”.

Để cân nhắc các yếu tố tăng nặng và giảm nhẹ, “cần có một bộ óc con người”, theo luật sư nhân quyền Malaysia - Charles Hector Fernandez.

Ông Fernandez nói thêm: “Các bản án có thể thay đổi theo thời gian và công luận. Chúng tôi cần thêm thẩm phán và công tố viên để xử lý số vụ án gia tăng. AI không thể thay thế các thẩm phán bằng xương bằng thịt”.

Kinh ngạc bài viết của robot AI không khác gì nhà báo bình luận

VOV.VN - Nếu đọc bài viết sau do chính một chú robot dùng trí tuệ nhân tạo (AI) viết, quý vị hẳn sẽ phải kinh ngạc về khả năng làm báo của nó.

Hãng Sarawak Information Systems cho biết, nhằm xử lý các quan ngại về việc phần mềm AI có thể gây ra định kiến trong xử án, họ đã loại bỏ biến số “chủng tộc” khỏi thuật toán.

Thế nhưng, một báo cáo năm 2020 của Viện nghiên cứu Khazanah (KRI) về công cụ này cho rằng “dù các biện pháp hạn chế mặt trái như thế là đáng quý, chúng vẫn không khiến cho hệ thống này hoàn hảo”.

Viện này lưu ý rằng hãng kia mới chỉ sử dụng một bộ dữ liệu của thời kỳ 5 năm từ 2014-2019 để huấn luyện thuật toán của họ. Theo KRI, bộ dữ liệu đó “khá giới hạn nếu so với các cơ sở dữ liệu khổng lồ sử dụng trong các chương trình nghiên cứu trên toàn cầu”.

Hiện chưa rõ Sarawak Information Systems đã mở rộng cơ sở dữ liệu của mình hay chưa.

Một phân tích của KRI đối với các vụ án được xử ở Sabah và Sarawak cho thấy, các thẩm phán áp dụng các khuyến nghị của AI trong 1/3 số vụ xử, tất cả trường hợp này đều liên quan đến hiếp dâm hoặc tàng trữ ma túy theo các điều khoản trong thí điểm của hai bang.

Một số thẩm phán đã giảm độ nặng của mức án đề nghị sau khi tính đến các tình tiết giảm nhẹ. Các bản án khác thì lại bị tăng nặng do chưa có “tác dụng răn đe đủ mạnh”.

“Thuật toán mờ mịt”

Giáo sư luật Simon Chesterman thuộc Đại học Quốc gia Singapore cho biết, công nghệ có tiềm năng cải thiện hiệu quả trong hệ thống tư pháp hình sự.

Nhưng giáo sư này cũng nói luôn rằng tính hợp pháp của công nghệ này phụ thuộc vào không chỉ độ chính xác trong các quyết định được đưa ra, mà còn cả cách thức đưa ra các quyết định đó.

Giáo sư Chesterman – giám đốc cao cấp tại AI Singapore, một chương trình thuộc chính phủ, nói: “Nhiều quyết định có thể giao cho máy. Nhưng một thẩm phán thì không nên giao sự phán xét đòi hỏi trí tuệ cao cho một thuật toán mờ mịt”.

Hội đồng Luật sư Malaysia – tổ chức đại diện cho các luật sư, đã bày tỏ quan ngại về chương trình thí điểm AI này.

Khi các tòa án ở thủ đô Kuala Lumpur bắt đầu sử dụng AI vào giữa năm 2021 để kết án đối với 20 loại tội phạm, Hội đồng trên cho biết họ “không nhận được hướng dẫn nào cả”, và “chúng tôi không có cơ hội nhận phản hồi từ những người thực thi luật hình sự”.

Tại Sabah, luật sư Ismail kháng lại bản án do AI khuyến nghị tuyên cho thân chủ của ông mà thẩm phán đã áp dụng.

Tuy nhiên, ông Ismail cho biết nhiều luật sư trẻ không dám thách thức các bản án kiểu đó, vì họ cho rằng đó là phương án tốt nhất và họ chấp nhận mà không mảy may nghi vấn. “Đối với họ, AI giống như một thẩm phán cao cấp”./.