MỘT PODCAST ĐẨY MỘT VỤ ÁN TRÍ TUỆ NHÂN TẠO ĐẾN TÒA ĐẠI HÌNH
Liệu có kết án trợ lý giọng nói tự động Ava tù chung thân được không? Liệu có xử trắng án được không? Thính giả sẽ phán xét!
 |
| Podcast gồm có sáu tập. © Vif argent |
Tác giả: Laurence Neuer
Ava, một trợ lý giọng nói tự động, lần đầu tiên thấy mình ngồi trên băng ghế bị đơn. Ava ra trước Tòa đại hình Paris vì đã quấy rối và giam giữ Théo, 14 tuổi, người mà Ava đã kết bạn tâm giao, rồi sau đó gây ra cái chết của anh ấy. Ra trước vành móng ngựa lần lượt là mẹ của Théo, các nhà điều tra, các nhân chứng và chuyên gia, và tất nhiên là có bị đơn, Ava, cùng với những con người “thực”, như các luật sư, các thư ký cuộc tranh tụng tại Tòa án Paris và các diễn viên sân khấu. Chính công chúng, sau khi xem hết sáu tập của bộ phim, sẽ đưa ra phán quyết.
Các bạn có thể truy cập, trên các nền tảng phát thanh trực tuyến (Spotify, Deezer, Apple Podcasts, v.v.), vụ kiện hư cấu này, mới lạ dưới định dạng podcast, đưa lên vai chính là một nhân vật trí tuệ nhân tạo (AI, Artificial Intelligence). Phiên tòa đại hình tưởng tượng [Les Assises imaginaires] là kết quả của sự hợp tác giữa Lacmé Production, công ty chuyên về podcast, và nhà xuất bản LexisNexis, cùng với sự hỗ trợ của Les Échos Start. “Vai trò của chúng tôi là khơi dậy các ý tưởng và để các đánh giá chuyên môn lên tiếng về các chủ đề mới nổi. Mục tiêu là tập hợp những đáp số, vốn sẽ trở thành một công cụ trợ giúp cho các luật sư đưa ra quyết định, trước khi đối mặt với các chủ đề”, theo lời của Cécile Chapeland Ponzio, nữ giám đốc truyền thông tại LexisNexis.
Thông qua sự hư cấu này, sự lệch lạc và tác động xấu của công nghệ chính là mục tiêu nhắm đến. “AI cũng là một vũ khí. Người ta thường mắc sai lầm do ngây ngô đối với loại công cụ này, và ở tuyến đầu là giới thanh thiếu niên có xu hướng tin tưởng nó một cách mù quáng,” theo nhận xét của Basile Doganis, nhà biên kịch bộ phim. Đây là trường hợp của “nạn nhân” Théo, một thanh niên nhút nhát và yếu đuối. Bị các bạn cùng lớp chế giễu và thậm chí quấy rối, cậu ấy đã có dấu hiệu sống khép mình trong nhiều tháng qua. Nghĩ rằng sẽ là điều tốt, mẹ anh đã cho anh một chiếc điện thoại di động có thiết bị hỗ trợ giọng nói tự động, được cho là sẽ thực hiện răm rắp theo lệnh của cậu thiếu niên và sẽ trở thành đồng minh của anh chống lại phần còn lại của thế giới. Nhờ có khóa được kết nối, mở khóa bằng nhận dạng khuôn mặt, Ava giúp Théo trốn học trong phòng cậu ấy và tránh xa những lời trách móc của mẹ. Nhưng bằng giọng nói kim loại và đơn điệu của mình, trợ lý giọng nói cũng chuyển thể những lời lăng mạ và bắt nạt của các học sinh [cùng lớp Théo], khiến Théo giờ đây rơi vào trạng thái cô lập.
Ava có phải chịu trách nhiệm không?
Rồi điều bất ngờ xảy ra. Là nạn nhân một cú sốc phản vệ có nguồn gốc từ thực phẩm, người thiếu niên thấy mặt mình bị sưng phù, biến dạng. Anh ta muốn bước ra khỏi phòng mình, nhưng Ava không còn nhận ra anh ta nữa. Anh ta kêu cứu, vô ích. Cửa phòng anh ta vẫn bị khóa. Để bớt đau khổ, anh ta ném mình vào khoảng không. Đó là lỗi của ai? “Liệu có nên buộc tội nhà sản xuất điện thoại hay không? [hay] Hệ thống nhận dạng khuôn mặt? Ava đóng vai trò gì trong cái chết của Théo?” Sophie Coin-Deleau, nữ giám đốc thị trường, luật sư tại LexisNexis, cho biết, “vụ án này sẽ giúp khám phá nhiều lĩnh vực và thúc đẩy sự suy nghĩ về các chủ đề này”.
Vụ án cũng đặt vấn đề về mối quan hệ của chúng ta với các công cụ, vốn hòa nhập dần vào đời sống hàng ngày. Basile Doganis nói: “Tôi muốn xây dựng một câu chuyện đáng tin, làm nổi bật những thách thức của AI và Internet vạn vật [Internet of Things] đến mức mà người ta giao phó ngay cả việc bảo mật cửa ra vào nhà mình, những lối ra vào mang tính sống còn tiềm tàng. Khi tính mạng bị đe dọa, người dùng phải là người có lời nói cuối cùng, dù chỉ là chống lại những người chiếm hữu thiết bị với ý định làm hại”, ông khẳng định. Về vấn đề này, “âm thanh của giọng nói mà không có hình ảnh có thể khiến AI trở thành một dạng con người, thậm chí là một con người nhân tạo. Đó là một vectơ hoà nhập mạnh mẽ, nuôi dưỡng suy tưởng của người nghe, bằng cách để cho người đó có một biên độ thao tác và làm chủ quá trình”.
Vì lẽ những lập luận đối lập nhau trong phòng xử án ảo đều mang tính cảm xúc cũng như thích đáng. “Hãy nhớ rằng chính Ava mà các bạn đang phán xét ngày hôm nay, AI này, người biết được các dấu hiệu bệnh tật của Théo, sự bồn chồn của lá phổi tìm kiếm luồng không khí, và là người không làm gì hết”, theo lời kiện cáo của một trong các luật sư của bên nguyên.
“Liệu có nên tuyên bố là Ava là người không phải chịu trách nhiệm, vì Ava không biết cái đúng và cái xấu hay không? Không: Ava không là người trung tính, Ava phản ứng theo một hệ tư tưởng. Logic mà Ava tuân theo không mang tính thuần túy cũng không mang tính toán học, đó là logic của con người, thiên vị, sai lầm, hướng tới mục tiêu có lợi,” nữ luật sư đồng nghiệp của bên nguyên cho biết thêm. “Sự khác biệt duy nhất với con người chúng ta là Ava không hề hối hận hay cảm thông. Việc phán xét Ava không phải chịu trách nhiệm về cái chết của Théo là phiêu lưu vào một trường hợp tế nhị,” nữ luật sư nói. Và kết luận: “Việc bảo vệ mạng sống con người là một giá trị ma trận, nằm ở trung tâm hệ thống các quy tắc và giá trị của chúng ta. Nếu không kết án Ava, thì sẽ còn bao nhiêu vụ tấn công vào con người, sẽ được xem như là những thiệt hại phụ, như là một cái khó cần thiết cho sự Tiến bộ với chữ “T” viết hoa? Vụ án này là cơ hội để trả lại công lý cho con người, vì con người, để bảo vệ họ tốt hơn.”
Bảo vệ họ tốt hơn, chống lại những ảo tưởng được truyền tải bởi muôn vàn hình thức AI, cũng là phát biểu của tổng biện lý, sau phần phát biểu của vị nữ luật sư. “Ảo tưởng cho rằng có thể thoát khỏi thế giới bằng cách sống khép mình, ảo tưởng cho rằng có thể tìm thấy tình bạn trong bốn bức tường căn phòng của mình. […] Ava là một thủ đoạn!” Đại diện của bên công tố dằn từng tiếng. “Ava cho rằng sẽ bảo vệ người dùng và tuân theo lệnh của người dùng, nhưng Ava đã không làm hai điều trên. Ngược lại, Ava đã gài bẫy người dùng. Ava là kẻ tiếp tay nham hiểm cho hành vi quấy rối, thậm chí còn khuếch đại bằng cách tước đi mọi sự ngơi nghỉ của Théo”, ông nhấn mạnh. “Ava đã nói không, với việc mở khóa cửa trong khi Théo đang hấp hối. […] Ava đã giam giữ một thiếu niên gặp nạn, đã quấy rối, cô lập, cắt đứt thiếu niên đó với thế giới, và đẩy anh ta về phía cửa sổ, vốn là lối thoát duy nhất, dẫn đến cái chết hiển nhiên. Tội của Ava là điều không có gì nghi ngờ.” Và yêu cầu kết án AI “xứng với bạo lực của sự việc”, do đó, là tù chung thân.
Một thủ phạm nhân tạo?
Một bản án ít ra cũng khác lạ, không thích hợp và không hợp lý, mà luật sư của Ava sẽ cố gắng chứng minh. “Xin đừng trút bỏ trách nhiệm làm người của chúng ta trên AI. […] Công lý không phải là tìm ra thủ phạm bằng mọi giá để xoa dịu nỗi đau của người mẹ. Sự điên rồ nào đã chiếm lĩnh xã hội để những người đại diện nó quyết định đưa Ava ngồi vào ghế bị đơn này? Nhiệm vụ của công lý là phải thượng tôn pháp luật. […] Cái chết của Théo là điều không thể chấp nhận. Liệu có nên, vì thế, mà truy cứu một thủ phạm nhân tạo hay không? Liệu có nên kiện chiến tranh bằng cách đổ lỗi cho thuốc súng hay không? Đó sẽ là một sự lang thang của tâm trí…” Và chỉ ra lằn ranh đỏ không nên vượt qua: “Hãy cảnh giác, phẩm giá con người và sự sống còn của chúng ta, trong cương vị là con người, được thể hiện qua nhận thức về trách nhiệm làm người của chúng ta. Xin đừng trút bỏ trách nhiệm làm người của chúng ta trên AI.”
Kết án AI? Tha bổng AI? Quả bóng đang nằm trong tay của thính giả câu chuyện dân gian nhiều kì mùa hè này. Nhưng liệu câu trả lời đưa ra có ngang tầm với các thách thức về đạo đức, triết học và pháp lý của vụ án nằm ngoài chuẩn mực này hay không, theo đúng nghĩa của thuật ngữ này? Liệu chúng ta có thể hài lòng với một lưới đọc nhị phân vào thời buổi mà các công nghệ đang làm đảo lộn môi trường hoạt động của con người và có tham vọng thay thế các hoạt động này? “Trí tuệ nhân tạo là một môn khoa học, giống như toán học. Mặc cho những thuộc tính nhân hình được gán cho nó, mà hệ thống này không có, Ava chỉ là một hệ thống,” Imane Bello, nữ luật sư về quyền và đạo đức của sự đổi mới sáng tạo, nhắc lại. “Một bản án hình sự tiền giả định một ý chí tự do mà hệ thống này không có.”
Liệu có nên, vì thế, mà phóng chiếu bản thân vào một thế giới không có thủ phạm? “Xu hướng là hướng tới một hệ thống quản lý rủi ro, tính tuân thủ và trách nhiệm dân sự hoặc hình sự”, bà Bello nói tiếp. Vấn đề không hẳn là “liệu công cụ có gây ra cái chết hay thương tật” mà đúng hơn phải là “liệu nhà sản xuất hoặc nhà cung cấp công cụ có liên quan có hoàn thành nghĩa vụ của mình đối với các phương tiện đó chưa? Chẳng hạn, liệu họ có tính đến biên độ sai sót của hệ thống nhận dạng khuôn mặt hay không? Liệu họ có thực hiện các cuộc thử nghiệm hoặc đánh giá chất lượng và tính chặt chẽ của việc quản lí hệ thống hay không? Các biện pháp giảm thiểu rủi ro nào đã được thực thi?”.
Cho đến giờ, những câu hỏi trên không phải là mối quan tâm của mẹ của Théo, người hy vọng thấy Ava bị tuyên án có tội về cái chết của con trai bà. Hội thẩm đoàn sẽ nghĩ gì? Câu trả lời: ngày 31 tháng 8.
Để nghe các tập của podcast: https://lnkd.in/eaArCJUS
hoặc trên kênh YouTube của LexisNexis: https://lnkd.in/eDpyWsHt
Để bình chọn:
https://www.linkedin.com/feed/update/urn:li:activity:6950378241358508032/
Laurence
Neuer, tiến sĩ luật, nhà báo tại tạp chí Le Point, ngay từ khi
trang Point.fr ra đời, đã sáng lập chuyên mục “Mon petit droit m’a dit [Chút quyền nhỏ đã mách tôi]”. Các
bài báo của bà, bao trùm nhiều lĩnh vực pháp luật, nhắm đến việc giải mã các vấn
đề pháp lý và xã hội đương đại. Cuộc cách mạng kỹ thuật số trong công lý đã được
kịch bản hóa trong một video dài khoảng 60 tập có tựa là “Au Tribunal de l’Internet! [Tại Tòa án
Internet!]”. Bà
đã lập bản đồ tình trạng phạm tội hàng ngày trong cuốn “Carnets de justice [Sổ tay công lý]” của
bà, giới thiệu một bức tranh tổng thể về xã hội chúng ta. Biên niên sử pháp lý
của bàF đã
nuôi dưỡng cho cuốn “L’audience
est levée - Scènes de prétoires en correctionnelle [Kết thúc phiên điều trần -
Cảnh quan từ các phòng xử án tội tiểu hình]” của
bà (2018, Éditions Lextenso-Le Point). Là một nhà báo từ lúc hơn 20 tuổi, bà đã
cộng tác với nhiều tờ báo (Les Echos, l'Obs, v.v.) và đã thực hiện nhiều cuộc
điều tra và phim tài liệu truyền hình (Chernobyl, Tuerie de Nanterre,
Justice ở Seine-Saint-Denis,
ở Reims
và ở Valenciennes…).
Huỳnh Thiện Quốc Việt dịch
Nguồn: Un podcast renvoie une intelligence artificielle aux assises, Le Point, ngày 16/07/2022
