KHAI THÁC DỮ LIỆU: MỘT SỰ THAY ĐỔI KHẾ ƯỚC XÃ HỘI ÍT GÂY ỒN ÀO
Tác giả: Adrien Tallent
Nghiên cứu sinh triết học chính trị và đạo đức, Đại Học Sorbonne
Các hệ thống công nghệ được cho là phi
chính trị đang ngày càng tác động mạnh mẽ đến nền dân chủ của chúng ta. EV/Unsplash
Tuyển chọn ở đại học, nội dung nổi bật trên các mạng xã hội, nền tư pháp và y học dự đoán, xe tự lái, giám sát đám đông… Ngày nay thuật toán được sử dụng đại trà trong nhiều lĩnh vực của đời sống chính trị, xã hội và kinh tế.
Các thuật ngữ “thuật toán”, “dữ liệu” hay “trí tuệ nhân tạo” (AI) thường được đồng nhất với những từ kỳ diệu. Một số người nhìn thấy trong những “công cụ” này những vật thể không thể sai lầm, hoàn toàn thuần lý mà sự giúp đỡ có thể rất quý báu để ủy thác một số nhiệm vụ – thậm chí là một số trách nhiệm nhất định.
Nhưng việc thu thập dữ liệu khổng lồ và việc sử dụng các thuật toán một cách đại trà cũng tạo thành một mối đe dọa đối với xã hội, nền dân chủ và cuối cùng là khế ước xã hội, vốn vẫn là nền tảng của quan niệm hiện đại về Nhà nước. Để đổi lấy một dịch vụ (thường là miễn phí), người dùng sau đó ủy quyền một cách có ý thức hoặc vô thức một phần quyền quyết định cũng như khả năng hành động về các lựa chọn và các ý kiến của họ.
Kết quả của sự tôn thờ lý tính
Các hệ thống AI được xây dựng theo cách mà chúng có thể xử lý lượng dữ liệu khổng lồ. Mục đích là để đưa ra những lựa chọn sáng suốt và khách quan nhất có thể. Không phải là không thể tránh khỏi, việc triển khai quy mô lớn này đáp ứng các lựa chọn chính trị và việc làm nổi bật điều mà nhà nghiên cứu khoa học pháp lý Antoinette Rouvroy gọi là “lý tính thuật toán”.
Thừa kế cuộc cách mạng khoa học và triết học của thế kỷ 17, các xã hội phương Tây được xây dựng xung quanh các ý tưởng về quyền tự do và sự tiến bộ. Như vậy nên, trong Bản phác thảo bức tranh lịch sử về tinh thần con người/Esquisse d’un tableau historique de l’esprit humain (1793), Condorcet đã tuyên bố về sự hài hòa giữa sự giải phóng con người và sự phát triển kỹ thuật.
Về mặt chính trị, lý thuyết khế ước xã hội có nền tảng trên các ý tưởng về tự do, dân chủ và quyền riêng tư. Tất cả các quan điểm của khế ước xã hội đều tìm cách hiểu những lý do tại sao các cá nhân lại đánh đổi một phần tự do của họ để có được một trật tự chính trị. Do đó, khế ước xã hội giả định trước sự tồn tại của các tác nhân thuần lý, những người tập hợp lại với nhau vì lợi ích.
Từ đó, điều gì có thể thuần lý hơn việc quản lý các lĩnh vực khác nhau bằng trí tuệ nhân tạo?
Theo quan niệm này, con người được coi là dễ sai lầm khi đối mặt với AI không thể sai lầm vì nó dựa trên “các dữ liệu” được coi là các đối tượng toán học. Sự ra đời của một “phương thức quản lý dựa trên thuật toán” – từ nay các quyết định dựa trên việc xử lý dữ liệu thay vì dựa trên chính trị, luật pháp hoặc các chuẩn mực xã hội – cuối cùng sẽ tạo ra khả năng sự thống trị của lý trí.
Do đó, bất kỳ quyết định nào cũng sẽ trở nên không thể bác bỏ được vì nó sẽ dựa trên các lập luận thống kê. Nhưng đó là quên đi nhiều sự chênh lệch có trong quá trình nhập dữ liệu và trong việc sử dụng chúng bởi các thuật toán.
Quyền lực mới trong thời đại trí tuệ nhân tạo Asma Mhalla.
Logic của khế ước xã hội (đặc biệt kể từ cuộc cách mạng công nghiệp và sau đó là sự phát triển của Nhà nước phúc lợi trong thế kỷ 20) là một logic bảo hiểm. Không biết về tương lai, nên lợi ích của các cá nhân là cùng nhau bảo hiểm cho bản thân trước rủi ro. Kể từ bấy giờ, sự phát triển của sự phân tích dự đoán làm cho phiên bản khế ước này trở nên lỗi thời. Các loại bảo hiểm có thể được điều chỉnh cho phù hợp với những rủi ro cụ thể mà mỗi người phải gánh chịu.
Những gã khổng lồ kỹ thuật số biết sở thích, ý kiến, mong muốn của chúng ta và nhốt chúng ta vào thứ mà nhà viết tiểu luận Eli Pariser gọi là “bong bóng bộ lọc”. Ở đó, nội dung phù hợp với ý tưởng của chúng ta được trình bày quá mức và thiếu các ý kiến trái ngược, do đó làm gia tăng việc phổ biến các tin giả – với tiềm năng phản ứng mạnh hơn và do đó được phổ biến rộng hơn. Từ đó, chúng ta chia sẻ ngày càng ít những sự thật và kinh nghiệm chung, những điều cần thiết cho sự vận hành của nền dân chủ.
Đổi chác nền dân chủ với các ứng dụng (app)
 |
Bằng cách phân tích dữ liệu của chúng ta để dự đoán hành vi của chúng ta, chủ nghĩa tư bản trở thành “chủ nghĩa tư bản giám sát” theo cách nói của học giả Shoshana Zuboff. Đối với những công ty này, các cá nhân không còn là khách hàng mà là sản phẩm dành cho các nhà quảng cáo. Do đó, nhà triết học Bernard Stiegler giải thích rằng các cá nhân đã trở thành “những nhà cung cấp dữ liệu”. Đã được cá nhân hóa, chúng lại thoát khỏi cá nhân: dữ liệu của chúng cho phép tước đoạt ý chí của các cá nhân.
Ví dụ: việc chúng ta tiếp xúc với các quảng cáo có mục tiêu được xác định chứng tỏ sự dự đoán về những ước muốn của chúng ta. Chúng ta không còn biết liệu chúng ta có thực sự ước muốn món đồ mà mình đã mua hay không vì nó đã được trưng bày cho chúng ta xem trước ngay trước khi chúng ta mong muốn chúng. Mong muốn của chúng ta bị tự động hóa.
Các hệ
thống công nghệ được cho là phi chính trị đang có tác động ngày càng lớn đến
các nền dân chủ của chúng ta. Mahdis Mousavi/Bapt
Đã quen với tiến bộ kỹ thuật, các cá nhân cũng dần quen với một môi trường mà việc tìm kiếm sự thoải mái, tốc độ, giải trí, cho phép phổ biến và duy trì các hệ thống kỹ thuật xâm lấn, gây phương hại đến một số quyền tự do cơ bản (quyền riêng tư, ẩn danh, độc lập tư tưởng, v.v.), những đảm bảo cho các xã hội dân chủ của chúng ta.
Bằng cách cung cấp dữ liệu của mình, chúng ta chuyển một phần ý chí tự do và khả năng hành động theo ý kiến của mình đến mức có thể tác động đến các cuộc bầu cử. Trường hợp của Cambridge Analytica đã được phổ biến nhiều nhất trên các phương tiện truyền thống: nó cho thế giới thấy khả năng thao túng chính trị mà các mạng xã hội có trong các cuộc bầu cử mang tính quyết định như bầu cử tổng thống Mỹ năm 2016 hay cuộc trưng cầu dân ý của Anh về tư cách thành viên Liên minh châu Âu cùng năm. Mặc dù công ty đã đóng cửa vào năm 2018, nhưng không có gì đã thực sự thay đổi.
Đọc thêm: Pister son enfant avec une appli, une fausse bonne idée (Theo dõi con bằng ứng dụng, một ý tưởng sai lầm)
Trở thành mục tiêu cho các nhà quảng cáo, được cá nhân hóa và được các công ty bảo hiểm định hình/dáng, bị ảnh hưởng bởi chính trị và tuân theo các quyết định mờ ám và tuỳ tiện của các thuật toán, chúng ta tự cô lập và không còn chia sẻ ý chí chung mà Rousseau định nghĩa là tổng số các ý chí riêng biệt và được coi là điều tiên quyết cho cảm giác về xã hội.
Chính trị hóa vấn đề sử dụng công nghệ
Việc thay đổi khế ước này được thực hiện một cách lặng lẽ và sau đó các cá nhân có thể trở thành nạn nhân của việc các dữ liệu của họ bị các hệ thống công nghệ này được coi là phi chính trị lạm dụng. Huống chi họ đã là nạn nhân của sự phân biệt đối xử.
Công nghệ dường như luôn đứng ngoài cuộc tranh luận chính trị và được áp đặt lên những xã hội không có lựa chọn nào khác ngoài việc chấp nhận (ít nhiều là một phần). Nhận thức được những rủi ro, các nghị viện và các tổ chức quốc tế đang bắt đầu xây dựng luật về vấn đề này, soạn thảo các hiến chương đạo đức và các quy định. Đây là trường hợp của các quy định khác nhau của Châu Âu, trong đó Quy định chung về bảo vệ dữ liệu (GDPR) được biết đến nhiều nhất.
Đọc thêm: Comment anonymiser des données personnelles? (Làm cách nào để các dữ liệu cá nhân trở thành ẩn danh?)
Tuy nhiên, những vấn đề này thường mang tính kỹ thuật và pháp lý, loại trừ ngay từ đầu những cá nhân chịu thiệt hại do việc xử lý dữ liệu của họ (bị nhắm làm mục tiêu, ý chí tự do bị suy giảm, phân biệt đối xử, giám sát, xếp hạng, ảnh hưởng, v.v.).
Đối với Rousseau, chỉ những cá nhân tự do mới có thể xây dựng một xã hội tự do. Tuy nhiên, việc thiếu quan điểm phê phán và nhận thức về các vấn đề của kỹ thuật số cũng như sự thiếu giáo dục về kỹ thuật số đe dọa nền tảng của các xã hội dân chủ của chúng ta. Cần phải chính trị hóa vấn đề, rằng các công dân phải nắm bắt lấy những chủ đề này và tranh luận về chúng để cùng nhau vạch ra những đường nét về một tương lai công nghệ cho và được mọi người ao ước.
Nguyễn Đôn Phước dịch
Nguồn: “Exploitation des données: un changement de contrat social à bas bruit”, The Conversation, 27.02.2023.
----
Bài có liên quan:
