THUẬT TOÁN VÀ SỰ ĐIỀU TIẾT LÃNH THỔ
Uber, Waze, Airbnb … Các thuật toán chi phối các nền tảng này đều dựa trên sự tối ưu hóa dịch vụ được cung cấp cho người sử dụng, chứ không phải trên một chuẩn mực tập thể, chính trị hay đạo đức. Việc lên án chúng đã bóc trần sự cai trị ngầm của các thiết kế kỹ thuật ….
Tiểu luận được trích dẫn từ cuốn sách của bộ PUF/Vie des Idées xuất bản ngày thứ tư 28 tháng 8 năm 2019: Gouverner la ville numérique (Quản lý thành phố số hóa) do Antoine Courmont và Patrick Le Galès làm chủ biên.
 |
Nhiều nhà báo ở Anh, Ý và Pháp[1] đã tạo ra một số quán ăn giả tạo mà họ đã thành công nâng cao thứ bậc trong bảng xếp hạng của Tripadvisor nhờ vào những bình luận ca ngợi và những điểm số tốt, nhằm tố cáo những cách tính giả tạo về danh tiếng khiến cho sự canh tranh bất chính giữa các quán ăn được thuận lợi hơn và đánh lừa khách hàng. Những nhà nghiên cứu tố giác sự hiện diện của những chiếc “xe ma” trên ứng dụng Uber[2], chứng minh rằng công ty xe vận chuyển có tài xế (VTC - Véhicule de transport avec chauffeur) đã man trá thị trường cung cầu mà họ khẳng định báo cáo lại chỉ với tư cách là trung gian mà thôi, nhằm kiểm soát giá cả và tạo ra cảm tưởng về một nguồn cung dồi dào cho người sử dụng. Hai sự tố cáo này về các cách tính toán kỹ thuật số tiêu biểu cho những sáng kiến nhằm kiểm tra và phê phán các nhà cung ứng dịch vụ số và những thuật toán của chúng. Nó chứng tỏ một sự lo lắng ngày càng lớn của chính quyền, các tác nhân của thị trường và các công dân đối với vị trí mà các nền tảng này chiếm trong đời sống thường ngày của chúng ta. Với sự phổ cập các thiết bị điện thoại di động (4,8 tỷ năm 2017, trong đó có 2,32 tỉ điện thoại thông minh), việc sử dụng các dịch vụ di động đã được quần chúng hóa và không còn bất cứ lĩnh vực hoạt động nào có thể thoát khỏi ảnh hưởng của những công ty mới gia nhập vốn sẽ vẽ lại cách thức mà chúng ta định hướng, di chuyển và tiêu thụ trong thành phố. Những sự phê phán này và những nỗ lực điều tiết của chính quyền phát triển trong một bối cảnh mà những công ty cung ứng này có một sự thành công vượt bậc đối với người sử dụng và được triển khai ở phạm vi toàn thế giới[3]. Dựa trên mô hình kinh tế liên đới, chúng tự giới thiệu như là những nền tảng thiết lập các quan hệ và lợi dụng vị trí này để phát triển những mô hình xây dựng sự trung gian có tính cạnh tranh rất cao dựa trên một logic thoát khỏi thực tế, thường không quan tâm đến những nét đặc thù địa phương trong lĩnh vực luật và điều tiết các thị trường.
Thật là ấn tượng khi nhận thấy rằng rất nhiều câu hỏi về những dịch vụ mới này liên quan đến những thuật toán vốn nằm ở trung tâm của sự vận hành của chúng. Thường thì rất khó, do tính đóng của mã của những ứng dụng, để biết được sự vận hành của chúng và dự đoán những sự thay đổi được các người khai triển thực hiện nhằm tối ưu hóa các dịch vụ. Nếu mã tin học là một trong những hình thức điều tiết các thế giới kỹ thuật số, sự phát triển các dịch vụ thông qua các ứng dụng di động cũng cho thấy khả năng tác động của mã trong không gian vật chất. Khi áp đặt một hình thức tính toán trừu tượng và thoát khỏi bối cảnh, các thuật toán bị trách là những tác nhân của sự biến đổi các lãnh thổ và các cách thức di chuyển. Cho nên cần phải khảo sát tỉ mỉ các cuộc tranh luận này. Những tác nhân của những sự phi điều tiết hóa này là ai và chúng hành động vì những lợi ích nào? Các nền tảng và những thuật toán của chúng tương tác với những hình thức có trước như thế nào? Những nguyên tắc được nêu lên để tố cáo các thuật toán như là nguồn gốc của sự phi điều tiết hóa lãnh thổ là những nguyên tắc nào?
Dựa trên sự phân tích những trường hợp được báo chí nêu lên về những ứng dụng nổi tiếng đề nghị dịch vụ chú dẫn các thương hiệu, các công ty giao hàng, các công ty cung cấp nhà và phương tiện giao thông trong các thành phố, chương này muốn cho thấy vấn đề về phép tính không gian đã dần dần trở thành một vấn đề công cộng như thế nào. Để cập nhật những vấn đề này, chúng tôi muốn nghiên cứu vài “vụ việc”[4] lấy từ một tập hợp bao gồm 41 trường hợp được nêu lên trong báo chí, được thu thập từ tháng 9 năm 2017 đến tháng 4 năm 2018[5]. Trong bài này chúng tôi đã tập trung trên một phần của tập hợp bao gồm 19 trường hợp liên quan đến những nền tảng nổi tiếng như Uber, Waze, Tripadvisor, Airbnb hay Deliveroo. Tập hợp tập trung vào những tình huống trong đó vấn đề của phép tính - mà chúng tôi sẽ gọi là thuật toán để cho đơn giản - nằm ở trung tâm của vụ việc. Nó loại bỏ những tranh cãi gắn với các điều kiện tổng quát về việc sử dụng, về luật lao động, về sự cạnh tranh bất chính, v.v… cho dù những vấn đề này trong cuộc tranh luận có thể được xem như là hệ quả do bị các thuật toán tác động. Tập hợp này không phải là sự liệt kê toàn bộ các vụ tranh cãi mà các công ty này gây ra, nhưng vì tính đa dạng của nó, nó cho phép lập bản đồ không gian của những câu hỏi xuất hiện với phép tính về thành phố mà các tác nhân mới này áp dụng.
Mã nuốt thành phố
 |
| Lawrence Lessig (1961-) |
 |
| Marc Andreessen (1971-) |
Khả năng hành động của các thuật toán nằm ở khả năng mà chúng có để điều tiết các không gian kỹ thuật số. Công trình nghiên cứu của Lawrence Lessig[6] cho thấy rằng với sự thành hình của không gian mạng (cyberespace), một nguồn điều tiết mới cần phải được tính đến. Mã tin học là một thiết kế kỹ thuật, hoàn toàn không trung tính, điều tiết không gian mạng một cách rộng rãi vì nó cô đọng lại các lựa chọn chính trị của những người đã thiết kế nó. Hình thức điều tiết mới này bổ sung vào ba hình thức điều tiết có trước đó là luật pháp, thị trường và chuẩn mực. Công thức nổi tiếng của Marc Andreessen “phần mềm đã nuốt trọn thế giới” có thể được lấy lại: ”mã đã nuốt trọn thành phố”[7]. Nếu mã thống trị trong không gian mạng, với sự phát triển của các dịch vụ trên điện thoại di động, các không gian vật chất và kỹ thuật số này được quyện vào nhau và những gì được điều tiết trong không gian kỹ thuật số có những tác động trực tiếp trên không gian vật chất. Rất nhiều câu hỏi mà các nền tảng mới cung cấp dịch vụ chuyển tải đặt ra đều xuất phát từ sự bàng quan của mã tin học đối với những chuẩn mực mà các định chế quản lý các không gian đề ra.
Năm 2017, bang California đã phải ứng gánh chịu những đám cháy thảm thương. Các con đường được bảo vệ bị tắc nghẽn, ngược lại các đường nguy hiểm nhất thì vắng vì giao thông bị cấm. Nhưng thuật toán của ứng dụng Waze lại đề nghị cho các người lái xe những lộ trình sẽ dẫn họ đến những con đường nằm sát bên cạnh những đám cháy[8]. Thuật toán tính các lộ trình dựa trên những dữ liệu về giao thông và tối ưu hóa thời gian thực tế của hành trình. Những sự cố này bị người sử dụng tố cáo trên các mạng xã hội được lấy lại trên báo chí đã không gây nên nạn nhân nào. Ta có thể thấy ở đây một thí dụ tương đối cụ thể về cách mà mã đã được phát triển bằng cách quy định một mục tiêu chỉ liên hệ đến lợi ích của người lái xe, mà không hợp nhập mối lo âu liên quan đến sự an toàn. Cách tính chức năng của những hệ thống định hướng với GPS thường bao gồm ba lựa chọn, hành trình “nhanh nhất”, khoảng cách “ngắn nhất” và hành trình “rẻ nhất” (tránh các trạm thu phí). Những lựa chọn này đã trở thành những quy ước kỹ thuật, nhưng chúng cũng chỉ là ba cách trong bao nhiêu cách khác để suy nghĩ về một lộ trình phụ thuộc vào những mục tiêu “giả định” của người sử dụng. Mới đây một chủ blog sử dụng một xe có động cơ song hành (hybrid) đã đề nghị một tuỳ chọn mới[9] để hợp nhất các lộ trình “tiết kiệm năng lượng nhất” cho các xe chạy bằng điện (tránh các hành trình trên xa lộ rất hao tốn về điện). Cũng như vậy, ta có thể tưởng tượng rằng những hệ thống có thể đề nghị những con đường “đẹp nhất”, xuyên qua các rừng và các cánh đồng xung quanh. Nhanh hơn, an toàn hơn, ít tác động về mặt sinh thái hơn hay thẩm mỹ hơn, ta sẽ thấy cả một loạt những khả năng trong đó những người thiết kế sẽ có những lựa chọn vốn sẽ điều tiết một cách trực tiếp những gì mà công nghệ có thể làm hay không. Thí dụ này còn cho thấy những sự lựa chọn thuật toán không chỉ giới hạn trong không gian kỹ thuật số, vì chúng sẽ tác động đến sự giao thông các xe bằng cách hướng dẫn người lái xe, trong tất cả những khả năng có được, tới một con đường này thay vì một con đường khác, và như vậy trở thành mâu thuẫn với những hình thức điều tiết khác, trong trường hợp này, được đại diện bởi luật pháp và cảnh sát vốn sẽ thay đổi những con đường được phép lưu hành dựa trên tính nguy hiểm của chúng đứng trước một tình trạng khủng hoảng.
Có nhiều công trình nghiên cứu cho thấy các ứng dụng phép tính những lộ trình làm đảo lộn những hình thức điều tiết có trước về quản lý giao thông vì chúng dựa trên những loại dữ liệu và hình tượng khác[10]. Trong khi các tổ chức chịu trách nhiệm về sự điều tiết giao thông trong các thành phố đo lường tỷ lệ chiếm lĩnh không gian với những thiết bị kỹ thuật khác nhau nhằm bảo đảm điều tiết toàn bộ giao thông, và xác định những ưu tiên cho việc xe chạy trên một số tuyến đường thông qua một sơ đồ về sự di chuyển trong thành phố, thì những nền tảng như Waze lại nằm trong một logic “lấy người sử dụng làm trung tâm”. Chúng kết hợp những dữ liệu mang tính cá nhân để tối ưu hóa thời gian của hành trình mà không tính đến sự điều tiết tổng quát của giao thông và những hành động điều tiết của các chính quyền địa phương. Sự chuyển nhiều luồng giao thông quan trọng tới những không gian không được bố trí (chẳng hạn như những con đường chỉ gồm những căn villa[11], hay bên cạnh các trường học[12]) trở thành một hậu quả của cách vận hành “lấy người sử dụng làm trung tâm” này vốn mâu thuẫn với những chuẩn mực khác về giao thông.
Sự thành hình của một vấn đề công cộng
Qua các bài báo càng ngày càng nhiều về những “bệnh lí của phép tính thuật toán”, trong dư luận dần dần hình thành một “vấn đề công cộng mới” liên quan đến cách thức nên (hay không nên) tính toán (Cardon 2018). Đâu là những tình huống đặt thành vấn đề hay không đặt thành vấn đề? Dựa trên chuẩn mực và nguyên tắc nào ta có thể xác định một phép tính “bình thường” (chính đáng, cân bằng, chân thành, v.v.) và những chuẩn mực và nguyên tắc khác nào khác có “vấn đề” (bất công, không cân bằng, đánh lừa, có tính phân biệt)? Ai sẽ là những người chịu trách nhiệm và ai sẽ là những nạn nhân? Thiết kế những vấn đề công cộng đòi hỏi sự thành lập một danh mục những trường hợp có khả năng giúp xác định những khía cạnh khác nhau của những tình huống không rõ ràng nhằm áp đặt một sự diễn giải đơn nghĩa và được chia sẻ[13]. Từ sự tập hợp những trường hợp này, chúng tôi đã cố gắng rút ra cấu trúc thuật lại các vụ việc[14] để làm xuất hiện bốn tác nhân: người “tố cáo” vụ việc, “tác nhân thuật toán” (mã hay thủ tục tính toán), “nguyên nhân” được quy cho sự vận hành của tác nhân thuật toán và sau cùng “nạn nhân” của những hậu quả của thuật toán. Sự phân tách sự thuật lại các vụ việc giúp cho thấy một sự căng thẳng đặc thù trong các cuộc tranh luận về những hậu quả được các phép tính sản xuất: có nên quy trách nhiệm của phép tính cho những lợi ích của các nền tảng hay cho cách ứng xử của người sử dụng? Cuộc tranh luận này có một tính thời sự đặc biệt trong trường hợp của các nền tảng về dịch vụ di chuyển với sự đối lập giữa dịch vụ được cung cấp cho người tiêu dùng và những đòi hỏi của sự quản lý công cộng các lãnh thổ.
Cần những phát ngôn viên để cho những sự rối loạn khó nhận thấy được nhận thức rõ ràng
Bài học đầu tiên của sự phân tích những cuộc tranh luận này trước hết là các “nạn nhân” của những thuật toán ít khi là những người “tố cáo”. Trong đa số các trường hợp, họ cần có những phát ngôn viên để bộc lộ những sự rối loạn của phép tính thường là vô hình đối với họ. Trong cách sử dụng hằng ngày, người sử dụng có một kiến thức yếu và không hoàn toàn về cách mà các cách sử dụng này được tính đến. Hẳn là đôi khi họ bối rối, tò mò hay tức giận khi những gợi ý hay định hướng của hệ thống thất bại trong việc đề nghị cho họ một thông tin thích đáng, nhưng những tình huống này thường ít gây ra sự phản đối hay được công khai hóa, ngoại trừ vài công bố trên các mạng xã hội. Đa phần, những sự rối loạn về phép tính thường vẫn câm lặng và không được ai thấy cả. Trong những vụ việc được phân tích, các nhà báo dựa trên những tổ chức đấu tranh cho những mục tiêu, những hiệp hội, tập thể, đại học và định chế có khả năng hành động để cho trường hợp được nhận diện và làm cho nó có đủ sự vững chắc để có thể đưa lên không gian công cộng (Boltanski, 1990). Thật vậy sự lên án tính trung thực của các thuật toán, trong đa số các trường hợp, đòi hỏi một sự giám định thường xuất phát từ những công trình đại học và được các hiệp hội và báo chí tiếp sức. Chẳng hạn trường hợp các xe ma của Uber bị các nhà nghiên cứu của Data Society[15] tố cáo, sự kỳ thị và những cách biệt về lương của các tài xế nữ trên cùng nền tảng này bị các nhà nghiên cứu ở Stanford[16] phát hiện hay công trình nghiên cứu của Ben Edelman và Michael Luca thuộc đại học Harvard để nêu rõ những hậu quả của sự kỳ thị chủng tộc trên Aibnb.
Báo chí cũng thường thuật lại những quyết định pháp lý do các định chế công cộng đưa ra ở cấp độ quốc gia hay quốc tế nhằm trừng phạt hay điều tiết các nền tảng này. Chẳng hạn Ủy ban Thương Mại Quốc Gia/Federal Trade Commission (Mỹ) năm 2016[17] đã tố cáo Uber cho phép các tài xế của họ sử dụng ứng dụng “God view” giúp họ vạch lại hành trình của khách hàng dựa trên hệ thống định vị. Trên thực tế, những nạn nhân chỉ thật sự trở thành những người tố cáo khi họ phải gánh chịu những hậu quả kinh tế. Năm 2017, chẳng hạn, có các chủ quán ăn đã liên hệ với nhật báo Libération[18] để tố cáo sự thích đáng và sự minh bạch của những quy tắc vận hành của các thuật toán của Deliveroo và Uber Eats, bị tố cáo là không độc nhất dùng đến những tiêu chuẩn về sự định vị và thời gian giao hàng mà ta nghĩ rằng được tính trong sự liệt kê, và như vậy đã dành ưu tiên một cách bất công cho vài quán ăn trong sự xếp hạng của thuật toán. Như vậy, ta thấy rằng sự hình thức hóa vấn đề của những thuật toán như là một vấn đề công cộng trước hết là kết quả của những công trình của các chuyên gia, các tổ chức phi chính phủ và các tổ chức điều tiết tuy rằng những cá nhân đã phải gánh chịu những hậu quả (tức là những nạn nhân) vẫn không dành một sự quan tâm quá lớn cho những hậu quả của những nền tảng.
Các nguyên nhân đa dạng
Trong khi tương đối khá đơn giản để nhận diện người tố giác và nạn nhân, thì, ngược lại, có sự bất định lớn hơn nhiều về vai trò của thuật toán. Điều này thể hiện đặc biệt thông qua các xung đột về sự diễn giải các lý do khiến thuật toán tác động. Trong các cuộc tranh luận công khai, việc buộc tội trách nhiệm các phép tính được tập trung trên các thực thể ít nhiều cụ thể. Trong các bài báo, thông thường, toàn bộ dịch vụ phải gánh chịu trách nhiệm: “Ở California Waze hướng các tài xế đến các vụ cháy”; “Waze bị buộc tội bảo vệ cuộc sống của người Israel tốt hơn nhiều so với cuộc sống của người Palestine”; “Airbnb phải chăng là một công cụ trưởng giả hoá có tính kỳ thị chủng tộc?” Tuy nhiên, với sự nổi tiếng ngày càng tăng của thuật ngữ thuật toán và sự thâm nhập nhanh chóng của nó trong cuộc tranh luận công cộng, ta càng ngày càng thấy rằng các thủ tục tính toán bị chỉ định là tác nhân chịu trách nhiệm: “Uber ẩn đằng sau thuật toán của nó như thế nào”; “Tại Uber, một Trí Tuệ Nhân Tạo sẽ sớm quyết định giá cước dựa trên đặc tính của khách hàng”; “Cách Airbnb sử dụng Dữ Liệu Lớn và Máy học như thế nào để hướng dẫn khách hàng đến mức giá hoàn hảo”.
Phê phán thống trị về hành vi của các thuật toán thường gắn nguyên nhân của vấn đề với lợi ích kinh tế của công ty đã thiết kế nó. Và, trên nhiều phương diện, thường thì việc đưa ra giả định này tương đối đúng và thích đáng. Nhưng, nếu các tranh cãi liên quan đến các phép tính được phân tích chính xác hơn, tác nhân tính toán (đã được lập trình bởi các kỹ sư của nền tảng dịch vụ) phải được tách biệt khỏi các lý do có thể quy kết quả cho phép tính. Thực vậy có nhiều tranh cãi trong đó các tác nhân của cuộc tranh luận đưa ra những lý do rất đa dạng để giải thích tại sao thuật toán hoạt động theo cách này hay cách khác. Những lý do này có thể được gắn với lợi ích của nền tảng đã lập trình nó, nhưng tính đặc thù của các tranh cãi về thuật toán là cách hoạt động của phép tính cũng có thể được quy cho dữ liệu do người dùng tạo ra, cho hành vi của các tác nhân khác hoặc cho nguyên tắc điều tiết đến từ bên ngoài, ví dụ từ các cơ quan Nhà nước. Mở rộng các cuộc tranh cãi theo cách này giúp làm sáng tỏ một số vấn đề.
Hãy xem xét một ví dụ đầu tiên. Vào cuối năm 2015, sau vụ tấn công ở Paris, Waze bị buộc tội báo cáo sự hiện diện của cảnh sát trên ứng dụng của mình[19]. Do đó hạn chế khả năng cảnh sát triển khai các điểm chắn đường để kiểm tra nhằm tìm kiếm những người bị xem như là nghi phạm. Trên thực tế, chính những người dùng Waze đã báo cáo sự hiện diện của cảnh sát trên ứng dụng và không giống như các ứng dụng khác, Waze đã không đình chỉ dịch vụ của mình xung quanh các khu vực bị ảnh hưởng. Trong trường hợp này, việc quy trách nhiệm có thể có hai hướng khác nhau: nó có thể buộc tội hành vi của người dùng hoặc chính sách của nền tảng vốn cố tình không chặn dịch vụ bất chấp yêu cầu của cơ quan công quyền là không báo cáo sự hiện diện của những lực lượng cảnh sát.
Một trường hợp thứ hai, phức tạp hơn là vụ kiện của thị trưởng Jerusalem về sự lựa chọn, theo thuật toán của Waze, tránh giao thông ở các quận phía đông của thành phố, với dân cư là người Palestine[20], buộc người Israel phải đi vòng và làm tắc nghẽn giao thông ở phía tây của thành phố. Trong trường hợp này, Waze bị buộc tội đưa ra lựa chọn chính trị bằng cách công nhận sự chia cắt vùng Jerusalem. Nếu đúng là Waze đã xóa bỏ các quận phía đông của thành phố khỏi thuật toán của mình, công ty đã tự biện minh bằng cách viện dẫn rằng, một mặt, người sử dụng đã báo cáo lại rằng các quận này là nguy hiểm cho sự an toàn của người dân và mặt khác, công ty Waze đã làm việc với cảnh sát Israel để thiết lập các khu vực trong đó người sử dụng Waze có thể lưu thông an toàn. Đối với thị trưởng Jerusalem, các quyết định của thuật toán bao gồm một lựa chọn chính trị, đối với Waze, đó chỉ là để đáp ứng yêu cầu của người sử dụng. Cuộc tranh cãi đã được đưa lên một tầm mới khi người Palestine, về phần mình, cũng lên án việc Waze không cho biết khu vực của các khu định cư của những người Israel chính thống cực đoan của Israel, có khả năng gây nguy hiểm cho họ, và do đó tạo ra sự kỳ thị đối với các khu vực của người Palestine và sự bất cân xứng trong thông tin phổ biến đến người sử dụng nó. Nếu rõ ràng thuật toán bị các bên liên quan đến vụ việc lên án, thì những lý do mà họ gắn cho những lựa chọn này không thuộc bản chất của máy tính, mà huy động, theo một cách trái ngược, các sự biện bạch chính trị hoặc kinh tế.
Những thủ tục lạnh lùng của các thuật toán
Sự không chắc chắn về nguyên nhân gây ra kết quả của các phép tính bắt nguồn từ những khó khăn mà các tác nhân gặp phải trong việc nắm bắt chiều kích “thủ tục” của phép tính thuật toán. Thật vậy, các quy tắc để tính toán thuật toán có tính thủ tục và không có nội dung. Các công cụ nhân tạo (artefact) không có thể truy cập ngữ nghĩa vào thông tin mà chúng thao tác, nghĩa là chúng không có một sự hiểu biết mang tính biểu tượng về thông tin đó[21]. Do đó, để tạo ra kết quả của chúng, chúng phải tìm các quy trình để có được sự phỏng chừng tốt nhất có thể có được về nguyên tắc mà chính người sử dụng sẽ diễn giải theo một cách có nội dung. Khi các cuộc tranh luận diễn ra công khai xung quanh các hiệu ứng được tạo ra bởi các phép tính, những quy chiếu của các tác nhân thì hướng tới các lý thuyết về trách nhiệm khiến cho ta nghĩ rằng các máy tính hành động có chủ ý và cái chủ ý này có thể được gắn với một dự án rõ ràng của các nhà thiết kế các nền tảng - một hình tượng nay được củng cố bởi thuật ngữ “Trí tuệ nhân tạo” dẫn đến việc khái quát hóa các tuyên bố thuộc loại: “Trí tuệ nhân tạo của tôi sẽ tìm ra X tốt nhất”. Sự triển khai cuộc tranh cãi sau đó xuất phát từ khoảng cách giữa phương pháp thủ tục mà các nền tảng áp dụng cho thành phố và các dự án quan trọng mà những người cai quản thành phố muốn áp đặt lên thành phố. Sự chênh lệch này nuôi dưỡng sự căng thẳng giữa thuật cai quản thành phố bằng thuật toán và bởi chính quyền.
Sau vụ tấn công London vào tháng 6 năm 2017, người sử dụng nền tảng Uber tố cáo qua mạng xã hội sự tăng giá đáng kể, trong khi người dân London đang cố gắng rời khỏi hiện trường vụ tấn công để tìm sự an toàn[22]. Thuật toán được lập trình để điều chỉnh giá theo cung và cầu. Sau sự cố, nhu cầu bùng nổ và một cách máy móc thuật toán đã gia tăng giá dịch vụ. Đối mặt với tình huống khủng hoảng đặc biệt, không thể đoán trước này, thuật toán áp dụng một quy trình, không có khả năng tính đến tình trạng bất thường này của thế giới trong phép tính của nó. Đồng thời, các taxi London đã đề nghị chở miễn phí để dẫn người dân đến những nơi an toàn cho họ. Chúng ta thấy qua ví dụ này cách mà logic thủ tục của thuật toán đối mặt với thực tế khác nhau, đa dạng và không ổn định của thế giới mà nó tính toán.
Một nguồn tranh cãi khác phát sinh từ các tình huống trong đó, trong khi chúng ta chờ đợi thuật toán hành động theo thủ tục đồng thời tôn trọng nguyên tắc trung lập, một nguyên nhân quan trọng lại được sáp nhập vào nó. Sau khi được thử nghiệm ở một số thành phố, Uber đang chuẩn bị phổ biến một hệ thống thanh toán dựa trên “tuyến đường”. Hành trình của người dùng sẽ bị tính phí cao hơn bình thường tùy theo các quận mà họ đi[23]. Nếu khu vực đến và đi được coi là khu dân cư giàu có, người sử dụng sẽ trả nhiều tiền hơn so với người sử dụng đi lại giữa một khu phố thuộc tầng lớp lao động và một khu dân cư giàu có với một quãng đường và một thời gian tương đương. Ở đây, Uber sáp nhập trong thuật toán của mình một nguyên nhân quan trọng bằng cách phân biệt các đặc điểm khác nhau của thế giới bên ngoài, làm sửa đổi logic đơn giản của tính trung lập vốn tính giá theo thời gian và quãng đường di chuyển. Theo cách tương tự, trong trường hợp được trích dẫn trên đây về cuộc tranh cãi xung quanh Waze và các quận phía đông Jerusalem, yêu cầu thuật toán chọn “con đường nhanh nhất” là có tính thủ tục, ngược lại, yêu cầu nó tránh đi qua Đông Jerusalem, là có tính nội dung. Sự phân biệt này phải được làm một cách thận trọng, đặc biệt bởi vì nó giúp các nền tảng biện minh cho bản chất được cho là “trung lập” của các quy tắc về thủ tục và đôi khi lẫn trốn trách nhiệm của chúng.
Nếu các thuật toán ngày nay bị cáo buộc trên các phương tiện truyền thông là phi điều tiết các hoạt động kinh tế và xã hội, thì chúng ta sẽ phải nhớ rằng chúng hoạt động trên thực tế như các tập hợp sáp nhập trong các phép tính của chúng các ngưỡng, các ràng buộc và các mục tiêu vốn sẽ được cấu hình lại bởi các cách sử dụng của người sử dụng dịch vụ. Trong nhiều tình huống, các nguyên nhân là nhiều và đôi khi ở “bên ngoài” đối với sự thiết kế của chúng hoặc với ý định của những người lập trình chúng. Tuy nhiên, cũng sẽ sai khi nghĩ rằng tranh luận về vấn đề công cộng này là không có ích lợi gì vì thuật toán đóng vai trò, ít nhiều ở trung tâm, trong cách chúng ta truy cập thông tin và cách chúng ta được hướng dẫn trong các lựa chọn hàng ngày.
Sự canh tranh về các nguyên tắc
Nếu câu hỏi về trách nhiệm của các thuật toán và mức độ liên lụy của chúng vẫn khó đánh giá, thì trên thực tế việc tố cáo của các tác nhân mới này ngày nay rất dai dẳng. Vì vậy chúng ta có thể cố gắng để hiểu, thông qua việc phân tích các sự phê phán, các nguyên tắc khác nhau mà các thuật toán bị cáo buộc là vi phạm.
- Nguyên tắc bình đẳng là một trong những nguyên tắc được nhắc đến nhiều nhất. Các thuật toán liên tục bị buộc tội phân biệt đối xử, tạo ra sự mất cân bằng hoặc cung cấp thông tin định hướng và tương đối. Năm 2016, các nhà báo tố cáo việc các thuật toán xếp hạng của các nền tảng như Airbnb có xu hướng, để tối ưu hóa lợi nhuận của họ, đánh giá cao hơn các địa điểm trong lành trong đó tính thẩm mỹ được đồng nhất hóa[24], nhắm tới các khách hàng nam, da trắng và có sức mua cao du lịch vòng quanh thế giới.
- Nguyên tắc trung thực được viện dẫn để tố cáo rằng các thuật toán phản bội chúng ta, nói dối chúng ta hoặc lừa dối chúng ta. Trong trường hợp này, thuật toán bị cáo buộc không làm những gì nó tuyên bố sẽ làm. Trường hợp xe ma của Uber là một ví dụ điển hình về sự lừa dối người sử dụng bằng thuật toán. Uber cố tình lừa dối khách hàng của mình, nó phá vỡ hợp đồng theo đó nó được xem đơn thuần như là một mức độ trung gian thể hiện thị trường theo thời gian thực.
- Nguyên tắc tôn trọng quyền riêng tư cũng được viện dẫn khi các thuật toán bị buộc tội tính toán hoặc giám sát chúng ta. Công ty Uber bị một số nhân viên của mình cáo buộc đã sử dụng một chương trình có tên GreyBall[25], nhằm, qua sự kiểm tra chéo thông tin cá nhân của khách hàng (tên, thẻ ngân hàng, v.v.), xác định những người được chỉ định là “đối thủ” tiềm tàng cho sự phát triển của nó nhằm gạt bỏ họ hoặc hủy bỏ các cuốc của họ trên dịch vụ của nó.
- Nguyên tắc tự chủ của chủ thể cũng có thể được nêu lên khi các thuật toán bị buộc tội hạn chế hoặc cưỡng ép quyền tự do của cá nhân. Bằng cách đặt người sử dụng trong một môi trường kiểm soát và định hướng, các nền tảng buộc các cá nhân phải có những lựa chọn không phải là của riêng họ. Chẳng hạn, các lời chỉ trích này xuất hiện trong các cuộc khảo sát về cách sử dụng sự hướng dẫn tuyến đường[26], nhưng cũng để tố cáo bản chất cưỡng chế ẩn của những áp lực mà hệ thống phần thưởng của thuật toán áp đặt lên các tài xế Uber được xem như là những cá thể độc lập[27]. Do đó, chức năng của nền tảng khuyến khích các tài xế không ngừng làm việc nhiều hơn và lệ thuộc vào nhịp độ mà thuật toán áp đặt.
- Nguyên tắc hiệu quả khác với các nguyên tắc đề cập ở phần trên vốn tương tự với các nguyên tắc cơ bản, cấu thành luật. Nguyên tắc này được viện dẫn khi một thuật toán không thể tạo ra kết quả mà nó tuyên bố sẽ đạt được hoặc khi nó gặp trục trặc. Nhiều trường hợp đã được trình bày nằm trong sự tố cáo của nguyên tắc này, chẳng hạn như việc phát hiện cách đánh giá dối trá và các nhà hàng ảo trên Tripadvisor hoặc thất bại của Waze để dự đoán các khu vực rủi ro hoặc không phù hợp khi cung cấp các tuyến đường thay thế để tối ưu hóa thời gian hành trình.
Những gì xuất hiện từ việc biết được các trường hợp này là một sự căng thẳng giữa các nguyên tắc quy phạm khác nhau này và một hình thức biện minh khác của phép tính ít dựa trên sự tôn trọng của một chuẩn mực chính trị và đạo đức hơn là trên sự tối ưu hóa tiện ích của dịch vụ được cung cấp cho người sử dụng. Những căng thẳng giữa các chuẩn mực và sự tiện ích là bối cảnh của sự xung đột giữa các dịch vụ mới và các cơ quan điều tiết. Thật vậy, đối mặt với những lời chỉ trích, vấn đề của sự tiện ích được xem như là lời biện minh chính cho việc các nền tảng lựa chọn thủ tục thuật toán này hoặc thủ tục thuật toán khác. Đó là cốt lõi của sự biện minh tự do chủ nghĩa về các nền tảng vốn bảo đảm cung cấp sự thiết kế ít chịu sự can thiệp nhất nhằm để cho người sử dụng tự họ xác định mục đích sử dụng của họ. Tuy nhiên, sự dung túng dựa trên sự bất khả tri có thể tạo ra các tình huống bất bình đẳng mạnh mẽ và củng cố các sự phân bố ở thành phố vốn đã rất bất bình đẳng. Logic thực dụng của các nền tảng cũng có thể, ngay cả khi nó tuyên bố là vì lợi ích của người sử dụng, tạo ra các tình huống trong đó dữ liệu về người sử dụng bị lạm dụng, tạo ra các hình thức phụ thuộc hoặc lệ thuộc hoặc thậm chí hạn chế khả năng của họ hành động bằng cách buộc họ hành động theo các tham số của thuật toán.
 |
| Dominique Cardon (1965-) |
 |
| Maxime Crépel |
Về chính sách công, điều gây ấn tượng là các vấn đề liên quan đến các phép tính của thành phố cho thấy sự thay đổi của hệ chuẩn ghi nhận việc điều tiết thành phố chuyển từ logic của các lựa chọn tập thể mang tính định hướng các cách sử dụng thành phố sang sự tối ưu hóa thực dụng sự hài lòng của người sử dụng các nền tảng. Chính quyền thành phố đòi hỏi việc thực hiện các ràng buộc, các cấm đoán và các ngoại lệ để tôn trọng sự cân bằng giữa các quần thể, giữ gìn vài không gian nhất định, quản lý sự sống chung giữa các loại người sử dụng khác nhau, tránh những hệ quả của một sự tập trung các nguồn lực, giá cả hoặc dân số. Những quyết định này đòi hỏi việc đề xuất các lựa chọn có nội dung - tức là các trường hợp ngoại lệ - trong các hệ sinh thái tính toán vốn, vì tính đơn giản và tính phổ cập của các quy tắc mà chúng thiết lập, có một chân trời mang tính thủ tục. Sự căng thẳng này không thể tách rời với bản chất và tính sẵn có của các dữ liệu dành cho phép tính. Việc sáp nhập các ràng buộc xác định một sự quản trị lãnh thổ theo định hướng chính trị “có nội dung” vào các phép tính mang tính thủ tục đòi hỏi những dữ liệu thường thuộc sở hữu của các nhà quản lý lãnh thổ và không có cùng các phẩm chất (tính đầy đủ, tính thời gian, v.v.) so với các dấu vết định vị địa lý mà người sử dụng cung cấp cho nền tảng. Đây là lý do tại sao câu hỏi về sự chia sẻ, lưu thông và quyền sở hữu dữ liệu tạo thành một trong những thách thức chính của sự quản trị thuật toán lãnh thổ.
Phạm Như Hồ dịch
Nguồn: “Algorithmes et régulation des territoires”, La vie des idées, 27.8.2019.
Chú thích:
[i] Dominique Cardon là giáo sư xã hội học ở Viện Nghiên Cứu Chính Trị Học (Sciences Po). Từ năm 2010, các công trình nghiên cứu của ông tập trung vào việc phân tích xã hội học các thuật toán trên mạng và trong các dữ liệu lớn nhằm hiểu được hình thức nội bộ của các phép tính và thế giới mà các máy tính chiếu phóng ra trên những xã hội của chúng ta. Ông còn nghiên cứu về những biến đổi của không gian mạng và những chu trình mới của truyền thông kỹ thuật số.↩
[ii] Maxime Crépel là một nhà xã hội học, chuyên gia nghiên cứu ở Phòng nghiên cứu các phương tiện truyền thông ở Sciences Po. Những công trình nghiên cứu của ông là về các cách sử dụng kỹ thuật số. Ông đã tham gia nhiều dự án nghiên cứu về cách sử dụng các mạng xã hội và các thực tiễn xuất bản các nội dung trên mạng, về các cách sử dụng sách kỷ thuật số và điện thoại di động cũng như các vấn đề gắn với các căn cước kỹ thuật số, trí tuệ nhân tạo và các thuật toán.↩
[1] Chương trình truyền hình “Comment “L’Œil du 20 heures (Con Mắt của bản tin 20 giờ”) đã gài bẫy TripAdvisor như thế nào khi tạo ra một quán ăn giả”, France Info; “Un journal italien invente un faux restaurant pour piéger le site TripAdvisor (Một tờ báo Ý đã tạo ra một quán ăn giả để gài bẫy TripAdvisor)”, France Info, 05/07/15.↩
[2] “Comment Uber se cache derrière son algorithme”, Slate, 07/08/15.↩
[3] Trên thế giới, năm 2017 người ta kiểm kể 150 triệu người sử dụng Airbnb, 75 triệu người sử dụng Uber với 7 triệu tài xế và 4,26 triệu quán ăn được Tripadvisor chú dẫn. Năm 2017, Airbnb có mặt trên 65.000 thành phố và 191 nước với một doanh thu là 31 tỷ $, Uber trên 78 nước và 600 thành phố với một doanh thu là 68 tỷ $, Tripadvisor có một doanh thu 1,4 tỷ $ năm 2016.↩
[4] Luc Boltanski, “4. La topique de la dénonciation (Vấn đề của sự tố cáo)”, La Souffrance à distance. Morale humanitaire, médias et politique (Nỗi đau khổ cách xa. Đạo đức nhân ái, truyền thông và chính trị), Éditions Métailié, 1993, trang 91-116.↩
[5] Dữ liệu được thu thập trong dự án Algoglitch được thực hiện ở Văn phòng nghiên cứu các phương tiện truyền thông của trường Sciences Po với sự hỗ trợ của Ủy Ban Quốc Gia Về Kỹ Thuật Số.↩
[6] Lawrence Lessig, Code and Other Laws of Cyberspace (Quy tắc và các luật khác của không gian mạng), Basic books 1999.↩
[7] Marc Andreessen, “Why software is eating the world (Vì sao phần mềm đang nuốt thế giới)”, The Wall Street Journal, 20/08/11.↩
[8] “Waze dirige les conducteurs vers les incendies en Californie (Waze hướng dẫn các tài xế hướng tới các vụ cháy ở bang California)”, Clubic, 08/12/17.↩
[9] “GPS: de la valeur par défaut (GPS: về giá trị khi không còn gì khác)”, Internet Actu, 05/12/17.↩
[10] A. Courmont, “Entre monde et réalités. Big data et recomposition du gouvernement urbain (Giữa thế giới và thực tại. Dữ liệu lớn và sự tái thiết kế cơ quan cai trị thành phố)”, Revue française de Sociologie, 2018.↩
[11] “Une petite ville américaine est envahie par les embouteillages à cause de l’appli de navigation Waze (Một thành phố nhỏ Mỹ bị các vụ kẹt xe tràn ngập vì ứng dụng hướng dẫn của Waze)”, France 24, 26/12/17.↩
[12] “Loyauté des plateformes, d’accord, mais loyauté à quoi? (Sự trung thực của các nền tảng, đồng ý, nhưng trung thực với cái gì?)”, Nouvelobs, 10/12/16.↩
[13] Daniel Cefai, “La construction des problèmes publics. Définition de situations dans des arènes publiques (Sự thiết kế các vấn đề công cộng. Xác định các tình huống trên các vũ đài công)”, Réseaux, 1996, n°75, trang 43-66.↩
[14] Bruno Latour, Changer de société - refaire de la sociologie (Biến đổi xã hội - Làm lại xã hội học), La Découverte, 2006; Luc Boltanski, “2. Le système actanciel de la dénonciation (Hệ thống thực thi sự tố cáo)”, trong L’amour et la justice comme compétences: Trois essais de sociologie de l’action (trang 266-279). Éditions Métailié, 1990.↩
[15] A. Rosenblat, L. Stark, “Algorithmic Labor and Information Asymmetries: A Case Study of Uber’s Drivers (Thuật toán về lao động và sự không đối xứng về thông tin: nghiên cứu trường hợp của các tài xế Uber”, International Journal Of Communication, 2016, 10, 27.↩
[16] C. Cook, R. Diamond & al. (2018), The Gender Earnings Gap in the Gig Economy: Evidence from over a Million Rideshare Drivers (Khoảng cách về lương giữa các giới trong nền kinh tế Gig: Chứng cứ từ triệu người chia sẻ xe, NBER, Working Paper N024732.↩
[17] “Uber règle à l’amiable une plainte sur la protection des données (Uber dàn xếp giải quyết một vụ kiện về sự bảo vệ các dữ liệu)”, Le Point, 15/08/17.↩
[18] “Après les livreurs, les restaurateurs bouffés par l’uberisation (Sau các người giao hàng đến lượt các chủ quán ăn bị cuốn vào trào lưu uber hóa)”, Libération, 22/08/17.↩
[19] “Les applis de géolocalisation critiquées en marge des attentats (Các ứng dụng định vị bị chỉ trích xung quanh các vụ khủng bố)”, GQ, 17/11/15.↩
[20] “Waze accusé de protéger bien mieux la vie des Israéliens que celle des Palestiniens (Waze bị tố cáo bảo vệ cuộc sống của người Israel tốt hơn cuộc sống của người Palestine)”, Numerama, 05/10/16.↩
[21] Dominique Cardon, “Le pouvoir des algorithmes (Quyền lực của các thuật toán)”, Pouvoirs, 2018, vol. 164, no. 1, trang 63-73.↩
[22] “Attentat de Londres: Uber scandalise ses utilisateurs en augmentant ses prix pendant les attaques (Vụ khủng bố ở Londres: Uber làm cho người sử dụng công phẫn khi tăng giá trong các vụ tấn công)”, Huffingtonpost, 04/06/17.↩
[23] “Chez Uber, une I.A. décidera bientôt du prix de la course “à la tête du client” (Ở Uber, nay mai trí tuệ nhân tạo sẽ quyết định về giá các cuốc “dựa trên đặc tính của khách hàng”)”, Journal du Geek, 31/05/17.↩
[24] “Comment Airbnb et Instagram uniformisent nos lieux de vie (Airbnb và Instagram làm cho các nơi sống của chúng ta trở thành đơn điệu như thế nào)”, Les Inrocks, 27/08/16.↩
[25] “La manipulation secrète des utilisateurs d’Uber dévoilée par des lanceurs d’alerte (Sự giải kết nối đối với các công nghệ định vị. Một thách thức không được dành cho mọi người)”, The Conversation, 18/04/17.↩
[26] Y. Bruna, “La déconnexion aux technologies de géolocalisation. Une épreuve qui n’est pas à la portée de tous”, Réseaux, n°86, 2014, trang 141-161.↩
[27] “When Your Boss Is an Uber Algorithm (Khi ông chủ là một thuật toán của Uber)”, MIT Tech Review, 01/12/16.↩
