26.4.17

Liệu nền dân chủ có sống sót qua Dữ liệu lớn và Trí tuệ nhân tạo không?

LIỆU NỀN DÂN CHỦ CÓ SỐNG SÓT QUA DỮ LIỆU LỚN VÀ TRÍ TUỆ NHÂN TẠO KHÔNG?
Chúng ta đang ở giữa một cuộc biến động công nghệ sẽ làm thay đổi cách thức mà xã hội được tổ chức. Chúng ta phải có quyết định đúng đắn ngay bây giờ
Ảnh: Getty Images
Chú thích của biên tập viên: Bài viết này xuất hiện lần đầu trong Spektrum der Wissenschaft, một ấn phẩm khác của Scientific American, dưới tiêu đề Digitale Demokratie Statt Datendiktatur.
Khai sáng là sự thoát ly của con người ra khỏi tình trạng vị thành niên do chính con người gây ra. Vị thành niên là sự bất lực không thể vận dụng trí tuệ một cách độc lập mà không cần đến sự chỉ đạo của người khác.
 – Immanuel Kant, “What is Enlightenment? [Khai sáng là gì?]” (1784)
Cuộc cách mạng kỹ thuật số đang hồi sôi nổi. Nó sẽ thay đổi thế giới như thế nào? Khối lượng dữ liệu được tạo ra tăng gấp đôi mỗi năm. Nói cách khác: trong năm 2016, chúng ta đã tạo ra một khối lượng dữ liệu nhiều bằng toàn bộ dữ liệu được tạo ra trong lịch sử loài người cho đến năm 2015. Mỗi phút chúng ta tạo ra hàng trăm ngàn cuộc tìm kiếm thông tin trên Google và đưa tin lên Facebook. Những thông tin đó cho thấy cách thức chúng ta suy nghĩ và cảm nhận. Chẳng bao lâu nữa, mọi thứ xung quanh chúng ta, thậm chí quần áo của chúng ta, cũng sẽ được kết nối với Internet. Người ta ước tính rằng trong 10 năm nữa sẽ có 150 tỷ cảm biến đo lường được nối mạng, nhiều hơn gấp 20 lần con người trên trái đất. Và như thế, khối lượng dữ liệu sẽ tăng gấp đôi mỗi 12 giờ. Nhiều công ty đã cố gắng biến Dữ liệu lớn thành Giàu có lớn [Big Money].
Mọi thứ sẽ trở nên thông minh; chẳng bao lâu nữa, chúng ta không chỉ có điện thoại thông minh, mà còn có nhà thông minh, nhà máy thông minh và thành phố thông minh. Liệu chúng ta có nên kỳ vọng là kết quả của những phát triển này sẽ dẫn đến những quốc gia thông minh và một hành tinh thông minh hơn không?
Thực vậy, lĩnh vực trí tuệ nhân tạo đã tạo ra những tiến bộ ngoạn mục. Đặc biệt, nó đang góp phần vào sự tự động hóa việc phân tích dữ liệu. Trí tuệ nhân tạo không còn được lập trình theo từng dòng, ngày nay nó đã có khả năng học tập, từ đó liên tục tự phát triển. Gần đây, thuật toán DeepMind của Google tự dạy mình làm thế nào để thắng 49 trận game Atari. Các thuật toán bây giờ có thể nhận ra ngôn ngữ và các mô thức viết tay gần giống như con người và thậm chí hoàn thành một số nhiệm vụ còn tốt hơn con người nữa. Chúng có khả năng mô tả nội dung của hình ảnh và video. Ngày nay 70% tất cả các giao dịch tài chính đều được thực hiện bởi các thuật toán. Nội dung các bản tin được tự động tạo ra một phần. Tất cả điều này đều có những hệ quả kinh tế cơ bản: trong 10 đến 20 năm tới, khoảng một nửa các công việc của ngày hôm nay sẽ bị các thuật toán đe dọa. 40% của 500 công ty hàng đầu hiện nay sẽ biến mất trong một thập kỷ nữa.
Bill Gates (1955-)
Elon Musk (1971-)
Chúng ta có thể dự kiến rằng các siêu máy tính sẽ sớm vượt qua khả năng của con người trong gần như tất cả các lĩnh vực – khoảng từ năm 2020 đến năm 2060. Các chuyên gia đang bắt đầu rung hồi chuông cảnh báo. Những người có tầm nhìn xa trông rộng về công nghệ, chẳng hạn như Elon Musk từ Tesla Motors, Bill Gates từ Microsoft và nhà đồng sáng lập Apple Steve Wozniak, đều cảnh báo rằng siêu trí tuệ là một mối nguy nghiêm trọng cho nhân loại, thậm chí có thể nguy hiểm hơn so với các loại vũ khí hạt nhân. Liệu điều này có gieo sự hoang mang sợ hãi không?
Có một điều rõ là cách thức mà chúng ta tổ chức nền kinh tế và xã hội sẽ thay đổi về cơ bản. Chúng ta đang trải qua một sự biến đổi lớn nhất kể từ khi cuộc Chiến tranh thế giới lần thứ hai kết thúc; sau quá trình tự động hóa nền sản xuất và tạo ra những chiếc xe tự hành, quá trình tự động hóa xã hội sẽ là bước tiếp theo. Với điều này, xã hội đang đứng ở ngã ba đường, đầy hứa hẹn với những cơ hội to lớn, nhưng cũng đứng trước những rủi ro đáng kể. Nếu chúng ta đưa ra những quyết định sai lầm, thì điều này có thể đe dọa những thành tựu lịch sử lớn nhất của chúng ta.
Norbert Wiener (1894-1964)
Trong những năm 1940, nhà toán học người Mỹ Norbert Wiener (1894-1964) đã phát minh ra điều khiển học. Theo ông, hành vi của các hệ thống có thể được kiểm soát bởi các phương tiện phản hồi thông tin thích hợp. Rất sớm, một số nhà nghiên cứu đã tưởng tượng ra việc kiểm soát nền kinh tế và xã hội theo nguyên lý cơ bản này, nhưng chúng ta không có sẵn công nghệ cần thiết vào thời điểm đó.
Ngày nay, Singapore được xem là một ví dụ hoàn hảo về một xã hội được kiểm soát bằng dữ liệu. Những gì bắt đầu như là một chương trình để bảo vệ người dân của họ khỏi chủ nghĩa khủng bố đã kết thúc bằng việc gây ảnh hưởng đến các chính sách kinh tế và xuất nhập cảnh, thị trường bất động sản và chương trình giảng dạy tại trường học. Trung Quốc đang thực hiện một lộ trình tương tự. Gần đây, Baidu, một công ty Trung Quốc tương đương với Google, đã mời quân đội tham gia vào dự án China Brain Project [Bộ não siêu việt Trung Quốc]. Nó bao gồm việc điều hành cái gọi là thuật toán học sâu về những dữ liệu mà công cụ tìm kiếm thu thập được về người dùng. Ngoài điều nói trên, nó còn lên kế hoạch về một kiểu kiểm soát về mặt xã hội. Theo những báo cáo gần đây, mỗi người dân Trung Quốc sẽ nhận được cái gọi là “Điểm công dân”, mà theo đó sẽ xác định những điều kiện cần thiết để có thể nhận được các khoản vay, việc làm, hoặc visa du lịch sang các nước khác. Kiểu giám sát cá thể này sẽ bao gồm việc giám sát lướt Internet và hành vi của các quan hệ xã hội của người dân (xem “Spotlight on China” [Tiêu điểm về Trung Quốc]).
Với người tiêu dùng ngày càng thường xuyên đối mặt với việc kiểm tra hạn mức tín dụng và với việc một số cửa hàng trực tuyến thử nghiệm bán hàng với giá cả được cá thể hóa, chúng ta đang đi trên một lộ trình tương tự ở phương Tây. Điều ngày càng rõ là tất cả chúng ta đều nằm trong tâm điểm giám sát của các định chế. Điều này đã được tiết lộ trong năm 2015 khi các nội dung chi tiết của chương trình “Karma Police [Cảnh sát Karma]” của cơ quan mật vụ Anh đã được công bố công khai, cho thấy quá trình kiểm tra toàn diện việc sử dụng Internet của mọi người. Liệu Big Brother [Đại Ca] có trở thành thực tế của ngày hôm nay?

Xã hội được lập trình, người dân được lập trình

Mọi thứ đều bắt đầu một cách khá vô hại. Các công cụ tìm kiếm và các nền tảng giới thiệu đã bắt đầu chào mời chúng ta những gợi ý cá thể hoá cho các sản phẩm và dịch vụ. Thông tin này được xây dựng dựa trên những dữ liệu cá nhân và siêu dữ liệu đã được thu thập từ các cuộc tìm kiếm trước đó, các hành vi mua hàng và dịch chuyển, cũng như các tương tác xã hội. Trong khi về mặt chính thức, danh tính của người dùng được bảo vệ, thì trong thực tế, nó có thể được truy ra một cách khá dễ dàng. Ngày nay, thuật toán biết một cách khá rõ những gì chúng ta làm, những gì chúng ta nghĩ và cảm giác của chúng ta như thế nào – thậm chí có thể tốt hơn cả bạn bè và gia đình của chúng ta hoặc thậm chí cả bản thân chúng ta. Thường các lời giới thiệu được chào mời phù hợp đến độ các quyết định cuối cùng được cảm nhận như thể đó là những quyết định của chính chúng ta, mặc dù trên thực tế đó không phải là những quyết định của chúng ta. Trong thực tế, chúng ta đang bị kiểm soát từ xa ngày càng thành công hơn theo cách này. Khi người ta càng biết nhiều thông tin về chúng ta, thì chúng ta càng có ít khả năng được tự do đưa ra những lựa chọn của mình mà không bị người khác xác định trước.
Nhưng điều nói trên sẽ không dừng lại ở đó. Một số nền tảng phần mềm đang chuyển động theo hướng “điện toán có sức thuyết phục.” Trong tương lai, khi sử dụng những công nghệ thao túng phức tạp, thì những nền tảng này sẽ có khả năng chỉ dẫn toàn bộ quá trình hành động của chúng ta, bất luận để thực hiện các quy trình công việc phức tạp hoặc để tạo ra những nội dung miễn phí cho các nền tảng Internet, từ đó mà các tập đoàn có thể kiếm được hàng tỷ đô-la. Xu hướng đi từ việc lập trình các máy tính đến việc lập trình con người.
Những công nghệ này cũng đang trở nên ngày càng phổ biến trong giới chính trị. Dưới chiêu bài “cú hích”, và trên quy mô rộng lớn, các chính phủ đang cố gắng hướng người dân theo một hành vi lành mạnh hơn hoặc thân thiện hơn với môi trường thông qua một “cú hích” – một hình thức gia trưởng hiện đại. Cái mới của các chính phủ muốn quan tâm chăm sóc người dân là không chỉ quan tâm đến những gì chúng ta làm, mà còn muốn đảm bảo rằng chúng ta làm những gì được họ cho là đúng. Cụm từ ma thuật “cú hích lớn” là sự kết hợp giữa dữ liệu lớn với cú hích. Đối với nhiều người, điều này giống như một loại vương trượng kỹ thuật số cho phép một chính phủ cai trị quần chúng một cách hiệu quả, mà không cần phải để cho người dân dấn thân vào các tiến trình dân chủ. Liệu điều này có thể khắc phục được các nhóm đặc quyền và tối ưu hóa quá trình của thế giới không? Nếu có, thì người dân có thể được cai trị bởi một “vị vua sáng suốt” được trang bị dữ liệu, người có khả năng tạo ra những thành quả kinh tế và xã hội mong muốn gần như thể bằng một chiếc đũa thần kì diệu kỹ thuật số.

Những thảm họa được lập trình trước

Nhưng nếu nhìn vào các tài liệu khoa học có liên quan thì chúng ta sẽ thấy rằng các nỗ lực để kiểm soát dư luận, theo nghĩa “tối ưu hóa”, phải chịu thất bại do tính phức tạp của vấn đề. Tính năng động của sự hình thành dư luận luôn đầy rẫy những bất ngờ. Không ai biết được cách thức chiếc đũa thần kì diệu kỹ thuật số, tức là kỹ thuật thao túng cú hích, nên được sử dụng một cách tốt nhất như thế nào. Điều gì được cho là một giải pháp đúng hay sai thường chỉ được thấy rõ sau một thời gian nào đó mà thôi. Trong đợt bệnh dịch cúm lợn của Đức vào năm 2009, ví dụ, mọi người đều được khuyến khích đi tiêm phòng. Tuy nhiên, ngày nay chúng ta biết rằng một tỷ lệ nào đó những người được tiêm chủng đã bị nhiễm một bệnh bất thường, chứng ngủ rũ (Narcolepsy). May mắn thay, đã không có nhiều người chọn phương thức chích ngừa!
Một ví dụ khác là nỗ lực gần đây của các nhà cung cấp bảo hiểm y tế khuyến khích người dân tập thể dục bằng cách phân phát các vòng đeo tay tập thể dục thông minh, với mục đích làm giảm số lượng bệnh về tim mạch trong người dân; nhưng cuối cùng, điều này có thể dẫn đến nhiều ca phẫu thuật hông hơn. Trong một hệ thống phức tạp, chẳng hạn như về mặt xã hội, khi có một lĩnh vực được cải tiến thì gần như chắc chắn sẽ dẫn đến sự xuống cấp của một lĩnh vực khác. Vì vậy, những giải pháp can thiệp ở diện rộng đôi khi có thể chứng minh là những sai lầm lớn.
Bất luận điều nói trên, bọn tội phạm, khủng bố và cực đoan sẽ cố gắng và tìm cách sớm hay muộn nắm quyền kiểm soát cây đũa thần kỳ diệu về kỹ thuật số – thậm chí chúng ta có thể không hề chú ý đến. Hầu như tất cả các công ty và định chế đều đã bị hack [tin tặc tấn công], kể cả Lầu Năm Góc, Nhà Trắng, và NSA [National Security Agency – Cơ quan An ninh Quốc gia Hoa Kỳ].
Một vấn đề nảy sinh khác là khi thiếu sự minh bạch tương xứng và khả năng kiểm soát dân chủ: thì sự xói mòn của hệ thống sẽ phát sinh từ bên trong. Các thuật toán tìm kiếm và các hệ thống giới thiệu có thể bị ảnh hưởng. Các công ty có thể trả giá trên cơ sở của một số kết hợp các từ ngữ để đạt được những kết quả thuận lợi hơn. Chính phủ các nước cũng có thể có khả năng gây ảnh hưởng đến các kết quả. Trong các cuộc bầu cử, họ có thể tạo ra các cú hích đối với những cử tri còn lưỡng lự theo hướng ủng hộ họ – một hình thức thao túng rất khó phát hiện. Vì vậy, bất cứ ai kiểm soát được công nghệ này thì có khả năng thắng được cuộc bầu cử – bằng cách tự tạo ra các cú hích dẫn đến quyền lực.
Vấn đề này càng trở nên trầm trọng hơn khi trong thực tế, ở nhiều nước, một công cụ tìm kiếm đơn lẻ hoặc một nền tảng truyền thông xã hội chiếm một thị phần trội hơn hẳn. Điều này dứt khoát có thể gây ảnh hưởng đến công chúng và can thiệp từ xa vào các nước này. Mặc dù phán quyết ngày 06/10/2015 của Tòa án Công lý châu Âu hạn chế việc trích xuất các dữ liệu của châu Âu một cách không chừng mực, vấn đề cơ bản vẫn chưa được giải quyết trong khu vực châu Âu, và thậm chí còn ít hơn ở những nơi khác.
Chúng ta có thể chờ đợi sẽ có những hiệu ứng phụ không mong muốn nào? Để cho hành động thao túng không bị chú ý, còn có cái gọi là hiệu ứng cộng hưởng – các gợi ý đề xuất còn được tùy chỉnh một cách thích đáng đối với từng cá nhân. Bằng cách này, các xu hướng cục bộ được củng cố dần dần bởi sự lặp đi lặp lại, dẫn tất cả chúng ta đến cái gọi là “bộ lọc bong bóng” hoặc “hiệu ứng buồng tiếng vang”: cuối cùng, tất cả những gì chúng ta có thể nhận được là chính những ý kiến của mình được phản hồi lại. Điều này tạo ra sự phân cực xã hội, dẫn đến việc hình thành các nhóm cục bộ riêng rẻ không còn hiểu biết lẫn nhau và thấy mình ngày càng xung đột với các nhóm khác. Bằng cách này, những thông tin cá thể hóa có thể vô tình phá hủy sự gắn kết xã hội. Điều này hiện thời có thể được quan sát trong nền chính trị của Mỹ, nơi mà đảng Dân chủ và đảng Cộng hòa đang ngày càng xa rời nhau, đến mức mà các thỏa hiệp về chính trị đã trở nên gần như là điều bất khả. Kết quả là một sự phân mảnh, thậm chí là một sự tan rã, của xã hội.
Do hiệu ứng cộng hưởng, một sự thay đổi dư luận ở diện rộng trong xã hội chỉ có thể diễn ra một cách chậm rãi và từng bước. Các hiệu ứng diễn ra với một độ trễ thời gian, nhưng, chúng cũng có thể dễ dàng không diễn ra. Có thể xảy ra, ví dụ, một sự oán giận vượt khỏi tầm kiểm soát đối với các dân tộc thiểu số hoặc người nhập cư; tình cảm dân tộc quá lớn có thể dẫn đến nạn phân biệt đối xử, chủ nghĩa cực đoan và xung đột.
Có lẽ điều thậm chí quan trọng hơn là việc các phương pháp thao túng làm thay đổi cách thức chúng ta đưa ra quyết định. Chúng không đếm xỉa đến những tín hiệu văn hóa và xã hội khác có liên quan, ít nhất là trong một thời gian tạm thời. Tóm lại, việc sử dụng các phương pháp thao túng ở diện rộng có thể gây ra những thiệt hại nghiêm trọng về mặt xã hội, bao gồm việc bạo hành hóa hành vi trong thế giới kỹ thuật số. Ai phải chịu trách nhiệm cho việc này?

Các vấn đề pháp lý

Điều này đặt ra những vấn đề pháp lý không nên bỏ qua, căn cứ vào các mức phạt tiền rất lớn đối với các công ty sản xuất kinh doanh thuốc lá, các ngân hàng, các công ty CNTT và các công ty sản xuất kinh doanh ô tô trong vài năm qua. Nhưng, nếu có, thì luật nào có thể bị vi phạm? Trước hết, điều rõ nhất là các công nghệ thao túng hạn chế sự tự do lựa chọn. Nếu công cụ kiểm soát từ xa các hành vi của chúng ta hoạt động hoàn hảo, thì về cơ bản chúng ta là những nô lệ của kỹ thuật số, bởi vì chúng ta chỉ thực hiện những quyết định mà trong thực tế đã được người khác thực hiện trước. Tất nhiên, các công nghệ thao túng chỉ hiệu quả có một phần. Tuy nhiên, quyền tự do của chúng ta đang biến mất dần dần, nhưng chắc chắn trong thực tế, điều đó diễn ra đủ chậm đến mức người dân phản kháng rất ít, cho đến nay.
Immanuel Kant (1724 - 1824)
Những nhận định sâu sắc của nhà khai sáng vĩ đại Immanuel Kant dường như tỏ ra thích đáng ở đây. Trong số những thứ khác, ông lưu ý rằng một nhà nước mà cố xác định mức độ hạnh phúc của người dân là một nhà nước chuyên quyền. Tuy nhiên, quyền tự phát triển bản thân chỉ có thể được thực thi bởi những người có quyền kiểm soát cuộc sống của họ, điều này đòi hỏi phải có sự tự quyết về thông tin. Đây không gì khác hơn là các quyền hiến định quan trọng nhất của chúng ta. Một nền dân chủ không thể hoạt động tốt, trừ khi các quyền đó được tôn trọng. Nếu chúng bị hạn chế, thì điều này sẽ làm suy yếu hiến pháp của chúng ta, xã hội của chúng ta và nhà nước.
Khi các công nghệ thao túng, chẳng hạn như cú hích lớn, hoạt động theo cách tương tự để cá thể hóa các quảng cáo, thì các luật khác cũng bị ảnh hưởng. Các quảng cáo cũng phải được ghi là quảng cáo và không được gây hiểu lầm. Chúng cũng không được phép sử dụng một số thủ thuật tâm lý, chẳng hạn như sự kích thích tiềm thức. Đây là lý do tại sao người ta cấm chiếu một chai nước giải khát nào đó trong một phim [quảng cáo] rất ngắn, bởi vì khi đó hình ảnh quảng cáo không thể được nhận biết một cách có chủ ý trong khi nó vẫn có thể có một hiệu ứng tiềm thức. Hơn nữa, việc thu thập và xử lý các dữ liệu cá nhân ở diện rộng hiện nay chắc chắn không tương thích với những luật bảo vệ dữ liệu được áp dụng tại các nước châu Âu và tại các nước khác.
Cuối cùng, tính hợp pháp của giá cả cá thể hóa cũng là vấn đề đáng ngờ, bởi vì đó có thể là một sự lạm dụng thông tin nội bộ. Các khía cạnh liên quan khác là khả năng vi phạm các nguyên tắc bình đẳng và không phân biệt đối xử – và của các luật cạnh tranh, khi mà khả năng tiếp cận thị trường tự do và tính minh bạch về giá cả không còn được đảm bảo. Tình huống được so sánh với việc các doanh nghiệp bán sản phẩm của mình với mức giá rẻ hơn ở các nước khác, nhưng cố gắng ngăn chặn việc mua [sản phẩm] qua các nước này. Những trường hợp như vậy đã dẫn đến việc bị phạt tiền rất cao trong quá khứ.
Quảng cáo và giá cả cá thể hóa không thể so sánh được với quảng cáo hoặc phiếu giảm giá theo hình thức cổ điển, khi mà những hình thức sau là không có tính đặc thù và cũng không xâm phạm sự riêng tư của chúng ta với mục đích hưởng lợi từ điểm yếu tâm lý của chúng ta và triệt hạ tư duy phê phán của chúng ta.
Hơn nữa, đừng quên rằng, trong giới học thuật, những thử nghiệm thậm chí mang tính vô hại đều được coi là những thử nghiệm với đối tượng con người, và sẽ phải được phê duyệt bởi một ủy ban đạo đức có trách nhiệm một cách công khai. Trong mọi trường hợp những người có liên quan đều được yêu cầu xác thực sự đồng ý có cân nhắc thông tin của họ. Ngược lại, một cú nhấp chuột để xác nhận đồng ý với nội dung của một thỏa thuận hàng trăm trang về “điều khoản sử dụng” (mà ngày nay đang là trường hợp diễn ra đối với nhiều nền tảng thông tin) là điều rất không thỏa đáng một cách đáng buồn.
Tuy nhiên, những thử nghiệm với các công nghệ thao túng, chẳng hạn như cú hích, được thực hiện với hàng triệu người, mà không thông báo cho họ biết, không có tính minh bạch và không có những ràng buộc về mặt đạo đức. Thậm chí những mạng xã hội lớn như Facebook hoặc những nền tảng hẹn hò trực tuyến như OkCupid đã công khai thừa nhận đảm trách những thử nghiệm xã hội loại này. Nếu muốn tránh những nghiên cứu vô trách nhiệm về con người và xã hội (chỉ nghĩ về sự tham gia của các nhà tâm lý trong những vụ bê bối tra tấn trong quá khứ gần đây thôi), thì chúng ta cần khẩn trương áp đặt những tiêu chuẩn cao, đặc biệt là những tiêu chuẩn chất lượng về mặt khoa học và một quy tắc ứng xử tương tự như Lời thề của Hippocrate. Liệu những suy nghĩ, quyền tự do, nền dân chủ của chúng ta có bị hack [tin tặc tấn công] không?
Stephen Hawking (1942-)
Steve Wozniak (1950-)
Giả sử có một cỗ máy siêu thông minh với kiến thức thần thánh và khả năng siêu phàm: liệu chúng ta có thực hiện theo những hướng dẫn của nó không? Có khả năng là có đấy. Nhưng nếu chúng ta làm điều đó, thì những cảnh báo của Elon Musk, Bill Gates, Steve Wozniak, Stephen Hawking và những người khác sẽ trở thành hiện thực: máy tính sẽ nắm quyền kiểm soát thế giới. Chúng ta phải hiểu rõ rằng một cỗ máy siêu thông minh cũng có thể phạm sai lầm, giả dối, theo đuổi những lợi ích ích kỷ hoặc bị thao túng. Hơn hết, điều đó không thể so sánh với trí tuệ tập thể phân tán của toàn thể dân chúng.
Ý tưởng thay thế suy nghĩ của tất cả người dân bằng một cụm máy tính là điều ngớ ngẩn, bởi vì điều đó sẽ làm giảm đáng kể tính đa dạng và chất lượng của các giải pháp khả thi. Điều đã rõ là các vấn đề khó giải quyết của thế giới đã không hề giảm bất chấp cơn đại hồng thủy gần đây về dữ liệu và việc sử dụng các thông tin cá thể hóa ngược lại đằng khác! Hòa bình thế giới là điều rất mong manh. Sự biến đổi khí hậu trong dài hạn có thể dẫn đến sự mất mát lớn nhất của các loài kể từ sự tuyệt chủng của loài khủng long. Chúng ta còn lâu mới khắc phục được cuộc khủng hoảng tài chính và tác động của nó đối với nền kinh tế. Tội phạm máy tính được cho là đã gây thiệt hại hàng năm lên đến 3 nghìn tỷ USD. Nhà nước và những kẻ khủng bố đang chuẩn bị cho một cuộc chiến tranh trên mạng.
Trong một thế giới thay đổi nhanh chóng, một cỗ máy siêu thông minh không bao giờ có thể đưa ra những quyết định hoàn hảo (xem hình 1): tính phức tạp mang tính hệ thống ngày càng tăng nhanh hơn khối lượng dữ liệu, trong khi bản thân các dữ liệu đang phát triển nhanh hơn khả năng xử lý chúng, và tốc độ truyền dữ liệu thì còn hạn chế. Điều này dẫn đến việc thiếu quan tâm đến kiến thức và thực tế cục bộ, những điều rất quan trọng để đạt được những giải pháp tốt đẹp. Các phương pháp kiểm soát cục bộ và phân tán thường hơn hẳn các phương pháp tập trung, đặc biệt trong những hệ thống phức tạp với các hành vi vô cùng khác biệt, khó dự đoán và không thể tối ưu hóa theo thời gian thực. Điều này đã tỏ ra đúng trong việc kiểm soát giao thông ở các thành phố, và thậm chí còn đúng hơn đối với các hệ thống quản lý xã hội và kinh tế của thế giới kết nối mạng và toàn cầu hóa ở mức độ cao của chúng ta.
Hơn nữa, có một nguy cơ là sự thao túng các quyết định bởi các thuật toán uy lực đã làm suy yếu cơ sở của “trí tuệ tập thể”, một trí tuệ có thể thích ứng với những thách thức của thế giới phức tạp của chúng ta một cách linh hoạt. Để trí tuệ tập thể hoạt động, việc các cá nhân tìm kiếm thông tin và đưa ra quyết định phải diễn ra một cách độc lập. Nếu các nhận xét và quyết định của chúng ta được các thuật toán xác định trước, thì thật ra điều này sẽ dẫn đến một sự tẩy não con người. Con người thông minh sẽ bị hạ cấp xuống chỉ là những người nhận lệnh, những người phản ứng lại sự kích thích một cách tự động.
Nói cách khác: thông tin cá thể hóa xây dựng một “bộ lọc bong bóng” xung quanh chúng ta, một kiểu nhà tù kỹ thuật số giam hãm suy nghĩ của chúng ta. Làm thế nào để có thể sáng tạo và tư duy “bên ngoài chiếc hộp” trong những điều kiện như vậy? Cuối cùng thì một hệ thống tập trung hành vi kỹ trị và kiểm soát xã hội và sử dụng một hệ thống thông tin siêu thông minh sẽ dẫn đến một hình thái độc tài mới. Vì vậy, việc xã hội được kiểm soát từ trên xuống, dưới chiêu bài “chủ nghĩa gia trưởng tự do”, về nguyên tắc không gì khác hơn là một chế độ toàn trị với một vỏ bọc màu hồng.
Trong thực tế, cú hích lớn nhằm làm cho nhiều người đồng ý theo một hướng, và thao túng các quan điểm và quyết định của họ. Điều này sẽ đặt cú hích trong đấu trường tuyên truyền và tước đi quyền công dân một cách có chủ định bằng cách kiểm soát hành vi. Chúng tôi cho rằng hậu quả có thể sẽ rất nghiêm trọng trong dài hạn, đặc biệt khi xem xét đến các hệ quả nói trên của một nền văn hóa bị xói mòn.

Một xã hội kỹ thuật số tốt hơn là điều khả thi

Mặc cho sự cạnh tranh toàn cầu diễn ra khốc liệt, các nền dân chủ nên khôn ngoan không ném bỏ xuống biển những thành tựu của nhiều thế kỷ. Trái ngược với các chế độ chính trị khác, các nền dân chủ phương Tây có lợi thế là đã học được cách thức đối phó với chủ nghĩa đa nguyên và sự đa dạng. Ngày nay, họ chỉ phải học cách thức làm thế nào để phát huy các điều đó nhiều hơn nữa.
Trong tương lai, những nước này sẽ dẫn đầu trong việc đạt được một sự cân bằng lành mạnh giữa các doanh nghiệp, chính phủ và người dân. Điều này đòi hỏi phải tư duy mạng và thiết lập một “hệ sinh thái” về thông tin, đổi mới, sản phẩm và dịch vụ. Để làm tốt việc trên, điều quan trọng không chỉ là tạo ra các cơ hội tham gia, mà còn phải hỗ trợ sự đa dạng. Bởi vì không có cách nào khác để xác định mục tiêu tốt nhất: chúng ta nên tối ưu hóa tổng sản phẩm quốc dân trên đầu người hay sự bền vững? Quyền lực hay hòa bình? Hạnh phúc hay tuổi thọ? Thường thì những gì được đánh giá là tốt hơn sẽ chỉ được biết đến sau khi đã thực hiện xong. Bằng cách cho phép theo đuổi nhiều mục tiêu khác nhau, một xã hội đa nguyên sẽ có nhiều khả năng để đối phó tốt hơn với hàng loạt những thách thức bất ngờ sẽ đến.
Hình thức kiểm soát tập trung, từ trên xuống là một giải pháp của quá khứ, chỉ thích hợp đối với những hệ thống có mức độ phức tạp thấp. Do đó, các hệ thống quản lý liên bang và các quyết định theo đa số là những giải pháp của hiện tại. Với sự tiến triển về mặt kinh tế và văn hóa, tính phức tạp của xã hội sẽ tiếp tục gia tăng. Vì vậy, giải pháp cho tương lai là trí tuệ tập thể. Điều này có nghĩa là khoa học công dân, sử dụng ưu thế đám đông và các nền tảng thảo luận trực tuyến rõ ràng là những cách tiếp cận mới rất quan trọng để tạo ra nhiều kiến thức, ý tưởng và nguồn lực hơn.
Trí tuệ tập thể đòi hỏi một mức độ đa dạng cao. Tuy nhiên, điều này đã bị các hệ thống thông tin cá thể hoá của ngày nay, vốn đang củng cố các xu hướng, làm suy giảm.
Sự đa dạng về mặt xã hội cũng quan trọng như sự đa dạng về mặt sinh học. Nó không chỉ nuôi dưỡng năng lực trí tuệ tập thể và đổi mới, mà còn kích thích sức bật – khả năng đối phó trước những cú sốc bất ngờ của xã hội chúng ta. Làm suy giảm sự đa dạng về mặt xã hội thường cũng làm suy giảm khả năng hoạt động và hiệu suất của một nền kinh tế và xã hội. Đây là lý do tại sao các chế độ toàn trị thường xung đột với các nước láng giềng của họ. Hậu quả lâu dài điển hình là sự bất ổn chính trị và chiến tranh, như đã từng xảy ra trong lịch sử. Do đó, tính đa nguyên và khả năng tham gia không nên được coi là sự nhượng bộ với người dân, mà là điều kiện tiên quyết thiết thực để phát triển mạnh đến những nền xã hội phức hợp hiện đại.
Tóm lại, có thể nói rằng chúng ta đang ở ngã ba đường (xem hình 2). Dữ liệu lớn, trí tuệ nhân tạo, điều khiển học và kinh tế học hành vi đang định hình xã hội của chúng ta – vì điều tốt hơn hoặc tồi tệ hơn. Nếu các công nghệ phổ biến như trên không tương thích với các giá trị cốt lõi của xã hội chúng ta, thì sớm hay muộn chúng sẽ gây ra những thiệt hại lớn lao. Chúng có thể dẫn dắt chúng ta đến một xã hội tự động với các tính năng toàn trị. Trong trường hợp xấu nhất, trí tuệ nhân tạo tập trung sẽ kiểm soát những gì chúng ta biết, những gì chúng ta nghĩ và cách thức chúng ta hành động. Chúng ta đang ở thời khắc lịch sử, thời khắc phải quyết định về một lộ trình đúng đắn – một lộ trình cho phép tất cả chúng ta hưởng lợi từ cuộc cách mạng kỹ thuật số. Do đó, chúng tôi kêu gọi tuân thủ các nguyên tắc cơ bản sau đây:
1. ngày càng phi tập trung hóa chức năng của các hệ thống thông tin;
2. hỗ trợ những thông tin mang tính tự quyết và khả năng tham gia;
3. cải thiện tính minh bạch nhằm đạt được mức độ tin tưởng cao hơn;
4. giảm thiểu sự xuyên tạc và sự ô nhiễm thông tin;
5. cho phép người sử dụng kiểm soát bộ lọc thông tin;
6. hỗ trợ tính đa dạng về mặt xã hội và kinh tế;
7. cải thiện khả năng tương tác với nhau và các cơ hội hợp tác;
8. tạo ra các công cụ hỗ trợ về kỹ thuật số và các công cụ điều phối;
9. ủng hộ trí tuệ tập thể, và
10. thúc đẩy hành vi có trách nhiệm của công dân trong thế giới kỹ thuật số thông qua sự hiểu biết và khai sáng về kỹ thuật số.
Theo nghị trình về kỹ thuật số này, tất cả chúng ta sẽ hưởng lợi từ những thành quả của cuộc cách mạng kỹ thuật số: nền kinh tế, chính phủ và người dân theo cùng một cách. Chúng ta còn trông chờ điều gì?

Một chiến lược cho thời đại kỹ thuật số

Dữ liệu lớn và trí tuệ nhân tạo rõ ràng là những cuộc đổi mới rất quan trọng. Chúng có một tiềm năng rất lớn để thúc đẩy các giá trị kinh tế và tiến bộ xã hội, từ chế độ chăm sóc y tế cá thể hóa đến những thành phố phát triển bền vững. Tuy nhiên, chúng ta hoàn toàn không thể chấp nhận việc sử dụng các công nghệ này để vô hiệu hóa người dân. Các công cụ cú hích lớn và điểm công dân lạm dụng việc thu thập một cách tập trung các dữ liệu cá nhân để kiểm soát hành vi [người dân] theo những cách mang tính toàn trị về bản chất. Điều này không những không phù hợp với các nguyên tắc nhân quyền và dân chủ, mà còn không phù hợp với các nguyên tắc quản lý những xã hội sáng tạo, hiện đại. Để giải quyết những vấn đề xác thực của thế giới, thì cần phải có những cách tiếp cận tốt hơn trong lĩnh vực thông tin và quản lý rủi ro. Lĩnh vực nghiên cứu về sự đổi mới có trách nhiệm và sáng kiến “Dữ liệu cho nhân loại” (xem “Big Data for the benefit of society and humanity [Dữ liệu lớn vì lợi ích của xã hội và nhân loại]”) cung cấp những hướng dẫn về cách thức dữ liệu lớn và trí tuệ nhân tạo nên được sử dụng như thế nào vì lợi ích của xã hội.
Bây giờ chúng ta có thể làm gì đây? Đầu tiên, ngay cả trong thời điểm của cuộc cách mạng kỹ thuật số, các quyền cơ bản của người dân cần phải được bảo vệ, vì đó là điều kiện tiên quyết cơ bản của một xã hội thiết thực, dân chủ và hiện đại. Điều này đòi hỏi việc thiết lập một khế ước xã hội mới, dựa trên sự tin tưởng và hợp tác, xem người dân và khách hàng không phải là những trở ngại hoặc tài nguyên cần được khai thác, mà là những đối tác. Về điều này, nhà nước cần phải cung cấp một khung điều tiết phù hợp, đảm bảo rằng các công nghệ được thiết kế và sử dụng theo những cách tương thích với nền dân chủ. Điều này sẽ đảm bảo khả năng tự quyết về thông tin, không chỉ về mặt lý thuyết, mà còn về mặt thực tế, bởi vì đó là điều kiện tiên quyết để dẫn dắt cuộc sống của chúng ta theo cách tự quyết và có trách nhiệm.
Cũng cần có một quyền có được bản sao các dữ liệu cá nhân được thu thập về bản thân chúng ta. Điều này cần phải được pháp luật điều tiết rằng những thông tin này phải được tự động gửi đi, theo một định dạng chuẩn, vào một thư mục lưu trữ dữ liệu cá nhân, để thông qua đó các cá nhân có thể quản lý việc sử dụng các dữ liệu của mình (có khả năng được hỗ trợ bởi các trợ lý đặc biệt về kỹ thuật số dựa vào trí tuệ nhân tạo). Để đảm bảo nhiều hơn tính riêng tư và ngăn chặn sự phân biệt đối xử, việc sử dụng trái phép các dữ liệu [cá nhân] sẽ phải bị trừng trị theo pháp luật. Như vậy, cá nhân sẽ có thể quyết định được ai là người có thể sử dụng thông tin của mình, vì mục đích gì và trong bao lâu. Ngoài ra, cần phải có những giải pháp thích hợp để đảm bảo dữ liệu [cá nhân] được lưu trữ và trao đổi một cách an toàn.
Các hệ thống tinh vi nổi tiếng, có xem xét đến nhiều tiêu chí, có thể giúp nâng cao chất lượng thông tin mà các quyết định của chúng ta dựa vào. Nếu các bộ lọc dữ liệu và các thuật toán giới thiệu và tìm kiếm được người dùng lựa chọn và cấu hình, thì chúng ta có thể nhìn vấn đề từ nhiều khía cạnh, và chúng ta sẽ ít bị thao túng bởi những thông tin bị bóp méo.
Thêm nữa, chúng ta cần có một thủ tục khiếu nại hiệu quả cho người dân, cũng như các giải pháp trừng phạt hiệu quả đối với những hành vi vi phạm quy tắc. Cuối cùng, để tạo ra đủ sức minh bạch và tin tưởng, các định chế khoa học hàng đầu nên hành động như người được ủy thác quản lý những dữ liệu và thuật toán đang thoát khỏi sự kiểm soát của nền dân chủ. Điều này cũng đòi hỏi có một quy tắc ứng xử thích hợp, ít nhất được bởi bất cứ ai truy cập vào những dữ liệu và thuật toán nhạy cảm tuân thủ – một kiểu Lời thề Hippocrate đối với các chuyên gia CNTT.
Hơn nữa, chúng ta cũng yêu cầu có một nghị trình kỹ thuật số để đặt nền tảng cho những việc làm mới và tương lai của một xã hội kỹ thuật số. Mỗi năm chúng ta đầu tư hàng tỷ USD vào các lĩnh vực nông nghiệp và cơ sở hạ tầng công cộng, trường học và các trường đại học vì lợi ích của ngành công nghiệp và của ngành dịch vụ.
Như vậy, chúng ta cần đảm bảo những hệ thống công cộng nào để xã hội kỹ thuật số của chúng ta thành công? Đầu tiên, chúng ta cần có những khái niệm hoàn toàn mới về giáo dục. Điều này cần được tập trung nhiều hơn vào tư duy phê phán, khả năng sáng tạo, phát minh và tinh thần doanh nhân thay vì vào việc tạo ra những người lao động chuẩn (mà nhiệm vụ, trong tương lai, sẽ được thực hiện bởi các robot và các thuật toán máy tính). Giáo dục cũng nên cung cấp kiến thức hiểu biết về việc sử dụng công nghệ kỹ thuật số có trách nhiệm và có phê phán, bởi vì công dân phải nhận biết được cách thức thế giới kỹ thuật số đan chéo với thế giới vật chất. Để thực thi các quyền công dân một cách hiệu quả và có trách nhiệm, người dân không những phải hiểu biết về những công nghệ này, mà còn về những cách sử dụng nào là bất hợp pháp. Đây là lý do tại sao chúng ta cần nhiều đến sự hợp tác của các định chế khoa học, công nghiệp, chính trị, và giáo dục để làm cho kiến thức này được phổ biến rộng rãi.
Thứ hai, chúng ta cần có một nền tảng tham gia dễ sử dụng để người dân có khả năng tự làm chủ, thiết lập các dự án của chính mình, tìm kiếm đối tác, tiếp thị sản phẩm và dịch vụ trên toàn thế giới, quản lý nguồn lực và nộp thuế và đóng tiền bảo hiểm xã hội (một loại chia sẻ kinh tế cho tất cả mọi người). Để bổ sung ý này, các thị trấn và thậm chí các làng mạc phải thiết lập các trung tâm cho những cộng đồng kỹ thuật số đang phát triển (chẳng hạn như các phòng thử nghiệm địa phương), nơi có thể phối hợp phát triển và thử nghiệm miễn phí các ý tưởng. Nhờ cách tiếp cận mở và sáng tạo được tìm thấy ở các trung tâm này, mà chúng ta có thể thúc đẩy các cuộc đổi mới trên cơ sở hợp tác và có quy mô lớn.
Các hình thức cạnh tranh đặc biệt cũng có thể cung cấp thêm động lực cho sự đổi mới, giúp làm tăng tính minh bạch công cộng và tạo đà cho một xã hội kỹ thuật số có sự tham gia. Chúng có thể đặc biệt hữu ích trong việc huy động xã hội dân sự để đảm bảo các khoản đóng góp của địa phương cho việc giải quyết các vấn đề toàn cầu (ví dụ, qua chương trình “Olympics khí hậu”). Ví dụ, những nền tảng nhắm đến việc phối hợp các nguồn lực khan hiếm có thể giúp giải phóng tiềm năng to lớn của nền kinh tế tuần hoàn và chia sẻ, một nền kinh tế mà phần lớn vẫn chưa được khai thác.
Với cam kết vào một chiến lược dữ liệu mở, các chính phủ và các ngành công nghiệp sẽ ngày càng làm cho dữ liệu có sẵn để phục vụ cho khoa học và mục đích công cộng, tạo điều kiện thích hợp cho một hệ sinh thái thông tin và đổi mới hiệu quả, theo kịp những thách thức của thế giới chúng ta. Điều này có thể được khuyến khích bằng việc cắt giảm thuế, theo cùng cách như đã được áp dụng tại một số nước đối với việc sử dụng các công nghệ thân thiện với môi trường.
Thứ ba, việc xây dựng một “hệ thống thần kinh kỹ thuật số”, được điều hành bởi người dân, có thể mở ra những cơ hội mới cho Internet của Vạn vật (IoT) cần thiết cho mọi người và cung cấp những thước đo dữ liệu thời gian thực có sẵn cho mọi người. Nếu muốn sử dụng nguồn lực một cách bền vững hơn và làm chậm tiến trình biến đổi khí hậu, chúng ta cần phải đo lường các hiệu ứng phụ tích cực và tiêu cực của những tương tác của chúng ta với người khác và với môi trường của chúng ta. Bằng cách sử dụng các vòng lặp phản hồi thích hợp, các hệ thống có thể bị ảnh hưởng theo cách mà chúng đạt được những kết quả mong muốn bằng phương thức tự tổ chức.
Để thành công, chúng ta sẽ cần đến nhiều hệ thống khuyến khích và trao đổi, có sẵn cho tất cả các nhà đổi mới kinh tế, chính trị và xã hội. Điều này có thể tạo ra những thị trường hoàn toàn mới và, vì thế, cũng là cơ sở cho một sự thịnh vượng mới. Giải phóng tiềm năng gần như không giới hạn của nền kinh tế kỹ thuật số sẽ được tăng cường đáng kể bởi một hệ thống đa nguyên về tài chính (ví dụ, các loại tiền tệ sẽ được phân biệt theo chức năng) và các quy định mới cho việc trả thù lao cho các sáng chế.
Để xử lí tốt hơn sự phức tạp và đa dạng của thế giới của chúng ta trong tương lai và để biến nó thành một lợi thế, chúng ta cần phải có những trợ thủ kỹ thuật số cá thể. Các trợ thủ kỹ thuật số này cũng sẽ hưởng lợi từ những phát triển trong lĩnh vực trí tuệ nhân tạo. Trong tương lai, chúng ta có thể dự kiến sẽ có rất nhiều mạng kết hợp trí tuệ con người và trí tuệ nhân tạo được xây dựng và cấu hình lại một cách linh hoạt, khi cần thiết. Tuy nhiên, để nắm quyền kiểm soát cuộc sống của chúng ta, các mạng nói trên phải được kiểm soát một cách phân tán. Đặc biệt, chúng ta còn có thể đăng nhập và đăng xuất theo ý muốn.

Các nền tảng dân chủ

Cuối cùng thì một “Wikipedia các nền văn hóa” có thể giúp phối hợp nhiều hoạt động khác nhau trong một thế giới có mức độ đa dạng cao và làm cho chúng tương thích với nhau. Nó sẽ làm cho những nguyên tắc thành công vốn đa phần là tiềm ẩn của các nền văn hóa trên thế giới trở nên rõ ràng, để có thể được kết hợp theo những cách mới. Một “Dự án bản đồ gen văn hóa” như thế cũng sẽ là một loại dự án hòa bình, bởi vì nó sẽ nâng cao nhận thức của cộng đồng về giá trị của tính đa dạng về văn hóa và xã hội. Các công ty toàn cầu từ lâu đã biết rằng các đội nhóm có tính văn hóa đa dạng và đa ngành đạt được nhiều thành công hơn so với những đội nhóm đồng nhất. Tuy nhiên, khung cần thiết để tập hợp và đối chiếu có hiệu quả kiến ​​thức và ý tưởng từ nhiều người nhằm tạo ra trí tuệ tập thể vẫn còn thiếu ở nhiều nơi. Để thay đổi điều này, việc cung cấp các nền tảng thảo luận trực tuyến sẽ là điều rất hữu ích. Chúng cũng có thể tạo ra khung cần thiết để tiến hành một nền dân chủ kỹ thuật số, được nâng cấp, với nhiều cơ hội tham gia lớn hơn cho người dân. Điều này rất quan trọng, bởi vì có rất nhiều vấn đề mà thế giới ngày nay đang đối mặt chỉ có thể được quản lý với sự đóng góp của xã hội dân sự.

Bài đọc thêm:

Big data, meet Big Brother: China invents the digital totalitarian state. The worrying implications of its social-credit project. The Economist (December 17, 2016).
Harris, S. The Social Laboratory, Foreign Policy (29 July 2014), http://foreignpolicy.com/2014/07/29/the-social-laboratory/
Tong, V. J. C. Predicting how people think and behave, International Innovation, http://www.internationalinnovation.com/predicting-how-people-think-and-behave/
Volodymyr, M., Kavukcuoglu, K., Silver, D., et al.: Human-level control through deep reinforcement learning. In: Nature, 518, S. 529-533, 2015.
Frey, B. S. und Gallus, J.: Beneficial and Exploitative Nudges. In: Economic Analysis of Law in European Legal Scholarship. Springer, 2015.
Gigerenzer, G.: On the Supposed Evidence for Libertarian Paternalism. In: Review of Philosophy and Psychology 6(3), S. 361-383, 2015.
Grassegger, H. and Krogerus, M. Ich habe nur gezeigt, dass es die Bombe gibt [I have only shown the bomb exists]. Das Magazin (3. Dezember 2016) https://www.dasmagazin.ch/2016/12/03/ich-habe-nur-gezeigt-dass-es-die-bombe-gibt/
Hafen, E., Kossmann, D. und Brand, A.: Health data cooperatives – citizen empowerment. In: Methods of Information in Medicine 53(2), S. 82–86, 2014.
Helbing, D.: The Automation of Society Is Next: How to Survive the Digital Revolution. CreateSpace, 2015.
Helbing, D.: Thinking Ahead – Essays on Big Data, Digital Revolution, and Participatory Market Society. Springer, 2015.
Helbing, D. und Pournaras, E.: Build Digital Democracy. In: Nature 527, S. 33-34, 2015.
van den Hoven, J., Vermaas, P. E. und van den Poel, I.: Handbook of Ethics, Values and Technological Design. Springer, 2015.
Zicari, R. und Zwitter, A.: Data for Humanity: An Open Letter. Frankfurt Big Data Lab, 13. 07. 2015. Zwitter, A.: Big Data Ethics. In: Big Data & Society 1(2), 2014.
Hình 1: Mức tăng trưởng về kỹ thuật số. Nguồn: Dirk Helbing
Nhờ Dữ liệu lớn, bây giờ chúng ta có thể đưa ra những quyết định tốt hơn dựa trên bằng chứng. Tuy nhiên, nguyên tắc kiểm soát từ trên xuống ngày càng thất bại, kể từ khi tính phức tạp của xã hội tăng lên một cách bùng nổ khi chúng ta tiếp tục phát triển mạng thế giới của chúng ta. Các cách tiếp cận kiểm soát phân tán sẽ trở nên ngày càng quan trọng hơn. Chỉ có bằng trí tuệ tập thể, chúng ta mới có thể tìm ra các giải pháp thích hợp cho những thách thức phức tạp của thế giới chúng ta.
Hình 2: Tại ngã ba kỹ thuật số. Nguồn: Dirk Helbing
Xã hội chúng ta đang ở ngã ba đường: Nếu các thuật toán mạnh hơn bao giờ hết bị kiểm soát bởi một vài người ra quyết định và làm giảm quyền tự quyết của chúng ta, thì chúng ta sẽ rơi trở lại vào phiên bản chế độ phong kiến ​​2.0, khi mà những thành tựu lịch sử quan trọng sẽ bị mất đi. Tuy nhiên, ngày nay, chúng ta có cơ hội để lựa chọn con đường dẫn đến thể chế dân chủ kỹ thuật số hoặc phiên bản chế độ dân chủ 2.0, mà tại đó tất cả chúng ta sẽ hưởng lợi (xem thêm https://vimeo.com/147442522).
Tiêu điểm về Trung Quốc: Liệu đây có phải là những gì mà xã hội tương lai trông giống như vậy không?
Việc kiểm soát hành vi và xã hội sẽ tác động đến cuộc sống của chúng ta như thế nào? Khái niệm Điểm công dân, hiện đang được thực hiện tại Trung Quốc, giúp chúng ta hình dung. Ở đó, tất cả người dân đều được đánh giá trên một thang điểm xếp hạng một chiều. Mọi thứ người dân làm đều thể hiện điểm cộng hoặc trừ. Điều này không chỉ nhằm mục đích giám sát quần chúng. Điểm số phụ thuộc vào cú nhấp chuột của một cá nhân trên Internet và hành vi ứng xử đúng đắn hay không về mặt chính trị của họ, và xác định các điều khoản về tín dụng, mức độ tiếp cận một số công việc, và khả năng được cấp thị thực du lịch. Do đó, Điểm công dân liên quan đến việc kiểm soát về mặt hành vi và xã hội. Ngay cả hành vi của bạn bè và người quen cũng tác động đến điểm số này, tức là nguyên tắc về trách nhiệm phe phái cũng được áp dụng: mọi người sẽ trở thành vừa là một người bảo vệ đức hạnh và vừa là một kẻ chỉ điểm; đồng thời các nhà tư tưởng phi chính thống đều bị cô lập. Nếu các nguyên tắc tương tự được truyền bá ở các nước dân chủ, thì cuối cùng cũng sẽ không thích hợp cho dù các quy tắc đó được các công ty nhà nước hoặc công ty có ảnh hưởng thiết lập. Trong cả hai trường hợp, những trụ cột của nền dân chủ sẽ bị đe dọa trực tiếp:
  • Việc theo dõi và đo lường tất cả các hoạt động có để lại dấu vết của kỹ thuật số sẽ tạo ra một kiểu người dân “trần trụi”, khi đó nhân phẩm và sự riêng tư của con người sẽ dần dần bị hạ cấp.
  • Các quyết định sẽ không còn được đưa ra một cách tự do, bởi vì một sự lựa chọn sai từ quan điểm của chính phủ hoặc của công ty xác định các tiêu chí của hệ thống chấm điểm sẽ có những hậu quả tiêu cực. Quyền tự chủ của cá nhân, về nguyên tắc, sẽ bị bãi bỏ.
  • Mỗi sai lầm nhỏ đều sẽ bị trừng phạt và không ai thoát được sự ngờ vực. Nguyên tắc suy đoán vô tội sẽ trở nên lỗi thời. Những lời buộc tội theo cách dự đoán của công an thậm chí có thể dẫn đến các hình phạt cho những vi phạm không xảy ra, mà chỉ là dự kiến ​​sẽ xảy ra.
  • Khi các thuật toán cơ bản không thể hoạt động mà không sai sót hoàn toàn, thì nguyên tắc sòng phẳng và công lý sẽ được thay thế bằng một sự tùy tiện kiểu mới, mà con người ta hầu như không có khả năng tự bảo vệ bản thân.
  • Nếu các mục tiêu cá nhân được thiết lập từ bên ngoài, thì khả năng tự phát triển cá nhân sẽ bị loại bỏ và, vì thế, cũng sẽ loại bỏ luôn chế độ đa nguyên dân chủ.
  • Các chuẩn mực văn hóa và xã hội cục bộ sẽ không còn được dùng làm cơ sở cho các hành vi thích hợp phụ thuộc vào tình huống.
  • Việc kiểm soát xã hội với một mục tiêu đơn chiều sẽ dẫn đến nhiều cuộc xung đột hơn và, vì thế, đến tình trạng mất an ninh. Con người luôn trong trạng thái trông đợi những bất ổn nghiêm trọng, như chúng ta đã thấy trong hệ thống tài chính của chúng ta.
Một kiểu kiểm soát xã hội như vậy sẽ quay lưng lại với những người dân tự chịu trách nhiệm để biến họ thành những kẻ hạ đẳng, dẫn đến một phiên bản chế độ phong kiến ​​2.0. Điều này đối nghịch hoàn toàn với các giá trị dân chủ. Do đó, đã đến lúc cho phiên bản Khai sáng 2.0, sẽ dẫn đến phiên bản chế độ dân chủ 2.0, dựa trên sự tự quyết dựa trên kỹ thuật số. Điều này đòi hỏi phải có những công nghệ có tính dân chủ: những hệ thống thông tin, phù hợp với các nguyên tắc dân chủ – nếu không chúng sẽ phá hủy xã hội của chúng ta.

“CÚ HÍCH LỚN” – THIẾT KẾ TỒI ĐỂ GIẢI QUYẾT VẤN ĐỀ

Người nào nắm được một khối lượng lớn dữ liệu có thể thao túng con người theo những cách tinh tế. Nhưng ngay cả những người ra quyết định nhân từ đều có thể làm nhiều điều xấu hơn là điều đúng, theo Dirk Helbing.
Dirk Helbing (1965-)
B. F. Skinner (1904-1990)
Những người ủng hộ Cú hích lớn lập luận rằng con người không đưa ra được những quyết định tối ưu và, do đó, cần phải giúp đỡ họ. Trường phái tư duy này được gọi là chủ nghĩa gia trưởng. Tuy nhiên, Cú hích lớn không lựa chọn cách thức thông báo và thuyết phục con người. Thay vào đó, nó khai thác các điểm yếu tâm lý để đưa chúng ta đến một số hành vi ứng xử, có nghĩa là đã đánh lừa chúng ta. Cách tiếp cận khoa học làm nền tảng cho phương pháp này được gọi là “chủ nghĩa hành vi”, mà trên thực tế đã lỗi thời từ lâu.
Nhiều thập kỷ trước, Burrhus Frederic Skinner kích thích có điều kiện những con chuột, chim bồ câu và chó bằng thưởng phạt (ví dụ, bằng cách cho ăn hoặc áp dụng những cú sốc điện đau đớn). Ngày nay, người ta cố gắng kiểm soát có điều kiện con người theo những cách tương tự. Thay vì bị nhốt trong một hộp Skinner, chúng ta đang sống trong một “bộ lọc bong bóng”: với thông tin cá thể hóa, suy nghĩ của chúng ta đã bị điều khiển. Với giá cả cá thể hóa, chúng ta có thể thậm chí bị trừng phạt hoặc được khen thưởng, ví dụ, vì những cú nhấp chuột được mong muốn (hoặc không được mong muốn) trên Internet. Sự kết hợp của Cú hích với Dữ liệu lớn, do đó, đã dẫn đến một hình thức Cú hích mới mà chúng ta có thể gọi là “Cú hích lớn”. Khối lượng ngày càng tăng những thông tin cá nhân về bản thân, thường được thu thập mà không có sự đồng ý của chúng ta, tiết lộ những gì chúng ta nghĩ, cách thức chúng ta cảm nhận và cách thức chúng ta có thể được thao túng như thế nào. Những thông tin riêng tư này được khai thác để thao túng chúng ta đưa ra những lựa chọn lẽ ra sẽ không được chọn nếu trong hoàn cảnh khác, để mua một số sản phẩm đắt đỏ hoặc mua những sản phẩm mà chúng ta không cần, hoặc có thể để chúng ta bỏ phiếu cho một đảng phái chính trị nào đó.
Tuy nhiên, Cú hích lớn là không phù hợp để giải quyết nhiều vấn đề của chúng ta. Điều này đặc biệt đúng đối với những thách thức liên quan đến tính phức tạp của thế giới chúng ta. Mặc dù đã có 90 quốc gia sử dụng Cú hích, nhưng nó đã không làm giảm các vấn đề xã hội của chúng ta – mà còn trái lại nữa. Hiện tượng khí hậu nóng lên toàn cầu đang tiến triển. Hòa bình trên thế giới là điều mong manh, và chủ nghĩa khủng bố đang gia tăng. Tội phạm mạng bùng nổ, và cuộc khủng hoảng kinh tế và nợ cũng chưa được giải quyết tại nhiều nước.
Richard Thaler (1945-)
Chúng ta cũng chưa có giải pháp nào để giải quyết sự thiếu hiệu quả của các thị trường tài chính, như lời thừa nhận gần đây của Richard Thaler, một giáo chủ về Cú hích. Theo quan điểm của ông, nếu nhà nước kiểm soát các thị trường tài chính, thì điều này sẽ càng làm trầm trọng thêm vấn đề. Nhưng như vậy tại sao lại phải kiểm soát xã hội chúng ta theo hướng từ trên xuống, một điều thậm chí còn phức tạp hơn đối với một thị trường tài chính? Xã hội không phải là một cỗ máy, và chúng ta không thể điều khiển các hệ thống phức tạp như đối với một chiếc xe. Điều này có thể được hiểu qua việc thảo luận một hệ thống phức tạp khác: cơ thể của chúng ta. Để chữa bệnh, chúng ta cần dùng đúng thuốc, vào đúng giờ giấc, với đúng liều lượng. Nhiều phương pháp điều trị cũng có những tác dụng phụ và tương tác nghiêm trọng. Điều tương tự, tất nhiên, cũng được chờ đợi là sẽ xảy ra đối với các hoạt động can thiệp về mặt xã hội của Cú hích lớn. Chúng ta thường không biết rõ trước điều gì là tốt hay xấu cho xã hội. 60% các kết quả khoa học về tâm lý học đều không thể lặp lại được. Do đó, có nhiều khả năng là Cú hích lớn có thể gây hại nhiều hơn là lợi.
Hơn nữa, chúng ta không có giải pháp nào tốt cho tất cả mọi người. Ví dụ, trong những thập kỷ gần đây, chúng ta đã thấy những khuyến cáo về thực phẩm luôn thay đổi theo thời gian. Nhiều người cũng đã bị bệnh vì vấn nạn thức ăn, có thể thậm chí dẫn đến tử vong. Việc truy tìm một cách đại trà một số loại ung thư và một số bệnh khác nay bị xem xét một cách phê phán, bởi vì các tác dụng phụ của những chẩn đoán sai lầm thường lớn hơn lợi ích nhận được. Do đó, nếu ai đó quyết định sử dụng Cú hích lớn, thì cơ sở khoa học, tính minh bạch, sự đánh giá về mặt đạo đức và sự kiểm soát về mặt dân chủ của việc sử dụng này thật sự là những điểm mấu chốt. Các giải pháp đưa ra sẽ phải đảm bảo có những cải tiến đáng kể về mặt thống kê, và các tác dụng phụ sẽ phải ở mức chấp nhận được. Người dùng cần phải được nhận biết về những điều nói trên (giống như một tờ rơi y tế), và người được xử lí sẽ phải có tiếng nói cuối cùng.
Ngoài ra, việc áp dụng một giải pháp và cùng một giải pháp cho toàn thể dân số không phải là một ý hay. Nhưng còn có quá ít giải pháp được biết đến là những giải pháp thích hợp cho cá nhân. Điều quan trọng đối với xã hội là không chỉ áp dụng nhiều phương pháp xử lý khác nhau để duy trì sự đa dạng, mà sự tương quan (liên quan đến việc đưa ra giải pháp nào trong một bối cảnh đặc biệt nào) cũng quan trọng không kém. Đối với sự vận hành của xã hội, điều cần thiết là con người vận dụng nhiều vai trò khác nhau, phù hợp với tình hình tương ứng hiện tại của họ. Cú hích lớn còn lâu mới có khả năng cung cấp điều này.
Thay vào đó, hiện thời Dữ liệu lớn dựa trên sự cá thể hóa tạo ra những vấn đề mới như sự phân biệt đối xử. Ví dụ, nếu chúng ta đưa ra các mức phí bảo hiểm y tế phụ thuộc vào một số chế độ ăn uống, thì người Do Thái, người Hồi giáo và người Kitô giáo, phụ nữ và nam giới sẽ phải trả những mức phí khác nhau. Vì vậy, sẽ nảy sinh một loạt những vấn đề mới.
Vì thế, Richard Thaler đã không ngừng nhấn mạnh rằng Cú hích lớn chỉ nên được sử dụng theo những cách có lợi. Thử lấy một ví dụ hàng đầu, làm thế nào để sử dụng Cú hích, khi ông đề cập đến hệ thống dẫn đường dựa trên GPS. Tuy nhiên, chính người sử dụng phải bật và tắt hệ thống này. Người dùng cũng phải định rõ mục tiêu tương ứng. Kế đến, trợ thủ kỹ thuật số sẽ cung cấp nhiều lựa chọn thay thế, để người sử dụng có thể tự do lựa chọn. Sau đó, trợ thủ kỹ thuật số sẽ hỗ trợ người sử dụng trong khả năng tốt nhất để đạt được mục tiêu và đưa ra những quyết định tốt hơn. Điều này chắc chắn là cách tiếp cận đúng để cải thiện hành vi của người dân, nhưng ngày nay tinh thần Cú hích lớn khá khác với điều nói trên.

KỸ THUẬT SỐ TỰ QUYẾT THEO “QUYỀN CÓ ĐƯỢC BẢN SAO”

Ernst Hafen
Châu Âu phải đảm bảo người dân có được quyền có một bản sao kỹ thuật số về tất cả các dữ liệu liên quan đến họ (Quyền có được bản sao), theo Ernst Hafen. Bước đầu tiên hướng tới tính dân chủ về dữ liệu sẽ là việc thành lập các ngân hàng hợp tác về dữ liệu cá nhân được sở hữu bởi người dân chứ không phải bởi các cổ đông của công ty.
Ernst Hafen (1956-)
Ngành y khoa có thể hưởng lợi từ các dữ liệu y tế. Tuy nhiên, quyền truy cập vào dữ liệu cá nhân phải được chính người sở hữu dữ liệu (đối tượng của dữ liệu) kiểm soát. “Quyền có được bản sao” tạo ra cơ sở cho một hình thức kiểm soát như vậy.
Tại châu Âu, chúng ta thích chỉ ra rằng chúng ta đang sống trong những xã hội tự do, dân chủ. Tuy nhiên, chúng ta gần như trở nên phụ thuộc một cách vô thức vào các doanh nghiệp đa quốc gia về dữ liệu, những doanh nghiệp cung cấp các dịch vụ miễn phí mà chúng ta phải trả tiền cho chính những dữ liệu của mình. Dữ liệu cá nhân – mà ngày nay đôi khi còn được gọi là một “loại tài sản mới” hay dầu hỏa của thế kỷ 21 – được tìm kiếm rất nhiều. Tuy nhiên, cho đến nay chưa có ai thành công trong việc trích xuất lợi thế tối đa từ việc sử dụng dữ liệu cá nhân bởi vì nó nằm trong nhiều tập dữ liệu khác nhau. Google và Facebook có thể biết về các dữ liệu y tế của chúng ta nhiều hơn so với bác sĩ của chúng ta, nhưng ngay cả các doanh nghiệp này cũng không thể đối chiếu tất cả các dữ liệu của chúng ta, bởi vì họ không có quyền truy cập vào các hồ sơ bệnh án, các hóa đơn mua sắm, hoặc các thông tin về bản đồ gen của chúng ta. Trái với các loại tài sản khác, dữ liệu có thể được sao chép với hầu như không có chi phí. Mọi người đều có quyền có được một bản sao của tất cả các dữ liệu cá nhân của họ. Bằng cách này, họ có thể kiểm soát việc sử dụng và tổng gộp dữ liệu của mình và tự quyết định xem có nên cấp quyền truy cập cho bạn bè, một bác sĩ khác, hoặc cộng đồng khoa học hay không.
Sự xuất hiện của các cảm biến và các ứng dụng y tế di động có nghĩa là bệnh nhân có thể đóng góp đáng kể cho những hiểu biết về y tế. Bằng cách ghi lại tình hình sức khỏe của cơ thể trên điện thoại thông minh của mình, chẳng hạn như các chỉ số y tế và các tác dụng phụ của thuốc, họ cung cấp những dữ liệu quan trọng để có thể quan sát các cách thức điều trị được áp dụng, đánh giá các công nghệ về y tế, và thực hành y khoa dựa trên bằng chứng nói chung. Đây cũng là một nghĩa vụ về đạo đức khi cho người dân tiếp cận với các bản sao những dữ liệu của họ và cho phép họ tham gia vào các cuộc nghiên cứu y học, bởi vì điều này sẽ cứu sống người bệnh và làm cho chế độ chăm sóc y tế có mức giá phải chăng hơn.
Các nước châu Âu nên có cam kết về quyền tự quyết kỹ thuật số của người dân bằng cách đưa “Quyền có được bản sao” vào hiến pháp của họ, như đã được đề xuất tại Thụy Sĩ. Bằng cách này, người dân có thể sử dụng dữ liệu của họ để đóng một vai trò tích cực trong nền kinh tế dữ liệu toàn cầu. Nếu họ có thể lưu trữ bản sao các dữ liệu của họ tại các định chế hợp tác phi lợi nhuận, được người dân kiểm soát, thì một phần lớn các giá trị kinh tế của dữ liệu cá nhân có thể phục vụ trở lại lợi ích của xã hội. Các định chế hợp tác sẽ đóng vai trò là người được ủy thác trong việc quản lý dữ liệu của các thành viên của họ. Điều này sẽ dẫn đến việc dân chủ hóa thị trường dữ liệu cá nhân và kết thúc sự phụ thuộc vào kỹ thuật số.

XÃ HỘI DÂN CHỦ KỸ THUẬT SỐ

Người dân phải được phép tham gia tích cực

Để xử lí công nghệ tương lai theo cách có trách nhiệm, điều cần thiết là mỗi người chúng ta có thể tham gia vào quá trình ra quyết định, theo lập luận của Bruno S. Frey từ Đại học Basel
Bruno S. Frey (1941-)
Làm thế nào các cuộc đổi mới có trách nhiệm có thể được phát huy một cách hiệu quả? Những lời kêu gọi công chúng, nếu có, đạt được rất ít hiệu quả nếu các định chế hoặc các quy tắc định hình sự tương tác của con người không được thiết kế để khuyến khích và cho phép người dân đáp ứng những yêu cầu này.
Chúng ta cần xem xét nhiều loại hình định chế. Điều quan trọng nhất là xã hội phải được phân quyền, theo nguyên tắc các quyết định nên được đưa ra ở cấp thấp nhất có thể. Có ba chiều kích quan trọng.
  • Không gian phân quyền nằm trong một cơ chế liên bang mạnh mẽ. Các tỉnh thành, khu vực và phường xã phải được giao đủ quyền tự chủ. Trong một mức độ rộng lớn, họ phải có khả năng thiết lập các mức thuế riêng và quyết định các khoản chi tiêu công của chính họ.
  • Chức năng phân quyền theo lĩnh vực chi tiêu công (ví dụ như về giáo dục, y tế, môi trường, cung cấp nước sinh hoạt, giao thông, văn hóa, v.v.) cũng là một điều mong muốn. Khái niệm này đã được phát triển thông qua đề xuất về FOCJ, hay Functional, Overlapping and Competing Jurisdictions [thẩm quyền chức năng chồng chéo và cạnh tranh]”.
  • Chính trị phân quyền liên quan đến việc phân chia quyền lực giữa các cơ quan hành pháp (chính phủ), lập pháp (quốc hội) và tòa án. Các phương tiện truyền thông công cộng và các giới học viện nên là những trụ cột bổ sung.
Những kiểu phân quyền này sẽ tiếp tục có tầm quan trọng lớn trong xã hội kỹ thuật số của tương lai.
Ngoài ra, người dân phải có cơ hội trực tiếp tham gia vào quá trình ra quyết định đối với những vấn đề đặc biệt qua phương thức trưng cầu ý dân phổ thông. Trong diễn ngôn trước một cuộc trưng cầu ý dân như vậy, tất cả các lập luận có liên quan cần được đưa ra và tuyên bố theo một cách có tổ chức. Cần so sánh nhiều đề xuất khác nhau về cách thức giải quyết một vấn đề đặc biệt và thu hẹp lại với những đề xuất có vẻ hứa hẹn nhất, và tích gộp càng nhiều ý kiến càng tốt trong quá trình điều đình. Cuối cùng, cần phải tổ chức một cuộc trưng cầu ý dân, nhằm xác định giải pháp khả thi nhất với những điều kiện của địa phương (khả thi theo nghĩa nhận được sự ủng hộ đa dạng của cử tri).
Ngày nay, các công cụ thảo luận trực tuyến có thể hỗ trợ hiệu quả những quá trình như vậy. Điều này làm cho chúng ta có thể xem xét một phạm vi rộng lớn hơn và đa dạng hơn các ý tưởng và kiến ​​thức, thu hút “trí tuệ tập thể” để đưa ra những đề xuất tốt hơn về chính sách.
Một cách khác để thực hiện mười đề xuất là tạo ra những thể chế mới phi chính thống. Ví dụ, chúng ta có thể thiết lập một thể chế bắt buộc đối với mọi cơ quan chính thức làm công việc “advocatus diaboli [Luật sư của quỷ – Người đưa ra những bằng chứng để phản bác việc phong thánh cho ai đó – ND]. Nhà tư duy phi chính thống này sẽ được giao nhiệm vụ phát triển những lập luận phản biện và những tùy chọn thay thế đối với mỗi đề xuất. Điều này sẽ làm giảm xu hướng tư duy theo những đường hướng “chính trị đúng đắn” và những cách tiếp cận phi truyền thống để giải quyết vấn đề cũng sẽ được xem xét.
Một giải pháp phi chính thống khác là chọn lựa trong số các tùy chọn thay thế được coi là hợp lý trong quá trình trao đổi, sử dụng những cơ chế ra quyết định ngẫu nhiên. Một cách tiếp cận như vậy sẽ làm tăng cơ hội để các đề xuất và ý tưởng phi truyền thống và thường bị bỏ qua sẽ được tích gộp vào xã hội kỹ thuật số của tương lai.
Bruno S. Frey
Bruno Frey (* 1941) là một nhà kinh tế học hàn lâm và Giáo sư thỉnh giảng thường xuyên tại Đại học Basel, nơi ông điều hành Trung tâm Nghiên cứu về Kinh tế học và Phúc lợi (CREW). Ông cũng là Giám đốc phụ trách nghiên cứu của Trung tâm Nghiên cứu về Kinh tế học, Quản trị và Nghệ thuật (CREMA) tại Zurich.

CÔNG NGHỆ DÂN CHỦ VÀ ĐỔI MỚI CÓ TRÁCH NHIỆM

Khi công nghệ xác định cách thức chúng ta nhìn thế giới, thì có một mối đe dọa sử dụng sai và lừa dối. Vì vậy, đổi mới phải phản ánh các giá trị của chúng ta, theo lập luận của Jeroen van den Hoven.
Jeroen van den Hoven (1957-)
Nước Đức gần đây đã bị choáng váng bởi một vụ bê bối công nghiệp mang tính toàn cầu. Những tiết lộ [về vụ bê bối] đã dẫn đến sự từ chức của Giám đốc điều hành [CEO] của một trong những nhà sản xuất xe hơi lớn nhất, một sự mất mát nghiêm trọng về niềm tin của người tiêu dùng, một sự sụt giảm giá cổ phiếu đáng kể và thiệt hại kinh tế đối với toàn bộ ngành công nghiệp xe hơi. Thậm chí người ta còn nói đến sự thiệt hại nghiêm trọng đối với thương hiệu “Made in Germany [Sản xuất tại Đức]”. Các khoản bồi thường lên đến hàng tỷ Euro.
Bối cảnh của vụ bê bối là một tình thế trong đó hãng xe VW [Volkswagen] và các nhà sản xuất xe hơi khác đã thao túng phần mềm có thể phát hiện những điều kiện tuân thủ môi trường của một chiếc xe khi được kiểm tra. Thuật toán phần mềm đã làm thay đổi chế độ hoạt động của động cơ để nó phát ra ít khí thải ô nhiễm hơn trong các điều kiện kiểm tra so với trong các điều kiện bình thường. Bằng cách này, họ đã đánh lừa các thủ tục kiểm tra. Toàn bộ việc làm giảm khí thải chỉ diễn ra trong quá trình kiểm tra, nhưng không giảm trong chế độ sử dụng bình thường.
Trong thế kỷ 21, chúng ta cần khẩn trương đặt ra câu hỏi về việc làm thế nào để có thể triển khai các chuẩn mực đạo đức về mặt công nghệ.
Tương tự như vậy, các thuật toán, mã máy tính, phần mềm, các mô hình và dữ liệu sẽ ngày càng xác định những gì chúng ta thấy được trong xã hội kỹ thuật số, và những lựa chọn của chúng ta là gì liên quan đến vấn đề bảo hiểm y tế, tài chính và chính trị. Điều này sẽ mang đến những rủi ro mới cho nền kinh tế và xã hội. Đặc biệt, còn có mối nguy của sự lừa dối.
Vì vậy, điều quan trọng là phải hiểu được rằng các giá trị của chúng ta được hiện thân trong những gì mà chúng ta tạo ra. Nếu không, thiết kế của công nghệ tương lai sẽ xác định hình dạng xã hội của chúng ta (“mã số là luật”). Nếu các giá trị đó mang tính tư lợi, phân biệt đối xử hoặc trái với các lý tưởng về quyền tự do và riêng tư cá nhân, thì điều này sẽ làm tổn hại xã hội của chúng ta. Như vậy, trong thế kỷ 21 chúng ta phải khẩn trương đặt ra câu hỏi về việc làm thế nào để có thể triển khai các chuẩn mực đạo đức về mặt công nghệ. Thách thức kêu gọi chúng ta “thiết kế vì giá trị”.
Nếu thiếu động lực phát triển các công cụ công nghệ, khoa học và thể chế cần thiết để gắn kết thế giới kỹ thuật số với các giá trị chung của chúng ta, thì tương lai có vẻ sẽ rất ảm đạm. Điều may mắn là Liên minh châu Âu [EU] đã đầu tư vào một chương trình nghiên cứu và phát triển to lớn cho sự đổi mới có trách nhiệm. Hơn nữa, các nước EU đã thông qua các Tuyên bố Lund và Rome nhấn mạnh rằng sự đổi mới cần phải được tiến hành một cách có trách nhiệm. Trong số nhiều thứ khác, điều này có nghĩa là sự đổi mới phải được định hướng phát triển các giải pháp thông minh cho những vấn đề xã hội, có thể hài hòa với những giá trị như hiệu quả, an toàn và bền vững. Sự đổi mới đích thực không đòi hỏi phải đánh lừa người dân để họ tin rằng chiếc xe của họ là bền vững và hiệu quả. Sự đổi mới đích thực có nghĩa là tạo ra các công nghệ có thể đáp ứng thực sự những yêu cầu này.

HIỂU BIẾT RỦI RO VỀ KỸ THUẬT SỐ

Công nghệ cần những người dùng có thể kiểm soát nó

Thay vì để cho công nghệ thông minh làm giảm năng lực trí tuệ của chúng ta, chúng ta nên học cách kiểm soát nó tốt hơn, theo Gerd Gigerenzerbắt đầu từ thời thơ ấu.
Gerd Gigerenzer (1947-)
Cuộc cách mạng kỹ thuật số đã cung cấp hàng loạt những khả năng gây ấn tượng sâu sắc: hàng ngàn ứng dụng, Internet của Vạn vật, và sự kết nối gần như thường trực với thế giới. Nhưng trong sự phấn khích ấy, chúng ta dễ dàng quên một điều: công nghệ tiên tiến cần có những người dùng có năng lực để có thể kiểm soát nó hơn là bị nó kiểm soát.
Ba ví dụ:
Một trong những nghiên cứu sinh tiến sĩ của tôi đang ngồi với máy tính và có vẻ mải mê viết luận án của anh ta. Cùng thời gian đó, hộp thư e-mail của anh ta cũng đang mở, suốt cả ngày. Trong thực tế, anh ta chờ đợi sẽ bị ngắt quãng. Thật dễ nhận ra có bao nhiêu cuộc ngắt quãng trong suốt cả ngày đó, bằng cách nhìn vào số lượng dòng luận án anh ta viết được.
Một sinh viên Mỹ viết tin nhắn trong khi lái xe:
“Khi một tin nhắn đến, tôi chỉ việc xem qua, bất luận là cái gì. May mắn thay, điện thoại cho tôi thấy tin nhắn là một mẫu quảng cáo, từ cái nhìn ban đầu... vì vậy tôi không cần phải xem tin nhắn trong khi đang lái xe.” Nếu, với tốc độ 50 dặm [1 dặm =1,609 km] một giờ, cô gái này chỉ mất 2 giây để lướt qua điện thoại di động, thì cô ấy vừa lái một đoạn đường 48 yard [1 yard = 0, 914 mét] “mù”. Cô gái này đang mạo hiểm với một tai nạn xe hơi. Chiếc điện thoại thông minh của cô ấy đã nắm quyền kiểm soát hành vi của cô ấy – như trường hợp của 20 đến 30% người Đức viết tin nhắn trong khi lái xe.
Trong cuộc bầu cử quốc hội ở Ấn Độ vào năm 2014, cuộc bầu cử dân chủ lớn nhất thế giới với hơn 800 triệu cử tri tiềm năng, có ba ứng cử viên chính: N. Modi, A. Kejriwal, và R. Ghandi. Trong một nghiên cứu, những cử tri còn lưỡng lự có thể tìm kiếm thêm thông tin về các ứng cử viên bằng cách sử dụng một công cụ tìm kiếm trên Internet. Tuy nhiên, những người tham gia không hề biết rằng các trang web đã bị thao túng: Đối với nhóm này, nhiều thông tin tích cực về Modi sẽ xuất hiện ngay ở trang đầu và những thông tin tiêu cực sẽ xuất hiện ở những trang sau. Đối với nhóm khác, điều tương tự cũng diễn ra đối với các ứng cử viên khác. Các thủ tục thao túng tương tự kiểu này là những thực hành phổ biến trên Internet. Người ta ước tính rằng khi để các ứng viên xuất hiện ở trang đầu, nhờ những hành động thao túng như vậy, thì số phiếu mà họ nhận được từ các cử tri còn lưỡng lự sẽ tăng thêm 20 điểm phần trăm.
Trong từng trường hợp nói trên, hành vi của con người đã bị công nghệ kỹ thuật số kiểm soát. Việc mất kiểm soát không là điều gì mới, nhưng cuộc cách mạng kỹ thuật số đã làm tăng khả năng xảy ra điều nói trên.
Chúng ta có thể làm gì? Có ba cách nhìn cạnh tranh nhau. Một là chủ nghĩa gia trưởng-công nghệ [techno-paternalism], sẽ thay thế nhận định (còn thiếu sót) của con người bằng các thuật toán. Anh nghiên cứu sinh tiến sĩ bị phân tâm có thể tiếp tục đọc các email của mình và sử dụng phần mềm viết luận án; tất cả những gì anh ta cần là nhập những thông tin then chốt về chủ đề của luận án. Những thuật toán như vậy sẽ giải quyết vấn đề phiền toái của những xì-căng đan bằng cách làm cho chúng xuất hiện hàng ngày.
Mặc dù còn thuộc lĩnh vực khoa học viễn tưởng, nhận định của con người nay đã được thay thế bằng các chương trình máy tính trong nhiều lĩnh vực. Ứng dụng BabyConnect, ví dụ, theo dõi sự phát triển hàng ngày của trẻ nhỏ – chiều cao, cân nặng, số lần nó được cho bú, số lần thay tã cho nó, và nhiều thứ khác nữa – trong khi các ứng dụng mới hơn so sánh con của bạn với con của những người dùng khác trong một cơ sở dữ liệu thời gian thực. Đối với các bậc cha mẹ, đứa con của họ trở thành một véc-tơ dữ liệu, và những khác biệt thông thường thường gây ra những lo lắng không cần thiết.
Cách nhìn thứ hai được gọi là “Cú hích”. Thay vì để cho các thuật toán làm tất cả các công việc, người dân được chỉ dẫn vào một hướng nhất định nào đó, mà thường không nhận thức được về điều đó. Cuộc thử nghiệm về các cuộc bầu cử ở Ấn Độ là một ví dụ về điều đó. Chúng ta biết rằng trang thứ nhất của các kết quả tìm kiếm của Google nhận được khoảng 90% tất cả các cú nhấp chuột, và một nửa trong số này là hai kết quả đầu tiên. Kiến ​​thức về hành vi con người đã bị lợi dụng bằng cách thao túng thứ tự các kết quả sao cho những thông tin tích cực về một ứng cử viên nhất định nào đó hoặc một sản phẩm thương mại nhất định nào đó xuất hiện ở trang đầu tiên. Tại những nước như Đức, nơi mà việc tìm kiếm thông tin trên web bị thống trị bởi một công cụ tìm kiếm (Google), thì điều này sẽ dẫn đến những khả năng vô tận để gây ảnh hưởng đến các cử tri. Giống như chủ nghĩa gia trưởng-công nghệ, Cú hích chiếm quyền chi phối.
Nhưng còn có một khả năng thứ ba. Cách tôi nhìn vấn đề gọi là khả năng hiểu biết rủi ro, khi mà người dân được trang bị những năng lực để kiểm soát các phương tiện truyền thông thay vì bị chúng kiểm soát. Nói chung, khả năng hiểu biết rủi ro đề cập đến những cách thức sáng suốt để xử lí trong những lĩnh vực liên quan đến rủi ro như y tế, tiền bạc, và các công nghệ hiện đại. Khả năng hiểu biết rủi ro về kỹ thuật số có nghĩa là có thể tận dụng lợi thế của các công nghệ kỹ thuật số mà không bị phụ thuộc hoặc bị chúng thao túng. Điều đó không khó như chúng ta tưởng. Anh nghiên cứu sinh tiến sĩ của tôi, kể từ đó, đã học được việc chỉ mở tài khoản email của mình ba lần một ngày, vào buổi sáng, buổi trưa, và buổi tối, để có thể chuyên tâm viết luận án mà không bị liên miên ngắt quãng.
Việc học tập cách tự kiểm soát về kỹ thuật số cần phải bắt đầu từ lúc còn là một đứa trẻ, ở trường học và cũng từ tấm gương của cha mẹ. Một số người theo tư tưởng gia trưởng có thể chế giễu ý tưởng, cho rằng con người thiếu sự thông minh và tính kỷ luật bản thân để trở thành người hiểu biết rủi ro. Nhưng nhiều thế kỷ trước đây, người ta cũng nói điều tương tự về việc học đọc và học viết – vậy mà đa số người dân ở các nước công nghiệp ngày nay đều có thể học được. Theo cùng cách đó, người dân có thể học cách đối phó với rủi ro một cách hợp lý hơn. Để đạt được điều này, chúng ta cần phải suy nghĩ lại một cách cơ bản về các chiến lược và đầu tư vào con người, thay vì thay thế hoặc thao túng con người với các công nghệ thông minh. Trong thế kỷ 21, chúng ta cần quan tâm ít hơn đến chủ nghĩa gia trưởng và cú hích, và quan tâm nhiều đến những người dân hiểu biết hơn, có tư tưởng phê phán hơn, và có khả năng hiểu biết rủi ro nhiều hơn. Đã đến lúc tước khỏi tay công nghệ việc điều khiển từ xa và nắm lấy quyền định đoạt cuộc đời chúng ta.

ĐẠO ĐỨC: DỮ LIỆU LỚN VÌ MỤC ĐÍCH TỐT LÀNH VÀ NHÂN VĂN

Quyền lực của dữ liệu có thể được sử dụng vì các mục đích tốt và xấu. Roberto Zicari và Andrej Zwitter đã xây dựng năm nguyên tắc của Đạo đức Dữ liệu lớn.
Andrej Zwitter
Roberto V. Zicari (1955-)
Trong thời gian gần đây, ngày càng có nhiều tiếng nói – từ những người có tầm nhìn xa trông rộng về công nghệ như Elon Musk (Tesla Motors), đến Bill Gates (Microsoft) và Steve Wozniak (Apple) – cảnh báo về những nguy hiểm của trí tuệ nhân tạo (AI). Một kiến nghị chống lại các hệ thống vũ khí tự động đã được 200.000 người ký tên và một lá thư ngỏ được trường MIT công bố gần đây kêu gọi một cách tiếp cận mới, toàn diện cho xã hội kỹ thuật số tương lai.
Chúng ta phải nhận ra rằng dữ liệu lớn, giống như bất cứ công cụ nào khác, có thể được sử dụng vì các mục đích tốt và xấu. Theo nghĩa này, quyết định của Tòa án Công lý châu Âu chống lại Thỏa thuận [với Hoa Kì – ND] về bảo vệ dữ liệu trên cơ sở các quyền về con người là điều có thể hiểu được.
Các Nhà nước, các tổ chức quốc tế và các tác nhân tư nhân hiện đang sử dụng dữ liệu lớn trong rất nhiều lĩnh vực. Điều quan trọng là tất cả những ai hưởng lợi từ dữ liệu lớn phải nhận thức được trách nhiệm đạo đức của mình. Vì lý do này, Sáng kiến về dữ liệu vì​​ nhân loại [Data for Humanity Initiative] đã được thành lập, với mục tiêu phổ biến một Bộ quy tắc ứng xử đối với việc sử dụng dữ liệu lớn. Sáng kiến ​​này đưa ra năm nguyên tắc đạo đức căn bản đối với người dùng dữ liệu lớn:
1. Không gây hại. Dấu vết kỹ thuật số mà mọi người đang để lại phía sau mình làm cho các cá nhân, các nhóm xã hội và toàn thể xã hội nói chung phơi bày tính minh bạch và dễ bị tổn thương ở một mức độ nào đó. Những người được tiếp cận những hiểu biết sâu sắc nhờ dữ liệu lớn không được gây hại đến bên thứ ba.
2. Đảm bảo dữ liệu được sử dụng theo cách mà kết quả sẽ thúc đẩy sự chung sống hòa bình của nhân loại. Việc lựa chọn nội dung và khả năng tiếp cận dữ liệu gây ảnh hưởng đến thế giới quan của một xã hội. Chung sống hòa bình chỉ khả thi nếu các nhà khoa học dữ liệu nhận thức được trách nhiệm của mình trong việc cung cấp quyền tiếp cận bình đẳng và không thiên lệch dữ liệu.
3. Sử dụng dữ liệu để giúp người cần giúp đỡ. Ngoài lợi ích về kinh tế, sự đổi mới trong lĩnh vực dữ liệu lớn cũng có thể tạo thêm những giá trị xã hội. Trong thời đại kết nối toàn cầu, chúng ta giờ đây có thể tạo ra những công cụ dữ liệu lớn mang tính sáng tạo, có thể giúp những người cần giúp đỡ.
4. Sử dụng dữ liệu để bảo vệ thiên nhiên và giảm thiểu mức độ ô nhiễm môi trường. Một trong những thành tựu lớn nhất của phân tích dữ liệu lớn là sự phát triển các quy trình hiệu quả và các hiệu ứng hiệp lực. Dữ liệu lớn chỉ có thể giúp tạo ra một tương lai bền vững về kinh tế và xã hội nếu những phương pháp như vậy cũng được sử dụng để tạo ra và duy trì một môi trường tự nhiên lành mạnh và ổn định.
5. Sử dụng dữ liệu để loại bỏ sự phân biệt đối xử và sự bất khoan dung và tạo ra một hệ thống công bằng về sự cùng tồn tại xã hội. Các phương tiện truyền thông xã hội đã tạo ra một mạng xã hội mạnh mẽ. Điều này chỉ có thể dẫn đến sự ổn định toàn cầu mang tính dài hạn nếu nó được xây dựng trên các nguyên tắc sòng phẳng, bình đẳng và công bằng.
Để kết luận, chúng tôi cũng muốn mọi người chú ý đến những cơ hội mới đáng quan tâm mà dữ liệu lớn có thể dẫn đến một tương lai tốt hơn: “Khi mà việc có nhiều dữ liệu hơn làm cho thông tin trở nên ít tốn kém hơn và công nghệ phá vỡ các rào cản tiếp nhận và phân tích dữ liệu, thì cơ hội cung cấp những thông tin hữu ích phục vụ cho các mục đích công dân sẽ phát triển. Điều này có thể gọi là thách thức 'công ích' vì dữ liệu lớn”. (Jake Porway, DataKind). Cuối cùng, điều quan trọng là hiểu được bước ngoặt sang dữ liệu lớn như là một cơ hội để làm điều tốt và là một hy vọng cho một tương lai tốt hơn.

ĐO LƯỜNG, PHÂN TÍCH, TỐI ƯU HÓA: KHI MÁY MÓC THÔNG MINH CHIẾM QUYỀN KIỂM SOÁT VỀ MẶT XÃ HỘI

Trong thời đại kỹ thuật số, máy móc đã điều khiển trong một chừng mực đáng kể cuộc sống hàng ngày của chúng ta. Vì thế, chúng ta nên suy nghĩ kỹ lưỡng trước khi chia sẻ dữ liệu cá nhân của chúng ta, theo chuyên gia Yvonne Hofstetter
Yvonne Hofstetter (1966-)

Nếu Norbert Wiener (1894-1964) trải nghiệm được thời đại kỹ thuật số, thì đối với ông, đó sẽ là thế giới của thiên đường [muốn gì cũng có]. “Điều khiển học là khoa học về thông tin và kiểm soát, bất luận mục tiêu kiểm soát là một cỗ máy hay một sinh vật sống”, người sáng lập Điều khiển học đã từng giải thích như vậy tại Hannover, Đức, vào năm 1960. Trong lịch sử, thế giới chưa từng tạo ra một khối lượng dữ liệu và thông tin lớn như hiện nay.
Điều khiển học, một khoa học khẳng định tầm quan trọng ở mọi nơi, đã hứa hẹn một cách chắc nịch: “Mọi thứ đều có thể kiểm soát được.” Trong thế kỷ 20, các lực lượng vũ trang của Hoa Kỳ và của Liên Xô đều áp dụng điều khiển học để kiểm soát cuộc chạy đua vũ trang. NATO đã triển khai cái gọi là hệ thống C3I (Command [chỉ huy], Control [điều khiển], Communication [truyền tin] Intelligence [tình báo]), một thuật ngữ dành cho cơ sở hạ tầng quân sự mà ngôn ngữ dựa trên cuốn sách của Wiener mang tựa đề Cybernetics: Or Control and Communication in the Animal and the Machine [Điều khiển học: Hoặc Kiểm soát và Truyền thông trong động vật và máy móc] được xuất bản vào năm 1948. Kiểm soát đề cập đến việc kiểm soát máy móc cũng như kiểm soát các cá nhân hoặc toàn bộ các hệ thống quản lý xã hội chẳng hạn như các liên minh quân sự, NATO và Hiệp ước Warsaw. Các yêu cầu cơ bản là: Tích hợp, thu thập dữ liệu và truyền tin. Kết nối con người và mọi thứ đến Internet của vạn vật là một cách hoàn hảo để có được những dữ liệu cần thiết như là đầu vào của các chiến lược kiểm soát điều khiển học.
Với điều khiển học, một khái niệm khoa học mới đã được đề xuất: thông tin phản hồi vòng kín. Thông tin phản hồi – chẳng hạn như bấm like [thích] hoặc đưa ra những lời bình trực tuyến – là một khái niệm chính khác liên quan đến kỹ thuật số hóa. Liệu điều này có nghĩa là kỹ thuật số hóa là sự triển khai điều khiển học một cách hoàn hảo nhất không? Khi sử dụng các thiết bị thông minh, chúng ta tạo ra một dòng vô tận các dữ liệu phơi bày các ý định, định vị địa lý, hoặc môi trường xã hội của chúng ta. Trong khi giao tiếp trực tuyến nhiều hơn bao giờ hết mà không suy nghĩ, thì một hệ sinh thái trí tuệ nhân tạo (AI) âm thầm tiến hóa. Ngày nay, AI là công nghệ duy nhất có khả năng phác họa chân dung chúng ta và rút ra những kết luận về hành vi tương lai của chúng ta.
Một chiến lược điều khiển tự động, thường là một máy học tập, sẽ phân tích hiện trạng của chúng ta và tính toán một kích thích dẫn chúng ta đến gần hơn với một trạng thái “tối ưu” đáng mong muốn hơn. Những bộ điều khiển như vậy ngày càng chi phối cuộc sống thường nhật của chúng ta. Những công cụ hỗ trợ kỹ thuật số như vậy giúp chúng ta đưa ra quyết định trong hàng ngàn sa số các tùy chọn và sự bất định đáng sợ. Ngay cả công cụ tìm kiếm Google Search là một chiến lược điều khiển. Khi gõ một từ khóa, người dùng phơi bày ý định của mình. Công cụ tìm kiếm Google Search, đến lượt nó, không chỉ giới thiệu một danh sách những truy cập tốt nhất, mà còn giới thiệu một danh sách các liên kết được sắp xếp theo giá trị (tài chính) có lợi cho công ty hơn là có lợi cho người dùng. Bằng cách liệt kê các dịch vụ của công ty ở các dòng đầu của kết quả tìm kiếm, Google kiểm soát cú nhấp chuột tiếp theo của người dùng. Đó là một sự lạm dụng của vị thế độc quyền của Google, theo lập luận của Liên minh châu Âu.
Nhưng liệu có cách nào để thoát ra không? Có, nếu chúng ta ngắt kết nối từ các vòng lặp điều khiển học và đơn giản ngừng trả lời sự kích thích kỹ thuật số. Điều khiển học sẽ thất bại, nếu đối tác chịu sự kiểm soát bước ra khỏi vòng lặp. Chúng ta nên cẩn thận với và giữ kín đáo những dữ liệu của chúng ta, ngay cả khi đó là điều khó khăn. Tuy nhiên, khi quá trình kỹ thuật số hóa tiếp tục phát triển, thì chẳng bao lâu nữa chúng ta không còn có nhiều sự lựa chọn. Vì thế, một lần nữa chúng ta phải đấu tranh vì quyền tự do của chúng ta trong thời đại kỹ thuật số, đặc biệt chống lại sự trổi dậy của máy móc thông minh.

GIỚI THIỆU TÁC GIẢ

Dirk Helbing

Dirk Helbing là Giáo sư Khoa học tính toán xã hội tại Khoa khoa học nhân văn, khoa học xã hội và khoa học chính trị và là Giáo sư cơ hữu tại Khoa khoa học máy tính, viện ETH Zurich [tiếng Anh: Swiss Federal Institute of Technology – Viện Công nghệ Liên bang Thụy Sĩ]. Các nghiên cứu gần đây của ông thảo luận về những rủi ro mạng trên toàn cầu. Tại Delft University of Technology [Đại học Công nghệ Delft] ông chỉ đạo chương trình PhD về “Kỹ thuật công nghệ xã hội vì một tương lai kỹ thuật số có trách nhiệm.” Ông cũng là đại biểu được bầu của Học viện Đức về Khoa học “Leopoldina” và Học viện thế giới về nghệ thuật và khoa học.
Bruno S. Frey
Bruno Frey là một nhà kinh tế và là giáo sư thỉnh giảng tại Đại học Basel, nơi ông điều hành Trung tâm Nghiên cứu về Kinh tế học và Phúc lợi (CREW). Ông cũng là Giám đốc phụ trách nghiên cứu của Trung tâm Nghiên cứu về Kinh tế học, Quản trị và Nghệ thuật (CREMA) tại Zurich.

Gerd Gigerenzer

Gerd Gigerenzer là Giám đốc Học viện Max Planck về phát triển con người ở Berlin và Trung tâm Harding về khả năng hiểu biết rủi ro, được thành lập tại Berlin vào năm 2009. Ông là thành viên của Viện Hàn lâm Khoa học Berlin-Brandenburg và Viện Hàn lâm Khoa học “Leopoldina” của Đức. Mối quan tâm nghiên cứu của ông bao gồm năng lực rủi ro và rủi ro truyền thông, cũng như năng lực ra quyết định dưới điều kiện không chắc chắn và áp lực thời gian.

Ernst Hafen

Ernst Hafen là Giáo sư tại Học viện các hệ thống phân tử sinh học tại viện ETH Zurich và cũng là cựu Chủ tịch trước đây tại đó. Năm 2012, ông thành lập sáng kiến ​​“Dữ liệu và Sức khỏe.” Mục đích của sáng kiến ​​này là tăng cường năng lực tự quyết về kỹ thuật số của người dân ở cấp độ chính trị và kinh tế, cũng như khuyến khích việc thành lập các cơ sở dữ liệu hợp tác và có tổ chức cho các dữ liệu cá nhân.
Michael Hagner (1960-)

Michael Hagner

Michael Hagner là Giáo sư về nghiên cứu khoa học tại viện ETH Zurich. Mối quan tâm nghiên cứu của ông bao gồm sự quan hệ giữa khoa học và dân chủ, lịch sử điều khiển học và tác động của văn hóa kỹ thuật số đến các xuất bản học thuật.

Yvonne Hofstetter

Yvonne Hofstetter là một luật sư và chuyên gia về trí tuệ nhân tạo. Chuyên ngành của bà là việc phân tích một lượng lớn các dữ liệu và các hệ thống tổng hợp dữ liệu. Bà là Giám đốc điều hành công ty Teramark Technologies GmbH. Công ty phát triển các hệ thống kiểm soát kỹ thuật số dựa trên trí tuệ nhân tạo, để, trong nhiều mục đích khác, tối ưu hóa các chuỗi cung ứng đô thị và quản lý thuật toán rủi ro tiền tệ.

Jeroen van den Hoven

Jeroen van den Hoven là Giáo sư Đại học và là Giáo sư về đạo đức và công nghệ tại Đại học Công nghệ Delft, đồng thời là nhà sáng lập và là Tổng biên tập của tạp chí Đạo đức và Công nghệ thông tin. Ông là Chủ tịch sáng lập của chương trình Hội đồng nghiên cứu Hà Lan về đổi mới có trách nhiệm và chủ trì một Nhóm chuyên gia có trách nhiệm về nghiên cứu và đổi mới của Ủy ban châu Âu. Ông là thành viên của Nhóm Chuyên gia về Đạo đức của cơ quan Giám sát và Bảo vệ dữ liệu của châu Âu.

Roberto V. Zicari

Roberto V. Zicari là Giáo sư về cơ sở dữ liệu và các hệ thống thông tin tại Đại học Goethe Frankfurt và là chuyên gia về Dữ liệu lớn. Ông còn quan tâm đến lĩnh vực tinh thần doanh nhân và đổi mới. Ông là nhà sáng lập Phòng thử nghiệm dữ liệu lớn Frankfurt tại Đại học Goethe và là biên tập viên của cổng thông tin Các hệ thống quản lý cơ sở dữ liệu nghiệp vụ (ODBMS.org). Ông cũng là Giáo sư thỉnh giảng tại Trung tâm tinh thần doanh nhân và công nghệ của Khoa Kỹ thuật công nghiệp và hoạt động nghiên cứu tại Đại học California ở Berkeley.

Andrej Zwitter

Andrej Zwitter là Giáo sư về quan hệ quốc tế và đạo đức tại Đại học Groningen, Hà Lan, và là Nghiên cứu viên danh dự cao cấp tại Đại học Liverpool Hope, Vương quốc Anh. Ông là nhà đồng sáng lập Đài quan sát quốc tế về mạng lưới Dữ liệu lớn và Chiến lược toàn cầu. Mối quan tâm nghiên cứu của ông bao gồm lý thuyết chính trị quốc tế, tình trạng khẩn cấp và thiết quân luật, chính sách viện trợ nhân đạo, cũng như tác động của Dữ liệu lớn đến chính trị học và đạo đức học quốc tế.
Huỳnh Thiện Quốc Việt dịch
Nguồn: “Will Democracy Survive Big Data and Artificial Intelligence?”, Scientific American, February 25, 2017.
Print Friendly and PDF