A.I.
ĐÃ HACK HỆ ĐIỀU HÀNH CỦA NỀN VĂN MINH NHÂN LOẠI? YUVAL NOAH HARARI LÊN TIẾNG CẢNH
BÁO
 |
| TechSolution/Shutterstock |
Tương tự như các mô hình trí tuệ nhân tạo (AI) được huấn luyện trên các tập dữ liệu khổng lồ để học và dự đoán, Sapiens: Lược sử loài người và Homo Deus: Lược sử tương lai đã luyện cho chúng ta biết mong đợi những ý tưởng đột phá từ nhà sử học có các tác phẩm bán chạy nhất Yuval Noah Harari.
Cuốn sách mới nhất của ông, Nexus: A Brief History of Information Networks from the Stone Age to AI, là khám phá toàn diện về lịch sử và tương lai các mạng lưới của con người. Harari dựa trên nhiều ví dụ lịch sử và đương đại để minh họa cách thông tin đã và đang định hình xã hội loài người.
Bài đánh giá: Nexus: Lược sử mạng thông tin từ thời kỳ
đồ đá đến AI – Yuval Noah Harari (Fern Press)
Kế thừa nền tảng đã được xây dựng trong "Sapiens", nơi Harari khám phá cuộc cách mạng nhận
thức mang lại cho con người khả năng độc đáo trong việc tạo ra những huyền thoại
và chuyện kể,
Nexus chuyển trọng tâm sang cách những câu chuyện này được truyền tải, duy trì
và biến đổi
thông qua các mạng lưới thông tin.
Trọng tâm của cuốn sách mới này là lập luận của Harari rằng AI đại diện cho một lực lượng cấp tiến mới trong sự phát triển của nền văn minh nhân loại, một chủ đề mà ông từng khai thác trong một bài báo năm 2023 về khả năng thao túng ngôn ngữ, văn hóa và xã hội của AI. Bài báo, cảnh báo rằng AI đã "hack hệ điều hành của nền văn minh nhân loại", mang đến lăng kính quan trọng để xem xét Nexus.
Cuốn sách bao
quát dòng lịch sử rộng lớn, từ sự xuất
hiện của Homo sapiens và tương tác của họ với người Neanderthal cho đến sự ra đời
của Neuralink (một thiết bị cấy ghép cho phép người dùng
giao tiếp với máy tính chỉ bằng suy nghĩ) và những tác động có thể có của AI đối
với tương lai của nền văn minh nhân loại.
Harari dẫn dắt độc giả qua hành trình xuyên suốt nhiều thiên niên kỷ, và khả năng duy trì một lý lẽ nhất quán về tính trung tâm của mạng lưới thông tin là một trong những điểm mạnh tốt nhất của cuốn sách. Những mối liên hệ mà ông vạch ra giữa lịch sử cổ đại và công nghệ hiện đại thách thức người đọc phải suy nghĩ lại về cách họ hiểu về cả quá khứ và hiện tại.
Lối kể chuyện
đôi khi có phần kiêu ngạo, khi Harari khẳng định mối liên hệ giữa những sự kiện
và hiện tượng tưởng chừng như rời rạc dưới cái ô rộng lớn của "mạng lưới". Song tôi ngờ rằng
chính sự táo bạo này sẽ giúp Nexus thu hút một số độc giả. Thật
vậy, cho dù bạn có đồng ý với Harari hay không, ông cũng đã đưa ra một lập luận khác về lý do tại sao việc dạy
và học lịch sử là điều cần thiết cho sự tồn tại của nhân loại.
Lịch sử – Harari nhắc nhở chúng ta một cách hùng hồn – cung cấp những bài học giá trị về đạo đức và
luân lý bằng cách nêu bật hệ quả của các hành động của con người. Lịch
sử thách thức chúng ta phải cân nhắc những hàm ý đạo đức của các quyết
định do các nhà lãnh đạo và người dân thường đưa ra. Thách thức chúng ta suy ngẫm về những lựa chọn của
chính mình.
Nền tảng cho sự hợp tác của nhân loại
Cốt lõi của Nexus là ý tưởng rằng các mạng lưới – dù là xã hội, chính trị,
kinh tế hay công nghệ – là nền tảng của sự hợp tác và quyền lực của con người.
Harari lập luận rằng sức mạnh của xã hội loài người luôn đến từ khả năng tạo ra
và duy trì các mạng lưới thông tin. Đổi lại, các mạng
lưới cho phép sự hợp tác trên quy mô
lớn và phân phối các nguồn lực, kiến thức và thẩm quyền.
Lập luận này vượt ra khỏi các mạng lưới vật lý của đường sá, tuyến đường
thương mại và các tổ chức. Nó bao gồm cả các mạng lưới vô hình của những
niềm tin chung, các câu chuyện văn
hóa và luật lệ. Harari nhấn mạnh vai trò của việc kể chuyện, chủ đề chính trong
Sapiens, trong việc tạo ra các mạng lưới này. Ông cho thấy khả năng giao tiếp
và củng cố các ý tưởng trừu tượng như chính phủ, tôn giáo và tiền bạc là nền tảng cho sự tiến bộ
của con người.
Nhưng Nexus không chỉ là lịch sử của các mạng lưới. Cuốn sách còn là câu chuyện
cảnh báo về những mối nguy hiểm do các mạng lưới tiên tiến và phát triển nhanh
nhất trong thế
giới ngày nay gây ra: AI và các hình thức công nghệ số khác. Harari chỉ trích AI một cách đặc biệt gay gắt. Ông coi đó là một loại trí thông minh mới – thứ mà ông gọi một cách khiêu
khích là “trí thông minh ngoài hành tinh” – có tiềm năng để vận hành ngoài tầm kiểm soát của con người.
Đó là lúc tư tưởng chủ đạo của cuốn sách trở nên cấp bách nhất. Các
mạng lưới từng phục vụ nhân loại rất tốt trong quá khứ, cho phép các mức độ hợp tác và tiến
bộ chưa từng có, hiện đang có nguy cơ trở nên quá phức tạp và không minh bạch để con người quản
lý hoàn toàn được. Harari cảnh báo, AI không chỉ đơn thuần là một công cụ mà chúng ta sử dụng;
nó có thể đưa ra quyết định và tạo ra kiến thức mới một cách độc lập. Sự trỗi
dậy của AI có
thể thay đổi cơ bản cấu trúc của xã hội loài người. Đây là lý do tại sao Harari
tìm lý lẽ để ủng hộ điều tiết và kiểm soát trí tuệ nhân tạo.
Phân tích về AI trong Nexus được xây dựng dựa trên các bài học lịch sử. Harari lấy ví dụ
từ thần thoại cổ đại cho đến những tiến bộ công nghệ gần đây. Ông sử dụng trường hợp của AlphaGo năm 2016, AI đầu tiên có khả năng đánh bại Lee Sedol, nhà vô địch thế giới Cờ Vây, môn đánh cờ chiến lược trong nhiều thiên niên kỷ đã được coi
là lĩnh vực mà trực giác và sự sáng tạo của con người sẽ luôn thống trị.
Ví dụ này minh họa cách AI bắt đầu vượt xa sự hiểu biết của con người. Ngay cả những
người sáng tạo ra AlphaGo cũng không thể giải thích đầy đủ lý do đằng sau một số
nước đi của
nó.
Bản chất "ngoài hành tinh" này của AI, cái mà Harari đối chiếu với những phát minh trước đây của con người như động
cơ hơi nước hay máy tính, đặt ra một loại thách thức mới. Rằng không rõ liệu con người
có thể duy trì quyền kiểm soát đối với các hệ thống mà họ đã tạo ra hay không.
AI, sức mạnh và tương lai của mạng lưới con người
Với phong cách đặc trưng của mình, Harari kết nối chủ đề này với các mối
quan tâm chính trị và xã hội rộng lớn hơn, đặc biệt là sự trỗi dậy của chủ
nghĩa độc tài và chủ nghĩa dân túy. Ông lập luận rằng khi ngày càng nhiều AI được tích hợp vào các quy
trình ra quyết định – từ việc xác định ai được vay tiền đến ai là mục tiêu
trong một cuộc tấn công quân sự – thì tính minh bạch và trách nhiệm giải trình
của các quy trình này sẽ bị xói mòn. Điều này gây ra mối đe dọa cơ bản đối với
nền dân chủ, vì công dân có thể không còn khả năng hiểu hoặc thách thức các lực lượng định hình cuộc sống
của họ.
Harari cũng đề cập đến khả năng nhân loại sẽ tuyệt
chủng. Nhưng trước khi điều này xảy đến, ông hình dung ra tương lai nơi các mạng
lưới do AI điều khiển sẽ củng cố sự bất bình đẳng hiện có, với các công ty công nghệ và chính phủ
hùng mạnh sử dụng AI để củng cố quyền kiểm soát thông tin và tài nguyên.
Khi rút ra các mối liên hệ giữa thế giới cổ đại và thời đại kỹ thuật số, Harari nhắc lại một số lập luận chính từ các tác phẩm trước của mình, đặc biệt là Sapiens. Giống như Sapiens, Nexus nghiên cứu vai trò của các huyền thoại chung và hư cấu tập thể trong lịch sử loài người nhưng nhấn mạnh hơn vào các cơ chế duy trì và truyền tải những câu chuyện này. Sự tập trung vào các mạng lưới vật chất và thông tin làm nền tảng cho xã hội loài người cho phép Harari đưa ra một góc nhìn mới về các chủ đề quen thuộc.
Harari xem xét tương lai của những mạng lưới này. Ông hình dung một thế giới nơi các hệ thống do AI điều khiển có thể tái định hình không chỉ xã hội loài người mà còn toàn bộ sinh quyển, có khả năng tạo ra các dạng sống và trí thông minh mới. Ông cảnh báo rằng sự trỗi dậy của AI có thể đánh dấu một bước ngoặt trong lịch sử loài người, nơi con người mất quyền kiểm soát đối với các mạng lưới vốn là nguồn sức mạnh lớn nhất của họ.
Góc nhìn tương lai này của Nexus giống với tác phẩm ức đoán khác của Harari, Homo Deus, cũng xem xét những hậu quả tiềm
tàng của các tiến bộ công nghệ đối với tương lai nhân loại.
Homo Deus thường mạo hiểm đi vào lãnh địa ảm đạm, nhưng Nexus vẫn dựa trên phân tích lịch sử. Việc
Harari sử dụng các ví dụ lịch sử cụ thể, từ việc phát minh ra máy in đến sự trỗi dậy của các đế chế
toàn cầu, đã củng cố các lập luận của ông, làm
Nexus có cảm giác cân bằng và ít gây hoang mang hơn so
với vài tác phẩm trước đây của
ông – mặc dù những cảnh báo trong sách cũng không kém phần cấp bách.
Đọc thêm: Thuần hóa máy móc: cuộc cách mạng công nghệ
có nên được quản lý hay không – và liệu có được chăng?
Lời kêu gọi hành động
Một trong số ít lời phê phán có thể đưa ra về Nexus là xu hướng đơn giản hóa quá mức các quá
trình lịch sử phức tạp để phục vụ cho luận điểm chính của nó. Nỗ lực đưa toàn bộ
lịch sử loài người vào khuôn khổ của các mạng lưới thông tin của Harari, dù gợi mở tư duy, đôi khi có thể gây cảm giác giản
lược quá mức.
Ví dụ, việc ông phân tích các văn bản tôn giáo như là công cụ kiểm soát xã hội đã bỏ qua sự đa dạng
phong phú của các cách diễn giải và những trải nghiệm tâm linh sâu sắc mang
tính cá nhân đã định hình nên các truyền thống tôn giáo. Tương tự như vậy, việc
ông miêu tả các hệ thống quan liêu chỉ là công cụ để duy trì quyền lực đã bỏ qua những cách thức mà các hệ
thống này đã tạo điều kiện cho sự dịch chuyển xã hội và bảo vệ các quyền cá nhân.
Mặc dù đôi khi
có những phép
đơn giản hóa quá mức, Nexus vẫn là lời
kêu gọi hành động đáng suy ngẫm. Tác phẩm cung cấp cái nhìn tổng quan sâu rộng về lịch sử của
các mạng lưới thông tin, đồng thời đưa ra lời cảnh báo mạnh mẽ về tương lai. Việc
Harari liên kết lịch sử cổ đại với những thách thức công nghệ và chính trị cấp
bách nhất của thế kỷ 21 cung cấp một bộ khung để hiểu những rủi ro và cơ hội đặt ra bởi công nghệ đang
tiến bộ nhanh chóng.
Một ý nghĩ gây bất an nảy sinh. Harari, một người vô thần lập luận rằng tôn
giáo là những hư cấu tập thể của con người, dường như gợi ý điều hiển nhiên đối
với nhiều người: AI do con người tạo ra không bao giờ có thể sở hữu một linh hồn,
theo nghĩa là một động lực sáng tạo độc nhất của con người. Hậu quả của lập luận
này là AI, bất kể tiên tiến đến đâu, cũng sẽ thiếu những phẩm chất nội tại của
con người vốn thúc đẩy sự sáng tạo, cảm xúc, lý luận đạo đức và đạo lý.
Nexus đầy tham vọng, táo bạo và đôi khi gây bất an. Nó không đưa ra những
giải pháp dễ dàng trong tầm tay chúng ta. Nhưng nó thách thức người đọc phải cẩn trọng suy ngẫm về những gì chi phối
cuộc sống của chúng ta và cách AI có thể biến đổi chúng. Đối với bất kỳ ai quan
tâm đến sự giao thoa giữa lịch sử, công nghệ và quyền lực, Harari một lần nữa
khơi gợi những suy nghĩ sâu sắc.
Tác giả
 |
| Darius von Guttner Sporzynski |
Giáo sư Lịch sử, Đại học Công giáo Úc
Tuyên bố công khai
Darius von Guttner Sporzynski không làm việc, tư vấn, sở hữu cổ phần hoặc
nhận tài trợ từ bất kỳ công ty hoặc tổ chức nào được hưởng lợi từ bài viết này
và không tiết lộ bất kỳ mối liên kết có liên quan nào ngoài việc bổ nhiệm làm
giáo sư.
Huỳnh
Thị Thanh Trúc dịch
Nguồn: Has AI hacked the operating system of human civilisation? Yuval Noah Harari sounds a warning, The Conversation, September 9, 2024.