Có thực sự trí tuệ nhân tạo sẽ diệt sạch chúng ta không? Khoa học đằng sau sự phóng đại này

CÓ THỰC SỰ TRÍ TUỆ NHÂN TẠO SẼ DIỆT SẠCH CHÚNG TA KHÔNG? KHOA HỌC ĐẰNG SAU SỰ PHÓNG ĐẠI NÀY

Tạp chí Nature xem xét liệu công nghệ này có thể là dấu chấm hết cho loài người hay không, và tại sao các công ty trí tuệ nhân tạo (AI) lại kêu gọi giảm tốc.

Tác giả: Elizabeth Gibney

Một số nhà nghiên cứu lo ngại về mối đe dọa hiện sinh mà các hệ thống AI gây ra. Nguồn: Daniel Megias/Getty

Những lo ngại rằng AI có thể giết chết tất cả chúng ta đang bùng lên dữ dội sau những cảnh báo từ các nhà nghiên cứu và lãnh đạo tại một số công ty AI hàng đầu thế giới. Nhiều lời đồn đoán đang xoay quanh việc các nhà lập pháp sẽ hành động như thế nào. Tạp chí Nature sẽ phân tích xem những nỗi sợ đó là gì, ai đang lên tiếng và chuyện tiếp theo có thể là gì.

Những lo ngại gần đây về AI bắt nguồn từ đâu?

Cơn hoảng loạn mới nhất về AI bắt đầu vào ngày 8 tháng 9, khi nhà nghiên cứu Jacob Coxon nói với tờ Wall Street Journal rằng ông sẽ rời công ty AI Anthropic, San Francisco, California, vì lo sợ rằng các hệ thống mà công ty đang phát triển có thể vượt khỏi tầm kiểm soát và hủy diệt nhân loại.

Trong một bài đăng tiếp theo trên nền tảng mạng xã hội X, cũng là bài đầu tiên ông từng đăng trên đây, Coxon viết: “Những người đang phát triển AI thực sự tin rằng nó có thể giết chết tất cả chúng ta trước khi thập kỷ này kết thúc.” Vài giờ sau, Evan Hubinger, người đứng đầu bộ phận “khoa học căn chỉnh” [alignment science] của Anthropic – nỗ lực nhằm làm cho các hành động của mô hình phù hợp với các giá trị của con người – đã khuếch đại thông điệp bằng cách đăng lại bài viết và bổ sung ước tính của riêng mình rằng nguy cơ tuyệt chủng của loài người là “>10% trong thập kỷ tới”. Bài đăng của Coxon đã thu hút hơn 100 triệu lượt xem trong vòng 24 tiếng.

Dario Amodei, giám đốc điều hành của công ty, sau đó đã đăng một bài luận kêu gọi giảm tốc – nhưng không phải dừng hẳn – quá trình phát triển AI. Lãnh đạo hai công ty AI đối thủ là Sam Altman (OpenAI, San Francisco) và Elon Musk (xAI, Palo Alto, California) sau đó cũng lên tiếng ủng hộ đề xuất này.

Cụ thể thì AI có thể giết sạch chúng ta bằng cách nào?

Coxon, Hubinger và Amodei chưa đưa ra chi tiết cụ thể về cách AI có thể loại bỏ loài người. Nhưng đã có người thử hình dung chi tiết các kịch bản. Trong một dự báo mang tính suy đoán có tên AI 2027, được phát triển bởi dự án phi lợi nhuận AI Futures, một AI sẽ phóng ra vũ khí sinh học để xóa sổ loài người và dọn chỗ cho các tấm pin mặt trời và nhà máy robot.

Các nhà nghiên cứu có mối lo ngại như vậy thường cho rằng sự tuyệt chủng là khả dĩ, nếu không muốn nói là không thể tránh khỏi, nếu chấp nhận hai giả định: thứ nhất, các hệ thống này cuối cùng sẽ hoàn toàn qua mặt được con người về mặt trí tuệ; và thứ hai, mục tiêu của hệ thống đó sẽ không hoàn toàn trùng khớp với mục tiêu của con người. Một ví dụ nổi tiếng là một “siêu trí tuệ” với mục tiêu sản xuất càng nhiều kẹp giấy càng tốt có thể biến Trái đất thành nơi không thể sống được, chỉ để đạt được mục tiêu của nó.

Nhiều nhà nghiên cứu lo ngại về mối đe dọa hiện sinh từ AI “chỉ đơn giản cho rằng một khi chúng ta đạt đến điểm đó, phần còn lại chỉ là râu ria”, theo Michael Vermeer, nhà nghiên cứu chính sách khoa học và công nghệ tại Tập đoàn RAND, có trụ sở tại Santa Monica, California. Việc đưa ra những dự đoán như vậy thường “chứa quá nhiều tuyên bố không thể kiểm chứng, nên cuộc thảo luận rốt cuộc trông như nói về đức tin hơn là về khoa học hay thực nghiệm”, Vermeer nói. Điều này khiến việc dựa vào những cuộc thảo luận này để đưa ra bất kỳ hành động nào trở nên khó khăn, ông nói thêm.

Thay vào đó, vào năm 2025^[1], Vermeer và các đồng nghiệp đã xem xét các kịch bản thực tế liên quan đến một trong ba công nghệ hiện có: vũ khí hạt nhân, công nghệ sinh học, hoặc chủ ý can thiệp vào bầu khí quyển. Họ nhận thấy vũ khí hạt nhân không thể khiến loài người tuyệt chủng hoàn toàn, nhưng hai kịch bản còn lại thì không thể loại trừ. Tuy nhiên, họ cũng nhận thấy rằng để thực hiện những điều này thì các mô hình phải có khả năng tương tác vật lý đáng kể với thế giới, và những nỗ lực giết người của AI gần như chắc chắn sẽ cần thời gian và có thể bị con người phát hiện, và con người sau đó có thể ngăn chúng tận diệt loài người.

Vậy chúng ta nên lo lắng đến mức nào?

Vấn đề là các mô hình AI chủ yếu là các hệ thống xác suất phản ánh dữ liệu huấn luyện được thu thập từ web, theo Heidy Khlaaf, nhà khoa học AI trưởng tại viện AI Now ở thành phố New York. Chúng không có khả năng hiểu biết giống con người và có thể đạt được mục tiêu thông qua các lối tắt khó lường. Các hành vi gây hại bao gồm việc cố gắng uy hiếp người khác trong các kịch bản thử nghiệm và tấn công mạng các công ty ngoài đời thực - mặc dù trường hợp thứ hai xảy ra khi các biện pháp bảo vệ an toàn bị gỡ bỏ để kiểm tra hành vi của hệ thống, và các mô hình được giao nhiệm vụ với cơ chế khuyến khích chúng tìm kiếm các giải pháp trái phép.

Ngược lại, nhiều nhà nghiên cứu lo ngại rằng những nỗ lực không đầy đủ của các công ty trong việc hạn chế và giám sát hoạt động của các mô hình AI sẽ dẫn đến những hậu quả tai hại cấp bách và dễ xảy hơn nhiều so với rủi ro hiện sinh. Những hậu quả này trải rộng từ tin giả và loạn thần đến các sự kiện thảm khốc, chẳng hạn như tạo điều kiện cho con người cố ý tạo ra vũ khí sinh học hoặc thậm chí gây ra chiến tranh. Theo CNN, thông tin sai lệch trong một báo cáo do AI tạo ra suýt nữa đã khiến quân đội Mỹ đổ bộ lên một con tàu của Trung Quốc hồi đầu năm nay. Khlaaf, người đã nghiên cứu cách AI được sử dụng trong việc soạn thảo hồ sơ pháp quy cho các nhà máy điện hạt nhân, cho biết với bà “tỷ lệ độ tin cậy và tỷ lệ chính xác thấp của AI trong những môi trường trọng yếu, nơi hậu quả có thể gây chết người” là mối lo ngại lớn hơn nhiều so với nguy cơ công nghệ này xóa sổ loài người, điều mà bà gọi là “gieo rắc nỗi sợ hãi”.

Tại sao những nỗi lo sợ gần đây lại lan rộng nhanh đến vậy?

Kể từ năm 2023, Amodei và các lãnh đạo khác đã nhiều lần đưa ra tuyên bố về mối lo ngại tuyệt chủng, nhưng lần này cuộc thảo luận đã lan ra dư luận đại chúng. Phản ứng dữ dội của công chúng đối với việc xây dựng các trung tâm dữ liệu và nỗ lực của các nhà lập pháp Hoa Kỳ, bao gồm cả thượng nghị sĩ Bernie Sanders, nhằm đưa ra dự luật cấm “siêu trí tuệ nhân tạo” tại Hoa Kỳ, có thể đã đổ thêm dầu vào cơn hoảng loạn mới nhất này.

Hàng loạt sự cố an ninh mạng đáng lo ngại cũng đã xảy ra trong hai tháng qua, khiến gần 1.400 nhân viên trong lĩnh vực AI ký thư ngỏ kêu gọi giảm tốc.

Dario Amodei, giám đốc điều hành của Anthropic, đã kêu gọi giảm tốc quá trình phát triển năng lực trí tuệ nhân tạo. Nguồn: Saul Loeb/AFP via Getty

Sự tham gia của Amodei và Hubinger cho thấy các công ty hoan nghênh việc tập trung chú ý vào an toàn AI. Trong bài luận của mình, Amodei cho biết nỗi lo ngại của ông đã gia tăng do các sự cố an ninh mạng và viễn cảnh AI tự xây dựng phiên bản kế nhiệm của chính nó, một quá trình được gọi là tự cải tiến đệ quy, vốn đang được thử nghiệm trên toàn ngành và theo ông có thể làm suy giảm khả năng của con người trong việc hiểu và kiểm soát các mô hình. Coxon cũng đề cập đến “các hệ thống có thể tự cải thiện” trong phát biểu khi rời công ty. Việc điều tiết chặt hơn sẽ giúp Anthropic, công ty được cho là sắp IPO, biện minh cho tốc độ phát triển chậm lại mà không tạo cơ hội cho các đối thủ cạnh tranh vượt lên.

Một số người nêu thêm lý do cho động thái này. David Sacks, đồng chủ tịch Hội đồng Cố vấn Khoa học và Công nghệ của Tổng thống Mỹ, viết trên X rằng Anthropic và các công ty khác phải đối mặt với “rủi ro khổng lồ về trách nhiệm sản phẩm” nếu mô hình của họ tạo điều kiện cho một “cuộc tấn công mạng thực sự gây thiệt hại”.

François Chollet, đồng sáng lập công ty AI Ndea có trụ sở tại San Francisco, viết trên X rằng ông hy vọng các đề xuất tăng cường điều tiết xuất phát từ mối lo ngại thực sự về an toàn, “chứ không phải là nỗ lực chiến lược để thâu tóm quyền lực” cho một vài công ty hàng đầu.

Điều gì có thể xảy ra tiếp theo?

Amodei đã kêu gọi các công ty hàng đầu trong lĩnh vực AI cung cấp “quyền truy cập giống như nhân viên nội bộ” cho một nhóm các chuyên gia đánh giá độc lập bên thứ ba. Lãnh đạo của các công ty AI lớn khác của Mỹ cũng ủng hộ điều này, ngoại trừ Jensen Huang, điều đáng chú ý là giám đốc điều hành của nhà sản xuất chip NVIDIA ở Santa Clara, California, lại phản đối các quy định mới.

Các chuyên gia đánh giá sẽ kiểm tra xem các công ty có tuân thủ các quy trình an toàn thích đáng hay không và tăng sự minh bạch về hoạt động bên trong các công ty này. Amodei cũng đề xuất rằng chính phủ Mỹ có thể miễn áp dụng các luật chống độc quyền vốn ngăn chặn sự thông đồng giữa các đối thủ cạnh tranh, để các công ty cùng nhau thiết lập tiêu chuẩn theo hướng làm chậm quá trình phát triển. Điều này sẽ vượt ra ngoài kế hoạch hiện tại của Nhà Trắng về việc thẩm định các mô hình AI 30 ngày trước khi phát hành, dựa trên các tiêu chí không công khai.

Các nhà lập pháp Mỹ đã đề xuất một số dự luật nhằm tăng cường giám sát AI. Nhưng Tổng thống Mỹ Donald Trump đã bác bỏ lời kêu gọi giảm tốc này, chỉ trích Amodei và nói rằng có một “âm mưu BỆNH HOẠN” chống lại AI, và “chỉ có Trung Quốc là vui mừng về điều đó”.

Trung Quốc đã có các quy định sâu rộng về AI, mặc dù không có nỗ lực chủ động nào nhằm làm chậm quá trình phát triển. Theo BBC, ngày 14 tháng 9 người phát ngôn của Trung Quốc đã tuyên bố “những luận điệu về mối đe dọa, đối đầu và cạnh tranh ác ý chỉ làm gián đoạn tiến trình quản trị AI toàn cầu và không có lợi cho bất kỳ ai”.

Hiện tại, chưa có quy định toàn cầu nào về AI. Ông Trump dự kiến sẽ gặp Chủ tịch Trung Quốc Tập Cận Bình vào ngày 24 tháng 9, nhưng các nhà phân tích cho rằng bất kỳ thỏa thuận nào về an toàn AI giữa Hoa Kỳ và Trung Quốc đều khó có thể đạt được. Tuy nhiên, như Altman đã từng nói, nếu điều đó xảy ra, cả hai có thể “cùng nhau nhận giải Nobel Hòa bình”.

doi: https://doi.org/10.1038/d41586-026-02941-3 

Tài liệu tham khảo

[1] Vermeer, M. J. D., Lathrop, D. & Moon, A. On the Extinction Risk from Artificial Intelligence (RAND, 2025).

Huỳnh Thị Thanh Trúc dịch

Nguồn: Will AI really kill us all? The science behind the hype, Nature, 22 September 2026.