Tác nhân AI lần đầu xâm nhập website chính phủ: vì sao sự cố này đáng chú ý

TÁC NHÂN A.I. LẦN ĐẦU XÂM NHẬP WEBSITE CHÍNH PHỦ: VÌ SAO SỰ CỐ NÀY ĐÁNG CHÚ Ý

Tác giả: Mohana Basu và Rachel Fieldhouse

Giám đốc điều hành OpenAI Sam Altman phát biểu tại cuộc họp của Hội đồng Bảo an Liên Hợp Quốc về AI ở thành phố New York trong tuần này. Nguồn ảnh: Selcuk Acar/Anadolu qua Getty

Ngày 23 tháng 9, Thủ tướng Australia Anthony Albanese tiết lộ rằng một tác nhân trí tuệ nhân tạo do gã khổng lồ công nghệ OpenAI tạo ra đã xâm nhập một website y tế của chính phủ vào tháng 6 và truy cập dữ liệu riêng tư trên đó.

Các nhà nghiên cứu cho biết đây là lần đầu tiên một mô hình AI thuộc nhóm tiên tiến nhất xâm nhập hệ thống chính phủ của một quốc gia khác. Mặc dù dữ liệu sức khỏe cá nhân được cho là chưa bị truy cập, đây vẫn là vụ mới nhất trong loạt sự cố tương tự do các tác nhân AI gây ra trong năm nay.

OpenAI cho biết vụ xâm nhập xảy ra trong quá trình huấn luyện tác nhân AI và công ty đang thông báo cho các bên thứ ba về những ảnh hưởng có thể xảy ra đối với hệ thống của họ.

Thông tin về vụ vi phạm bảo mật này xuất hiện khi các nhà lãnh đạo thế giới, trong đó có ông Albanese, đang có mặt tại New York để dự kỳ họp Đại hội đồng Liên Hợp Quốc. Chủ tịch Trung Quốc Tập Cận Bình cũng đã gặp Tổng thống Mỹ Donald Trump vào thứ Tư trong khuôn khổ hội nghị thượng đỉnh kéo dài ba ngày. Hai nhà lãnh đạo dự kiến sẽ thảo luận về an toàn AI, nhưng các nhà phân tích nhận định khó có khả năng đạt được thỏa thuận nào.

Jonathan Kummerfeld, nhà nghiên cứu về AI và tương tác người-máy tại Đại học Sydney, Australia, cho rằng vụ tấn công mới nhất không có gì bất ngờ và nhiều khả năng sẽ còn xuất hiện thêm các báo cáo về việc tác nhân AI thực hiện những hành vi không được phép. Ông nói thêm rằng các công ty AI tiến hành nhiều thí nghiệm cùng lúc và “có lẽ họ không theo dõi được hết những gì các mô hình này đang làm”.

Quyền lực và bất bình đẳng trong kinh tế chính trị học toàn cầu

QUYỀN LỰC VÀ BẤT BÌNH ĐẲNG TRONG KINH TẾ CHÍNH TRỊ HỌC TOÀN CẦU

Nicola Phillips

International Affairs (Các Vấn đề Quốc tế), Tập 93, Số phát hành 2, ngày 01 Tháng 03 năm 2017, Các trang 429 — 444, https://doi.org/10.1093/ia/iix019

Ngày phát hành: ngày 01 tháng 03 năm 2017

Tóm tắt

Martin Wight (1913-1972)

Bất bình đẳng dưới mọi hình thức được xác định là vấn đề có tính then chốt toàn cầu và ngày càng trở thành vấn đề chính trị có tính quyết định của thời đại chúng ta. Có một bộ phận khổng lồ trong nghiên cứu học thuật nhằm tìm hiểu các động cơ ẩn sau những mô hình ngày càng nhiều về những bất bình đẳng kinh tế-xã hội trong nền kinh tế chính trị toàn cầu. Bài viết này, một phiên bản được chỉnh sửa của Bài Tưởng niệm Martin Wight vào năm 2016, đóng góp vào nỗ lực nghiên cứu về vấn đề này bằng cách tập trung vào một khía cạnh của bức tranh mà ngạc nhiên thay ít thu hút sự chú ý, đó là những hệ quả đối với những bất bình đẳng kinh tế-xã hội của một hình thức tổ chức công nghiệp cụ thể vốn đã trở thành nền tảng của nền kinh tế toàn cầu hiện nay – một nền kinh tế được tổ chức xung quanh các chuỗi giá trị toàn cầu và các mạng lưới sản xuất toàn cầu. Bài viết đề xuất một cách tiếp cận nhìn nhận bất bình đẳng sinh ra từ giao điểm của ba chiều kích về bất đối xứng - đó là các bất đối xứng về quyền lực thị trường, bất đối xứng về quyền lực xã hội và bất đối xứng về quyền lực chính trị - cả ba chiều kích trên đặt nền móng cho và kết tinh xung quanh chuỗi giá trị toàn cầu. Bài viết này giúp khám phá các cơ năng trên trong trường hợp cụ thể của lao động và bóc lột lao động trong các chuỗi giá trị toàn cầu, giống như một phương tiện đưa ra một góc nhìn rộng có giá trị liên quan đến các vấn đề lớn về quyền lực và bất bình đẳng trong kinh tế chính trị học toàn cầu hiện nay.

Môn học: Kinh tế Chính trị học và Kinh tế học

Phần phát hành: Bài nghiên cứu

Một lỗ hổng nghiêm trọng ảnh hưởng đến 70% website đang khiến giới an ninh mạng hoảng loạn

MỘT LỖ HỔNG NGHIÊM TRỌNG ẢNH HƯỞNG ĐẾN 70% WEBSITE ĐANG KHIẾN GIỚI AN NINH MẠNG HOẢNG LOẠN

Thông tin chi tiết về một lỗ hổng nghiêm trọng trong ngôn ngữ lập trình PHP, nền tảng vận hành của hơn 70% website trên thế giới đã được công bố. Nếu không khắc phục, lỗ hổng này sẽ cho phép tin tặc dễ dàng chiếm quyền kiểm soát và xâm nhập hàng triệu website cùng thông tin lưu trữ trên máy chủ. Trước tình hình đó, nhiều chính phủ châu Âu và các đơn vị vận hành, trong đó có Cảng Rotterdam, đã tạm ngừng hoạt động các website.

Cục Tín hiệu Australia, Cơ quan Phòng vệ mạng của Mỹ cùng các cơ quan tương tự tại Anh, châu Âu và Nhật Bản đều đã cảnh báo các nhà phát triển web phải khẩn trương cập nhật những hệ thống lõi, đồng thời cân nhắc tạm ngừng hoạt động website cho đến khi có thể bảo đảm an toàn.

Tổ chức đứng sau ngôn ngữ miễn phí, mã nguồn mở này đã phát hành các bản cập nhật vá lỗ hổng, nhưng việc cập nhật hàng triệu hệ thống sử dụng PHP sẽ cần thời gian.

Công việc của nhà khoa học dữ liệu là gì?

CÔNG VIỆC CỦA NHÀ KHOA HỌC DỮ LIỆU LÀ GÌ?

Đảm bảo không có một lỗi nào trên các con số ở quy mô hàng trăm triệu ghi chép mỗi ngày chắc chắn không phải là một công việc dễ dàng. Xuất hiện một lỗi không thể tha thứ trong tập dữ liệu sẽ dẫn đến việc có khả năng khách hàng mất lòng tin vào năng lực quản lý trí tuệ doanh nghiệp (business intelligence) của tổ chức kinh doanh. Những suy nghĩ kiểu như “Chân dung của một nhà khoa học dữ liệu ra sao?” hay “Một ngày điển hình của nhà khoa học dữ liệu sẽ như thế nào?” chưa bao giờ được đặt ra khi mà họ sở hữu một bộ kỹ năng quan trọng mà các tổ chức đều cần đến để giành chiến thắng trước dữ liệu lớn.

Tìm kiếm thuật ngữ “Nhà khoa học Dữ liệu” (“Data Scientist”) trên LinkedIn cho ra hơn 35.000 kết quả. Trang nhất của kết quả tìm kiếm hiển thị danh sách những người có tiếng ở cộng đồng khởi nghiệp tại Thung lũng Silicon. Nếu ngồi ở bất kỳ quán cà phê nào tại Thung lũng Silicon hay khu vực Vịnh [San Francisco], chắc chắn bạn sẽ nghe lỏm được một người nào đó đang nói về khoa học dữ liệu.

Trốn thuế và bất bình đẳng về của cải

TRỐN THUẾ VÀ BẤT BÌNH ĐẲNG VỀ CỦA CẢI

Martin Anota

Đã có nhiều vụ bê bối trốn thuế lớn bị phanh phui trong những năm gần đây, đặc biệt vụ “SwissLeaks” vào tháng 2 năm 2015 và, gần đây hơn, là những tiết lộ của “Panama Papers [Hồ sơ Panama]” vào tháng 4 năm 2016. Những vụ bê bối này có thể dẫn đến việc các cơ quan chức trách tăng cường cuộc chiến chống lại vấn nạn trốn thuế, ngay cả khi có những mối lo ngại về những xung đột lợi ích có thể có và hoạt động vận động hành lang của một số định chế đang cản trở sự tiến triển của cuộc chiến này.

Những tiết lộ gần đây, trên hết, sẽ giúp không những có được một hình ảnh tốt hơn về thực tiễn trốn thuế, mà còn có được một hình ảnh tốt hơn về sự phân phối của cải, một điều hữu ích cho các cơ quan chức trách nhắm đến mục tiêu chống lại vấn nạn trốn thuế một cách tốt hơn và gia tăng hiệu quả của chính sách thuế. Trong thực tế, các cơ quan hành chính công thường dựa vào các cuộc kiểm tra ngẫu nhiên để ước tính số tiền thu nhập và của cải mà các hộ gia đình giấu giếm để tránh thuế, nhưng biện pháp kiểm soát này là không hoàn hảo. Thực vậy, các biện pháp đó không giúp nghiên cứu thực tiễn trốn thuế trong các hộ gia đình giàu nhất, một mặt, bởi vì cơ số mẫu thu thập còn quá hẹp, và mặt khác, bởi vì các cơ quan chức trách không có đủ phương tiện để nắm bắt các hình thức trốn thuế phức tạp, và chính các hình thức này liên quan đến nhiều thực thể trung gian tài chính khác nhau ở nước ngoài.

Các nhà khoa học phải bày tỏ quan điểm hay giữ thái độ trung lập?

Polytechnique insights - Tạp chí của Viện Bách khoa Paris

CÁC NHÀ KHOA HỌC PHẢI BÀY TỎ QUAN ĐIỂM HAY GIỮ THÁI ĐỘ TRUNG LẬP?

Tác giả: Armand Hatchuel

Giáo sư danh dự về khoa học quản trị và lý thuyết thiết kế

Đại học Mines Paris- PSL

Ảnh tạo ra bởi trí tuệ nhân tạo

Tóm tắt Trong cam kết công dân, một khi nhà nghiên cứu phát biểu nhân danh năng lực khoa học của mình phải tôn trọng một hình thức trung lập, khách quan trong lập luận. Sự trung lập này nằm ở chỗ chỉ trình bày, cho dù dưới tác động của những áp lực chính trị và kinh tế, những kết quả chắc chắn nhất mà nhà khoa học dựa vào, cũng như những nguồn tài liệu tương ứng. Nhằm tôn trọng tính chuẩn mực khoa học, người cáo buộc sự không hành động của Nhà Nước phải có khả năng đề nghị một hành động công cộng hiệu quả và khả thi. Vườn Quốc gia Yellowstone của Mỹ đã tập trung nhiều dự án nghiên cứu trong mục đích duy nhất là hỗ trợ đưa đàn chó sói trở lại vườn. Những viện dẫn pháp lý đòi hỏi một cuộc thảo luận công khai hữu ích trong trường hợp còn những điều không chắc chắn về mặt khoa học và nhắc nhở các nhà lãnh đạo rằng họ có nhiệm vụ thông tin những hạn chế về kiến thức để biện minh cho những quyết định của mình.

Các nhà khoa học của Ủy ban liên chính phủ về biến đổi khí hậu (Groupe d'experts intergouvernemental sur l'évolution du climat - GIEC) đã thông báo ngay từ năm 2028: sự gia tăng nhiệt độ trên bề mặt trái đất cao hơn 1,5°C là một đe dọa đối với nhân loại. Đối diện với những tác động của rối loạn khí hậu, công đồng khoa học và các lãnh đạo chính trị đảm nhận một trách nhiệm rất đặc biệt, bởi vì cho dù tất cả mọi người nói chung đã nhận ra mối nguy hiểm, thì vẫn còn nhiều điều bất định liên quan đến lộ trình thích ứng của các xã hội chúng ta. Trong phần chưa biết đó, Armand Hatchuel nhắc lại sự cần thiết của việc xác định mối tương quan giữa các nhà nghiên cứu và chính phủ để hướng đến một sự chuyển đổi xã hội đúng đắn.

Hướng đến một “chủ trương song ngữ của trí tuệ nhân tạo”: học cách dùng và học cách không dùng

HƯỚNG ĐẾN MỘT “CHỦ TRƯƠNG SONG NGỮ CỦA TRÍ TUỆ NHÂN TẠO”: HỌC CÁCH DÙNG VÀ HỌC CÁCH KHÔNG DÙNG

Tác giả: Daniel Andler

Giáo sư danh dự về triết học, Đại học Sorbonne

Cũng như những công nghệ khác đến trước trí tuệ nhân tạo, đó là học cách bỏ qua chúng, nhưng cũng là học cách làm chủ công nghệ. Vitaly Gariev/Unsplash, CC BY

NỘI DUNG CHÍNH ·  Trí tuệ nhân tạo (AI), và nhất là trí tuệ nhân tạo tạo sinh, một nhánh thấy rõ nhất, đã được học sinh – từ bậc trung học đến đại học với những tỷ lệ ngày càng gia tăng – và cả giảng viên sử dụng rộng rãi. ·   Liệu trí tuệ nhân tạo sẽ giúp trường học vượt qua khủng hoảng hay cản trở giới trẻ tự mình suy nghĩ và đạt được những năng lực thực sự và biến các giảng viên thành những người dạy kèm đơn thuần? Liệu nó có thể góp phần giảm bớt bất bình đẳng? Liệu chúng ta còn có thể lựa chọn hay phải thích nghi với sự xâm chiếm không thể tránh khỏi của trí tuệ nhân tạo đối với giáo dục? ·   Đối diện với những vấn đề có lẽ gây lo lắng cho giới trẻ, những người thân cận và các nhà giáo dục, có một đề nghị tạm làm yên lòng: đề nghị một “chủ trương song ngữ”, sử dụng trí tuệ nhân tạo như môt ngoại ngữ.

Thái độ cần áp dụng trong giáo dục và đào tạo đối diện với trí tuệ nhân tạo, đặc biệt là trí tuệ nhân tạo tạo sinh, là đối tượng của những tranh luận gay gắt trong giới giáo dục, ở Pháp cũng như ở ngoại quốc. Những cuộc tranh luận này lại càng phức tạp hơn nữa khi có sự tham gia của những quan niệm khác nhau, thậm chí bất đồng về trí tuệ nhân tạo, và khi công nghệ không ngừng tiến triển, sản xuất theo dây chuyền các hệ thống trí tuệ nhân tạo luôn luôn tinh vi hơn. Hơn nữa, các hệ thống này xen cài vào quá trình giáo dục ở các mức độ khác nhau, từ lớp học đến chuyển giao điểm số, từ biên soạn các tài liệu sư phạm đến điều hành và đánh giá các trường và hệ thống giáo dục quốc gia.

Giải Nobel Kinh tế được trao cho công trình nghiên cứu về ổn định nền kinh tế trong thời kỳ khủng hoảng

GIẢI NOBEL KINH TẾ ĐƯỢC TRAO CHO CÔNG TRÌNH NGHIÊN CỨU VỀ ỔN ĐỊNH NỀN KINH TẾ TRONG THỜI KỲ KHỦNG HOẢNG

Hai nhà kinh tế học cùng được trao giải cho những công trình phát triển từ các lý thuyết từng góp phần định hướng sự can thiệp của các chính phủ trong đại dịch COVID-19.

Philip Ball

Nguồn: Jonathan Nackstrand/AFP trên Getty

Giải thưởng của Ngân hàng Thụy Điển về các khoa học kinh tế để tưởng nhớ Alfred Nobel năm 2026 đã được trao cho hai nhà kinh tế học Robert E. Hall và Michael Woodford vì những nghiên cứu về cách ổn định nền kinh tế, từ đó tránh những biến động trong lạm phát, tăng trưởng và việc làm gây thiệt hại về mặt kinh tế và xã hội.

Theo ủy ban trao giải, công trình này “đã tạo ra một sự thay đổi hệ chuẩn mang tính đột phá trong chính sách bình ổn và hiện đang được các ngân hàng trung ương và các bộ tài chính trên toàn thế giới sử dụng”.

“Đây đúng là quyết định trao giải tuyệt vời, vinh danh hai nhà kinh tế học xuất chúng và có tầm ảnh hưởng lớn”, nhà kinh tế học John Cochrane thuộc Viện Hoover, một tổ chức nghiên cứu đặt tại Đại học Stanford, cho biết. Olivier Blanchard, cựu kinh tế trưởng của Quỹ Tiền tệ Quốc tế, nói rằng những người đoạt giải đã “thay đổi sâu sắc cách thức điều hành chính sách tiền tệ”.

Theo Cochrane, có “ít nhất cả tá ứng viên xứng đáng” cùng chia sẻ giải thưởng trong lĩnh vực này. Ông nói: “Tôi chẳng muốn rơi vào tình thế phải quyết định chọn ra hai hoặc ba người để vinh danh của ủy ban giải Nobel đâu”, nhưng “ai thì cũng sẽ xếp Hall và Woodford lên hàng đầu danh sách”.

Trong buổi công bố giải thưởng, Woodford đã trả lời phỏng vấn qua điện thoại và cho biết ông “cực kỳ phấn khởi” khi nhận được giải thưởng này. Ông nói thêm rằng lý thuyết của mình không chỉ nhằm mục đích định hướng chính sách mà còn giúp các chính phủ giải thích cho công chúng hiểu tại sao họ lại can thiệp kinh tế theo cách đó, “để giải thích tại sao những biện pháp đang triển khai lại được chọn thực thi”.

“Cùng nhau, những đóng góp của Hall và Woodford đặt nền móng mới cho lý thuyết về biến động kinh tế vĩ mô”, ủy ban Nobel nhận định, “cho phép chúng ta hiểu sâu hơn về nguồn gốc và cơ chế lan truyền của các cuộc suy thoái và bùng nổ kinh tế”.

Sử dụng trí tuệ nhân tạo trong công việc... nhưng một cách bí mật: tại sao có nhiều nhân viên im lặng đến thế?

SỬ DỤNG TRÍ TUỆ NHÂN TẠO TRONG CÔNG VIỆC... NHƯNG MỘT CÁCH BÍ MẬT: TẠI SAO CÓ NHIỀU NHÂN VIÊN IM LẶNG ĐẾN THẾ?

Các tác giả:

George Kassar

Giảng viên, nhà nghiên cứu

Ascencia Business School

Mohamad Fadl Harake

Tiến sĩ khoa học quản trị, nhà nghiên cứu về quản trị công hậu xung đột

Đại học Poitiers

Một nhân viên càng nhận thấy trí tuệ nhân tạo là mối đe dọa đối với việc làm của mình thì càng có xu hướng che giấu hành vi sử dụng trí tuệ nhân tạo của mình đối với đồng nghiệp hoặc cấp trên. PeopleImages/Shutterstock

NỘI DUNG CHÍNH ·       Nhiều người sử dụng trí tuệ nhân tạo (AI) trong doanh nghiệp đã chọn không nói với cấp trên cũng như với đồng nghiệp. ·       Lo sợ sẽ mất việc, phải làm việc gấp ba lần, sợ hội chứng kẻ mạo danh, có nhiều lý do của sự im lặng này. ·       Sự im lặng này vẫn là một chỉ dấu về tình trạng doanh nghiệp; các doanh nghiệp có những đòn bẩy để thoát khỏi vùng xám của sự che giấu này.

Một nhà tư vấn soạn thảo bài tổng hợp với sự trợ giúp của Claude, một luật gia chuyển những phác thảo đầu tiên của mình cho Gemini, một giảng viên chuẩn bị tài liệu giảng dạy với Perplexity hay một chuyên viên tiếp thị hoàn thiện những thông báo nhờ vào ChatGPT... những tình huống này từ nay đã trở thành bình thường. Điều ít bình thường hơn là những tình huống này thường có điểm chung: chúng diễn ra một cách kín đáo, thậm chí trong bí mật.

Có thực sự trí tuệ nhân tạo sẽ diệt sạch chúng ta không? Khoa học đằng sau sự phóng đại này

CÓ THỰC SỰ TRÍ TUỆ NHÂN TẠO SẼ DIỆT SẠCH CHÚNG TA KHÔNG? KHOA HỌC ĐẰNG SAU SỰ PHÓNG ĐẠI NÀY

Tạp chí Nature xem xét liệu công nghệ này có thể là dấu chấm hết cho loài người hay không, và tại sao các công ty trí tuệ nhân tạo (AI) lại kêu gọi giảm tốc.

Tác giả: Elizabeth Gibney

Một số nhà nghiên cứu lo ngại về mối đe dọa hiện sinh mà các hệ thống AI gây ra. Nguồn: Daniel Megias/Getty

Những lo ngại rằng AI có thể giết chết tất cả chúng ta đang bùng lên dữ dội sau những cảnh báo từ các nhà nghiên cứu và lãnh đạo tại một số công ty AI hàng đầu thế giới. Nhiều lời đồn đoán đang xoay quanh việc các nhà lập pháp sẽ hành động như thế nào. Tạp chí Nature sẽ phân tích xem những nỗi sợ đó là gì, ai đang lên tiếng và chuyện tiếp theo có thể là gì.

Những lo ngại gần đây về AI bắt nguồn từ đâu?

Cơn hoảng loạn mới nhất về AI bắt đầu vào ngày 8 tháng 9, khi nhà nghiên cứu Jacob Coxon nói với tờ Wall Street Journal rằng ông sẽ rời công ty AI Anthropic, San Francisco, California, vì lo sợ rằng các hệ thống mà công ty đang phát triển có thể vượt khỏi tầm kiểm soát và hủy diệt nhân loại.

Trong một bài đăng tiếp theo trên nền tảng mạng xã hội X, cũng là bài đầu tiên ông từng đăng trên đây, Coxon viết: “Những người đang phát triển AI thực sự tin rằng nó có thể giết chết tất cả chúng ta trước khi thập kỷ này kết thúc.” Vài giờ sau, Evan Hubinger, người đứng đầu bộ phận “khoa học căn chỉnh” [alignment science] của Anthropic – nỗ lực nhằm làm cho các hành động của mô hình phù hợp với các giá trị của con người – đã khuếch đại thông điệp bằng cách đăng lại bài viết và bổ sung ước tính của riêng mình rằng nguy cơ tuyệt chủng của loài người là “>10% trong thập kỷ tới”. Bài đăng của Coxon đã thu hút hơn 100 triệu lượt xem trong vòng 24 tiếng.

Dario Amodei, giám đốc điều hành của công ty, sau đó đã đăng một bài luận kêu gọi giảm tốc – nhưng không phải dừng hẳn – quá trình phát triển AI. Lãnh đạo hai công ty AI đối thủ là Sam Altman (OpenAI, San Francisco) và Elon Musk (xAI, Palo Alto, California) sau đó cũng lên tiếng ủng hộ đề xuất này.