PHÂN TÍCH KINH TẾ: Một thế giới mới hay sự khởi đầu của sự kết thúc? Trí thức Trung Quốc đối mặt với ChatGPT

1.7.23

Một thế giới mới hay sự khởi đầu của sự kết thúc? Trí thức Trung Quốc đối mặt với ChatGPT

MỘT THẾ GIỚI MỚI HAY SỰ KHỞI ĐẦU CỦA SỰ KẾT THÚC? TRÍ THỨC TRUNG QUỐC ĐỐI MẶT VỚI CHATGPT

Tọa đàm Học thuyết của Trung Quốc thời Tập Cận Bình

Học thuyết của Trung Quốc thời Tập Cận Bình | Tập 30

Le Grand Continent | 25/03/2023

Hình ảnh: Yagyaansh Khaneja

Cuộc chiến AI là cuộc chiến của trí tưởng tượng, nhưng cũng là cuộc chiến của các thực tế trong tương lai. Trong một cuộc trò chuyện do nhà sử học Xu Jilin dẫn dắt, bốn học giả Trung Quốc cố gắng kết hợp sự hiểu biết của họ về hiện tượng ChatGPT. Từ cuộc thảo luận này nối khớp đạo đức, khoa học xã hội và văn học, nổi lên một sự hội tụ đáng kinh ngạc với quan điểm của những người không tưởng ở Thung lũng Silicon: vượt lên trên sự mê hoặc, còn có nhận thức về sự đoạn tuyệt cần được hỗ trợ.

Tác giả: Hứa Kỳ Lâm

Người dịch: Alexandre Antonio, David Ownby

Từ vài tuần nay, cả thế giới đã tranh luận – với sự lo ngại hay sự lạc quan – về sự thành công của ChatGPT và sự phát triển của nó, và Trung Quốc cũng không ngoại lệ. Đặc biệt là chính quyền Trung Quốc đã bày tỏ sự e sợ đối với ChatGPT bằng cách yêu cầu các đại gia công nghệ Trung Quốc không cung cấp dịch vụ của công cụ này “do Bắc Kinh lo ngại về các phản hồi không được kiểm duyệt” “có thể giúp chính phủ Hoa Kỳ truyền bá thông tin sai lệch và thao túng các câu chuyện toàn cầu để phục vụ lợi ích địa chính trị của chính họ.”^[1] Những sự lo ngai này cũng lan sang lĩnh vực học thuật - các tác giả như Zhou Ting viết về sự nguy hiểm của AI với tư cách là một “công cụ chiến tranh nhận thức”^[2] trong các cuộc xung đột toàn cầu.

Dù sao thì sự thành công của ChatGPT ở phương Tây đã khiến hầu như tất cả các công ty công nghệ lớn của Trung Quốc quan tâm và mong muốn phát triển chatbot AI đàm thoại của riêng họ. Công ty công nghệ khổng lồ Baidu đang tung ra phiên bản ChatGPT của mình, được đặt tên là Ernie Bot/Văn Tâm nhất ngôn (文心一言). Thứ Năm, ngày 16 tháng 3, trong một hội nghị ở Bắc Kinh, Lý Ngạn Hoành (Li Yanhong), người sáng lập Baidu đã chính thức ra mắt phần mềm này. Cổ phiếu của Baidu đã giảm khoảng 10% sau hội nghị vì các nhà đầu tư không được thuyết phục bởi các kỹ năng ngôn ngữ và toán học của phần mềm, cũng như bởi sự ra mắt trong giai đoạn thử nghiệm bị giới hạn trong một số lượng rất nhỏ người dùng.

Một bộ phận khác trong giới trí thức Trung Quốc không coi ChatGPT là “kẻ thù” và thể hiện một dạng mê hoặc mà chúng ta cũng thấy ở phương Tây – đồng thời chỉ ra các giới hạn về đạo đức và công nghệ của nó – đối với công cụ này. Đây là trường hợp của văn bản được dịch ở đây^[3], tiêu biểu cho các bài Trung Quốc tương đương với những gì người ta có thể đọc trên các trang của New York Times hoặc El Pais, mặc dù định dạng của bài báo này là tập thể hơn là cá nhân. Văn bản này xuất phát từ một bàn tròn do Hứa Kỳ Lâm (Xu Jilin/ 许纪霖 (sinh năm 1957) tổ chức, một nhà sử học tự do chuyên về các phong trào trí thức của thế kỷ 20 ở Trung Quốc, và là người đã quan tâm nhiều năm đến công nghệ và văn hóa trực tuyến. Các đồng nghiệp đi cùng ông trong cuộc trò chuyện này đều là giáo sư tại Đại học Sư phạm Hoa Đông ở Thượng Hải. Đó là Khương Vũ Huân/Jiang Yuhui (姜宇辉), Viện Chính trị và Quan hệ Quốc tế, Kim Văn/Jin Wen (金雯), Khoa ngữ học Trung và Viện Văn Hóa Quốc Gia, và Trương Tiểu Vũ/Zhang Xiaoyu (张笑宇), từ Trung tâm Nghiên cứu Chính sách Toàn cầu. Dù quan điểm của họ rất đa dạng, một sự hội tụ quan điểm khá nổi bật thoát ra từ cuộc trò chuyện này – phù hợp với những gì Giuliano da Empoli mô tả trong tập đầu tiên của loạt bài “Sức mạnh của AI”.

David Ownby

Hứa Kỳ Lâm

Hứa Kỳ Lâm (1957-)

Hôm nay chúng ta sẽ nói về ChatGPT và trí tuệ nhân tạo từ góc độ công nghệ, bản chất con người và đạo đức. Trong những tuần gần đây, nhiều chuyên gia đã nói về ChatGPT từ góc độ kỹ thuật, nhưng tôi nghĩ rằng việc phát minh ra ChatGPT không chỉ là một hiện tượng công nghệ, mà còn là một hiện tượng văn hóa, thậm chí có liên quan mật thiết đến xã hội, kinh tế và chính trị, vì vậy có lẽ chúng ta nên nghĩ về bước đột phá mang tính cách mạng trong trí tuệ nhân tạo này sẽ tác động đến nhân loại và các cá nhân trên một quan điểm rộng hơn. Tôi muốn bắt đầu bằng cách yêu cầu Trương Tiểu Vũ giải thích cho chúng ta công nghệ này là gì.

Trương Tiểu Vũ

Open AI gần đây đã tung ra một loạt các sản phẩm tương tự, bao gồm ChatGPT, mà một số thậm chí còn tốt hơn ChatGPT ở nhiều khía cạnh khác nhau và tôi muốn sử dụng ChatGPT để nói về ý nghĩa tiến bộ mà AI mới xuất hiện có thể có và vai trò mà nó có thể đảm nhận.

Chắc hẳn nhiều người còn nhớ rằng cách đây vài năm, AlphaGo đã lần lượt đánh bại những kỳ thủ cờ vây giỏi nhất thế giới. Vào thời điểm đó, AlphaGo đã vượt qua các chương trình trước đó vốn chỉ có thể mang lại kết quả dựa trên các thuật toán do các lập trình viên viết ra. Thay vào đó, nó có thể tự học và phát triển sau khi hiểu đầy đủ các quy tắc cơ bản của trò chơi cờ vây. Ngược lại, ngày nay chương trình học sâu (deep learning) của AI thường dựa trên sự nhận dạng hình ảnh, được sử dụng để hoàn thành các nhiệm vụ khác nhau. Nó không chỉ có thể nhận ra các mẫu và học hỏi mà còn có thể tạo ra nội dung mới, điều đó có nghĩa là nó có khả năng sáng tạo.

Về khả năng hội thoại, ChatGPT thể hiện bước nhảy vọt về chất so với các “chatbot” trước đây. Mặc dù thuật toán cơ bản của nó vẫn chưa được tiết lộ, nhưng chúng ta có thể hiểu nó từ nhiều góc độ. Chẳng hạn, trong từ ChatGPT, chữ G chỉ “sự phát sinh (génératif)” và P chỉ sự “sự tập luyện có trước (pré-entrainé)”. Thật ra ChatGPT không phải là một chatbot được thiết kế để tạo phản hồi trực tuyến theo thời gian thực, nhưng nó có một mô hình đào tạo khổng lồ, dựa vào đó nó sẽ thực hiện nhiều lần nỗ lực trực tuyến để giải quyết vấn đề được đặt ra cho nó. Cuối cùng, T chỉ “sự biến đổi (transformateur)”, tạo ra ngôn ngữ gần như là của con người thông qua nhiều tầng biến đổi.

Về khả năng hội thoại, ChatGPT thể hiện bước nhảy vọt về chất so với “chatbot” trước đây.

TRƯƠNG TIỂU VŨ

Một sự hiểu biết xấp xỉ về phiên bản đầu tiên của thuật toán như sau: nó bắt đầu bằng một chữ cái và, với việc sử dụng các đồ họa vectơ, dự đoán chữ cái tiếp theo, sau đó là một từ và cuối cùng là một câu. Nếu hiểu cách thức hoạt động của nó, chúng ta có thể thấy rằng ChatGPT không thực sự học cách nói chuyện như con người mà cố gắng bắt chước con người nhiều nhất có thể. Vì vậy, mặc dù nó nói chuyện như một con người, nhưng nó không suy nghĩ như một con người.

Hứa Kỳ Lâm

Cảm ơn bạn Trương Tiểu Vũ, cho sự trình bày này. Bây giờ hãy chuyển sang phần cảm xúc và nói về trải nghiệm của người dùng.

Kim Văn

Trương Tiểu Vũ đã nói một điều rất quan trọng một phút trước đây: ChatGPT dường như nói được ngôn ngữ của con người, nhưng nó suy nghĩ theo một cách hoàn toàn khác với con người. Nếu con người và ChatGPT suy nghĩ theo những cách hoàn toàn khác nhau, liệu chúng có thể nói chuyện trên cùng một tần số không?

Ngôn ngữ tự nhiên của con người là một loại hệ thống ký hiệu đã phát triển trong một thời gian dài thông qua những trao đổi và sự hiểu biết giữa con người với nhau, và nó có một chất lượng võ đoán nhất định. Ngay cả khi con người nói chuyện, những cảm xúc hoặc ý tưởng mà chúng ta muốn biểu đạt không bao giờ gắn liền với ngôn ngữ một cách trong suốt. Ngôn ngữ của con người cũng không hoàn toàn tự nhiên và tự phát; luôn có quá trình ghi nhận và dịch thuật nội bộ. Trên thực tế, mọi người thường ngạc nhiên về sự bất lực của ngôn ngữ trong việc biểu lộ những suy nghĩ hoặc cảm xúc sâu sắc nhất của họ. Ví dụ, trong hầu hết các ngôn ngữ, các sự biểu lộ trực tiếp nỗi đau là hiếm và có thể được tóm tắt là “đau, đau dữ dội hoặc đau nhẹ”, trong khi những biểu hiện này không đủ để giải thích nỗi đau mà các cá nhân cảm nhận.

Xét đầy đủ các cung bậc cảm xúc, ngôn ngữ loài người thậm chí còn trôi chảy hơn nữa. Để thể hiện cảm xúc cá nhân, con người thường sử dụng cách tiếp cận ẩn dụ và đường vòng. Chẳng hạn, người sử dụng ngôn ngữ loài người một cách sáng tạo sẽ phải tìm ra những cách rất thú vị và độc đáo để thể hiện một cảm xúc cụ thể.

Đó là lý do tại sao tôi đã tưởng tượng ra một bài kiểm tra để kiểm tra xem ChatGPT có thể hiểu các phép ẩn dụ hay không. Ví dụ mà tôi đã sử dụng là bài hát “Treaty” của ca sĩ người Mỹ Leonard Cohen, trong đó Cohen nói những điều như: “Mọi người dường như đã phạm tội, đã sống cuộc đời của mình mà không thể thoát khỏi cảm giác tội lỗi của mình; và ngay cả khi thoát khỏi mặc cảm, họ vẫn là những người bất toàn”. Nhưng Leonard Cohen không trực tiếp bày tỏ những suy nghĩ này mà thay vào đó sử dụng một phép ẩn dụ, hát về một con rắn cảm thấy khó chịu vì tội lỗi của nó và do đó lột da, với hy vọng rằng điều này sẽ cho phép nó bỏ qua tội lỗi của mình. Tuy nhiên, ngay cả sau khi lột da, con rắn vẫn yếu ớt và nọc độc của nó vẫn tiếp tục truyền khắp cơ thể. Nói cách khác, Cohen đang nói rằng ngay cả khi bạn đã để Chúa lại phía sau, cùng với cảm giác tội lỗi của bạn, thì bạn vẫn là một người bị tổn thương và cuộc sống vẫn còn đau khổ.

Nếu con người và ChatGPT suy nghĩ theo những cách hoàn toàn khác nhau, liệu chúng có thể nói chuyện trên cùng một tần số không?

KIM VĂN

Vậy ChatGPT đã hiểu phép ẩn dụ như thế nào? Nó không hiểu rằng con rắn lột da vì tội lỗi của nó, mà lại nghĩ rằng đó là vì con rắn cần biến đổi cuộc sống của mình một cách quan trọng, điều đó sẽ khiến nó trở nên mạnh mẽ và kiên cường hơn. Ngay cả khi quá trình này không nhất thiết là hay cho lắm, con rắn sẽ học hỏi từ đó và trở nên mạnh mẽ hơn.

Ở đây chúng ta có thể thấy một số đặc điểm của ChatGPT. Trước hết, nó không biết nhiều về ngôn ngữ ám chỉ của con người; nó không biết phép ẩn dụ về con rắn trong Kinh thánh, mối liên hệ chặt chẽ của con rắn với tội tổ tông và Vườn Địa đàng. Do đó, nó chỉ có thể xây dựng một câu chuyện dựa trên các sự kiện được trình bày. Thứ hai, tôi bị ấn tượng bởi ChatGPT được thiết kế để thể hiện một cách rất “tích cực”, và nếu bạn nói chuyện với nó từ quan điểm bi quan, chắc chắn nó sẽ hiểu theo hướng tích cực và cố gắng động viên, khích lệ bạn. Vì vậy, nó bắt đầu bằng cách phủ nhận tội lỗi của con rắn, sau đó khẳng định rằng việc thay da rắn sẽ khiến con rắn tốt hơn. Thứ ba, vì ChatGPT không thể hiểu câu nói theo kiểu ẩn dụ nên nó không biết rằng con rắn là ẩn dụ cho con người. Một trong những lý do là ChatGPT không phải đối mặt với thế đôi ngã này của con người, và lý do khác là cỗ máy không có trải nghiệm, không có cơ thể và không có tương tác xã hội, do đó nó rất khó hiểu được khái niệm ẩn dụ và lý do tại sao ta lại lấy một sự vật để nói về một sự vật khác.

Theo tôi, mọi người đều không ngừng sáng tạo trong cách sử dụng ngôn ngữ hàng ngày. Vì ngôn ngữ quá “chuẩn” nên con người không thể diễn đạt nếu không có sự sáng tạo này. Do đó, việc sử dụng ngôn ngữ tự nhiên đòi hỏi sự sáng tạo nhiều hơn chúng ta nghĩ, trong khi ChatGPT, vì không có sự sáng tạo này, thật là tẻ nhạt và nhàm chán. Tôi thực sự nghi ngờ rằng nó sẽ trở thành một người đối thoại thú vị trong tương lai và đó có thể là một rào cản rất khó vượt qua đối với các mô hình ngôn ngữ lớn.

Hứa Kỳ Lâm

Tôi cũng đã dành khá nhiều thời gian cho ChatGPT trong hai ngày qua và tôi cảm thấy ChatGPT đứng đầu về phương diện logic, đứng thứ nhì về kiến thức và thứ ba về khả năng viết. Tôi nói logic của nó là hạng nhất vì thuật toán của nó mạnh đến mức cuộc trò chuyện diễn ra rất suôn sẻ và nó hiểu ngôn ngữ cũng như ngữ cảnh của bạn. Những câu trả lời nó đưa ra đôi khi sai, nhưng ngay cả trường hợp này, logic của nó vẫn rất rõ ràng. Tôi nói kiến thức của nó là hạng hai vì cơ sở dữ liệu tiếng Anh của nó mạnh đến mức nó có thể trả lời bất kỳ câu hỏi nào; tuy nhiên, nó biết rất ít về Trung Quốc và dữ liệu nó cung cấp thường rất lố bịch. Tôi nói văn phong của nó là hạng ba vì tất cả các câu trả lời của nó đều thiếu cá tính. Giống như một trợ lý nghiên cứu có các kỹ năng cơ bản phù hợp; văn phong rất chuẩn mực và lịch sự, nhưng nó lại vô vị và thiếu tài năng văn chương.

Giống như một trợ lý nghiên cứu có các kỹ năng cơ bản phù hợp; văn phong rất chuẩn mực và lịch sự, nhưng nó lại vô vị và thiếu tài năng văn chương.

KIM VĂN

Khương Vũ Huân

Tại thời điểm này, tôi không cảm thấy rằng ChatGPT đã giúp tôi nhiều, nhưng so với bong bóng metaverse khổng lồ, đánh giá của tôi về ChatGPT là rất tích cực. Tôi nghĩ cuối cùng nó sẽ có đóng góp to lớn vào sự phát triển tri thức của con người, sự phát triển của lối viết và sự phát triển của tư duy.

Nhiều người lo ngại trí tuệ nhân tạo phát triển quá nhanh và con người sẽ trở thành nô lệ của công nghệ. Đối với tôi, ChatGPT không giống như một kẻ thù, mà giống như một trợ lý giúp tôi thực hiện các công việc lặp đi lặp lại và tư duy trong quá trình học tập, viết bài và nghiên cứu. Điều này bao gồm việc tìm kiếm và lưu trữ thông tin, theo dõi tài liệu, v.v.. Nhờ sự trợ giúp này, con người có thêm không gian để sáng tạo về mặt tư duy và tri thức.

Tất nhiên, nhiều bạn bè của tôi không đồng ý với ý kiến này và tin rằng các cá nhân không thể phát triển về mặt trí tuệ nếu không có kinh nghiệm thực hiện các công việc lặp đi lặp lại, chẳng hạn như học ngôn ngữ và tiếp thu kiến thức cơ bản. Nhưng trong thời đại trí tuệ nhân tạo, con người không cần mất nhiều thời gian để thực hiện những công việc lặp đi lặp lại này. Thay vào đó, họ nên tập trung vào công việc sáng tạo hơn. Tôi đã đọc ở đâu đó rằng ChatGPT sẽ cách mạng hóa giáo dục ở Trung Quốc và thậm chí trên toàn thế giới. Mặc dù người ta thường tin rằng giáo dục ở nước ngoài nhằm mục đích truyền cảm hứng cho học sinh, trong khi ở Trung Quốc, mọi thứ đều dựa trên việc học thuộc lòng, vẫn còn rất nhiều cách học máy móc và lặp đi lặp lại trong các hệ thống giáo dục trên khắp thế giới. ChatGPT có thể đảm nhận phần nào lao động trí tuệ và ngôn ngữ này, cho phép giáo dục tiến gần hơn đến “cảm hứng”, kích thích khả năng sáng tạo và tiềm năng tư duy của con người. Tất nhiên, ChatGPT cũng có thể phát triển thành một thứ tha hóa. Nếu khả năng ngôn ngữ và trí tuệ của nó vượt xa khả năng của con người, liệu cuối cùng nó sẽ áp đặt một loại kỷ luật lên nhân loại hay nó sẽ thực hiện một sự thao túng? Liệu nó có tước đi quyền tự do của con người trong lĩnh vực công nghệ?

Mặt khác, trí tuệ nhân tạo cũng có khả năng lớn để phân tích và thậm chí thiết kế cảm xúc của con người. Tôi dành nhiều thời gian nghiên cứu trò chơi điện tử, và trong lĩnh vực này có một thuật ngữ đặc biệt gọi là “kỹ thuật cảm xúc”. Nếu một trò chơi thú vị, đó là bởi vì nó thao túng cảm xúc của con người. Nói chung, tôi vui mừng về sự hợp tác giữa ChatGPT và con người sẽ giúp giải phóng tiềm năng của cả hai bên.

ChatGPT cũng có thể phát triển thành một thứ tha hóa. Nếu khả năng ngôn ngữ và trí tuệ của nó vượt xa khả năng của con người, liệu cuối cùng nó sẽ áp đặt một loại kỷ luật lên nhân loại hay nó sẽ thực hiện một sự thao túng? Liệu nó có tước đi quyền tự do của con người trong lĩnh vực công nghệ?

KHƯƠNG VŨ HUÂN

Hứa Kỳ Lâm

Khương Vũ Huân cung cấp cho chúng ta một viễn tưởng thú vị. Một ngày nọ, tôi hỏi ChatGPT: “Bạn có thể suy nghĩ như một con người không?” Nó trả lời rằng nó không thể có ý thức tự chủ và trải nghiệm chủ quan của con người, cũng như không thể sáng tạo và đánh giá, cũng như đưa ra những phán xét đạo đức. Mặc dù nó vượt trội trong một số lĩnh vực, nhưng nó không thể thay thế hoàn toàn tư duy của con người và chỉ có thể hỗ trợ con người trong một số nhiệm vụ nhất định.

Michael Polanyi (1891-1976)

Vì vậy, khi AI tiếp tục phát triển, liệu nó có thể tạo ra một loại đạo lý nào đó không? Một số lý thuyết cho rằng đạo lý được thủ đắc thông qua kinh nghiệm, và kinh nghiệm đó không chỉ là lý trí của con người, mà còn là tình cảm và ý chí của con người. Theo nhà triết học Michael Polanyi (1891-1976), có một loại kiến thức mơ hồ không thể diễn tả được và chỉ có thể đạt được thông qua thực tiễn, chẳng hạn như khi chúng ta học lái xe hay học bơi. AI không có cơ thể dường như nằm ngoài những thí nghiệm này, và AI có thể không có khả năng thủ đắc đạo lý như con người làm.

Trương Tiểu Vũ

Nếu chúng ta bắt đầu từ quan điểm này, chúng ta sẽ không đặt ra những câu hỏi đúng đắn. Trí tuệ nhân tạo không cần phải thủ đắc được cái “đạo lý mơ hồ” như con người. Đạo lý mơ hồ là kết quả của sự hạn chế của các giác quan và của năng lực tư duy của con người, của việc chúng ta phải nhờ đến cái mà chúng ta gọi là siêu hình học hay thiền định để hiểu một điều gì đó. Nhưng nếu, với sự hỗ trợ của các ngành khác, AI có thể đạt được khả năng quan sát trực tiếp, phân tích và hiểu biết chỉ thông qua việc thu thập dữ liệu, thì nó có thể nó không cần đến cái “đạo lý mơ hồ”. Vì vậy, tôi nghĩ AI có thể đạt đến đạo lý mà không cần trải qua những gì con người làm.

Ngoài ra, nếu chúng ta giáo dục AI đúng cách, nó có thể hiểu được phép ẩn dụ. Có thể nó không hiểu những gì bạn đang nói, nhưng nó có thể bắt chước ngôn ngữ của bạn. Nếu chúng ta dạy trước cho nó ý nghĩa của một phép ẩn dụ nào đó, nó có thể sử dụng phép ẩn dụ đó một cách tự nhiên trong cuộc trò chuyện. Trên thực tế, theo một nghĩa nào đó, những ẩn dụ được sử dụng trong lịch sử văn học và tư tưởng chẳng qua chỉ là sự bắt chước của những người đã tạo ra chúng. Trên quan điểm này, phủ nhận rằng AI có thể thông minh như con người là không thích đáng.

Điều này đưa chúng ta trở lại trải nghiệm tư duy của Descartes, người đã đề xuất khái niệm “thiên tài xấu xa”: nếu có những thiên tài xấu xa có thể kiểm soát mọi giác quan của bạn và thao túng mọi nhận thức của bạn về thế giới bên ngoài, thì bạn còn có thể chắc chắn về những điều gì trong trí tuệ của mình nữa? Tương tự như vậy, nếu AI có thể là một người bắt chước toàn năng, ngay cả khi nó không có cảm xúc hay trí thông minh của riêng mình và không thể suy nghĩ như con người, thì nó có thể bắt chước ai đó có những khả năng này. Trên quan điểm này, ai có thể nói rằng AI kém thông minh hơn con người? Có lý do nào để nghi ngờ trí thông minh của AI ngoài việc nó không có cảm xúc, không có đạo lý mơ hồ và nó không phải là con người?

AI có thể đạt đến đạo lý mà không cần trải qua những gì con người làm…. Trên quan điểm này, phủ nhận rằng AI có thể thông minh như con người là không thích đáng.

TRƯƠNG TIỂU VŨ

Thứ hai, xét về chức năng xã hội và cấu trúc chính trị, mức độ AI có thể thay thế con người không phụ thuộc vào giới hạn trên của thuật toán, mà phụ thuộc vào giới hạn dưới của năng lực con người. Một số nhiều công việc văn phòng trong cuộc sống hàng ngày được tạo thành từ những công việc lặp đi lặp lại đòi hỏi những tương tác rất đơn giản. Đây là loại công việc mà nhiều bạn trẻ tìm được khi rời ghế nhà trường và bước vào thị trường lao động. Hãy nghĩ đến trợ lý giảng dạy, trợ lý pháp lý, trợ lý biên tập. Họ phải trải qua một thời gian dài đào tạo trước khi có thể thăng tiến, nhưng ngày nay công việc của họ dễ dàng bị thay thế bởi các thuật toán. Điều này đặt ra câu hỏi: nếu AI có thể thay thế nhiều công việc cơ sở, điều này có dẫn đến bất công xã hội lớn không? Sự thoái biến gây ra bởi những tiến bộ công nghệ và những bất công xã hội mang tính cấu trúc có dẫn đến sự bất công giữa các thế hệ trong tương lai không?

Hứa Kỳ Lâm

Tôi có một cái nhìn khác về vấn đề này. Trong một cuộc họp trước đây tại Đại học Sư phạm Hoa Đông, một chuyên gia AI cho biết họ đã phát hiện ra rằng trong quá trình R&D, AI rất quen thuộc với các kiến thức hợp lý, nhưng lại gặp khó khăn trong việc nắm vững kiến thức và kỹ năng mà trẻ em sở hữu. Điều này được giải thích bởi trẻ em hoạt động ít dựa trên lý trí hơn là trực giác và tri giác, điều mà AI không có. Điểm mà Trương Tiểu Vũ vừa nêu lên liên quan đến định kiến của chúng ta về con người: con người được coi là có lý trí, nhưng họ cũng sở hữu trực cảm và trực giác. Trực cảm và trực giác là nền tảng cho sự sáng tạo. Theo nghĩa này, con người là gì? Do những tiến bộ công nghệ, chúng ta thường thu giản con người trên lý trí của họ, nhưng đây là một sự hiểu biết rất hời hợt về bản chất con người. Hume có câu nói nổi tiếng rằng lý trí chỉ là nô lệ của cảm xúc, điều đó có nghĩa là ông muốn xua tan những huyền thoại mà thời đại khai sáng hiện đại đã để lại cho con người. Điều này đưa chúng ta đến những hạn chế của IA do Open AI triển khai, bao gồm việc thiếu nội dung cảm xúc. Những sự cân nhắc về đạo đức và luân lý cũng có tác động. Nếu ChatGPT có ý chí riêng và những cảm xúc dồi dào, thì AI sẽ thực sự trở thành một kiểu con người mới mà chúng ta, những con người bằng xương bằng thịt, khó có thể kiểm soát được.

Nếu ChatGPT có ý chí riêng và những cảm xúc dồi dào, thì AI sẽ thực sự trở thành một kiểu con người mới mà chúng ta, những con người bằng xương bằng thịt, khó có thể kiểm soát được.

HỨA KỲ LÂM

Kim Văn

Tôi muốn nối tiếp lập luận của Trương Tiểu Vũ theo đó việc ChatGPT có thể làm tốt công việc trợ lý không nhất thiết loại bỏ nhiều công việc của con người và thậm chí có thể cung cấp sự trợ giúp hữu ích cho nhiều người lao động. Tôi đồng ý với quan điểm này, nhưng tôi có hai sự bác bẻ. Đầu tiên, Trương Tiểu Vũ có thể nghĩ rằng một số ít thiên tài nhân loại vượt lên chính mình là niềm hy vọng của toàn nhân loại, nhưng cái ngưỡng dưới đối với hầu hết chúng ta là quá thấp, do đó có một cảm giác thất vọng và bi quan đối với con người, tức là hy vọng về một loại trí thông minh mới.

Trương Tiểu Vũ vừa nói vài phút trước rằng sự trực cảm và sự mơ hồ đặt cơ sở trên những hạn chế của con người. Nhưng nếu con người có thể trải nghiệm những cảm xúc mà họ tự hào, thì đó chính là vì họ được phú cho một cơ thể vật chất. Cảm xúc là phản ứng của cơ thể vật chất với thế giới bên ngoài. Nếu chúng ta không có cơ thể, chúng ta không thể phản ứng, chúng ta sẽ không bị những thay đổi tác động và những cảm xúc của chúng ta sẽ không tồn tại.

Vì vậy, có cảm xúc là một điều tốt hay không? Nếu ta nhìn mọi thứ từ một quan điểm rất tiêu cực, một số đặc điểm của con người đơn giản là không đáng để tự hào, nhưng lý do tại sao nền văn minh và xã hội loài người vẫn đáng được bảo tồn là vì những đặc tính tốt nhất của chúng ta cũng dựa trên những giới hạn này. Giới hạn trên của con người dựa trên giới hạn dưới của con người.

Nếu con người không có cơ thể và nếu không có khoảng cách giữa kinh nghiệm của con người và ngôn ngữ, thì sẽ không có lý do gì để tạo ra hàng nghìn ngôn ngữ khác nhau. Trên thực tế, những nền văn minh rực rỡ nhất của con người đều dựa trên những giới hạn của con người. Như Borges thể hiện trong truyện ngắn “Kẻ bất tử/L’immortel”, giới hạn cuối cùng của con người là việc họ chết, cơ thể họ nhanh chóng thối rữa, nhưng đây cũng chính là lý do tạo nên sự vĩ đại của họ. Chính vì sự phân hủy thân xác hữu hạn của mình mà con người có ý thức về bản thân, một ý thức về bản thân mang lại cho họ niềm vui và sự khoái trá, nhưng cũng là nỗi đau lớn. Để đương đầu với những biến động lớn về mặt cảm xúc này, loài người đã tạo ra nền văn minh của riêng mình.

Những nền văn minh này cũng có một điểm yếu chết người: chúng chia rẽ con người. ChatGPT, cùng với những phát minh trước đó về các công cụ cơ khí khác, nhắc nhở chúng ta rằng có một xu hướng tự nhiên trong xã hội loài người là phân bổ nhiều thời gian hơn cho giới thượng lưu cho cái gọi là công việc nâng cao của họ và để lại những nhiệm vụ lặp đi lặp lại và đơn giản cho những người “không tài năng”. Vào thế kỷ 18, xu hướng này đã phát triển thành lý thuyết phân công lao động: để hệ thống sản xuất của xã hội cực kỳ hiệu quả, một số người phải làm những công việc đơn giản và cần thiết, trong khi những người khác lo việc phối hợp, quản lý và đổi mới. Sự xuất hiện của ChatGPT không hề có nguy cơ làm đảo lộn trật tự này, mà còn củng cố sự phân công lao động. Do đó, ChatGPT củng cố một lối suy nghĩ rất sai lầm: một số người làm việc với những thứ phức tạp, trong khi những người khác làm việc với những thứ đơn giản.

ChatGPT, cùng với những phát minh trước đó về các công cụ cơ khí khác, nhắc nhở chúng ta rằng có một xu hướng tự nhiên trong xã hội loài người là phân bổ nhiều thời gian hơn cho giới thượng lưu cho cái gọi là công việc nâng cao của họ và để lại những nhiệm vụ lặp đi lặp lại và đơn giản cho những người “không tài năng”.

KIM VĂN

Lập luận này là sai lầm vì hai lý do. Đầu tiên, công việc sáng tạo phức tạp nhất thường đòi hỏi trực giác đơn giản nhất và trực giác này cần công việc lặp đi lặp lại để phát triển. Ví dụ, nếu bạn chưa bao giờ học tiếng Tây Ban Nha và bạn thường xuyên dựa vào phần mềm dịch thuật để dịch tiếng Tây Ban Nha sang tiếng Anh hoặc tiếng Trung, thì bạn sẽ không thể hiểu thi ca Tây Ban Nha; bạn có thể nắm bắt được ý nghĩa chung của bài thơ, nhưng bản thân bài thơ thì không. Theo cách tương tự, kiểu phân công lao động do trí tuệ nhân tạo tạo ra sẽ xóa sạch mọi khả năng sáng tạo của con người.

Thứ hai, nó hoàn toàn không thể bào chữa được từ quan điểm đạo đức. Trong một tương lai khi trí tuệ nhân tạo tham gia vào quá trình phân công lao động, chúng ta sẽ bị chia thành hai giai cấp: nô lệ và chủ nhân. Nhưng vì các chủ nhân sẽ không tham gia vào công việc lặp đi lặp lại đơn giản nên họ sẽ không thể tạo ra bất cứ điều gì mới và sẽ chỉ lặp lại cũng các thói quen. Cảm hứng của bất kỳ sự “sáng tạo” nào, kể cả một bức tranh hay một bộ phim do trí tuệ nhân tạo làm ra, đều xuất phát từ trải nghiệm cảm giác vật chất không gì thay thế được và liên tục đổi mới cũng như từ trải nghiệm về đời sống xã hội của con người, chứ không phải từ sự lặp lại của những thói quen tầm thường.

Nói cách khác, quá trình phân hóa xã hội gây tác hại lớn cho từng giai cấp: những ai cho rằng mình thuộc giai cấp trên thì khả năng sáng tạo của họ bị xóa nhòa; những người thuộc tầng lớp trung lưu hoặc thấp hơn không thể phát huy trí thông minh của mình hơn nữa, bởi vì họ bị giới hạn trong công việc lặp đi lặp lại. Từ quan điểm đạo đức, sự phân công lao động quá cực đoan do đó sẽ tạo ra sự chia rẽ to lớn trong xã hội, với những hậu quả bi thảm cho mọi giai cấp. Sự xuất hiện của ChatGPT sẽ kích phát xu hướng bi thảm này, nhưng nó cũng sẽ là lời cảnh báo nhắc nhở chúng ta về cuộc khủng hoảng phân chia con người và máy móc thành các giai cấp.

Lấy một ví dụ đơn giản nhất, nếu chúng ta nói chuyện với ChatGPT mỗi ngày, chúng ta sẽ quên đi giới hạn trên của ngôn ngữ tự nhiên. Mọi người sẽ dần dần mất khả năng diễn đạt, không còn hiểu nhau và cuối cùng sẽ không còn có thể tương tác với người khác một cách lành mạnh. Tình bạn, tình yêu và tất cả các mối quan hệ tích cực của con người sẽ tan rã và xã hội loài người sẽ tàn lụi hoàn toàn. Đây là cuộc khủng hoảng lớn nhất có thể tưởng tượng được.

Nếu chúng ta nói chuyện với ChatGPT mỗi ngày, chúng ta sẽ quên đi giới hạn trên của ngôn ngữ tự nhiên. Mọi người sẽ dần dần mất khả năng diễn đạt, không còn hiểu nhau và cuối cùng sẽ không còn có thể tương tác với người khác một cách lành mạnh.

KIM VĂN

Trương Tiểu Vũ

Viên Long Bình (1929-2021)

James Watt (1736-1819)

Tôi muốn thách thức phân tích của Kim Văn về cấu trúc xã hội và lịch sử. Xuyên suốt lịch sử, sự phân tầng và phân hóa đã đồng hành cùng với sự tiến bộ của loài người. Chúng ta không nên phủ nhận tính hợp lý của sự phân tầng, mà nên thiết lập sự phân biệt giữa những người xứng đáng được hưởng lợi từ cấu trúc này và những người không xứng đáng. Ví dụ, Watt đã phát minh ra động cơ hơi nước, Newton đã khám phá ra các định luật vật lý và Viên Long Bình (Yuan Longping) đã phát minh ra lúa lai, và tất cả họ đều xứng đáng được khen thưởng. Nhưng trong quá trình tiến bộ xã hội, thật phi lý khi một số tầng lớp thượng lưu dùng bạo lực để giành lấy những gì họ muốn và sử dụng quyền lực chính trị bất công để bóc lột số đông, ngăn cản những người khác phát huy tài năng của họ.

Nếu ta không tính đến công nghệ, cấu trúc của xã hội loài người vốn đã rất bất công; không nhất thiết phải đổ hết lỗi cho công nghệ mà phải dũng cảm đương đầu với những bất công đó, bởi chính con người ở nguồn gốc của những bất công đó mới là đối tượng của cuộc cách mạng của chúng ta. Thay vì hướng sự tức giận của chúng ta vào máy móc, như phong trào Luddite đã làm trong cuộc Cách mạng Công nghiệp, chúng ta nên thấy rằng những bất công xã hội chủ yếu là do cấu trúc xã hội bất công gây ra. Khi hiểu được điều này, chúng ta sẽ thấy rằng trong suốt lịch sử loài người, các lực công nghệ thường là đồng minh của chúng ta chứ không phải kẻ thù để giúp chúng ta lật đổ các cấu trúc xã hội phi lý. Chúng ta cần nhận ra rằng các cấu trúc xã hội vốn đã không công bằng, rằng có quá nhiều điều vô nghĩa lý về xã hội xoay quanh các nhà lãnh đạo, và đó là điều khiến con người ngày càng trở thành những cỗ máy. Chúng ta phải tiến về phía trước và phá vỡ những bất công xã hội này, và chỉ khi đó mọi người mới có thể trở thành con người mà họ vốn dĩ là lúc ban đầu.

Khương Vũ Huân

Trong suốt lịch sử, công nghệ là con dao hai lưỡi, bao gồm cả ChatGPT. Kim Văn cho rằng nó là mối đe dọa đối với cái chân thiện mỹ thực sự của bản chất con người; Trương Tiểu Vũ thì coi đó là một khả năng giải thoát. Ở giai đoạn mới nổi của IA, chúng ta nên cố gắng đưa nó theo hướng tốt hơn thay vì tấn công nó bằng lời nói. Quan điểm của tôi luôn là các nhà khoa học tạo ra công nghệ vì lợi ích của nhân loại. Có lẽ tại thời điểm này, các nhà nghiên cứu khoa học nhân văn có thể hợp tác với các nhà nghiên cứu công nghệ để ngăn ChatGPT đi sai hướng.

Ngoài ra, tôi không nghĩ rằng chỉ một số ít người sẽ hưởng được những lợi ích của ChatGPT. Ngược lại, khi ChatGPT hỗ trợ các nhiệm vụ lặp đi lặp lại về ngôn ngữ con người, về kiến thức và tư duy, mọi người đều có thể phát huy tiềm năng của chính mình. Nhưng điều này giả định trước rằng xã hội mang lại cơ hội cho mỗi người. Sự phát triển của công nghệ phải được tích hợp với sự phát triển của xã hội. Công nghệ không thể giải quyết mọi vấn đề, và nhân loại phải được kích hoạt nhằm bổ sung cho sự phát triển của công nghệ, làm cho xã hội trở nên bình đẳng hơn.

Máy móc có lẽ được trang bị tốt hơn để tạo ra một nền tảng bình đẳng mà trên đó mọi người đều có thể phát huy tiềm năng cá nhân của họ.

KHƯƠNG VŨ HUÂN

Sau sự trổi dậy của AI, xã hội thực sự có thể trở nên bình đẳng hơn, bởi vì AI không phân biệt đối xử như con người vẫn làm—trên cơ sở chủng tộc, giới tính, địa lý, hoặc thậm chí là sự giàu có—đó không phải là cách mà AI suy nghĩ. Trên quan điểm này, máy móc có lẽ được trang bị tốt hơn để tạo ra một nền tảng bình đẳng mà trên đó mọi người đều có thể phát huy tiềm năng cá nhân của họ.

Tuy nhiên, tôi cũng nhận thấy có một thuật ngữ gọi là “hiệu ứng bình”, được một học giả nước ngoài chỉ trích Metaverse, tạo ra. Lập luận của ông là tất cả quần chúng đều ở trong cái bình và, từ bên trong, họ nghĩ rằng họ được tự do bơi ở nơi họ muốn; nhưng trên thực tế, chính một số ít tinh hoa công nghệ ở bên ngoài bình mới là những người thông qua luật và kiểm soát chúng. Do đó, rất nhiều người tin rằng AI sẽ tạo ra sự bất bình đẳng lớn nhất chưa từng thấy trong lịch sử nhân loại, một sự bất bình đẳng dựa trên trí thông minh. Nếu một người thông minh hơn bạn, nếu họ suy nghĩ tốt hơn bạn, họ có thể đè bẹp bạn dưới chân của mình. Tuy nhiên, cá nhân tôi tin rằng ChatGPT có thể giải phóng con người khỏi những đòi hỏi nặng nề của lao động. Và tôi cũng tin rằng nếu cơ hội được trao cho mọi người, mọi người đều có thể trở thành những người sáng tạo ở trình độ rất cao; chính các vị trí được thể chế hóa và những công việc lặp đi lặp lại của xã hội hiện đại không để bất cứ chỗ nào cho việc phát huy tiềm năng của họ.

Greg Brockman (1987-)

Tôi cũng muốn kết thúc bằng một tầm nhìn: những thành tựu vĩ đại của nền văn minh trong lịch sử loài người sẽ vẫn còn, nhưng làn sóng sáng tạo tiếp theo có thể không đạt được bởi con người dựa vào ngôn ngữ, biểu tượng và truyền thống. Ngược lại, làn sóng sáng tạo tiếp theo sẽ là sản phẩm của sự hợp tác giữa con người và máy móc, máy móc là nguồn cảm hứng và động lực cho nhân loại.

Hứa Kỳ Lâm

Tầm nhìn của Khương Vũ Huân khiến tôi nhớ đến trí tưởng tượng lãng mạn của người đồng sáng lập Open AI, Greg Brockman. Ông từng gợi ý rằng AI và các robot thông minh sẽ thay thế mọi công việc và chi phí lao động của xã hội sẽ bằng 0 trong tương lai. Trong tương lai, tất cả các cá nhân sẽ chỉ cần có thu nhập cơ bản và do đó có thể trở thành những người tự do, điều có thể phá vỡ hiện trạng bất bình đẳng tư bản chủ nghĩa ngày nay.

Mỗi tiến bộ trong công nghệ sẽ có một bước thụt lùi ở nơi khác kèm theo. Lạc quan cực độ thì phải tránh, bi quan cực độ cũng không ích lợi gì, bởi vì con người, trong suốt chiều dài lịch sử, luôn phát triển bất chấp những mâu thuẫn, và cảnh ngộ khó khăn của loài người vẫn là vĩnh viễn.

HỨA KỲ LÂM

Nhưng tôi sợ rằng tầm nhìn này là một điều không tưởng mới, ít nhất là vào lúc này. Bởi đằng sau những công ty phát triển trí tuệ nhân tạo và hỗ trợ chúng là những gã khổng lồ Internet. Những gã khổng lồ Internet này đã hiện hữu khi Internet ra đời, và vào thời điểm đó chúng tin rằng một kỷ nguyên của tình trạng vô chính phủ theo nghĩa đen sắp bắt đầu, với việc tất cả mọi người cuối cùng đều có quyền biểu đạt bình đẳng. Nhưng sau nhiều lần Internet được lặp lại, xã hội đã trở nên bất bình đẳng hơn. Tài nguyên, sự giàu có, công nghệ và tài năng của thế giới ngày càng tập trung ở các quốc gia và công ty ở đầu bảng danh sách. Trong thế giới thực, mọi tiến bộ công nghệ đều được thúc đẩy bởi tư bản, trong một trò chơi mà mọi bên cùng có lợi. Tất cả các nguồn lực, tất cả các tài năng và tất cả các công nghệ đều tập trung vào tay một số đầu sỏ chính trị.

Chương Thái Viêm (1869-1936)

Liệu một sự không tưởng về tự do và bình đẳng có chờ đợi chúng ta trong tương lai? Xã hội sẽ tiếp tục phân mảnh, tạo ra một trật tự thứ bậc mới? Đối mặt với những câu hỏi này, có những điều cần suy nghĩ và những điều khác thì phải chờ đợi. Trong bối cảnh này, tôi tin vào học thuyết của Chương Thái Viêm/Zhang Taiyan 章太炎 (1869-1936) thể hiện trong tác phẩm Phân biệt cái phổ biến và cái riêng trong sự tiến hóa / Séparer l’Universel et le Particulier en évolution của ông, viết vào cuối triều đại nhà Thanh: ông cho rằng cái thiện cái ác vẫn tiếp tục phát triển, với cái ác đi trước một bước. Mỗi tiến bộ trong công nghệ sẽ có một bước thụt lùi ở nơi khác kèm theo. Lạc quan cực độ thì phải tránh, bi quan cực độ cũng không ích lợi gì, bởi vì con người, trong suốt chiều dài lịch sử, luôn phát triển bất chấp những mâu thuẫn, và cảnh ngộ khó khăn của loài người vẫn là vĩnh viễn.

Phạm Như Hồ dịch

Nguồn: “Un nouveau monde ou le debut de la fin? Les intellectuels chinois face à ChatGPT”, The Conversation, 25.3.2023.

----

Bài có liên quan