TRUNG QUỐC SIẾT CHẶT QUẢN LÝ BẠN ĐỒNG HÀNH AI. CHÚNG TA CÓ THỂ RÚT RA BÀI HỌC GÌ TỪ ĐIỀU NÀY?
Kể từ tháng 11 năm 2022, trí tuệ nhân tạo (AI) tạo sinh đã làm thay đổi cách hàng tỷ email, bài tập của sinh viên, báo cáo và thậm chí cả những tin nhắn chia tay được viết ra. Bên cạnh các ứng dụng thông thường này, chúng ta cũng chứng kiến sự bùng nổ của các chatbot được thiết kế như những “người bạn đồng hành” AI.
Người dùng có thể tự thiết kế ngoại hình, trang phục (hay thậm chí cởi bỏ trang phục) cho người bạn AI của riêng mình, vốn thường phải trả phí để sử dụng. Những chatbot mang tính xã hội này mang đến “các cuộc trò chuyện vui vẻ” và một mối quan hệ dường như hoàn hảo, nhưng phải đánh đổi bằng sự mong manh trong tương tác hai chiều và cảm giác thuộc về đích thực mà con người chỉ có thể tìm thấy trong các mối quan hệ với những con người khác.
Những người ủng hộ loại hình AI này cho rằng, đối với những ai đang trải qua cảm giác cô lập xã hội, những con chatbot là những người bạn đồng hành luôn sẵn sàng hỗ trợ, và không phán xét họ. Thực tế cũng đã có một số bằng chứng cho thấy chatbot có thể làm giảm các triệu chứng của nỗi cô đơn, tình trạng mất kết nối kéo dài và cảm giác không được thuộc về.
Ủy viên Ủy ban An toàn Trực tuyến [eSafety] của Úc cũng thừa nhận điều này:
Những bạn đồng hành AI luôn hiện diện bất cứ khi nào người dùng cần – điều này đặc biệt hấp dẫn đối với những người trẻ gặp khó khăn trong việc xây dựng các mối quan hệ trực tiếp.
Tuy nhiên, những rủi ro khi thay thế các mối quan hệ giữa người với người bằng chatbot chỉ mới bắt đầu được hiểu rõ.
Một nghiên cứu mà chúng tôi thực hiện vào năm 2023 cho thấy các sinh viên đại học sử dụng chatbot đời đầu để hỗ trợ học tập đã gặp phải những hệ quả ngoài mong muốn, chẳng hạn như cảm giác cô đơn gia tăng. Hiện tại, những rủi ro của chatbot mang tính xã hội – như sự phụ thuộc, việc thay thế mối quan hệ giữa người với người, sự thu mình khỏi xã hội hoặc việc xây dựng các mối quan hệ phi thực tế – dường như đang lớn hơn những lợi ích mà chúng mang lại.
Trong vài tuần gần đây, Trung Quốc đã ban hành những quy định mới đối với bạn đồng hành AI và chatbot, được gọi trong văn bản pháp luật là “các dịch vụ tương tác kiểu nhân hình” theo luật định. Bên cạnh yêu cầu chatbot phải bảo vệ bí mật quốc gia, việc sử dụng chúng cho mục đích tình cảm cũng bị hạn chế và phải tuân thủ các chuẩn mực luân lý cũng như xã hội.
Đây là một số quy định kiểm soát mạnh mẽ nhất đối với việc sử dụng AI trong xã hội được ban hành trên thế giới. Vậy chúng ta có thể học được điều gì từ những quy định này?
Quy định của Trung Quốc đối với AI mang tính xã hội
Những tác hại phát sinh từ việc sử dụng ứng dụng AI đồng hành là có thật, ngay cả ở Trung Quốc. Một cô gái 18 tuổi đã chi 7.000 nhân dân tệ (1.400 đô la Úc) để mua trang sức đặt riêng cho bạn trai AI của mình chỉ trong 4 tháng “hẹn hò”.
Gia đình của một cụ bà 84 tuổi đang sống cô đơn ở tỉnh Hồ Bắc, Trung Quốc, phát hiện ra bà đã phải lòng một nhân vật AI, dành tới 10 tiếng mỗi ngày xem video cùng nhân vật này và các nhân vật AI khác, chi hàng ngàn nhân dân tệ cho dịch vụ này, và thậm chí còn tự tay viết thư tình gửi cho “người yêu” AI của mình.
Những quy định mới của Trung Quốc đưa ra các điều khoản rõ ràng về cách họ kỳ vọng các chatbot đồng hành phải tương tác với con người.
Theo đó, các nhà phát triển chatbot mang tính xã hội phải bảo đảm nội dung do AI tạo ra không được:
- đe dọa an ninh quốc gia hoặc danh dự quốc gia
- vi phạm các giá trị cốt lõi của chủ nghĩa xã hội
- khuyến khích những hành vi tự làm hại bản thân hoặc tự sát
- nuông chiều quá mức sự lệ thuộc cảm xúc hoặc hành vi nghiện AI
- cung cấp các “bạn đời” hoặc “người thân” ảo cho trẻ vị thành niên
- cung cấp những nội dung không phù hợp cho trẻ vị thành niên.
Hơn nữa, những người dùng tỏ ra quá phụ thuộc vào dịch vụ này phải nhận được lời nhắc nhở rõ ràng rằng họ đang nói chuyện với một chatbot. Và các công ty AI phải trách nhiệm can thiệp nếu phát hiện người dùng đang rơi vào trạng thái thống khổ.
Nguy cơ rơi vào “vòng xoáy cô đơn”
Như chúng ta đã thấy, ngày càng có nhiều mối quan ngại – và các nghiên cứu hiện nay cũng chỉ ra điều này – rằng việc giới trẻ hoàn toàn dựa vào AI như một người bạn đáng tin cậy hoặc một nhà trị liệu là không lành mạnh.
Những người cô đơn và đồng thời phải đối mặt với chứng lo âu xã hội có thể sử dụng trí tuệ nhân tạo đàm thoại một cách không lành mạnh để giảm bớt những cảm giác cô đơn và suy nghĩ quẩn quanh lặp lại [negative rumination].
Chúng tôi cho rằng sự phụ thuộc ấy có thể dẫn đến một “vòng xoáy cô đơn” do AI gây ra. Khi cảm thấy cô đơn, con người sẽ nhạy cảm hơn với những cảm giác bị đe dọa về mặt xã hội và khó điều hòa cảm xúc.
Vì thế, thay vì tìm đến những người bạn thực sự hoặc người có chuyên môn, họ lại tìm một “người bạn” AI để được hỗ trợ – một lựa chọn có rủi ro thấp hơn [về mặt tâm lý]. Tuy nhiên, điều này thường không giải quyết được nguyên nhân gốc rễ của nỗi cô đơn, bởi chatbot trên thực tế có thể còn khiến cảm giác ấy trở nên trầm trọng hơn.
Những hạn chế mà Trung Quốc áp đặt đối với các bạn đồng hành AI có thể góp phần phá vỡ vòng luẩn quẩn này và đưa các mối quan hệ giữa người với người trở lại vị trí ưu tiên. Nói cách khác, chúng giúp điều chỉnh lại phép tính nhận thức [cognitive math]: liệu việc cài đặt một ứng dụng AI đồng hành có thực sự mang lại nhiều sự thỏa mãn hơn việc dành thời gian gặp gỡ một người bạn ngoài đời không?
Những bài học cho nước Úc
Cảm giác cô đơn và sự thiếu gắn kết vẫn là những thách thức lớn ở Úc, với tình trạng ít nhất cứ 6 người sẽ có 1 người trải qua tình trạng cô đơn, và một số chứng cứ còn cho thấy tỷ số này có thể còn cao hơn.
Trong khi Trung Quốc đang siết chặt quản lý các AI đồng hành, Úc lại đi đầu trong việc kiểm soát việc sử dụng mạng xã hội của giới trẻ. Ủy ban An toàn Trực tuyến cũng đã xây dựng các quy tắc hạn chế nội dung không phù hợp với lứa tuổi trên mạng, chẳng hạn như các nội dung khiêu dâm, bạo lực nghiêm trọng, tự làm hại bản thân, tự sát và các rối loạn ăn uống. Tuy nhiên, các quy định này chưa giải quyết được những tác hại về mặt xã hội của AI đồng hành, chẳng hạn như sự lệ thuộc cảm xúc hay việc AI thay thế các mối quan hệ giữa người với người.
Trong bài phát biểu quan trọng về AI vào tuần trước, Thủ tướng Anthony Albanese cũng không đề cập đến những hệ quả xã hội mà chatbot AI có thể gây ra.
Chúng tôi cho rằng các biện pháp bảo vệ của Úc đối với những nội dung bị giới hạn theo độ tuổi cần được mở rộng để bao gồm cả những tác hại xã hội ngoài ý muốn phát sinh từ các cuộc trò chuyện với AI mang tính xã hội, AI phân tích và AI chức năng.
Chính phủ Úc cần nghiên cứu sâu hơn cách các bạn đồng hành ảo này đang tương tác với người dân Úc. Đồng thời, chúng ta phải chuẩn bị các biện pháp nhằm giảm thiểu những hệ quả xã hội ngoài ý muốn trước khi các mối quan hệ xã hội tổng hợp này trở nên phổ biến và được coi là bình thường.
Úc cần ưu tiên phát triển sự kết nối xã hội – trong các chiến lược nâng cao năng suất, trong chương trình giáo dục cũng như trong việc thiết kế cộng đồng của mình.
Một chiến dịch siết chặt chatbot theo kiểu của một nhà nước có tính kiểm soát cao có lẽ không phải là lựa chọn khả thi đối với một quốc gia dân chủ. Nhưng chúng ta [hoàn toàn] có thể – và nên – ưu tiên phát triển các kỹ năng kết nối giữa người với người để chống lại xu hướng phụ thuộc quá mức không lành mạnh vào AI.
Bên cạnh đó, Úc cũng nên tận dụng các công cụ quản lý và bảo vệ bằng pháp luật nhằm giảm thiểu những tác hại xã hội của AI, tiếp nối những nỗ lực mà Ủy ban An toàn Trực truyến [quốc gia] đã và đang triển khai đối với mạng xã hội.
Các từ khóa: Trí tuệ nhân tạo (AI), Trung Quốc, Nỗi cô đơn, Các chatbot, Quy định về AI, Những bạn đồng hành AI, Chính sách AI
THÔNG TIN VỀ CÁC TÁC GIẢ BÀI BÁO
Joseph Crawford (trái) và Michael Cowling
Giảng viên cao cấp, khoa Quản lý, Đại học Tasmania [Úc]
Giáo sư & Giám đốc, Trung tâm Đổi mới Nền tảng Apple (HAPI), Trường Công nghệ Điện toán, Đại học RMIT [Úc]
Tuyên bố công khai
Các tác giả không làm việc cho, không tư vấn, không sở hữu cổ phần và cũng không nhận tài trợ từ bất kỳ công ty hay tổ chức nào có thể hưởng lợi từ bài báo này, và không có bất kỳ mối liên hệ hay lợi ích liên quan nào khác cần công bố ngoài vị trí học thuật tại trường Đại học của mình.
Nguyễn Việt Anh dịch
Nguồn: China has cracked down on AI companions. What can we learn from this?, The Conversation, July 23, 2026.
