THIÊN KIẾN TRONG A.I. KHÔNG CHỈ LÀ LỖI Ở THUẬT TOÁN, MÀ ĐÓ CÒN LÀ KẾT QUẢ CỦA MỘT CHUỖI CÁC QUYẾT ĐỊNH CỦA CON NGƯỜI
Nguồn ảnh: SDI Productions/Getty
Tại Hoa Kỳ, công ty phần mềm quản lý nhân sự hàng đầu Workday hiện đang phải đối mặt với một vụ kiện liên quan đến việc sử dụng những công cụ sàng lọc các ứng viên dựa trên trí tuệ nhân tạo (AI); những công cụ này bị cáo buộc gây phân biệt đối xử với ứng viên dựa trên những yếu tố như độ tuổi, tình trạng khuyết tật và chủng tộc.
Công ty này, vốn cung cấp phần mềm tuyển dụng được nhiều doanh nghiệp lớn trên toàn cầu sử dụng, đã phủ nhận các cáo buộc trên.
Đây là một trong nhiều ví dụ về các hệ thống AI bị cáo buộc gây ra những tổn hại mang tính phân biệt đối xử. Khi sao chép và khuếch đại sự phân biệt đối xử, các hệ thống AI làm mờ ranh giới giữa lỗi kỹ thuật và bất công hệ thống, biến thiên kiến thành một dạng tổn hại trong môi trường kỹ thuật số.
Và mặc dù phản ứng bản năng đầu tiên của chúng ta có thể là đổ lỗi cho các thuật toán, nhưng chúng không quyết định những gì chúng có thể tạo ra, những cơ chế bảo vệ nào được tích hợp sẵn, hay cách công ty phản ứng khi có báo cáo về các vụ việc phân biệt đối xử. Con người mới là những người đưa ra các quyết định đó từ rất lâu trước khi AI tạo ra bất kỳ kết quả nào.
Đó là lý do tại sao các giải pháp kỹ thuật cho hệ thống AI là chưa đủ. Điều cần thiết là phải đại tu các hệ sinh thái AI để đảm bảo tính toàn diện cao hơn.
Một xu hướng rộng hơn
Các hệ thống AI đang âm thầm thu hẹp phạm vi những người được nhìn nhận là có năng lực, có khả năng được tuyển dụng hoặc phù hợp để đảm nhận vai trò dẫn dắt [trí tuệ nhân tạo].
Chẳng hạn, trong một nghiên cứu năm 2025, chúng tôi đã thử nghiệm cách hai mô hình AI, GPT-4 của hãng OpenAI (hiện đã ngừng hoạt động) và Copilot của hãng Microsoft, thể hiện hình ảnh các kỹ sư phần mềm trong một quy trình tuyển dụng giả lập: 300 hồ sơ ứng viên cho bốn vị trí công việc, cùng với các đề xuất và hình ảnh do AI tạo ra về những ứng viên mà mỗi mô hình ưu tiên lựa chọn.
Cả hai mô hình đều ưu tiên các hồ sơ nam giới, đặc biệt là cho các vị trí cấp cao. Hình ảnh do chúng tạo ra cũng nghiêng về những kỹ sư trẻ hơn, có vóc dáng thanh mảnh hơn và nước da sáng màu hơn. Các mô hình này đang tái hiện những mối liên kết vốn đã ăn sâu vào ngôn ngữ, hình ảnh, lý lịch việc làm cũng như các ngầm định về việc ai là người phù hợp với nghề này.
Những kết quả này không chỉ dừng lại ở phạm vi của các nghiên cứu. Các đề xuất do AI tạo ra đang dần thâm nhập vào các lĩnh vực tuyển dụng, giáo dục và dịch vụ công.
Vấn đề này trở nên quan trọng khi một số nhóm nhân khẩu học nhất định và phụ nữ vẫn chưa có sự hiện diện đầy đủ trong việc phát triển và dẫn dắt AI, trong khi lại phải chịu những tổn hại của công nghệ này ở mức độ cao hơn hẳn.
Vấn đề này không chỉ giới hạn ở các khía cạnh giới và chủng tộc.
Ngay cả khi vận hành trên những ngôn ngữ và nền văn hóa khác nhau, các hệ thống AI thường tái hiện những giá trị, giả định và cách nhìn nhận thế giới mang đậm dấu ấn phương Tây. Các nước giàu trở thành những bên hưởng lợi chính từ AI, qua đó làm gia tăng tình trạng bất bình đẳng toàn cầu.
Trong một nghiên cứu khác tiến hành vào năm 2025, chúng tôi đã rà soát một cách thủ công các sự cố liên quan đến AI được ghi nhận.
Gần một nửa số vụ việc liên quan đến vấn đề đa dạng hoặc hòa nhập, trong đó nổi cộm nhất là tình trạng phân biệt đối xử về chủng tộc, giới và độ tuổi. Các tổn hại bắt nguồn từ nhiều giai đoạn khác nhau trong vòng đời phát triển AI: dữ liệu huấn luyện thiếu tính đa dạng, cũng như việc bỏ qua các nguyên tắc về đa dạng và hòa nhập trong quá trình thiết kế, phát triển và triển khai.
Vì sao các giải pháp kỹ thuật là chưa đủ
Công tác kỹ thuật đóng vai trò quan trọng, bao gồm việc nhận diện thiên kiến, tái cân bằng tập dữ liệu và điều chỉnh kết quả đầu ra. Tuy nhiên, các biện pháp này thường coi thiên kiến là một thuộc tính của mô hình AI, trong khi phần lớn thiên kiến lại bắt nguồn từ bên ngoài hệ thống.
Dữ liệu khi đưa vào hệ thống AI không phải là một bản ghi trung lập về thực tại.
Con người mới là bên quyết định dữ liệu nào cần thu thập, cách thức gán nhãn và phân loại dữ liệu, cũng như xác định trải nghiệm của ai là quan trọng. Những quyết định này chịu ảnh hưởng bởi lịch sử, bởi các chuẩn mực văn hóa, bởi các thể chế và bởi tình trạng mất cân bằng quyền lực hiện có.
Bất cứ khi nào xã hội gắn liền vai trò lãnh đạo với nam giới, kỹ năng kỹ thuật với người có nước da sáng màu, hay sự đổi mới sáng tạo với người trẻ, thì các mô hình AI sẽ học hỏi từ những mối liên kết đó, rồi chính thức hóa, tự động hóa và lặp lại chúng trên quy mô lớn hơn.
Thiên kiến cũng thường xuất hiện thông qua sự giao thoa giữa nhiều khía cạnh danh tính [identity], chẳng hạn như giới, chủng tộc, độ tuổi, tình trạng khuyết tật và giai tầng xã hội. Một hệ thống có vẻ công bằng khi kiểm tra riêng lẻ từng khía cạnh danh tính vẫn có thể gây bất lợi cho những người mang sự kết hợp của nhiều khía cạnh trong số đó.
Xây dựng một hệ sinh thái AI toàn diện hơn
Đó là lý do tại sao việc xây dựng một hệ sinh thái AI toàn diện hơn lại đòi hỏi tri thức liên ngành, chẳng hạn như trang bị cho các kỹ sư AI những hiểu biết về các lý thuyết khoa học xã hội để họ nắm bắt được gốc rễ xã hội của thiên kiến.
AI toàn diện không phải là vấn đề tính đúng đắn về chính trị; mà là việc đề cao các quyền con người, ngăn ngừa tổn hại, đảm bảo công lý và tạo dựng lòng tin.
Điều này cũng đòi hỏi sự tham gia thực chất từ các nhóm chịu ảnh hưởng, cũng như sự quan tâm thường xuyên lên các cấu trúc quyền lực mà các hệ thống này vận hành trong đó. Các nhóm phát triển AI không chỉ nên kiểm tra độ chuẩn xác của mô hình, mà còn cần xem xét liệu những lợi ích, sai sót và tổn hại mà nó tạo ra có được phân bổ công bằng giữa các nhóm đối tượng khác nhau hay không.
Nhìn chung, việc phối hợp thực hiện những điều này sẽ giúp các hãng công nghệ hiểu rõ hơn bản chất của thiên kiến khi nó được thể hiện thông qua AI, bộc lộ thông qua AI, từ đó phát triển các phương pháp hoặc công cụ mới nhằm giảm thiểu tổn hại do nó gây ra.
Các tổ chức ứng dụng AI cũng cần cơ chế quản trị [governance] chặt chẽ hơn để giám sát hoạt động của công nghệ này. Chẳng hạn, điều này có thể bao gồm việc chỉ định nhân sự chịu trách nhiệm nhận định rủi ro cũng như xử trí sự cố và giám sát hệ thống sau khi chúng được đưa vào vận hành.
Các thuật toán không tự quyết định dữ liệu nào là quan trọng hay mức độ rủi ro nào là chấp nhận được. Chính con người mới là bên đưa ra những lựa chọn đó. Đã đến lúc các hãng công nghệ cần ghi nhớ điều này. Trọng tâm không chỉ nên đặt vào việc khắc phục thuật toán bị thiên kiến, mà còn cần xem xét kỹ lưỡng các quyết định của con người đã dẫn đến nguy cơ gây tổn hại, cũng như xác định xem ai đã vắng mặt hoặc thiếu sự tham gia khi các quyết định đó được đưa ra.
Các từ khóa: Trí tuệ Nhân tạo (AI), Thiên kiến, Các hãng công nghệ lớn, Các tổn hại do AI gây ra
THÔNG TIN VỀ CÁC TÁC GIẢ CỦA BÀI BÁO
Nhà khoa học nghiên cứu chính, Tổ chức Khoa học và Nghiên cứu Công nghiệp Khối Thịnh vượng Chung (CSIRO)
Giáo sư, Nhà khoa học nghiên cứu chính cấp cao, Tổ chức Khoa học và Nghiên cứu Công nghiệp Khối Thịnh vượng Chung (CSIRO)
Tuyên bố công khai
Các tác giả không làm việc, tư vấn, sở hữu cổ phần hoặc nhận tài trợ từ bất kỳ công ty hay tổ chức nào có thể hưởng lợi từ bài báo này, đồng thời không có mối liên hệ nào khác ngoài chức danh học thuật của họ.
Nguyễn Việt Anh dịch
Bài có liên quan: Thông điệp đầu tiên của giáo hoàng Leo XIV nói gì về quyền lực của trí tuệ nhân tạo?
Nguồn: AI bias isn’t just an error in the algorithm. It’s a chain of human decisions, The Conversation, Aug 20, 2026.
