ĐỂ HIỂU NHỮNG RỦI RO TỪ AI, HÃY DÕI THEO ĐỒNG TIỀN
 |
| Shutterstock/Chaosamran Studio |
Hết lần này đến lần khác, các nhà khoa học, kỹ sư công nghệ và triết gia hàng đầu đã đưa ra những dự đoán sai lệch khủng khiếp về phương hướng của sự đổi mới. Ngay cả Einstein cũng không ngoại lệ khi tuyên bố: “Chẳng có chút dấu hiệu nào cho thấy năng lượng hạt nhân là có thể khai thác” chỉ mười năm trước khi Enrico Fermi hoàn thành việc xây dựng lò phản ứng phân hạch đầu tiên ở Chicago. Ngay sau đó, mối quan tâm chung chuyển sang nỗi sợ về một vụ thảm sát hạt nhân cận kề.
Tương tự, các chuyên gia ngày nay cảnh báo rằng ngày tận thế do trí tuệ nhân tạo tổng quát (Artificial General Intelligence – AGI) gây ra đã gần ngay trước mắt. Những người khác phản pháo rằng các mô hình ngôn ngữ lớn (LLM) đã đạt đỉnh điểm các năng lực của chúng.
Khó mà phản bác luận
điểm đầy sức ảnh
hưởng của David
Collingridge rằng việc cố gắng dự đoán những rủi ro do công nghệ
mới gây ra là chuyện công dã tràng. Biết rằng các nhà khoa học và công nghệ hàng đầu của chúng
ta thường sai lầm về sự phát triển công nghệ, liệu các nhà hoạch định chính sách có cơ hội nào trong việc điều tiết một cách hiệu quả các rủi ro công nghệ nảy ra từ trí tuệ nhân tạo (AI)?
Chúng ta nên chú ý tới lời cảnh báo của Collingridge rằng công nghệ tiến triển theo những cách bất định. Tuy nhiên, có một loại rủi ro AI thường có thể lường trước được. Đó là những rủi ro bắt nguồn từ sự chênh lệch giữa các động cơ kinh tế của công ty muốn thu lợi từ mô hình AI độc quyền của họ theo một cách cụ thể và lợi ích của xã hội về cách triển khai và kiếm tiền từ mô hình AI này.
 |
| Albert Einstein ngồi trong văn phòng của ông tại Đại học Princeton, New Jersey, ảnh do Roman Vishniac chụp năm 1942. Bộ sưu tập nghệ thuật và đời sống Do Thái của Magnes/Flickr, CC BY-NC-SA |
Để bỏ qua chênh lệch kiểu này thì cách chắc chắn nhất là tập trung hoàn toàn vào các câu hỏi kỹ thuật về các năng lực của mô hình AI, tách biệt khỏi môi trường kinh tế xã hội nơi các mô hình này sẽ hoạt động và được thiết kế vì lợi nhuận.
Tập trung vào những rủi ro kinh tế từ AI không chỉ đơn giản là ngăn chặn tình trạng “độc quyền”, “tự ưu tiên” hay “sự thống trị của những gã khổng lồ công nghệ (Big Tech)”. Đó còn là việc đảm bảo rằng môi trường kinh tế tạo điều kiện cho đổi mới không khuyến khích những rủi ro công nghệ khó dự đoán khi các công ty “tiến nhanh và phá vỡ mọi thứ” trong cuộc đua giành lợi nhuận hoặc thống trị thị trường.
Đó cũng là việc đảm bảo rằng giá trị từ AI được chia sẻ rộng rãi, bằng cách
ngăn chặn sự hợp nhất sớm. Chúng ta sẽ thấy nhiều sự đổi mới hơn nếu ai cũng tiếp cận được các
công cụ AI mới nổi, nhờ đó một hệ sinh thái phân tán gồm các hãng sản xuất, công ty khởi
nghiệp và công cụ AI mới có thể xuất hiện.
OpenAI đã trở thành người chơi thống trị với hàng
triệu người dùng và doanh
thu 2 tỷ USD (49,64 ngàn tỷ VND) mỗi năm. Cửa hàng GPT và các công cụ dành cho nhà phát triển cần trả lại giá trị
cho những người tạo ra chúng để đảm bảo hệ sinh thái của
sự đổi mới vẫn tồn tại và phân tán.
Bằng cách xem xét kỹ lưỡng hệ thống các động cơ kinh tế nền tảng cho những
đổi mới và cách kiếm tiền từ công nghệ
trong thực tế, chúng ta có thể hiểu rõ hơn về các rủi ro, cả về kinh tế lẫn công nghệ, được nuôi
dưỡng bởi cấu trúc thị trường. Cấu trúc thị trường không chỉ đơn giản là số lượng
công ty mà
còn là cơ cấu chi phí và các động cơ kinh tế trên thị trường xuất phát từ các thể chế,
các quy định liên quan của chính phủ và nguồn tài chính sẵn có.
Giảm chất lượng để có lợi nhuận cao hơn
Việc xem xét cách
các công nghệ thuật toán lõi của các nền tảng tổng
hợp thời trước (hãy nghĩ tới Amazon, Google và Facebook trong số những cái tên khác) ban đầu được triển khai để làm lợi cho người dùng, song cuối cùng lại được tái lập trình để tăng lợi
nhuận cho nền tảng đó sẽ mang lại nhiều bài học hữu ích.
Các rắc rối nảy sinh từ các
thuật toán truyền thông xã hội, tìm kiếm và đề xuất chưa bao giờ là vấn đề kỹ thuật, mà là
do những động cơ tài chính (của tăng trưởng lợi nhuận)
không đi cùng việc triển khai các thuật toán an toàn, hiệu quả và công bằng. Như người
ta thường nói: lịch sử
không nhất thiết phải lặp lại nhưng luôn có sự tương đồng.
Để hiểu cách các nền tảng phân bổ giá trị cho chính chúng và liệu chúng ta có thể
làm gì, chúng
tôi đã nghiên cứu vai
trò của thuật toán, và cách thiết lập thông tin độc đáo của thị trường kỹ thuật số, trong việc khai thác cái gọi là tô kinh tế (economic rent) từ người
dùng và nhà sản xuất trên các nền tảng. Trong lý thuyết kinh tế, tô là khoản “lợi nhuận siêu
bình thường” (lợi nhuận cao hơn mức có thể đạt được trong một thị trường cạnh tranh) và phản ánh sự kiểm soát đối với một số nguồn lực khan hiếm.
Quan trọng hơn,
tô là lợi nhuận thuần túy đến từ quyền sở hữu hoặc một
mức độ quyền lực độc quyền nào đó, chứ không phải lợi nhuận kiếm được từ việc sản
xuất thứ gì đó trong một thị trường cạnh tranh (chẳng hạn như nhiều nhà sản xuất chế tạo và bán ô tô). Đối với các nền tảng kỹ thuật số,
việc khai thác các khoản tô kỹ thuật số thường kéo theo việc làm giảm chất lượng
thông tin hiển thị cho người dùng, do các nền tảng
này “sở hữu” quyền truy cập vào đông
đảo khách hàng.
Ví dụ: hàng triệu người dùng của Amazon dựa vào các
thuật toán tìm kiếm để xem những sản phẩm tốt
nhất có sẵn để bán, vì người dùng không thể kiểm tra từng món riêng lẻ. Các thuật toán này giúp mọi người tiết
kiệm thời gian và tiền bạc: bằng cách giúp người dùng điều hướng qua hàng nghìn
sản phẩm để tìm ra những sản phẩm có chất lượng cao nhất và giá bán thấp nhất, đồng thời
bằng cách mở rộng phạm vi tiếp cận thị trường của các nhà cung cấp thông qua cơ
sở hạ tầng giao hàng và mạng lưới khách hàng rộng lớn của Amazon.
Những nền tảng này giúp thị trường hiệu quả hơn và mang lại giá trị to lớn
cho cả người dùng lẫn nhà cung cấp sản phẩm. Nhưng theo thời gian, độ lệch
giữa lời hứa ban đầu về việc cung cấp
giá trị cho người dùng và nhu cầu tăng lãi kinh doanh khi tốc độ tăng trưởng chậm lại đã dẫn đến hành vi
xấu trên nền tảng. Hoạt động kinh doanh quảng cáo của Amazon là một trường hợp
điển hình.
Quảng cáo của Amazon
Trong nghiên
cứu của chúng tôi về
Amazon, chúng tôi nhận thấy rằng người dùng vẫn có xu hướng nhấp vào những kết quả sản phẩm ở đầu
trang, ngay cả khi chúng không còn là kết quả tốt nhất mà thay vào đó là các vị trí
quảng cáo trả phí. Amazon lạm dụng thói quen tin tưởng vào các thuật toán tìm kiếm
này của người
dùng, phân bổ sự chú ý và các lần nhấp
chuột của họ vào thông tin kém chất lượng được tài trợ, để thu
được lợi nhuận khổng lồ.
Chúng tôi nhận thấy rằng, trung bình, các sản phẩm được tài trợ (quảng cáo) nhận được lượng nhấp chuột nhiều nhất đắt hơn 17% và được xếp hạng thấp hơn 33% theo các thuật toán của chính Amazon về tối ưu hóa chất lượng, giá cả và mức độ phổ biến của sản phẩm được truy cập. Và bởi vì các nhà cung cấp sản phẩm giờ đây phải trả tiền cho thứ hạng sản phẩm, cái mà trước đây họ kiếm được thông qua chất lượng và uy tín của sản phẩm, lợi nhuận của họ giảm xuống trong lúc lợi nhuận của Amazon tăng thêm, và giá bán tăng khi một phần chi phí bị đẩy cho khách hàng.
Amazon là một trong những ví dụ nổi bật nhất về một công ty đổi hướng từ sứ
mệnh “cao đẹp”
ban đầu (“trở thành
công ty tốt nhất trên Trái đất lấy khách hàng làm trung tâm”) sang mô hình kinh
doanh trục lợi. Nhưng đây chẳng phải chuyện hiếm.
Dần dần, Google, Meta và hầu như tất cả các nền tảng tổng hợp trực tuyến
lớn khác đều ưu tiên lợi ích kinh tế hơn lời hứa
ban đầu với người dùng và với hệ sinh thái gồm các
nhà cung cấp nội dung và sản phẩm hoặc nhà phát triển ứng dụng. Nhà văn khoa học
viễn tưởng và nhà hoạt động Cory Doctorow gọi đây là “sự xuống dốc” [enshittification] của các
nền tảng công nghệ lớn.
Nhưng không phải tất cả các loại tô đều xấu. Theo nhà kinh tế học Joseph Schumpeter, phần tô mà một công ty nhận
được từ việc đổi mới có thể mang lại lợi
ích cho xã hội. Các nền tảng
của các tập đoàn công nghệ lớn đã dẫn đầu nhờ những đột phá tân tiến, vượt trội trong thuật toán. Những công ty dẫn đầu thị trường hiện nay về AI
cũng đang làm điều tương tự.
Vì vậy, mặc dù tô theo kiểu Schumpeter là có thực và hợp lý, nhưng theo thời gian và dưới áp
lực tài chính bên ngoài, những kẻ dẫn đầu thị trường bắt đầu sử dụng sức mạnh thị
trường dựa trên thuật toán của mình để chiếm phần lớn hơn trong tổng giá trị do hệ
sinh thái gồm các nhà quảng cáo, nhà cung cấp và người dùng tạo ra, nhằm duy
trì tăng trưởng lợi nhuận.
Các sở thích của
người dùng đã bị giảm tầm quan trọng trong thuật toán để ưu tiên nội dung dễ sinh
lời hơn. Đối với các nền tảng truyền
thông xã hội, đó là nội dung gây nghiện nhằm tăng thời gian sử dụng nền tảng bằng mọi giá, bất chấp sức
khỏe của người
dùng. Trong khi đó, những
nhà cung cấp giá trị cuối cùng cho nền tảng – những người sáng tạo nội dung, chủ sở hữu trang web và
người bán – đã phải nhượng lại nhiều lợi nhuận hơn cho
chủ sở hữu nền tảng. Trong quá trình này, lợi nhuận và tỷ suất lợi nhuận đã tập trung vào
tay một số ít nền tảng, khiến việc đổi mới của các công ty bên ngoài trở nên
khó khăn hơn.
Một nền tảng buộc
hệ sinh thái các doanh nghiệp của mình phải trả phí ngày càng cao (mà không đem
lại giá trị tương xứng cho cả người dùng lẫn nhà cung cấp trên đó) là điều không chính đáng. Đây là báo động cho thấy
nền tảng đó đang nắm quyền lực thị trường và đang lợi dụng nó để thu tô không
chính đáng. Bản công bố kết quả tài chính theo quý gần đây nhất của
Amazon (quý 4, 2023), cho thấy
tăng trưởng doanh số bán hàng trực tuyến tăng 9% so với cùng kỳ năm trước, nhưng các khoản phí tăng 20% (dịch vụ bán hàng bên thứ ba) và 27% (doanh thu quảng cáo).
Điều quan trọng
cần nhớ trong bối cảnh rủi ro và đổi mới là việc triển khai các công nghệ thuật
toán có tính chất trục lợi của các tập đoàn công nghệ lớn không phải là một rủi
ro không thể biết trước, như Collingridge đã chỉ ra. Đây là một rủi ro kinh tế
có thể dự đoán. Việc theo đuổi lợi
nhuận thông qua việc khai thác các nguồn lực khan hiếm dưới sự kiểm soát của một bên là câu chuyện cũ như chính thương mại vậy.
Các biện pháp bảo
vệ công nghệ đối với thuật toán, cũng như việc công khai chi tiết hơn về cách
các nền tảng kiếm tiền từ thuật toán của họ, có thể đã ngăn chặn được những
hành vi như vậy. Thuật toán đã trở thành người gác cổng thị trường và phân bổ
giá trị, và giờ đây đang trở thành người sản xuất và trọng tài của tri thức.
Các rủi ro đến từ thế hệ AI tiếp theo
Các giới hạn mà chúng ta đặt ra đối với các thuật toán và mô hình AI sẽ là
công cụ để định hướng hoạt động kinh tế và sự chú ý của con người vào các mục đích hiệu quả.
Nhưng rủi ro từ thế hệ hệ thống AI tiếp theo lớn đến mức
nào? Chúng sẽ định hình không chỉ thông tin nào được hiển thị cho chúng ta, mà
còn cả cách chúng ta suy nghĩ và thể hiện bản thân. Việc tập trung sức mạnh của AI vào tay một số thực
thể hoạt động vì lợi nhuận, vốn có khả năng phải đối mặt
với động cơ kinh tế cho hành vi xấu trong tương lai, chắc chắn là một ý tưởng tồi.
May mắn thay, xã
hội không hề bất lực trong việc định hình các rủi ro kinh tế thường xuất hiện
sau mỗi cải tiến mới. Những rủi ro phát sinh từ môi trường kinh tế, nơi diễn ra đổi mới,
không phải là bất biến. Cấu trúc thị
trường được định hình bởi các cơ quan quản lý và các thể
chế thuật toán của một nền tảng (đặc biệt là các thuật toán tạo
ra sự phân bổ giống như thị trường). Cùng nhau, những nhân tố này ảnh hưởng lên mức
độ mạnh mẽ của
hiệu ứng mạng, hiệu quả kinh tế nhờ quy mô và phạm vi trong một thị trường, bao gồm cả phần thưởng cho sự thống trị thị trường.
Các yêu cầu về công nghệ như khả
năng tương thích, tức khả năng các hệ thống kỹ thuật số khác nhau có thể
hoạt động liền mạch với nhau; hoặc giữa các thiết bị với
nhau (side-loading), phương pháp cài đặt ứng dụng từ các nguồn không phải
là cửa hàng chính thức của nền tảng, đã định hình sự
linh hoạt trong việc di động của người dùng trong và giữa các thị trường, và do đó ảnh hưởng tới khả
năng khai thác lâu dài người dùng và hệ sinh thái của bất kỳ thực thể thống trị
nào. Các giao thức internet đã giúp
giữ internet luôn mở thay vì đóng. Phần mềm mã nguồn mở
đã giúp nó thoát khỏi sự thống trị của độc quyền trong thời đại PC. Khả năng tương thích và mã nguồn mở có thể đóng góp
gì vào việc giữ cho ngành AI
trở thành một thị trường cạnh tranh và bao trùm hơn?
Công
bố
thông tin là một công cụ mạnh mẽ khác để định hình thị trường. Việc công bố có thể yêu cầu các công ty công nghệ cung cấp
thông tin và giải thích minh bạch về sản phẩm cũng như chiến lược kiếm tiền của
họ. Việc bắt buộc công bố lượng quảng cáo và các chỉ số
hoạt động khác có thể đã giúp ngăn chặn Facebook, chẳng hạn, khai thác quyền
riêng tư của người dùng nhằm tối đa hóa doanh thu quảng cáo từ việc thu thập dữ
liệu người dùng.
Tuy nhiên, việc
thiếu khả năng chuyển giao dữ liệu và không thể kiểm toán độc lập các thuật
toán của Facebook, đã để Facebook tiếp tục hưởng lợi từ hệ thống giám sát của
mình lâu hơn mức cần thiết. Ngày nay,
OpenAI và các nhà cung cấp mô hình AI hàng đầu khác từ chối tiết lộ bộ dữ liệu huấn luyện của họ, trong
khi các
câu hỏi về vi phạm bản quyền và ai có quyền hưởng lợi từ
các tác phẩm sáng tạo được AI hỗ trợ đang nổi lên. Các công bố và tiêu chuẩn
công nghệ mở là những bước quan trọng để thử và đảm bảo lợi ích từ các nền tảng AI mới nổi này được chia sẻ rộng rãi nhất có
thể.
Cấu trúc thị trường, và tác động của nó đến “ai nhận được cái gì và tại sao”, sẽ phát triển khi nền tảng công nghệ nhằm cho phép các công ty
cạnh tranh trong một thị trường cũng phát triển. Vì vậy, có lẽ đã đến lúc chúng ta phải
chuyển góc độ điều tiết của mình khỏi việc cố gắng dự
đoán những rủi ro cụ thể có thể phát sinh khi các công nghệ cụ thể phát triển. Rốt cuộc, ngay cả Einstein cũng không thể làm được điều
đó.
Thay vào đó, chúng ta nên cố gắng điều chỉnh lại
các động cơ kinh tế cốt lõi của những đổi mới ngày nay, tránh xa việc sử dụng công nghệ AI đầy rủi ro và
hướng tới các thuật toán AI mở và có trách nhiệm hỗ trợ cũng
như phân tán giá trị một cách công bằng.
Càng sớm nhận ra rằng các rủi ro công nghệ thường
là hệ quả tự nhiên của các động cơ kinh tế không phù hợp thì chúng ta càng có thể hành động nhanh chóng hơn để
tránh lặp lại những sai lầm trong quá khứ.
Chúng tôi không phản đối việc Amazon cung cấp dịch vụ quảng cáo cho các
công ty trên thị trường bên thứ ba của họ. Lượng không gian quảng cáo thích hợp thực sự có thể
giúp các doanh nghiệp hoặc sản phẩm ít được biết đến, với các ưu đãi cạnh tranh, thu hút
sự chú ý một cách công bằng. Nhưng khi quảng cáo gần như thay thế hoàn toàn các
kết quả tìm kiếm sản phẩm tự nhiên đứng đầu, quảng cáo sẽ trở thành một công cụ trục lợi cho nền tảng.
Người phát ngôn của Amazon cho biết:
Chúng tôi không đồng ý với một số kết luận được đưa ra trong nghiên cứu
này, trong đó xuyên tạc và phóng đại những dữ liệu hạn chế mà nó sử dụng. Nó bỏ qua việc doanh số bán hàng từ các nhà bán hàng độc lập, vốn
đang tăng trưởng nhanh hơn doanh số của chính Amazon, đóng góp vào doanh thu từ dịch vụ, và rằng nhiều dịch vụ
quảng cáo của chúng tôi không xuất hiện trên cửa hàng.
Amazon luôn chú trọng vào việc làm cho cuộc sống của khách hàng trở nên dễ
dàng hơn và một phần quan trọng trong đó là đảm bảo khách hàng có thể nhanh chóng và thuận tiện khi tìm kiếm và khám phá các sản phẩm họ muốn trong cửa hàng của chúng tôi. Quảng cáo
đã là một phần không thể thiếu trong lĩnh vực bán lẻ trong nhiều thập kỷ và bất
cứ khi nào chúng tôi đưa quảng cáo vào, chúng đều được đánh dấu rõ ràng là 'Được tài
trợ'. Chúng tôi cung cấp sự kết hợp giữa kết quả tìm kiếm tự nhiên và được tài trợ dựa trên các nhân tố bao gồm mức
độ liên quan, độ phổ biến với khách hàng, tính sẵn có, giá cả và tốc độ giao
hàng, cùng với các bộ lọc tìm kiếm hữu ích để tinh chỉnh kết quả khác. Chúng tôi cũng đã đầu tư hàng tỷ đô la vào các công cụ và dịch vụ
cho người bán để giúp họ phát triển và các dịch vụ bổ sung như quảng cáo và hậu
cần là hoàn toàn tùy chọn.
Tác giả
Giáo sư thỉnh giảng Thực hành tại Viện Đổi mới và Mục đích Công UCL, UCL
Trưởng phòng Nghiên cứu Kinh tế Kỹ thuật số, UCL
Giáo sư về Kinh tế Đổi mới và Giá trị Công đồng thời là Giám đốc sáng lập của
UCL IIPP, UCL
Nhà nghiên cứu, Viện Đổi mới và Mục đích Công, UCL
Tuyên bố công khai
Dự án của chúng tôi tại UCL, được đề cập trong bài viết này, được tài trợ bởi
Omidyar. Cá nhân tôi không nhận được bất kỳ khoản thù lao nào từ khoản tài trợ
này, nhưng tôi tin rằng tất cả các đồng tác giả của tôi đều nhận được.
Ilan Strauss nhận tài trợ từ Mạng Omidyar thông qua dự án nghiên cứu UCL
IIPP về tô
thuật toán [algorithmic
rents].
Mariana Mazzucato đã nhận được tài trợ cho dự án này từ Quỹ Omidyar.
Rufus Rock đã nhận được tài trợ từ Mạng lưới Omidyar trong khi theo đuổi
nghiên cứu được đề cập trong phần này.
Huỳnh
Thị Thanh Trúc dịch
Nguồn: To understand the risks posed
by AI, follow the money, The Conversation, April 10, 2024.
