Phiên bản TikTok Lite bỏ lỡ lên đến 1 tỷ người dùng với ít bảo vệ hơn
Trong tháng 5, TikTok đã công bố rằng họ sẽ tự động gắn nhãn cho nội dung được tạo bởi trí tuệ nhân tạo trên nền tảng của họ. Tuy nhiên, điều này không đúng với tất cả các phiên bản của ứng dụng. Một báo cáo mới từ Quỹ Mozilla và AI Forensics cho biết rằng phiên bản TikTok Lite-Save Data, nhằm vào người dùng trong các thị trường nghèo, không chỉ để lại nội dung được tạo bởi trí tuệ nhân tạo không được gắn nhãn, mà còn thiếu các biện pháp bảo vệ khác tương tự.
“Việc gắn nhãn là một chiến lược rất quan trọng mà các nền tảng sử dụng để cung cấp một số hình thức tin cậy và an toàn,” Odanga Madung, một học viên của Mozilla và cộng tác giả của báo cáo cho biết.
Người dùng phiên bản đầy đủ của TikTok, ví dụ, sẽ thấy các nhãn chỉ ra rằng nội dung là đồ họa hoặc mô tả hành vi nguy hiểm. Một số nội dung về các chủ đề như bầu cử và sức khỏe, tương tự, bao gồm một thông báo khuyến khích người dùng truy cập thông tin đáng tin cậy thông qua “hub nguồn lực” trên ứng dụng.
Trong TikTok Lite, không có một trong những rào cản bảo vệ này. Trong số những điều này, điều này có nghĩa là với nội dung được tạo bằng trí tuệ nhân tạo gian lận là một vấn đề trong bầu cử trên toàn thế giới, người dùng trong các thị trường nghèo đang được cung cấp ít thông tin hơn về cái gì là giả mạo và cái gì là thật so với người dùng trong các thị trường giàu có.
Madung đặt câu hỏi vì sao, trong số tất cả các tính năng mà có thể bị cắt để tối ưu hóa ứng dụng, công ty đã bao gồm các tính năng làm cho nền tảng an toàn hơn cho người dùng. “Chúng tôi không biết đây là một lựa chọn hay là sơ suất,” ông nói.
“Có một số không chính xác về sự thật trong báo cáo này mà đích thực biểu diễn cách tiếp cận của chúng tôi đối với an toàn,” một phát ngôn viên của TikTok nói trong một tuyên bố. “Thực tế là nội dung vi phạm các quy tắc của chúng tôi được gỡ bỏ khỏi TikTok Lite cách tương tự như ứng dụng chính của chúng tôi và chúng tôi cung cấp nhiều tính năng an toàn. ” Công ty từ chối chỉ ra bất kỳ không chính xác cụ thể nào.
Phiên bản Lite của các ứng dụng lâu nay đã là một cách để các công ty tăng thị phần trong các khu vực mà người dùng phải chịu chi phí dữ liệu cao hoặc chỉ có thể mua được điện thoại ít phát triển hơn. vào năm 2015, Công ty Meta, thời Facebook, ra mắt Facebook Lite, một phiên bản bị trói bớt của ứng dụng của nó mà tương thích hơn với các mạng dữ liệu 2G. Cùng năm đó, họ cũng ra mắt Free Basics, mà cho phép người dùng ở Đông Nam Á truy cập vào nền tảng và một số trang web khác mà không bị tính phí cho việc sử dụng dữ liệu. (Một ứng dụng hoặc dịch vụ đạt các tiêu chí này được gọi là “miễn phí.”). Lúc đó, dự án đã phải đối mặt với sự phê bình rộng rãi, đặc biệt là tại Ấn Độ, vì tạo ra một trải nghiệm hàng dạng thấp hơn cho khách hàng nghèo.
TikTok đã ra mắt phiên bản Lite của mình vào năm 2018 tại Thái Lan, và nhanh chóng mở rộng ra các thị trường khác ở Đông Nam Á, bao gồm Indonesia, Malaysia và Philippines. Ứng dụng, khác với phiên bản đầy đủ của TikTok, có thể hoạt động trên mạng 2G và 3G, hiện có hơn 1 tỷ lượt tải xuống, theo dữ liệu từ Cửa hàng Google Play. (TikTok Lite chỉ có sẵn cho điện thoại Android.)
“Phần lớn người dùng ở các khu vực nghèo về nguồn tài nguyên và thu nhập thấp,” Payal Arora, giáo sư của các nền văn hóa AI bao hàm tại Đại học Utrecht. Phiên bản Lite của các ứng dụng giúp các công ty thu hút những người này, điều mà bà cho biết đó là mối quan trọng hơn hơn so với những gì đã từng có trong quá khứ vì “dữ liệu là đồng tiền trong thị trường tiến triển và ứng dụng AI này.”
#TikTokLite #1BillionUsers #AIProtection #MozillaFoundation #AIForensics #OnlineSafety #TechnologyNews
Nguồn: https://www.wired.com/story/tiktok-lite-global-south/
In May, TikTok announced that it would automatically label AI-generated content on its platform. That’s not true, though, of all versions of the app. A new report from the Mozilla Foundation and AI Forensics finds that TikTok’s Lite-Save Data version, aimed at users in poorer markets, not only leaves AI-generated content unlabeled, but also lacks other, similar safeguards.
“Labeling is a very important tactic that platforms use to deliver some form of trust and safety,” says Odanga Madung, a Mozilla fellow and coauthor of the report.
Users of the full version of TikTok, for example, will see labels indicating that content is graphic or depicts dangerous behavior. Some content about topics like elections and health, similarly, includes a notice encouraging users to access credible information through a “resource hub” on the app.
On TikTok Lite, none of these guardrails are present. Among other things, this means that with deceptive AI-generated content an issue in elections all over the world, users in poorer markets are being given less information about what’s fake and what’s real than users in richer ones.
Madung questions why, of all the features that could be cut to optimize the app, the company included ones that make the platform safer for users. “We don’t know if this is a choice or if it’s just negligence,” he says.
“There are several factual inaccuracies in this report which fundamentally misrepresent our approach to safety,” a TikTok spokesperson said in a statement. “The fact is content that breaks our rules is removed from TikTok Lite the same way as our main app and we offer numerous safety features.” The company declined to point to any specific inaccuracies.
Lite versions of apps have long been a way for companies to increase market share in areas where users are subject to high data costs or can only afford less advanced phones. In 2015, Meta, then Facebook, launched Facebook Lite, a stripped-down version of its app that was more compatible with 2G data networks. That same year it also launched Free Basics, which allowed users in the Global South to access the platform and certain other websites without being charged for data usage. (An app or service meeting these criteria is called “zero-rated.”) At the time, the project faced widespread criticism, particularly in India, for creating a second-tier experience for poorer customers.
TikTok launched its Lite version in 2018 in Thailand, and rapidly expanded to other markets in Southeast Asia, including Indonesia, Malaysia, and the Philippines. The app, which unlike the full version of TikTok can run on 2G and 3G networks, now has more than 1 billion downloads, according to data from the Google Play Store. (TikTok Lite is only available for Android phones.)
“The majority of users in the Global South are low-income and resource-constrained,” says Payal Arora, professor of inclusive AI cultures at Utrecht University. Lite versions of apps help companies get these people on board, something she says is even more critical than it has been in the past because “data is currency in this AI-driven and AI-hungry market.”
[ad_2]
