Snapchat bị cáo buộc phớt lờ vụ sextortion, kèm theo tội grooming trẻ em trong vụ kiện tại New Mexico

Snapchat (Snap) đã tiếp thị một cách đánh lừa đến giới trẻ mặc dù có rủi ro lớn về các dạng lừa đảo tình dục (sextortion), theo bản kiện cáo của New Mexico đưa ra. Tiểu bang này đã kiện cáo nền tảng này vào đầu tháng 9, với cáo buộc rằng họ đã không làm đủ để cảnh báo người dùng về rủi ro trực tuyến mặc dù nhân viên đã cảnh báo.

Sự kiện của New Mexico cho rằng nền tảng này đã cân nhắc chi phí để giải quyết vấn đề child grooming rộng lớn và quyết định rằng không đáng giá với gánh nặng hành chính, mặc dù đã cảnh báo rằng vấn đề đang ngày càng phổ biến với giới trẻ. Các thông tin nội bộ cho thấy công ty tin rằng nhiệm vụ “không nên là trách nhiệm của họ,” và nhân viên an toàn đã ghi chú rằng 90% các báo cáo đã bị bỏ qua để ưu tiên chỉ dùng thông báo tự động để nói với người dùng đơn giản chỉ “chặn người kia.”

Bản cáo cáo mới được giải mã chỉ ra một phân tích nội bộ năm 2022 cho thấy nhân viên công ty đã nhận khoảng 10.000 báo cáo về sextortion mỗi tháng. Số liệu đó có khả năng bị đánh giá thấp, công ty lưu ý nội bộ, vì nạn nhân thường chọn không báo cáo sự đe dọa. Các nhà điều hành cũng nói rằng họ không thể xác minh tuổi của người dùng, và rằng báo cáo người dùng, cũng như những người thực hiện đã biết, “đang bị bỏ sót.”

“Chúng tôi tiếp tục phát triển cơ chế và chính sách an toàn của mình, từ việc sử dụng công nghệ tiên tiến để phát hiện và chặn một số hoạt động, đến cấm kết bạn từ những tài khoản đáng ngờ, đến làm việc cùng các cơ quan chức năng và cơ quan chính phủ, cùng với nhiều điều khác nữa,” một phát ngôn viên của công ty đã nói trong bình luận về bản kiện cáo.”Chúng tôi biết rằng không ai, không cơ quan nào, hay không công ty nào có thể đẩy mạnh công việc này một mình, đó là lý do tại sao chúng tôi đang làm việc cộng tác cùng với ngành công nghiệp, chính phủ và cơ quan chức năng để trao đổi thông tin và xây dựng phòng ngự mạnh mẽ hơn.”

Nhưng công ty không đồng ý với cách thông báo cho người dùng “mà không tạo ra nỗi sợ hãi cho Snapchatters,” cáo tồn vụ kiện này, và các biện pháp an toàn nội bộ của họ không đủ. Các tính năng thiết kế khác, như Streaks và Quick Add, dường như tạo điều kiện cho hành vi lạm dụng, tiểu bang này lập luận. Snap đáp lại cáo buộc ban đầu, nói rằng họ chia sẻ lo ngại của tiểu bang và công chúng về an toàn trực tuyến.

Ngay từ khi ra đời, nền tảng trò chuyện trước đã được liên kết với tin nhắn rõ ràng và nội dung không an toàn cho công việc. Khiến cho người dùng hiểu lầm về bản chất của ảnh “biến mất” của ứng dụng — Snapchat đã thông báo cho người dùng rằng nội dung có thể dễ dàng được lưu và chia sẻ. Trong những năm gần đây, xu hướng “sexting” dựa trên ứng dụng đã tăng lại trong số người dùng trẻ hơn — nhiều trong số họ đồng thời hướng tới người lạ trực tuyến để tìm sự an ủi và lời khuyên. Cả hai hành vi đều có khả năng mở ra cho giới trẻ rủi ro bị săn đuổi.

Vấn đề không chỉ xuất phát từ trẻ em: các kế hoạch sextortion đang trở nên trầm trọng trên không gian số, với kẻ săn lùng trực tuyến và lừa đảo sử dụng đe dọa về việc tiết lộ hình ảnh rõ ràng để yêu cầu cá nhân trả tiền. Hai trò lừa dựa trên sextortion gần đây cũng dựa vào việc truy cập vào dữ liệu cá nhân của nạn nhân (mặc dù, có lẽ vẫn có sẵn công khai), như là tên vợ/chồng hoặc hình ảnh của địa chỉ nhà bạn, để tăng tính hợp lý cho những yêu cầu của họ.

Nhưng, đáng báo động, hiện tượng thường đe dọa tính mạng đang ngày càng lan rộng trong giới trẻ và càng trẻ tuổi — và trong các mối quan hệ tương tác — khi các công cụ AI sáng tạo trở nên dễ tiếp cận hơn. Các chuyên gia khuyên rằng nên cảnh giác và chuẩn bị khi những người chăm sóc cảnh báo con cái của họ về rủi ro trực tuyến, bao gồm cả rủi ro liên quan đến tình dục và công nghệ.

Trên cả nước, các nhà lãnh đạo tiểu bang và các quận học tập tiếp tục tiến hành hành động pháp lý đối với các nền tảng truyền thông xã hội họ cho rằng đang đặt nguy cơ cho giới trẻ, không cảnh báo người chăm sóc, và đánh đổi tinh thần của các thế hệ.

“Đáng buồn khi thấy nhân viên Snap đã đưa ra nhiều tín hiệu đỏ mà vẫn bị lãnh đạo bỏ qua,” viện trưởng Torrez viết. “Càng đáng lo ngại hơn khi thông tin không che phủ cho thấy các tính năng gây nghiện trên Snapchat đã được công nhận một cách rõ ràng và khuyến khích để tiếp tục tồn tại trên nền tảng.”

Snapchat (Snap) has been deceptively marketing itself to young people despite monumental risks of sexual scams (sextortion), according to New Mexico Attorney General Raul Torres. The state filed a lawsuit against the platform in early September, alleging it did not do enough to warn users of online risks despite employees waving red flags.

New Mexico’s suit claims that the platform weighed the cost of addressing widespread child grooming and decided it wasn’t worth the administrative burden, despite warnings that the problem was becoming more common among teens. Internal communications show the company believed the task “should not be its responsibility,” and safety staff documented that 90 percent of reports were ignored in favor of automatic prompts telling users to merely “block the other person.”

The newly unredacted complaint points to a 2022 internal analysis showing company employees were fielding around 10,000 reports of sextortion each month. Those numbers are most likely grossly underestimated, the company noted internally, as victims frequently choose not to report intimidation. Executives also said they couldn’t actually verify user ages, and that user reports, as well as known perpetrators, were “falling through the cracks.”

“We continue to evolve our safety mechanisms and policies, from leveraging advanced technology to detect and block certain activity, to prohibiting friending from suspicious accounts, to working alongside law enforcement and government agencies, among so much more,” a company spokesperson said in a comment on the filing.”We know that no one person, agency, or company can advance this work alone, which is why we are working collaboratively across the industry, government, and law enforcement to exchange information and concept stronger defenses.”

But the company disagreed on how to warn users “without stoking fear in Snapchatters,” the suit claims, and its internal safety measures failed to stack up. Other design features, such as Streaks and Quick Add, appear to enable abusive behavior, the state argues. Snap responded to the initial filing, saying it shared the state’s and public’s concerns about online safety.

Almost since its inception, the communication-first platform has been associated with explicit messaging and NSFW content, pegged to the misunderstood nature of the app’s “disappearing” images — Snapchat has informed users that content can be easily saved and shared. In recent years, the trend of app-based “sexting” has risen once again among younger users — many of them are simultaneously turning to strangers online for comfort and advice. Both behaviors have the possibility of opening up young people to the risk of predation.

The problem isn’t just with the young: Sextortion schemes are worsening across digital spaces, with online predators and scammers using the threat of unveiled explicit imagery to demand individuals pay up. Two recent sextortion-based scams also hinge on access to a victim’s personal (though, most likely, still publicly available) data, like your spouse’s name or photos of your home address, to add legitimacy to their claims.

But, alarmingly, the often life-threatening phenomenon is growing among younger and younger populations — and within interpersonal relationships — as generative AI tools become more accessible. Experts have urged vigilance and preparedness as caregivers warn their children about online risks, including sex-based and technological threats.

Nationwide, state leaders and school districts continue pursuing legal action against social media platforms who they claim are putting young people at risk, failing to warn caregivers, and jeopardizing the mental wellbeing of generations.

“It is disheartening to see that Snap employees have raised many red flags that have continued to be ignored by executives,” wrote attorney general Torrez. “What is even more disturbing is that unredacted information shows that the addicting features on Snapchat were blatantly acknowledged and encouraged to remain active on the platform.”