Bí mật đằng sau sự gia tăng nội dung bạo lực trên Instagram: Lý do gì khiến các cuộn Instagram không ngừng chứa đựng hình ảnh đồ họa và bạo lực?

Meta nói rằng một loạt nội dung reels bạo lực và đồ họa được đề xuất cho người dùng Instagram là một lỗi đã được giải quyết. Cuộn là video của Instagram trên đoạn phim ngắn đang hy vọng trở thành một Đối thủ cạnh tranh khả thi với Tiktok vì ứng dụng đó vẫn bị đe dọa cấm Mỹ.

Chúng tôi đã sửa lỗi khiến một số người dùng xem nội dung trong nguồn cấp dữ liệu Instagram của họ không nên được khuyến nghị. Chúng tôi xin lỗi vì sai lầm, ”Meta nói trong một tuyên bố đến Tạp chí Phố Wall.

Lời xin lỗi đến một ngày sau khi người dùng trên mạng xã hội bao gồm X bắt đầu báo cáo rằng các nguồn cấp dữ liệu cuộn của họ đột nhiên hiển thị một số lượng lớn các video bạo lực. Các video thường hiển thị cảnh báo nội dung toàn màn hình và yêu cầu người dùng đồng ý xem chúng trước khi chúng có thể được phát (phản đối, cảnh báo đó có thể khiến mọi người tò mò hơn để xem những gì đằng sau bức màn). Các Tạp chí Trong báo cáo của mình đã mô tả một số nội dung được đề xuất:

Một tài khoản của phóng viên của Wall Street Journal có điểm số video về những người bị bắn, bị xáo trộn bởi máy móc và bị đẩy ra từ các chuyến đi công viên chủ đề, thường trở lại. Các video bắt nguồn từ các trang mà phóng viên không theo dõi với những cái tên như là Blackpeoplebeinghurt, trong số những người gây sốc, và poopledyinghub.

Vì vậy, nhiều người đã nhìn thấy dòng chảy mà hiện tượng nhanh chóng trở thành một thứ gì đó của một meme:

Tôi đã thấy các cuộn trên Instagram mà mọi người sẽ không tin, cartel làm trống đầy đủ các tạp chí trên một số người đàn ông, một người bịt mắt bị đánh đến chết, người phụ nữ sinh ra trong hồ bơi, một người phụ nữ ngồi trên đường, tất cả những cuộn phim đó sẽ bị mất trong thời gian, như nước mắt trong mưa. pic.twitter.com/dwabcc3yqa

– Rashed (@lipsofashes) Ngày 26 tháng 2 năm 2025

Giám đốc điều hành Meta Mark Zuckerberg đã công bố thay đổi quy mô rộng Đối với các chính sách kiểm duyệt của công ty ngay trước khi Tổng thống Trump nhậm chức, trong một hành động được coi là một động thái để xoa dịu chính quyền mới. Những người bao gồm, trong số những thứ khác, thay thế kiểm tra thực tế bằng một hệ thống gợi nhớ đến các ghi chú cộng đồng của X; Chỉ loại bỏ nội dung có nguy cơ cao nhất, như các mối đe dọa bạo lực trực tiếp; Và bỏ tự động quét hầu hết các nội dung bị cấm có lợi cho phép người dùng báo cáo vi phạm tiềm năng theo cách thủ công, bởi vì Zuckerberg cho biết các hệ thống tự động của họ đã mắc quá nhiều sai lầm.

Những người bảo thủ từ lâu đã bị cáo buộc kiểm duyệt không công bằng bởi các nền tảng truyền thông xã hội, ngay cả khi nội dung nghiêng bảo thủ thường xếp hạng phổ biến nhất trên Facebook nói riêng.

Trong khi Zuckerberg đã nhận được nhiều lời chỉ trích về các chính sách kiểm duyệt mới, đặc biệt là nhiều người lưu ý rằng chính sách mới cho phép người dùng gọi đồng tính luyến ái là một bệnh tâm thần, điều quan trọng cần lưu ý ở đây là Meta không giảm hoàn toàn điều độ. Theo các chính sách mới của mình, công ty cho biết họ vẫn sẽ loại bỏ nội dung đặc biệt bạo lực, chẳng hạn như các video mô tả sự mất tinh thần, những người bên trong hoặc cơ thể có thể nhìn thấy, cũng như nhận xét tàn bạo đối với hình ảnh mô tả sự đau khổ của con người và động vật. Nó cho phép một số nội dung bạo lực vẫn còn nếu nó được coi là giáo dục hoặc thông tin.

Meta, trong tuyên bố mới của mình, đã không giải thích lý do tại sao nội dung bạo lực đột nhiên xuất hiện trong rất nhiều nguồn cấp dữ liệu của người dùng. Nhưng công ty liên tục điều chỉnh các thuật toán của mình, đặc biệt là để tối đa hóa sự tham gia, và nó đã được ghi nhận rõ ràng rằng mọi người bị mê hoặc bởi cái chết, tội phạm thực sự và nội dung nội tạng khác. Một sự tò mò bệnh hoạn khiến mọi người muốn hiểu và tìm hiểu về cái chết và làm thế nào họ có thể tránh kết thúc trong những tình huống nguy hiểm.

Có thể việc nới lỏng các chính sách kiểm duyệt của Meta đã vô tình cho phép hình ảnh bạo lực được quảng bá (không rõ liệu việc gắn cờ tự động của Meta có còn áp dụng cho nội dung bạo lực hay không). Các Tạp chí Lưu ý, View View tính vào một số video được quảng bá cho thấy các khuyến nghị của Instagram đã tăng cường lượng người xem, với số lượt xem đối với chúng thường vượt quá các bài đăng khác của tài khoản bởi hàng triệu lượt xem. Tín hiệu mà các mạng xã hội theo truyền thống sử dụng để xác định nội dung hấp dẫn bao gồm thời gian mọi người tiếp tục xem chúng trước khi bỏ qua video tiếp theo và bao nhiêu lần họ được chia sẻ với bạn bè. Nội dung gây sốc, thái quá từ lâu đã hoạt động trực tuyến tốt vì lý do này (một số có thể nhớ trang web gây sốc bestgore.com): CNTT thu hút sự tham gia.

Một câu chuyện gần đây là minh họa về cách mọi người say mê nội dung đen tối, ngay cả khi nó khiến họ cảm thấy tồi tệ hoặc lo lắng. 404 phương tiện truyền thông ghi lại Làm thế nào một YouTuber ẩn danh đã tận dụng hình ảnh AI và tạo văn bản để bơm kênh của họ đầy những câu chuyện tội phạm thực sự giả mạo, khai thác sự quan tâm của mọi người đối với nội dung ẩn náu như vậy để kiếm một số tiền mặt dễ dàng. Một trong những video từ kênh, được YouTube gỡ xuống, có tựa đề là Huấn luyện viên cho người cổ vũ HIV sau chuyện bí mật, dẫn đến mang thai. 404 báo cáo rằng nhiều trong số hàng triệu khán giả đã xem kênh tin rằng các video là có thật.

Các mạng xã hội từ chối nội dung bạo lực vì nhiều lý do, bao gồm vì nó thường có thể là bất hợp pháp, được sử dụng để đe dọa và sợ hãi, và tất nhiên, vì nó không thân thiện với nhà quảng cáo. Pivot Pivot của Meta Free Sture có giới hạn, như đã được chứng minh ở đây. Nó vẫn đang chuyển các mặt số theo cách nó thấy phù hợp. Có lẽ đó là lý do tại sao chính quyền mới của Tổng thống Trump vẫn đang thể hiện Dấu hiệu của sự hoài nghi hướng tới ngành công nghiệp.