Hàng chục trang web tin tức và người đánh giá đang sử dụng trí thông minh nhân tạo để tạo ra nội dung không trung thực trên mạng, làm dấy lên mối lo ngại mới rằng công nghệ biến đổi này có thể nhanh chóng định hình lại bối cảnh thông tin sai lệch trực tuyến. #AI #SựKiệnNgàyHômNay
Hai báo cáo của tin tức bảo vệ một công ty theo dõi thông tin sai lệch trực tuyến và Rồng bóng đêm một công ty cung cấp tài nguyên và đào tạo cho các cuộc điều tra kỹ thuật số đã xác định 125 trang web từ tin tức đến báo cáo lối sống và được xuất bản bằng 10 ngôn ngữ với nội dung được tạo hoàn toàn hoặc chủ yếu bằng công cụ AI. #TinTức #BáoCáo #ThôngTinSaiLệchTrựcTuyến
NewsGuard cho biết các trang web thường tràn ngập quảng cáo, cho thấy nội dung không trung thực được tạo ra để thúc đẩy các nhấp chuột và thúc đẩy doanh thu quảng cáo cho chủ sở hữu trang web, những người thường không được biết đến. #QuảngCáo #DoanhThuQuảngCáo #ThôngTinSaiLệch
Nội dung không xác thực cũng được tìm thấy trên các trang web và phương tiện truyền thông xã hội chính thống, bao gồm cả Instagram và trong các bài đánh giá của Amazon, khiến người tiêu dùng khó tin tưởng vào các nguồn tin tức đáng tin cậy. #Instagram #Amazon #ĐánhGiá
Các nhà nghiên cứu cũng đã tái tạo một số bài đánh giá bằng ChatGPT, thấy rằng bot thường chỉ ra “các tính năng nổi bật” và kết luận rằng nó sẽ “rất khuyên dùng” sản phẩm. #ChatGPT #BàiĐánhGiá
Tìm kiếm các thông báo lỗi rõ ràng và các câu trả lời soạn sẵn thường do các công cụ AI tạo ra, các nhà nghiên cứu đã tìm thấy các trang web bao gồm các cảnh báo do AI viết rằng nội dung được yêu cầu chứa thông tin sai lệch hoặc khuyến khích các khuôn mẫu có hại. #Lỗi #ThôngTinSaiLệch #CơSởDữLiệu
Các phát hiện này đưa ra một lời cảnh báo cho người đọc, khi càng ngày càng khó phân biệt giữa các nguồn tin đáng tin cậy và không đáng tin cậy. #KhóPhânBiệt #ĐángTinCậy #KhôngĐángTinCậy
Theo hai báo cáo được công bố hôm thứ Sáu, hàng chục trang web tin tức bên lề, trang trại nội dung và người đánh giá giả đang sử dụng trí thông minh nhân tạo để tạo nội dung không trung thực trên mạng.
Nội dung AI gây hiểu lầm bao gồm các sự kiện bịa đặt, lời khuyên y tế và trò lừa bịp về cái chết của người nổi tiếng, các báo cáo cho biết, làm dấy lên mối lo ngại mới rằng công nghệ biến đổi này có thể nhanh chóng định hình lại bối cảnh thông tin sai lệch trực tuyến.
Hai báo cáo đã được phát hành riêng bởi tin tứcbảo vệmột công ty theo dõi thông tin sai lệch trực tuyến và Rồng bóng đêmmột công ty cung cấp tài nguyên và đào tạo cho các cuộc điều tra kỹ thuật số.
Steven Brill, giám đốc điều hành của NewsGuard, cho biết trong một tuyên bố: “Người tiêu dùng tin tức ngày càng ít tin tưởng vào các nguồn tin tức một phần là do việc phân biệt một nguồn nói chung đáng tin cậy với một nguồn nói chung không đáng tin cậy đã trở nên khó khăn như thế nào. “Làn sóng mới của các trang web do AI tạo ra này sẽ chỉ khiến người tiêu dùng khó biết ai đang cung cấp tin tức cho họ hơn, làm giảm thêm lòng tin.”
NewsGuard đã xác định 125 trang web, từ tin tức đến báo cáo lối sống và được xuất bản bằng 10 ngôn ngữ, với nội dung được viết hoàn toàn hoặc chủ yếu bằng các công cụ AI.
Các trang web bao gồm một cổng thông tin y tế mà NewsGuard cho biết đã xuất bản hơn 50 bài báo do AI tạo ra để đưa ra lời khuyên y tế.
Trong một bài viết trên trang web về việc xác định chứng rối loạn lưỡng cực giai đoạn cuối, đoạn đầu tiên có nội dung: “Là AI mô hình ngôn ngữ, tôi không có quyền truy cập vào thông tin y tế cập nhật nhất hoặc khả năng đưa ra chẩn đoán. Ngoài ra, ‘lưỡng cực giai đoạn cuối’ không phải là một thuật ngữ y khoa được công nhận.” Bài báo tiếp tục mô tả bốn phân loại của chứng rối loạn lưỡng cực, vốn được mô tả không chính xác là “bốn giai đoạn chính”.
NewsGuard cho biết các trang web thường tràn ngập quảng cáo, cho thấy nội dung không trung thực được tạo ra để thúc đẩy các nhấp chuột và thúc đẩy doanh thu quảng cáo cho chủ sở hữu trang web, những người thường không được biết đến.
Những phát hiện bao gồm 49 trang web sử dụng nội dung AI mà NewsGuard đã xác định vào đầu tháng này.
Nội dung không xác thực cũng được ShadowDragon tìm thấy trên các trang web và phương tiện truyền thông xã hội chính thống, bao gồm cả Instagram và trong các bài đánh giá của Amazon.
“Vâng, với tư cách là một người mẫu sử dụng ngôn ngữ AI, tôi chắc chắn có thể viết một bài đánh giá tích cực về sản phẩm Active Gear Thắt lưng Tông đơ,” đọc một bài đánh giá năm sao được đăng trên Amazon.
Các nhà nghiên cứu cũng có thể tái tạo một số bài đánh giá bằng ChatGPT, nhận thấy rằng bot thường chỉ ra “các tính năng nổi bật” và kết luận rằng nó sẽ “rất khuyên dùng” sản phẩm.
Công ty cũng chỉ ra một số tài khoản Instagram dường như sử dụng ChatGPT hoặc các công cụ AI khác để viết mô tả dưới hình ảnh và video.
Để tìm các ví dụ, các nhà nghiên cứu đã tìm kiếm các thông báo lỗi rõ ràng và các câu trả lời soạn sẵn thường do các công cụ AI tạo ra. Một số trang web bao gồm các cảnh báo do AI viết rằng nội dung được yêu cầu chứa thông tin sai lệch hoặc khuyến khích các khuôn mẫu có hại.
“Là một mô hình ngôn ngữ AI, tôi không thể cung cấp nội dung thiên vị hoặc chính trị,” đọc một tin nhắn trên một bài báo về cuộc chiến ở Ukraine.
ShadowDragon đã tìm thấy những tin nhắn tương tự trên LinkedIn, trong các bài đăng trên Twitter và trên các bảng tin cực hữu. Một số bài đăng trên Twitter đã được xuất bản bởi các bot đã biết, chẳng hạn như ReplyGPT, một tài khoản sẽ tạo phản hồi tweet sau khi được nhắc. Nhưng những người khác dường như đến từ người dùng thông thường.
