#TinTứcGiả #PhátHiệnTinTứcGiả #TríTuệNhânTạo #AI #ChốngTinGiả
Sự gia tăng tin tức giả mạo trên Internet đã trở thành một vấn đề phức tạp đòi hỏi sự can thiệp và phòng ngừa. Tin tức giả có thể bao gồm văn bản, hình ảnh và video, và việc tạo ra tin giả có thể được thực hiện bằng nhiều phương pháp khác nhau. Máy móc và trí tuệ nhân tạo đang giúp cho việc tạo ra thông tin sai lệch trở nên đơn giản hơn, và điều này có thể gây ảnh hưởng nguy hiểm đến xa hơn một số lượng lớn người.
Một số câu hỏi như “Có gian lận cử tri trong cuộc bầu cử Hoa Kỳ năm 2020 không?” hoặc “Biến đổi khí hậu có phải là một trò lừa bịp không?” có thể được kiểm tra bằng cách phân tích dữ liệu có sẵn. Tuy nhiên, thông tin sai lệch và tin tức giả có thể lan truyền nhanh chóng và lan rộng, gây hại đến niềm tin của công chúng và gây rối lộn dân sự.
Để phát hiện thông tin sai lệch, cần sự kết hợp giữa các thuật toán, mô hình máy học, trí tuệ nhân tạo và con người. Tuy nhiên, việc chỉ phát hiện thông tin sai lệch mới chỉ là một nửa cuộc chiến. Cần có hành động quyết đoán để ngăn chặn sự lan truyền của thông tin đó. Các chiến lược chống tin giả trên mạng xã hội có thể bao gồm can thiệp của các nền tảng internet và khởi động các chiến dịch chống lại.
Nghiên cứu hiện tại đã phát triển các thuật toán để phát hiện các cấu trúc giao tiếp trong mạng truyền thông. Thông tin này cần được phân tích cẩn thận để xác định các trường hợp thông tin sai lệch. Để ngăn chặn sự lan truyền của thông tin sai lệch, cần sự kết hợp giữa trí tuệ nhân tạo và can thiệp của các nền tảng internet.
Máy móc và trí tuệ nhân tạo đã tạo ra những cải tiến đáng kể trong việc tạo thông tin sai lệch. Điều này gây nên thách thức lớn trong việc phát hiện thông tin sai lệch và ngăn chặn sự lan truyền của nó trên quy mô lớn và trong thời gian thực.
#TríTuệNhânTạo #AI #Chatbot #TươngLaiCủaMáyHọc #ChốngTinGiả
Nguồn: https://gizmodo.com/ai-chatgpt-detector-fake-news-generate-misinformation-1850549536
Thuyết âm mưu và thông tin sai lệch vượt khỏi tầm kiểm soát trên Internet như thế nào | TechModo
Tin tức giả mạo là một vấn đề phức tạp và có thể bao gồm văn bản, hình ảnh và video.
Đặc biệt, đối với các bài báo viết, có một số cách tạo tin giả. Một bài báo giả mạo có thể được tạo ra bằng cách chỉnh sửa có chọn lọc các sự kiện, bao gồm tên, ngày tháng hoặc số liệu thống kê của mọi người. Một bài báo cũng có thể hoàn toàn bịa đặt với các sự kiện hoặc con người bịa đặt.
Các bài báo giả mạo cũng có thể được tạo ra bằng máy vì những tiến bộ trong trí tuệ nhân tạo khiến việc tạo ra thông tin sai lệch trở nên đặc biệt dễ dàng.
Ảnh hưởng nguy hiểm
Những câu hỏi như: “Có gian lận cử tri trong cuộc bầu cử Hoa Kỳ năm 2020 không?” hoặc “Biến đổi khí hậu có phải là một trò lừa bịp không?” có thể được kiểm tra thực tế bằng cách phân tích dữ liệu có sẵn. Những câu hỏi này có thể được trả lời đúng hoặc sai, nhưng có khả năng xảy ra thông tin sai lệch xung quanh những câu hỏi như thế này.
Thông tin sai lệch và thông tin sai lệch — hoặc tin giả — có thể có tác động gây hại cho một số lượng lớn người trong một thời gian ngắn. Mặc dù quan niệm về tin giả đã tồn tại trước những tiến bộ công nghệphương tiện truyền thông xã hội đã làm trầm trọng thêm vấn đề.
Một nghiên cứu trên Twitter năm 2018 đã chỉ ra rằng những câu chuyện tin tức sai sự thật thường được con người đăng lại nhiều hơn so với bot và khả năng được đăng lại cao hơn 70% so với những câu chuyện có thật. Nghiên cứu tương tự cho thấy rằng những câu chuyện có thật mất khoảng thời gian lâu hơn khoảng sáu lần để tiếp cận một nhóm 1.500 người và, trong khi những câu chuyện có thật hiếm khi đến được hơn 1.000 người, thì những tin tức giả phổ biến có thể lan truyền tới 100.000 người.
Cuộc bầu cử tổng thống Hoa Kỳ năm 2020, vắc-xin COVID-19 và biến đổi khí hậu đều là chủ đề của các chiến dịch cung cấp thông tin sai lệch với những hậu quả nghiêm trọng. Người ta ước tính rằng thông tin sai lệch xung quanh COVID-19 tiêu tốn từ 50-300 triệu đô la Mỹ mỗi ngày. Cái giá của thông tin sai lệch chính trị có thể là rối loạn dân sự, bạo lực hoặc thậm chí xói mòn niềm tin của công chúng vào các thể chế dân chủ.
Phát hiện thông tin sai lệch
Việc phát hiện thông tin sai lệch có thể được thực hiện bằng sự kết hợp của các thuật toán, mô hình máy học, trí tuệ nhân tạo, và con người. Một câu hỏi quan trọng là ai chịu trách nhiệm kiểm soát, nếu không ngăn chặn, sự lan truyền thông tin sai lệch sau khi nó được phát hiện. Chỉ các công ty truyền thông xã hội mới thực sự có thể kiểm soát việc lan truyền thông tin qua mạng của họ.
Một phương tiện đặc biệt đơn giản nhưng hiệu quả để tạo ra thông tin sai lệch là chỉnh sửa có chọn lọc các bài báo. Ví dụ: hãy xem xét “Đạo diễn và nhà viết kịch người Ukraine bị bắt và bị buộc tội ‘biện minh cho chủ nghĩa khủng bố’”. Điều này đạt được bằng cách thay thế “tiếng Nga” bằng “tiếng Ukraine” trong câu gốc trong một bài báo thực tế.
Một cách tiếp cận đa diện là cần thiết để phát hiện thông tin sai lệch trực tuyến nhằm kiểm soát sự phát triển và lan rộng của nó.
Truyền thông trên phương tiện truyền thông xã hội có thể được mô hình hóa dưới dạng mạng, với người dùng tạo thành các điểm trong mô hình mạng và truyền thông tạo thành liên kết giữa chúng; một lượt chuyển tiếp hoặc lượt thích của một bài đăng phản ánh mối liên hệ giữa hai điểm. Trong mô hình mạng này, những kẻ truyền bá thông tin sai lệch có xu hướng hình thành các cấu trúc lõi-ngoại vi được kết nối chặt chẽ hơn nhiều so với những người truyền bá sự thật.
Nhóm nghiên cứu của tôi đã phát triển các thuật toán hiệu quả để phát hiện các cấu trúc dày đặc từ các mạng truyền thông. Thông tin này có thể được phân tích thêm cho phát hiện các trường hợp của các chiến dịch thông tin sai lệch.
Vì các thuật toán này chỉ dựa vào cấu trúc giao tiếp, nên việc phân tích nội dung do thuật toán và con người thực hiện là cần thiết để xác nhận các trường hợp thông tin sai lệch.
Việc phát hiện các bài báo bị thao túng cần phải phân tích cẩn thận. Nghiên cứu của chúng tôi đã sử dụng một phương pháp tiếp cận dựa trên mạng nơ-ron kết hợp thông tin văn bản với cơ sở tri thức bên ngoài để phát hiện hành vi giả mạo đó.
Chặn đứng sự lây lan
Phát hiện thông tin sai lệch mới chỉ là một nửa trận chiến — cần phải có hành động quyết đoán để ngăn chặn sự lan truyền của thông tin đó. Các chiến lược chống lan truyền thông tin sai lệch trên mạng xã hội bao gồm cả sự can thiệp của các nền tảng internet và khởi động các chiến dịch chống lại để vô hiệu hóa các chiến dịch tung tin giả.
Can thiệp có thể ở các hình thức cứng rắn, chẳng hạn như đình chỉ tài khoản của người dùng hoặc các biện pháp nhẹ nhàng hơn như gắn nhãn một bài đăng là đáng ngờ.
Các thuật toán và mạng do AI cung cấp không phải là 100 trên mỗixu đáng tin cậy. Có một chi phí để can thiệp vào một mặt hàng thật do nhầm lẫn cũng như không can thiệp vào một mặt hàng giả.
Để đạt được mục tiêu đó, chúng tôi đã thiết kế một chính sách can thiệp thông minh để tự động quyết định có nên can thiệp vào một mặt hàng hay không dựa trên tính trung thực được dự đoán và mức độ phổ biến được dự đoán.
Chống tin giả
Khởi động các chiến dịch phản bác để giảm thiểu nếu không muốn nói là vô hiệu hóa tác động của các chiến dịch thông tin sai lệch cần phải tính đến sự khác biệt lớn giữa tin thật và tin giả về mức độ lan truyền nhanh chóng và rộng rãi của chúng.
Bên cạnh những khác biệt này, phản ứng đối với các câu chuyện có thể khác nhau tùy thuộc vào người dùng, chủ đề và độ dài của bài đăng. Cách tiếp cận của chúng tôi có tính đến tất cả các yếu tố này và nghĩ ra một chiến lược chiến dịch truy cập hiệu quả nhằm giảm thiểu hiệu quả việc truyền bá thông tin sai lệch.
Những tiến bộ gần đây trong AI tổng quát, đặc biệt là những tiến bộ được hỗ trợ bởi các mô hình ngôn ngữ lớn như ChatGPT, giúp việc tạo các bài viết với tốc độ cao và số lượng đáng kể trở nên dễ dàng hơn bao giờ hết, nâng cao thách thức trong việc phát hiện thông tin sai lệch và ngăn chặn sự lan truyền của nó trên quy mô lớn và trong thời gian thực. Nghiên cứu hiện tại của chúng tôi tiếp tục giải quyết thách thức đang diễn ra có tác động xã hội to lớn này.
Bạn muốn biết thêm về AI, chatbot và tương lai của máy học? Kiểm tra bảo hiểm đầy đủ của chúng tôi về trí tuệ nhân tạohoặc duyệt hướng dẫn của chúng tôi để Trình tạo nghệ thuật AI miễn phí tốt nhất Và Mọi thứ chúng tôi biết về ChatGPT của OpenAI.
Lakshmanan đấu với LakshmananGiáo sư Khoa học Máy tính, Đại học British Columbia
Bài viết này được đăng lại từ Cuộc trò chuyện theo giấy phép Creative Commons. Đọc bài báo gốc.
[ad_2]
