Thông tin sai lệch tổng quát là có thật — bạn không phải là mục tiêu, tổ chức phi lợi nhuận theo dõi deepfake cảnh báo. Nhiều người lo ngại cuộc bầu cử năm 2024 sẽ bị ảnh hưởng và có lẽ đã quyết định bởi thông tin sai lệch do AI tạo ra. Trong khi có một số được tìm thấy, nó ít hơn nhiều so với dự đoán. Nhưng đừng để điều đó đánh lừa bạn: mối đe dọa về thông tin sai lệch là có thật — chỉ là bạn không phải là mục tiêu.
Vì vậy, ít nhất Oren Etzioni, một nhà nghiên cứu AI lâu năm, tổ chức phi lợi nhuận của ông nói. TrueMedia có ngón tay của mình trên xung thông tin sai lệch được tạo ra.
Ông nói với TechCrunch trong một cuộc phỏng vấn gần đây: “Không có từ nào hay hơn, sự đa dạng của các tác phẩm sâu. “Mỗi thứ đều phục vụ mục đích riêng của nó và một số thứ chúng tôi biết rõ hơn những thứ khác. Hãy để tôi nói thế này: cứ mỗi điều bạn thực sự nghe được thì có hàng trăm điều không nhằm vào bạn. Có lẽ là một ngàn. Đó thực sự chỉ là phần nổi của tảng băng chìm mà báo chí chính thống đưa ra.”
Thực tế là hầu hết mọi người, và hơn hết là người Mỹ, có xu hướng nghĩ rằng những gì họ trải qua cũng giống như những gì người khác trải qua. Điều đó không đúng vì nhiều lý do. Nhưng trong trường hợp của các chiến dịch thông tin sai lệch, Mỹ thực sự là một mục tiêu khó khăn, với lượng dân số tương đối tốt, thông tin thực tế sẵn có và một nền báo chí ít nhất luôn được tin cậy (bất chấp mọi ồn ào ngược lại).
Chúng ta có xu hướng nghĩ deepfake giống như một đoạn video quay cảnh Taylor Swift làm hoặc nói điều gì đó mà cô ấy sẽ không làm. Nhưng những trò deepfake thực sự nguy hiểm không phải của những người nổi tiếng hay chính trị gia, mà là của những tình huống và những con người không thể dễ dàng xác định và chống lại.
TrueMedia cung cấp dịch vụ miễn phí (thông qua web và API) để xác định hình ảnh, video, âm thanh và các mục khác là giả hoặc thật. Đây không phải là một nhiệm vụ đơn giản và không thể tự động hóa hoàn toàn, nhưng họ đang dần dần xây dựng nền tảng tài liệu thực tế cơ bản để phản hồi lại quy trình.
“Nhiệm vụ chính của chúng tôi là phát hiện. Các tiêu chuẩn học thuật (để đánh giá phương tiện giả mạo) đã được cải thiện từ lâu”, Etzioni giải thích. “Chúng tôi đào tạo về những nội dung được mọi người trên khắp thế giới tải lên; chúng tôi xem các nhà cung cấp khác nhau nói gì về nó, mô hình của chúng tôi nói gì về nó và chúng tôi đưa ra kết luận. Tiếp theo, chúng tôi có một nhóm pháp y đang thực hiện một cuộc điều tra sâu hơn, rộng hơn và chậm hơn, không phải trên tất cả các mục mà là một phần đáng kể, vì vậy chúng tôi có được sự thật cơ bản. Chúng tôi không gán giá trị thật trừ khi chúng tôi khá chắc chắn; chúng tôi vẫn có thể sai, nhưng về cơ bản chúng tôi tốt hơn bất kỳ giải pháp đơn lẻ nào khác.”
Nhiệm vụ chính là phục vụ việc định lượng vấn đề theo ba cách chính mà Etzioni đã vạch ra:
1. Ngoài kia có bao nhiêu? “Chúng tôi không biết, không có Google cho việc này. Bạn thấy nhiều dấu hiệu khác nhau cho thấy nó lan rộng, nhưng nó cực kỳ khó, thậm chí có thể không thể đo lường chính xác.”
2. Có bao nhiêu người nhìn thấy nó? “Điều này dễ dàng hơn vì khi Elon Musk chia sẻ điều gì đó, bạn sẽ thấy, ’10 triệu người đã xem nó.’ Vì vậy số lượng nhãn cầu dễ dàng lên tới hàng trăm triệu. Tôi thấy các mục hàng tuần đã được xem hàng triệu lần.”
3. Nó có tác động bao nhiêu? “Đây có lẽ là điều quan trọng nhất. Có bao nhiêu cử tri không đi bỏ phiếu vì những cuộc gọi giả mạo của Biden? Chúng tôi chỉ không được thiết lập để đo lường điều đó. Vụ ở Slovakia (một chiến dịch làm mất thông tin nhắm vào một ứng cử viên tổng thống ở đó vào tháng 2) đã diễn ra vào phút cuối, và sau đó anh ta đã thua. Điều đó có thể đã ảnh hưởng tới cuộc bầu cử đó.”
Ông nhấn mạnh, tất cả những điều này đều đang được tiến hành, một số chỉ mới bắt đầu. Nhưng bạn phải bắt đầu từ đâu đó.
Ông nói: “Hãy để tôi đưa ra một dự đoán táo bạo: trong 4 năm tới, chúng ta sẽ trở nên thành thạo hơn nhiều trong việc đo lường điều này”. “Bởi vì chúng ta phải làm vậy. Hiện tại chúng tôi chỉ đang cố gắng đối phó.”
Đối với một số nỗ lực của ngành và công nghệ nhằm làm cho phương tiện được tạo ra trở nên rõ ràng hơn, chẳng hạn như hình mờ và văn bản, chúng vô hại và có thể có lợi, nhưng thậm chí còn chưa bắt đầu giải quyết được vấn đề, ông nói.
“Theo cách tôi muốn nói, đừng mang hình mờ vào cuộc đấu súng.” Những tiêu chuẩn tự nguyện này rất hữu ích trong các hệ sinh thái hợp tác nơi mọi người đều có lý do để sử dụng chúng, nhưng chúng mang lại rất ít sự bảo vệ trước những tác nhân độc hại muốn tránh bị phát hiện.
Tất cả nghe có vẻ khá thảm khốc, và đúng như vậy, nhưng cuộc bầu cử có hậu quả lớn nhất trong lịch sử gần đây vừa diễn ra mà không có nhiều trò tai quái của AI. Đó không phải vì thông tin sai lệch tổng quát không phổ biến, mà bởi vì những người cung cấp thông tin sai lệch không cảm thấy cần thiết phải tham gia. Việc điều đó khiến bạn sợ hãi nhiều hay ít so với giải pháp thay thế là hoàn toàn tùy thuộc vào bạn. #deepfake #sựkiện #thôngtinsailech
Nhiều người lo ngại cuộc bầu cử năm 2024 sẽ bị ảnh hưởng và có lẽ đã quyết định: bởi thông tin sai lệch do AI tạo ra. Trong khi có một số được tìm thấy, nó ít hơn nhiều so với dự đoán. Nhưng đừng để điều đó đánh lừa bạn: mối đe dọa về thông tin sai lệch là có thật — chỉ là bạn không phải là mục tiêu.
Vì vậy, ít nhất Oren Etzioni, một nhà nghiên cứu AI lâu năm, tổ chức phi lợi nhuận của ông nói. TrueMedia có ngón tay của mình trên xung thông tin sai lệch được tạo ra.
Ông nói với TechCrunch trong một cuộc phỏng vấn gần đây: “Không có từ nào hay hơn, sự đa dạng của các tác phẩm sâu. “Mỗi thứ đều phục vụ mục đích riêng của nó và một số thứ chúng tôi biết rõ hơn những thứ khác. Hãy để tôi nói thế này: cứ mỗi điều bạn thực sự nghe được thì có hàng trăm điều không nhằm vào bạn. Có lẽ là một ngàn. Đó thực sự chỉ là phần nổi của tảng băng chìm mà báo chí chính thống đưa ra.”
Thực tế là hầu hết mọi người, và hơn hết là người Mỹ, có xu hướng nghĩ rằng những gì họ trải qua cũng giống như những gì người khác trải qua. Điều đó không đúng vì nhiều lý do. Nhưng trong trường hợp của các chiến dịch thông tin sai lệch, Mỹ thực sự là một mục tiêu khó khăn, với lượng dân số tương đối tốt, thông tin thực tế sẵn có và một nền báo chí ít nhất luôn được tin cậy (bất chấp mọi ồn ào ngược lại).
Chúng ta có xu hướng nghĩ deepfake giống như một đoạn video quay cảnh Taylor Swift làm hoặc nói điều gì đó mà cô ấy sẽ không làm. Nhưng những trò deepfake thực sự nguy hiểm không phải của những người nổi tiếng hay chính trị gia, mà là của những tình huống và những con người không thể dễ dàng xác định và chống lại.
“Điều lớn nhất mà mọi người không nhận được là sự đa dạng. Hôm nay tôi đã nhìn thấy một chiếc máy bay Iran bay qua Israel,” ông lưu ý – một điều đã không xảy ra nhưng không thể dễ dàng bác bỏ bởi một người không có mặt ở đó. “Bạn không nhìn thấy nó vì bạn không ở trên kênh Telegram hoặc trong một số nhóm WhatsApp nhất định – nhưng hàng triệu người thì có.”
TrueMedia cung cấp dịch vụ miễn phí (thông qua web và API) để xác định hình ảnh, video, âm thanh và các mục khác là giả hoặc thật. Đây không phải là một nhiệm vụ đơn giản và không thể tự động hóa hoàn toàn, nhưng họ đang dần dần xây dựng nền tảng tài liệu thực tế cơ bản để phản hồi lại quy trình.
“Nhiệm vụ chính của chúng tôi là phát hiện. Các tiêu chuẩn học thuật (để đánh giá phương tiện giả mạo) đã được cải thiện từ lâu”, Etzioni giải thích. “Chúng tôi đào tạo về những nội dung được mọi người trên khắp thế giới tải lên; chúng tôi xem các nhà cung cấp khác nhau nói gì về nó, mô hình của chúng tôi nói gì về nó và chúng tôi đưa ra kết luận. Tiếp theo, chúng tôi có một nhóm pháp y đang thực hiện một cuộc điều tra sâu hơn, rộng hơn và chậm hơn, không phải trên tất cả các mục mà là một phần đáng kể, vì vậy chúng tôi có được sự thật cơ bản. Chúng tôi không gán giá trị thật trừ khi chúng tôi khá chắc chắn; chúng tôi vẫn có thể sai, nhưng về cơ bản chúng tôi tốt hơn bất kỳ giải pháp đơn lẻ nào khác.”
Nhiệm vụ chính là phục vụ việc định lượng vấn đề theo ba cách chính mà Etzioni đã vạch ra:
- Ngoài kia có bao nhiêu? “Chúng tôi không biết, không có Google cho việc này. Bạn thấy nhiều dấu hiệu khác nhau cho thấy nó lan rộng, nhưng nó cực kỳ khó, thậm chí có thể không thể đo lường chính xác.”
- Có bao nhiêu người nhìn thấy nó? “Điều này dễ dàng hơn vì khi Elon Musk chia sẻ điều gì đó, bạn sẽ thấy, ’10 triệu người đã xem nó.’ Vì vậy số lượng nhãn cầu dễ dàng lên tới hàng trăm triệu. Tôi thấy các mục hàng tuần đã được xem hàng triệu lần.”
- Nó có tác động bao nhiêu? “Đây có lẽ là điều quan trọng nhất. Có bao nhiêu cử tri không đi bỏ phiếu vì những cuộc gọi giả mạo của Biden? Chúng tôi chỉ không được thiết lập để đo lường điều đó. Vụ ở Slovakia (một chiến dịch làm mất thông tin nhắm vào một ứng cử viên tổng thống ở đó vào tháng 2) đã diễn ra vào phút cuối, và sau đó anh ta đã thua. Điều đó có thể đã ảnh hưởng tới cuộc bầu cử đó.”
Ông nhấn mạnh, tất cả những điều này đều đang được tiến hành, một số chỉ mới bắt đầu. Nhưng bạn phải bắt đầu từ đâu đó.
Ông nói: “Hãy để tôi đưa ra một dự đoán táo bạo: trong 4 năm tới, chúng ta sẽ trở nên thành thạo hơn nhiều trong việc đo lường điều này”. “Bởi vì chúng ta phải làm vậy. Hiện tại chúng tôi chỉ đang cố gắng đối phó.”
Đối với một số nỗ lực của ngành và công nghệ nhằm làm cho phương tiện được tạo ra trở nên rõ ràng hơn, chẳng hạn như hình mờ và văn bản, chúng vô hại và có thể có lợi, nhưng thậm chí còn chưa bắt đầu giải quyết được vấn đề, ông nói.
“Theo cách tôi muốn nói, đừng mang hình mờ vào cuộc đấu súng.” Những tiêu chuẩn tự nguyện này rất hữu ích trong các hệ sinh thái hợp tác nơi mọi người đều có lý do để sử dụng chúng, nhưng chúng mang lại rất ít sự bảo vệ trước những tác nhân độc hại muốn tránh bị phát hiện.
Tất cả nghe có vẻ khá thảm khốc, và đúng như vậy, nhưng cuộc bầu cử có hậu quả lớn nhất trong lịch sử gần đây vừa diễn ra mà không có nhiều trò tai quái của AI. Đó không phải vì thông tin sai lệch tổng quát không phổ biến, mà bởi vì những người cung cấp thông tin sai lệch không cảm thấy cần thiết phải tham gia. Việc điều đó khiến bạn sợ hãi nhiều hay ít so với giải pháp thay thế là hoàn toàn tùy thuộc vào bạn.
