Meta ra mắt công cụ tạo hình mờ cho video do AI tạo, nhằm chống lại deepfake. Công cụ này có tên là Meta Video Seal và được thiết kế để tích hợp vào phần mềm hiện có. Cùng với Watermark Anything và Audio Seal, Meta hy vọng sẽ đóng góp vào cuộc chiến chống lại nội dung giả mạo trực tuyến. #Meta #Deepfake #VideoSeal #AI #Hìnhmờ #Chốnggiảmạo #ICLR
Nguồn: https://techcrunch.com/2024/12/12/meta-releases-a-tool-for-watermarking-ai-generated-videos/
Ném một hòn đá và bạn có thể sẽ gặp phải một deepfake. Quá trình hàng hóa hóa AI tạo ra đã dẫn đến sự bùng nổ tuyệt đối của nội dung giả mạo trực tuyến: Theo nền tảng xác minh ID Sumsub, số vụ deepfake trên toàn thế giới đã tăng gấp 4 lần từ năm 2023 đến năm 2024. Vào năm 2024, deepfake chiếm 7% tổng số vụ lừa đảo, theo Sumsub , từ mạo danh và chiếm đoạt tài khoản cho đến các chiến dịch lừa đảo qua mạng xã hội phức tạp.
Với hy vọng sẽ là một đóng góp có ý nghĩa trong cuộc chiến chống lại deepfake, Meta đang phát hành một công cụ để áp dụng các hình mờ khó nhận thấy cho các video clip do AI tạo ra. Được công bố vào thứ Năm, công cụ này có tên là Meta Video Seal, có sẵn ở dạng nguồn mở và được thiết kế để tích hợp vào phần mềm hiện có. Công cụ này kết hợp với các công cụ tạo hình mờ khác của Meta, Watermark Anything (được phát hành lại ngày hôm nay theo giấy phép cho phép) và Audio Seal.
Pierre Fernandez, nhà khoa học nghiên cứu AI tại Meta, nói với TechCrunch trong một cuộc phỏng vấn: “Chúng tôi đã phát triển Video Seal để cung cấp giải pháp tạo hình mờ cho video hiệu quả hơn, đặc biệt là để phát hiện các video do AI tạo ra và bảo vệ tính nguyên gốc”.
Video Seal không phải là công nghệ đầu tiên thuộc loại này. của DeepMind ID tổng hợp có thể tạo hình mờ cho video và Microsoft có cái riêng của nó các phương pháp tạo hình mờ video.
Nhưng Fernandez khẳng định rằng nhiều cách tiếp cận hiện nay chưa hiệu quả.
“Mặc dù có các công cụ tạo hình mờ khác nhưng chúng không cung cấp đủ độ mạnh cho việc nén video, vốn rất phổ biến khi chia sẻ nội dung qua các nền tảng xã hội; không đủ hiệu quả để chạy trên quy mô lớn; không mở hoặc tái tạo được; hoặc bắt nguồn từ hình mờ hình ảnh, vốn không tối ưu cho video,” Fernandez nói.
Ngoài hình mờ, Video Seal có thể thêm một thông điệp ẩn vào video mà sau này có thể được phát hiện để xác định nguồn gốc của chúng. Meta tuyên bố rằng Video Seal có khả năng phục hồi tốt trước các chỉnh sửa thông thường như làm mờ và cắt xén, cũng như các thuật toán nén phổ biến.
Fernandez thừa nhận rằng Video Seal có một số hạn chế nhất định, chủ yếu là sự cân bằng giữa mức độ dễ nhận biết của hình mờ của công cụ và khả năng phục hồi tổng thể của chúng đối với thao tác. Ông nói thêm, việc nén nặng và các chỉnh sửa quan trọng có thể làm thay đổi hình mờ hoặc khiến chúng không thể phục hồi được.
Tất nhiên, vấn đề lớn hơn mà Video Seal phải đối mặt là các nhà phát triển và ngành công nghiệp sẽ không có nhiều lý do để áp dụng nó, đặc biệt là những người đã sử dụng giải pháp độc quyền. Trong nỗ lực giải quyết vấn đề đó, Meta đang tung ra một bảng xếp hạng công khai, Meta Omni Seal Bench, dành riêng cho việc so sánh hiệu suất của các phương pháp tạo hình mờ khác nhau và tổ chức hội thảo về hình mờ năm nay tại ICLR, một hội nghị AI lớn.
Fernandez cho biết: “Chúng tôi hy vọng rằng ngày càng có nhiều nhà nghiên cứu và phát triển AI sẽ tích hợp một số hình thức đóng dấu chìm vào công việc của họ”. “Chúng tôi muốn hợp tác với ngành và cộng đồng học thuật để tiến bộ nhanh hơn trong lĩnh vực này.”
[ad_2]