OpenAI Sora hiện đang hạn chế mô tả con người trong video để đảm bảo an toàn và ngăn chặn việc sử dụng sai mục đích. Đây là một phần của sự kiện 12 ngày OpenAI và Sora sẽ chỉ cho phép một nhóm nhỏ người dùng tải lên hình ảnh cá nhân để tạo video. Việc hạn chế này nhằm giải quyết những lo ngại về việc sử dụng hình ảnh chân dung và nội dung giả mạo. OpenAI cam kết giám sát và xử lý các trường hợp sử dụng sai mục đích và học từ những trải nghiệm ban đầu để cải thiện cách tiếp cận an toàn. #OpenAI #Sora #AnToànTrựcTuyến
OpenAI Sora đang hạn chế mô tả người thật và thực hiện các biện pháp an toàn nghiêm ngặt khác để ngăn chặn việc sử dụng sai mục đích.
Trình tạo video, được công bố vào thứ Hai như một phần của sự kiện 12 ngày OpenAI, có tất cả các loại khả năng chỉnh sửa để người dùng tạo và tùy chỉnh video do AI tạo. Nhưng có một số điều bạn không được phép làm với Sora, vì người dùng sẽ sớm phát hiện.
Tweet có thể đã bị xóa
Theo nó thẻ hệ thống“khả năng tải lên hình ảnh của mọi người sẽ được cung cấp cho một nhóm nhỏ người dùng”, nghĩa là hầu hết người dùng không thể tạo video về mọi người dựa trên hình ảnh đã tải lên. Những người dùng đó là một phần của “Thí điểm Likeness” mà OpenAI đang thử nghiệm với một số ít người được chọn. Người phát ngôn của OpenAI cho biết các video về con người do AI tạo ra bị hạn chế nhằm “giải quyết những lo ngại xung quanh việc chiếm đoạt hình ảnh chân dung và nội dung giả mạo sâu”. Người phát ngôn tiếp tục: OpenAI “sẽ tích cực giám sát các kiểu sử dụng sai mục đích và khi phát hiện ra, chúng tôi sẽ xóa nội dung, thực hiện hành động thích hợp với người dùng và sử dụng những bài học ban đầu này để lặp lại cách tiếp cận an toàn của chúng tôi”.
Tốc độ ánh sáng có thể trộn được
Việc hạn chế mô tả con người trong video của Sora có ý nghĩa từ quan điểm trách nhiệm pháp lý. Có nhiều cách mà công cụ này có thể bị lạm dụng sai mục đích: deepfake không có sự đồng thuận, mô tả trẻ vị thành niên, lừa đảo và thông tin sai lệch, cùng một số cách khác. Để chống lại điều này, Sora đã được huấn luyện để từ chối một số yêu cầu nhất định từ lời nhắc bằng văn bản hoặc tải hình ảnh lên.
Nó sẽ từ chối lời nhắc về nội dung NSFW (Không an toàn cho công việc) và NCII (Hình ảnh thân mật không có sự đồng thuận) cũng như việc tạo ra những đứa trẻ thực tế, mặc dù hình ảnh hư cấu vẫn được cho phép. OpenAI đã thêm siêu dữ liệu C2PA vào tất cả các video Sora và đặt hình mờ hiển thị làm mặc định, mặc dù nó có thể bị xóa và triển khai tìm kiếm hình ảnh ngược nội bộ để đánh giá nguồn gốc của video.
Mặc dù thực tế là nhiều rào chắn đã được đặt ra để ngăn chặn việc sử dụng sai mục đích, nhưng câu hỏi về việc Sora sẽ phản ứng thế nào trước các cuộc kiểm tra sức chịu đựng hàng loạt vẫn còn đó. Hiện tại, quyền truy cập vào Sora không khả dụng do nhu cầu cao.
chủ đề
Trí tuệ nhân tạo
OpenAI
[ad_2]
