Meta không cho biết liệu họ có đào tạo trí tuệ nhân tạo trên ảnh chụp từ kính thông minh hay không. Kính thông minh Ray-Ban của Meta được trang bị trí tuệ nhân tạo có một máy ảnh kín đặt phía trước, không chỉ chụp ảnh khi bạn yêu cầu, mà còn khi tính năng trí tuệ của nó kích hoạt bằng một số từ khóa nhất định như “nhìn.” Điều đó có nghĩa là những chiếc kính thông minh thu thập một lượng lớn ảnh, cả những bức ảnh được chụp cố ý và không cố ý. Nhưng công ty không cam kết giữ những hình ảnh này riêng tư.
Chúng tôi đã hỏi Meta liệu họ có kế hoạch đào tạo mô hình trí tuệ nhân tạo trên những bức ảnh từ người dùng Ray-Ban Meta, như họ đã làm với những bức ảnh từ các tài khoản mạng xã hội công cộng. Công ty không muốn nói.
“Chúng tôi không thể công khai thảo luận vấn đề đó,” Anuj Kumar, một giám đốc cấp cao làm việc trên các sản phẩm đeo trí tuệ tại Meta, nói trong một cuộc phỏng vấn video với TechCrunch vào thứ Hai.
“Đó không phải là điều chúng tôi thường chia sẻ bên ngoài,” phát ngôn viên của Meta, Mimi Huggins, cũng tham gia cuộc gọi video. Khi TechCrunch yêu cầu làm rõ liệu Meta có đang đào tạo trên những bức ảnh này hay không, Huggins trả lời, “chúng tôi không nói rõ.”
Một phần lý do khiến vấn đề này đáng lo ngại đặc biệt là do tính năng trí tuệ nhân tạo mới của Ray-Ban Meta, sẽ chụp rất nhiều ảnh chụp không chủ động này. Tuần trước, TechCrunch cho biết Meta dự định ra mắt một tính năng video thời gian thực mới cho Ray-Ban Meta. Khi kích hoạt bởi một số từ khóa nhất định, những chiếc kính thông minh sẽ truyền một loạt ảnh (về cơ bản, video trực tiếp) vào một mô hình trí tuệ đa dạng, cho phép nó trả lời câu hỏi về môi trường xung quanh bạn một cách tự nhiên với độ trễ thấp.
Đó là rất nhiều ảnh, và đó là những bức ảnh mà một người dùng Ray-Ban Meta có thể không nhận thức chắc chắn rằng họ đang chụp. Giả sử bạn yêu cầu kính thông minh quét nội dung của tủ quần áo của bạn để giúp bạn chọn trang phục. Những chiếc kính hiệu quả đang chụp hàng chục bức ảnh của căn phòng và mọi thứ trong đó, và tải tất cả chúng lên một mô hình trí tuệ trong đám mây.
Sau đó những bức ảnh đó sẽ được xử lý như thế nào? Meta không nói.
Đeo những chiếc kính kính thông minh Ray-Ban Meta cũng có nghĩa là bạn đang đeo một máy ảnh trên khuôn mặt. Như chúng ta đã biết với Google Glass, điều này không phải là điều mà mọi người đều thoải mái, để nói nhẹ nhàng. Vậy bạn sẽ nghĩ rằng nó là một điều rất đơn giản với công ty đang thực hiện việc đó để nói, “Hey! Tất cả các ảnh và video từ máy ảnh khuôn mặt của bạn sẽ hoàn toàn riêng tư và được phân ly từ máy ảnh khuôn mặt của bạn.”
Nhưng đó không phải là điều Meta đang làm ở đây. Meta đã tuyên bố rằng họ đang đào tạo mô hình trí tuệ nhân tạo trên mọi bài đăng Instagram và Facebook công cộng của người Mỹ. Công ty đã quyết định tất cả đều là “dữ liệu công khai,” và chúng ta có thể chấp nhận điều đó. Họ và các công ty công nghệ khác đã áp dụng một định nghĩa rất mở rộng về những gì là dữ liệu công khai mà họ có thể đào tạo trí tuệ nhân tạo, và những gì không phải.
Tuy nhiên, chắc chắn thế giới bạn nhìn nhận thông qua những chiếc kính thông minh của họ không phải là “công khai.” Mặc dù chúng tôi không thể khẳng định rằng Meta đang đào tạo mô hình trên hình ảnh từ camera Ray-Ban Meta của bạn, công ty đơn giản không thể nói chắc chắn rằng họ không phải.
Các nhà cung cấp mô hình trí tuệ nhân tạo khác có qui định rõ ràng hơn về việc đào tạo dữ liệu người dùng. Anthropic nói họ không bao giờ đào tạo trên đầu vào hoặc đầu ra từ khách hàng vào bất kỳ mô hình trí tuệ nào của họ. OpenAI cũng nói họ không bao giờ đào tạo trên dữ liệu đầu vào hoặc đầu ra của người dùng thông qua API của họ.
Chúng tôi đã liên hệ với Meta để làm rõ thêm vấn đề này, và sẽ cập nhật câu chuyện nếu họ trả lời chúng tôi. #Metaglasses #dataprivacy #AIfeatures #technews
Meta’s AI-powered Ray-Bans have a discreet camera on the front, for taking photos not just when you ask them to, but also when their AI features trigger it with certain keywords such as “look.” That means the smart glasses collect a ton of photos, both deliberately taken and otherwise. But the company won’t commit to keeping these images private.
We asked Meta if it plans to train AI models on the images from Ray-Ban Meta’s users, as it does on images from public social media accounts. The company wouldn’t say.
“We’re not publicly discussing that,” said Anuj Kumar, a senior director working on AI wearables at Meta, in a video interview with TechCrunch on Monday.
“That’s not something we typically share externally,” said Meta spokesperson Mimi Huggins, who was also on the video call. When TechCrunch asked for clarification on whether Meta is training on these images, Huggins responded, “we’re not saying either way.”
Part of the reason this is especially concerning is because of the Ray-Ban Meta’s new AI feature, which will take lots of these passive photos. Last week, TechCrunch reported that Meta plans to launch a new real-time video feature for Ray-Ban Meta. When activated by certain keywords, the smart glasses will stream a series of images (essentially, live video) into a multimodal AI model, allowing it to answer questions about your surroundings in a low-latency, natural way.
That’s a lot of images, and they’re photos a Ray-Ban Meta user might not consciously be aware that they’re taking. Say you asked the smart glasses to scan the contents of your closet to help you pick out an outfit. The glasses are effectively taking dozens of photos of your room and everything in it, and uploading them all to an AI model in the cloud.
What happens to those photos after that? Meta won’t say.
Wearing the Ray-Ban Meta glasses also means you’re wearing a camera on your face. As we found out with Google Glass, that’s not something other people are universally comfortable with, to put it lightly. So you’d think it’s a no-brainer for the company that’s doing it to say, “Hey! All your photos and videos from your face cameras will be totally private, and siloed to your face camera.”
But that’s not what Meta is doing here.
Meta has already declared that it is training its AI models on every American’s public Instagram and Facebook posts. The company has decided all of that is “publicly available data,” and we might just have to accept that. It and other tech companies have adopted a highly expansive definition of what is publicly available for them to train AI on, and what isn’t.
However, surely the world you look at through its smart glasses is not “publicly available.” While we can’t say for sure that Meta is training AI models on your Ray-Ban Meta camera footage, the company simply wouldn’t say for sure that it isn’t.
Other AI model providers have more clear-cut rules about training on user data. Anthropic says it never trains on a customer’s inputs into, or outputs from, one of their AI models. OpenAI also says it never trains on user inputs or outputs through its API.
We’ve reached out to Meta for further clarification here, and will update the story if they get back to us.
[ad_2]
