Công nghệ trí tuệ nhân tạo (AI) của WhatsApp đang thêm súng vào những lời nhắc cho trẻ em Palestine. Theo báo cáo của The Guardian vào hôm thứ Sáu, mô hình AI được sử dụng để tạo ra các hình dán này đôi khi tạo ra hình ảnh của trẻ em cầm súng khi được yêu cầu với từ “Palestine” và những từ tương tự. Trong khi đó, theo thông tin của báo, từ “Israel” không tạo ra bất kỳ hình ảnh tương tự.
Một tháng trước, công cụ tạo hình dán AI của Meta đã bắt đầu sử dụng với xu hướng tạo ra những hình ảnh bạo lực hoặc tệ hại, bao gồm cả sự hiện diện của trẻ em lính. Theo bài viết, một nguồn tin không được tiết lộ tên cho biết một số nhân viên của công ty đã đánh dấu và nâng cao vấn đề với các từ khóa liên quan đến cuộc chiến ở Israel.
Đại diện của Meta, Kevin McAlister cho biết qua email gửi tới The Verge rằng công ty đang tiếp cận vấn đề này và sẽ tiếp tục cải thiện các tính năng này khi chúng phát triển và người dùng chia sẻ ý kiến của mình.
#WhatsApp #AI #trẻemPalestine #Meta #hứngdụngviếtđánhdán #xutẩyhìnhcầmsúng #Palestine #Israel #cuộcchiến #vấnđềđạođức
Nguồn: https://www.theverge.com/2023/11/5/23946732/whatsapp-ai-sticker-guns-palestine-israel
In Meta’s WhatsApp, users can generate stickers using AI prompts. The Guardian reported Friday that the AI model used to create those stickers sometimes generates images of children holding guns when prompted with “Palestine” and similar words. Meanwhile, according to the outlet, “Israel” prompts resulted in no such imagery.
A month ago, Meta’s AI sticker generator started rolling out with the tendency to create inappropriately violent or crass imagery, including, yes, child soldiers. According to the article, an unnamed source said some of the company’s workers had flagged and escalated the issue with prompts related to the war in Israel.
Meta spokesperson Kevin McAlister told The Verge via email that the company is addressing it, adding that Meta will “continue to improve these features as they evolve and more people share their feedback.”
