Các cơ quan công tố ở mỗi tiểu bang đang cùng nhau đẩy mạnh cuộc chiến chống lại việc lạm dụng trẻ em qua trí tuệ nhân tạo #ChốngLạmDụngTrẻEm #TríTuệNhânTạo #PhòngChốngTộiPhạmTrựcTuyến
Tất cả 50 luật sư tổng đại diện cho từng tiểu bang Hoa Kỳ cùng với 4 lãnh thổ, đã ký vào một bức thư kêu gọi Quốc hội công bố các biện pháp chống lại nội dung lạm dụng tình dục trẻ em (CSAM) do trí tuệ nhân tạo (AI) tạo ra.
“Bất chấp việc tội phạm trên mạng nhắm vào trẻ em đã được tiến hành một cách tích cực, chúng tôi lo lắng rằng AI đang tạo ra một biên giới mới cho những hành vi lạm dụng và làm cho việc truy tố trở nên khó khăn hơn”, bức thư nói.
Thật vậy, AI làm cho việc tạo ra những hình ảnh giả mạo (deep fake) trở nên dễ dàng hơn bao giờ hết, hình ảnh này thể hiện một cách thực tế những người trong các tình huống sai lầm. Đôi khi, kết quả là vô hại, như khi internet bị lừa tin rằng Đức Giáo hoàng mặc một chiếc áo của thương hiệu Balenciaga thời trang. Nhưng trong những trường hợp tồi tệ nhất, như các luật sư tổng đại diện đã chỉ ra, công nghệ này có thể được sử dụng để tạo điều kiện thuận lợi cho hành vi lạm dụng.
“Dù cho trẻ em trong những hình ảnh gốc dùng để tạo ra những hình ảnh deepfakes có bị lạm dụng về mặt thể xác hay không, việc tạo ra và lưu thông những hình ảnh bị tình dục hóa miêu tả trẻ em thực sự đe dọa sự phát triển về mặt thể chất, tâm lý, và cảm xúc của những trẻ em bị công kích bởi nó, cũng như sự phát triển của cha mẹ chúng”, bức thư viết.
Các người ký tên đang thúc đẩy Quốc hội thành lập một ủy ban nghiên cứu giải pháp để đối phó với những mối đe dọa từ CSAM do trí tuệ nhân tạo tạo ra, sau đó mở rộng các luật hiện hành chống lại CSAM để rõ ràng bao gồm cả CSAM do trí tuệ nhân tạo tạo ra.
Giả mạo AI về việc quấy rối tình dục không tùy ý đã lan tràn trên mạng, nhưng các biện pháp pháp lý bảo vệ đối với các nạn nhân của tài liệu này hiện còn rất ít. New York, California, Virginia và Georgia đã có luật cấm việc phổ biến những hình ảnh giả mạo deep fake tình dục, và năm 2019, Texas trở thành tiểu bang đầu tiên cấm sử dụng deepfake để ảnh hưởng đến các cuộc bầu cử chính trị. Mặc dù các nền tảng mạng xã hội lớn cấm nội dung này, nhưng nó vẫn có thể trượt qua khả năng kiểm duyệt. Tháng Ba, một ứng dụng cho phép “swap” khuôn mặt bất kỳ vào video đều đầy ý đồ đã chạy quảng cáo trên 230 lần trên Facebook, Instagram, và Messenger; Meta đã gỡ bỏ quảng cáo sau khi nhận được thông báo từ phóng viên NBC News Kat Tenbarge.
Ở nước ngoài, các nhà lập pháp châu Âu đang cố gắng hợp tác với các quốc gia khác để kích hoạt Điều Lệ AI, tuy nhiên, các cuộc đàm phán vẫn đang trong quá trình.
#TrẻEm #NộiDungLạmDụng #CôngNghệ #AI #TríTuệNhânTạo #QuảngCáoTrựcTuyến #ChốngLạmDụngSố #BảoVệTrẻEm
The Attorneys General in all 50 U.S. states, plus 4 territories, signed onto a letter calling for Congress to take action against AI-enabled child sexual abuse material (CSAM).
“While internet crimes against children are already being actively prosecuted, we are concerned that AI is creating a new frontier for abuse that makes such prosecution more difficult,” the letter says.
Indeed, AI makes it easier than ever for bad actors to create deep fake images, which realistically depict people in false scenarios. Sometimes, the results are benign, like when the internet was duped into believing that the Pope had a fashionable Balenciaga coat. But in the worst cases, as the Attorneys General point out, this technology can be been leveraged to facilitate abuse
“Whether the children in the source photographs for deepfakes are physically abused or not, creation and circulation of sexualized images depicting actual children threatens the physical, psychological, and emotional wellbeing of the children who are victimized by it, as well as that of their parents,” the letter reads.
The signatories are pushing for Congress to establish a committee to research solutions to address the risks of AI-generated CSAM, then expand existing laws against CSAM to explicitly cover AI-generated CSAM.
Nonconsensual, sexually exploitative AI deep fakes already proliferate online, but few legal protections exist for the victims of this material. New York, California, Virginia and Georgia have laws that prohibit the dissemination of sexually exploitative AI deepfakes, and in 2019, Texas became the first state to ban the use of AI deepfakes to influence political elections. Although major social platforms prohibit this content, it can slip through the cracks. In March, an app purporting to “swap any face” into suggestive videos ran over 230 ads across Facebook, Instagram and Messenger; Meta removed the ads once notified by NBC News reporter Kat Tenbarge.
Overseas, European lawmakers are aiming to work with other countries to ratify an AI Code of Conduct, but negotiations are still in process.
