Pháp đấu chỉ đóng cửa luật AI mới của California trong vụ án về deepfake của Kamala Harris

Một thẩm phán liên bang đã ngăn chặn một trong những luật AI mới của California vào thứ Tư, không đến hai tuần sau khi được ký bởi Thống đốc Gavin Newsom. Ngay sau khi ký AB 2839, Newsom đề xuất nó có thể được sử dụng để buộc Elon Musk phải gỡ bỏ một AI deepfake của Phó Tổng thống Kamala Harris mà ông đã đăng lại (gây ra một cuộc chiến trên mạng nhỏ giữa họ). Tuy nhiên, một thẩm phán California vừa quyết định rằng tiểu bang không thể buộc người ta phải gỡ bỏ các AI deepfake về bầu cử – ít nhất là trong thời điểm hiện tại.

AB 2839 nhắm vào các nhà phân phối của AI deepfakes trên mạng xã hội, cụ thể là nếu bài đăng của họ giống một ứng cử viên chính trị và người đăng biết đó là giả mạo có thể làm nhầm lẫn cử tri. Điều đặc biệt về luật này là nó không chống lại các nền tảng mà AI deepfakes xuất hiện, mà là những người phát tán chúng. AB 2839 trao quyền cho các thẩm phán California để yêu cầu người đăng AI deepfakes gỡ bỏ chúng hoặc có thể phải đối mặt với các hình phạt tiền bạc.

Có thể không ngạc nhiên khi người đăng gốc của AI deepfake đó – một người dùng X tên Christopher Kohls – đã đệ đơn kiện để ngăn chặn luật mới của California vì vi phạm hiến pháp chỉ một ngày sau khi nó được ký. Luật sư của Kohls viết trong một khiếu nại rằng hình giả mạo của Kamala Harris là một loại bản dính mà nên được bảo vệ bởi Hiến pháp.

Vào thứ Tư, thẩm phán hạt Hoa Kỳ John Mendez đã ủng hộ Kohls. Mendez ra một lệnh cấm tạm thời để ngăn chặn Bộ trưởng tư pháp California khỏi thực thi luật mới đối với Kohls hoặc bất kỳ ai khác, ngoại trừ các tin nhắn âm thanh nằm trong AB 2839.

Tóm lại, ông quyết định cho rằng luật viết rất rộng và có thể dẫn đến sự can thiệp nghiêm trọng của các cơ quan bang vào việc cho phép hay không cho phép bất kỳ loại nào của nói chuyện.

Vì đây chỉ là một lệnh cấm tạm thời, chúng ta sẽ phải đợi xem liệu luật của California này có thực sự bị chặn không, nhưng dù sao, nó khó có thể ảnh hưởng đến bầu cử tháng sau. AB 2839 là một trong số 18 luật mới liên quan đến AI mà Newsom đã ký trong tháng qua.

Điều cần quan trọng là Elon Musk đã chiến thắng lớn với đội ngũ người đăng bài tự do trên X. Trong những ngày sau khi Newsom ký AB 2839 thành luật, Musk và đồng minh thường xuyên của ông đã đăng một loạt AI deepfakes kiểm tra luật mới của California. #CaliforniaAIlaw #KamalaHarrisdeepfake #Judgeblockslaw

Nguồn: https://techcrunch.com/2024/10/02/judge-blocks-californias-new-ai-law-in-case-over-kamala-harris-deepfake-musk-reposted/

A federal judge blocked one of California’s new AI laws on Wednesday, less than two weeks after it was signed by Governor Gavin Newsom. Shortly after signing AB 2839, Newsom suggested it could be used to force Elon Musk to take down an AI deepfake of Vice President Kamala Harris he had reposted (sparking a petty online battle between the two). However, a California judge just ruled the state can’t force people to take down election deepfakes – not yet, at least.

AB 2839 targets the distributors of AI deepfakes on social media, specifically if their post resembles a political candidate and the poster knows it’s a fake that may confuse voters. The law is unique because it does not go after the platforms on which AI deepfakes appear, but rather those who spread them. AB 2839 empowers California judges to order the posters of AI deepfakes to take them down or potentially face monetary penalties.

Perhaps unsurprisingly, the original poster of that AI deepfake – an X user named Christopher Kohls – filed a lawsuit to block California’s new law as unconstitutional just a day after it was signed. Kohls’ lawyer wrote in a complaint that the deepfake of Kamala Harris is satire that should be protected by the First Amendment.

On Wednesday, United States district judge John Mendez sided with Kohls. Mendez ordered a preliminary injunction to temporarily block California’s attorney general from enforcing the new law against Kohls or anyone else, with the exception of audio messages that fall under AB 2839.

Read for yourself what Judge Mendez said in his decision:

Almost any digitally altered content, when left up to an arbitrary individual on the internet, could be considered harmful. For example, AI-generated approximate numbers on voter turnout could be considered false content that reasonably undermines confidence in the outcome of an election under this statute. On the other hand, many harmful’ depictions when shown to a variety of individuals may not ultimately influence electoral prospects or undermine confidence in an election at all. As Plaintiff persuasively points out, AB 2839 ‘relies on various subjective terms and awkwardly-phrased mens rea,’ which has the effect of implicating vast amounts of political and constitutionally protected speech…

(W)hile a well-founded fear of a digitally manipulated media landscape may be justified, this fear does not give legislators unbridled license to bulldoze over the longstanding tradition of critique, parody, and satire protected by the First Amendment. YouTube videos, Facebook posts, and X tweets are the newspaper advertisements and political cartoons of today, and the First Amendment protects an individual’s right to speak regardless of the new medium these critiques may take. Other statutory causes of action such as privacy torts, copyright infringement, or defamation already provide recourse to public figures or private individuals whose reputations may be afflicted by artificially altered depictions peddled by satirists or opportunists on the internet…

The record demonstrates that the State of California has a strong interest in preserving election integrity and addressing artificially manipulated content. However, California’s interest and the hardship the State faces are minimal when measured against the gravity of First Amendment values at stake and the ongoing constitutional violations that Plaintiff and other similarly situated content creators experience while having their speech chilled.

In essence, he ruled the law is simply too broad as written and could result in serious overstepping by state authorities into what speech is permitted or not.

Because this is a preliminary injunction, we’ll have to wait and see whether this California law is truly blocked for good, but either way it is unlikely to have much effect on next month’s election. AB 2839 is one of 18 new laws relating to AI that Newsom has signed in the last month.

It’s nevertheless a big win for Elon Musk’s camp of free speech posters on X. In the days following Newsom signing AB 2839 into law, Musk and his usual allies posted a series of AI deepfakes that tested California’s new law.


[ad_2]

Leave a Reply

Your email address will not be published. Required fields are marked *