Đây là những điều bị cấm theo 8 luật AI mới tại California
Thống đốc California Gavin Newsom hiện đang xem xét 38 dự luật liên quan đến AI, bao gồm dự luật SB 1047 gây tranh cãi nặng nề, mà Nghị viện bang đã đưa lên bàn ông để phê chuẩn cuối cùng. Những dự luật này cố gắng giải quyết những vấn đề cấp bách nhất trong trí tuệ nhân tạo: từ hệ thống AI tạo ra nguy cơ tồn tại, đến ảnh nude deepfake từ các trình tạo hình ảnh AI, đến các hãng phim Hollywood tạo ra những bản sao AI của những nghệ sĩ đã khuất.
“Là nơi đóng chứa đa số các công ty AI hàng đầu trên thế giới, California đang làm việc để khai thác những công nghệ biến đổi này để giúp giải quyết những thách thức cấp bách và nghiên cứu về các nguy cơ chúng mang lại,” văn phòng Thống đốc Newsom nói trong một thông cáo báo chí.
Đến nay, Thống đốc Newsom đã ký kết đã ký kết tám trong số chúng thành luật, một số trong đó là các luật AI kéo dài nhất Mỹ cho đến nay.
Ảnh nude deepfake
Newsom đã ký kết hai luật giải quyết sự sáng tạo và lan truyền của ảnh nude deepfake vào thứ Năm. SB 926 hình phạt hành vi này, khiến việc đe dọa ai đó bằng các hình ảnh nude được tạo ra bằng AI giống họ trở nên bất hợp pháp.
SB 981, cũng trở thành luật vào thứ Năm, yêu cầu các nền tảng truyền thông xã hội thiết lập kênh báo cáo cho người dùng về các bức ảnh nude deepfake giống với họ. Nội dung sau đó phải bị chặn tạm thời trong khi nền tảng điều tra, và bị xóa vĩnh viễn nếu được xác nhận.
Watermarks
Cũng vào thứ Năm, Newsom ký kết một dự luật giúp công chúng nhận biết nội dung được tạo ra bằng AI. SB 942 yêu cầu các hệ thống AI phát sinh phổ biến tiết lộ rằng chúng được tạo ra bằng AI trong dữ liệu xuất xứ của nội dung. Ví dụ, tất cả các hình ảnh được tạo ra bởi Dall-E của OpenAI bây giờ cần một thẻ nhỏ trong siêu dữ liệu của họ nói rằng chúng được tạo ra bằng AI.
Nhiều công ty AI đã thực hiện điều này, và có một số công cụ miễn phí giúp người dùng đọc các dữ liệu xuất xứ này và phát hiện nội dung được tạo ra bằng AI.
Bầu cử đáng sợ
Trước đó trong tuần này, thống đốc California đã ký kết ba luật chống lại AI deepfake có thể ảnh hưởng tới bầu cử.
Một trong số luật mới của California, AB 2655, yêu cầu những nền tảng trực tuyến lớn, như Facebook và X, loại bỏ hoặc gắn nhãn AI deepfakes liên quan đến bầu cử, cũng như tạo ra kênh báo cáo cho nội dung đó. Ứng cử viên và các quan chức cử tùy thích có thể tìm sự giúp đỡ pháp lý nếu một nền tảng trực tuyến lớn không tuân thủ theo dự luật.
Luật khác, AB 2839, nhắm vào người dùng mạng xã hội đăng tải, hoặc chia sẻ lại, AI deepfakes có thể đánh lừa cử tri về bầu cử sắp tới. Luật này đã có hiệu lực ngay vào thứ Ba, và Newsom đã ra chỉ đạo rằng Elon Musk có thể bị vi phạm.
Quảng cáo chính trị được tạo ra bằng AI bây giờ yêu cầu phải tiết lộ rõ ràng theo luật mới của California, AB 2355. Điều này có nghĩa là từ nay, Trump có thể không thể thoát khỏi việc đăng tải AI deepfakes của Taylor Swift ủng hộ anh trên Truth Social (cô ủng hộ Kamala Harris). FCC đã đề xuất yêu cầu tương tự tại cấp quốc gia và đã tuyên bố cuộc gọi chọi bằng giọng AI là bất hợp pháp.
Diễn viên và AI
Hai luật mà Newsom ký kết vào thứ Ba – mà SAG-AFTRA, liên đoàn diễn viên phim và truyền hình lớn nhất của quốc gia, đã đẩy mạnh – tạo ra các tiêu chuẩn mới cho ngành truyền thông của California. AB 2602 yêu cầu các hãng phim được sự đồng ý từ một diễn viên trước khi tạo bản sao AI của giọng nói hoặc hình ảnh của họ.
Trong khi đó, AB 1836 cấm các hãng phim tạo bản sao kỹ thuật số của các diễn viên đã khuất mà không được sự đồng ý từ gia đình của họ (ví dụ, bản sao được pháp lý sử dụng trong các bộ phim “Alien” và “Star Wars” gần đây, cũng như trong các bộ phim khác).
Còn điều gì?
Thống đốc Newsom vẫn còn 30 dự luật liên quan đến AI để quyết định trước cuối tháng Chín. Trong một buổi trò chuyện với CEO của Salesforce, Marc Benioff vào thứ Ba trong hội nghị Dreamforce 2024, Newsom có thể đã bày tỏ về SB 1047, và cách ông đang suy nghĩ về việc quy định ngành công nghiệp AI rộng lớn hơn.
“Có một dự luật khá lớn trong đối thoại và ý thức của công chúng; đó là dự luật SB 1047,” Newsom nói trên sân khấu vào thứ Ba. “Những nguy cơ mà AI có thể đưa ra là gì, và những nguy cơ giả định? Tôi không thể giải quyết mọi vấn đề. Chúng ta có thể giải quyết những gì? Đó là cách tiếp cận chúng tôi đang thực hiện trong toàn bộ phạm vi này.”
Hãy kiểm tra lại bài viết này để cập nhật về những luật AI mà thống đốc California ký kết và những luật mà ông không ký kết.
#California #AI #luậtmới #Newsom
California Governor Gavin Newsom is currently considering 38 AI-related bills, including the highly contentious SB 1047, which the state’s legislature sent to his desk for final approval. These bills try to address the most pressing issues in artificial intelligence: everything from futuristic AI systems creating existential risk, deepfake nudes from AI image generators, to Hollywood studios creating AI clones of dead performers.
“Home to the majority of the world’s leading AI companies, California is working to harness these transformative technologies to help address pressing challenges while studying the risks they present,” said Governor Newsom’s office in a press release.
So far, Governor Newsom has signed eight of them into law, some of which are America’s most far reaching AI laws yet.
Deepfake nudes
Newsom signed two laws that address the creation and spread of deepfake nudes on Thursday. SB 926 criminalizes the act, making it illegal to blackmail someone with AI-generated nude images that resemble them.
SB 981, which also became law on Thursday, requires social media platforms to establish channels for users to report deepfake nudes that resemble them. The content must then be temporarily blocked while the platform investigates it, and permanently removed if confirmed.
Watermarks
Also on Thursday, Newsom signed a bill into law to help the public identify AI-generated content. SB 942 requires widely used generative AI systems to disclose they are AI-generated in their content’s provenance data. For example, all images created by OpenAI’s Dall-E now need a little tag in their metadata saying they’re AI generated.
Many AI companies already do this, and there are several free tools out there that can help people read this provenance data and detect AI-generated content.
Election deepfakes
Earlier this week, California’s governor signed three laws cracking down on AI deepfakes that could influence elections.
One of California’s new laws, AB 2655, requires large online platforms, like Facebook and X, to remove or label AI deepfakes related to elections, as well as create channels to report such content. Candidates and elected officials can seek injunctive relief if a large online platform is not complying with the act.
Another law, AB 2839, takes aim at social media users who post, or repost, AI deepfakes that could deceive voters about upcoming elections. The law went into effect immediately on Tuesday, and Newsom suggested Elon Musk may be at risk of violating it.
AI-generated political advertisements now require outright disclosures under California’s new law, AB 2355. That means moving forward, Trump may not be able to get away with posting AI deepfakes of Taylor Swift endorsing him on Truth Social (she endorsed Kamala Harris). The FCC has proposed a similar disclosure requirement at a national level and has already made robocalls using AI-generated voices illegal.
Actors and AI
Two laws that Newsom signed on Tuesday — which SAG-AFTRA, the nation’s largest film and broadcast actors union, was pushing for — create new standards for California’s media industry. AB 2602 requires studios to obtain permission from an actor before creating an AI-generated replica of their voice or likeness.
Meanwhile, AB 1836 prohibits studios from creating digital replicas of deceased performers without consent from their estates (e.g., legally cleared replicas were used in the recent “Alien” and “Star Wars” movies, as well as in other films).
What’s left?
Governor Newsom still has 30 AI-related bills to decide on before the end of September. During a chat with Salesforce CEO Marc Benioff on Tuesday during the 2024 Dreamforce conference, Newsom may have tipped his hat about SB 1047, and how he’s thinking about regulating the AI industry more broadly.
“There’s one bill that is sort of outsized in terms of public discourse and consciousness; it’s this SB 1047,” said Newsom onstage Tuesday. “What are the demonstrable risks in AI and what are the hypothetical risks? I can’t solve for everything. What can we solve for? And so that’s the approach we’re taking across the spectrum on this.”
Check back on this article for updates on what AI laws California’s governor signs, and what he doesn’t.
[ad_2]
