Dưới đây là những điều bất hợp pháp theo 9 (và đang còn đếm) luật AI mới của California #CaliforniaAI #CaliforniaLaw #CaliforniaGovernor
Thống đốc California Gavin Newsom hiện đang xem xét 38 dự luật liên quan đến AI, bao gồm dự luật gây tranh cãi SB 1047, mà các cơ quan lập pháp của bang đã gửi đến bàn làm việc của ông để duyệt cuối cùng. Những dự luật này cố gắng giải quyết những vấn đề cấp bách nhất trong trí tuệ nhân tạo: từ hệ thống AI tương lai tạo ra rủi ro tồn tại, đến ảnh nude deepfake từ các trình tạo hình ảnh AI, cho đến các hãng phim Hollywood tạo ra bản sao AI của các nghệ sĩ đã qua đời.
“California, nơi đặt trụ sở của hầu hết các công ty AI hàng đầu thế giới, đang nỗ lực tận dụng những công nghệ biến đổi này để giúp giải quyết những thách thức cấp bách đồng thời nghiên cứu những rủi ro mà chúng đem lại,” văn phòng Thống đốc Newsom nói trong một thông cáo báo chí.
Cho đến nay, Thống đốc Newsom đã ký vào luật 9 trong số chúng, một số trong số đó là các luật AI của Mỹ lên tới xa nhất.
Về đàm phán bằng AI
Vào thứ Sáu, Thống đốc Newsom đã ký một dự luật biểu lộ cần thiết về cuộc gọi tự động thông báo xem liệu họ đã sử dụng giọng nói được tạo ra bởi AI hay không. AB 2905 nhắm vào việc ngăn chặn một trường hợp khác của cuộc gọi tự động sử dụng giọng nói deepfake giống như giọng của Joe Biden đã làm cho nhiều cử tri New Hampshire nhầm lẫn hồi đầu năm nay.
Về ảnh nude deepfake
Newsom đã ký hai luật về việc tạo ra và phân phối ảnh nude deepfake vào thứ Năm. SB 926 tuyên tráng hóa hành vi này, khiến việc tống tiền ai đó bằng ảnh nude được tạo bởi AI giống họ trở thành hành vi bất hợp pháp.
SB 981, cũng được chuyển thành luật vào thứ Năm, yêu cầu các nền tảng mạng xã hội thiết lập kênh để người dùng báo cáo ảnh nude deepfake giống họ. Nội dung sau đó phải bị tạm thời chặn trong khi nền tảng điều tra, và bị xóa vĩnh viễn nếu xác nhận.
Về dấu thủ
Cũng vào thứ Năm, Newsom đã ký một dự luật để giúp công chúng xác định nội dung được tạo ra bởi AI. SB 942 yêu cầu các hệ thống AI tạo nhiều dấu thủ thông báo rằng chúng được tạo ra bởi AI trong dữ liệu nguồn gốc của nội dung. Ví dụ, tất cả các hình ảnh được tạo ra bởi Dall-E của OpenAI bây giờ cần một thẻ nhỏ trong dữ liệu meta của chúng ghi nhận rằng chúng được tạo ra bởi AI.
Nhiều công ty AI đã thực hiện điều này, và có nhiều công cụ miễn phí có thể giúp mọi người đọc dữ liệu này và phát hiện nội dung được tạo ra bởi AI.
Về sự đóng cửa trận cử deepfake
Trước đó trong tuần này, thống đốc California đã ký ba luật chặn đứng đối với các deepfake AI có thể ảnh hưởng đến cuộc bầu cử.
Một trong những luật mới của California, AB 2655, yêu cầu các nền tảng trực tuyến lớn, như Facebook và X, xóa hoặc ghi chú deepfake AI liên quan đến các cuộc bầu cử, cũng như tạo kênh để báo cáo nội dung đó. Ứng cử viên và quan chức đắc cử có thể yêu cầu xin lệnh cấm nếu một nền tảng trực tuyến lớn không tuân thủ luật này.
Một luật khác, AB 2839, nhắm vào người dùng truyền thông xã hội đăng hoặc chia sẻ lại deepfake AI có thể đánh lừa cử tri về các cuộc bầu cử sắp tới. Luật này có hiệu lực ngay vào thứ Ba, và Newsom đã gợi ý Elon Musk có thể dễ dàng vi phạm nó.
Quảng cáo chính trị được tạo ra bởi AI giờ cần bị tiết lộ rõ ràng theo luật mới của California, AB 2355. Điều đó có nghĩa là về sau, Trump có thể không thể thoát khỏi việc đăng tải deepfake AI của Taylor Swift ủng hộ mình trên Truth Social (cô ấy đã ủng hộ Kamala Harris). FCC đã đề xuất một yêu cầu tiết lộ tương tự ở cấp quốc gia và đã từng tuyên bố việc sử dụng những cuộc gọi tự động với giọng nói được tạo ra bởi AI là bất hợp pháp.
Về diễn viên và AI
Hai luật mà Newsom ký vào thứ Ba – mà SAG-AFTRA, liên đoàn diễn viên phim và phát thanh lớn nhất của quốc gia, đang đẩy mạnh – tạo ra các tiêu chuẩn mới cho ngành công nghiệp truyền thông của California. AB 2602 yêu cầu các hãng phim phải nhận sự cho phép từ một diễn viên trước khi tạo ra một bản sao AI của giọng nói hoặc hình dạng của họ.
Trong khi đó, AB 1836 cấm các hãng phim tạo bản sao số hóa của các nghệ sĩ đã qua đời mà không cần sự đồng ý từ gia đình họ (ví dụ, bản sao được phê chuẩn pháp lý đã được sử dụng trong các bộ phim gần đây “Alien” và “Star Wars”, cũng như trong các bộ phim khác).
Còn gì nữa?
Thống đốc Newsom vẫn còn 29 dự luật liên quan đến AI để quyết định trước cuối tháng Chín. Trong một buổi trò chuyện với CEO Salesforce Marc Benioff vào thứ Ba trong hội nghị Dreamforce 2024, Newsom có thể đã tiết lộ về SB 1047, và cách mà ông đang nghĩ về việc điều chỉnh ngành công nghiệp AI rộng lớn hơn.
“Có một dự luật nổi bật trong cuộc trò chuyện công khai và ý thức của công chúng; đó là SB 1047,” Newsom nói trên sân khấu vào thứ Ba. “Có rủi ro cụ thể trong AI và có rủi ro giả thiết? Tôi không thể giải quyết mọi vấn đề. Chúng ta có thể giải quyết vấn đề gì? Và đó là cách tiếp cận chúng tôi đang thực hiện qua mọi khía cạnh này.”
Kiểm tra lại bài viết này để cập nhật về những luật AI mà Thống đốc California ký, và những cái ông không ký.
#AIlaws #CaliforniaGovernor #AIindustry #AIregulations #AIethics
California Governor Gavin Newsom is currently considering 38 AI-related bills, including the highly contentious SB 1047, which the state’s legislature sent to his desk for final approval. These bills try to address the most pressing issues in artificial intelligence: everything from futuristic AI systems creating existential risk, deepfake nudes from AI image generators, to Hollywood studios creating AI clones of dead performers.
“Home to the majority of the world’s leading AI companies, California is working to harness these transformative technologies to help address pressing challenges while studying the risks they present,” said Governor Newsom’s office in a press release.
So far, Governor Newsom has signed nine of them into law, some of which are America’s most far reaching AI laws yet.
AI robocalls
On Friday, Governor Newsom signed a bill into law requiring robocalls to disclose whether they’ve use AI-generated voices. AB 2905 aims to prevent another instance of the deepfake robocall resembling Joe Biden’s voice that confused many New Hampshire voters earlier this year.
Deepfake nudes
Newsom signed two laws that address the creation and spread of deepfake nudes on Thursday. SB 926 criminalizes the act, making it illegal to blackmail someone with AI-generated nude images that resemble them.
SB 981, which also became law on Thursday, requires social media platforms to establish channels for users to report deepfake nudes that resemble them. The content must then be temporarily blocked while the platform investigates it, and permanently removed if confirmed.
Watermarks
Also on Thursday, Newsom signed a bill into law to help the public identify AI-generated content. SB 942 requires widely used generative AI systems to disclose they are AI-generated in their content’s provenance data. For example, all images created by OpenAI’s Dall-E now need a little tag in their metadata saying they’re AI generated.
Many AI companies already do this, and there are several free tools out there that can help people read this provenance data and detect AI-generated content.
Election deepfakes
Earlier this week, California’s governor signed three laws cracking down on AI deepfakes that could influence elections.
One of California’s new laws, AB 2655, requires large online platforms, like Facebook and X, to remove or label AI deepfakes related to elections, as well as create channels to report such content. Candidates and elected officials can seek injunctive relief if a large online platform is not complying with the act.
Another law, AB 2839, takes aim at social media users who post, or repost, AI deepfakes that could deceive voters about upcoming elections. The law went into effect immediately on Tuesday, and Newsom suggested Elon Musk may be at risk of violating it.
AI-generated political advertisements now require outright disclosures under California’s new law, AB 2355. That means moving forward, Trump may not be able to get away with posting AI deepfakes of Taylor Swift endorsing him on Truth Social (she endorsed Kamala Harris). The FCC has proposed a similar disclosure requirement at a national level and has already made robocalls using AI-generated voices illegal.
Actors and AI
Two laws that Newsom signed on Tuesday — which SAG-AFTRA, the nation’s largest film and broadcast actors union, was pushing for — create new standards for California’s media industry. AB 2602 requires studios to obtain permission from an actor before creating an AI-generated replica of their voice or likeness.
Meanwhile, AB 1836 prohibits studios from creating digital replicas of deceased performers without consent from their estates (e.g., legally cleared replicas were used in the recent “Alien” and “Star Wars” movies, as well as in other films).
What’s left?
Governor Newsom still has 29 AI-related bills to decide on before the end of September. During a chat with Salesforce CEO Marc Benioff on Tuesday during the 2024 Dreamforce conference, Newsom may have tipped his hat about SB 1047, and how he’s thinking about regulating the AI industry more broadly.
“There’s one bill that is sort of outsized in terms of public discourse and consciousness; it’s this SB 1047,” said Newsom onstage Tuesday. “What are the demonstrable risks in AI and what are the hypothetical risks? I can’t solve for everything. What can we solve for? And so that’s the approach we’re taking across the spectrum on this.”
Check back on this article for updates on what AI laws California’s governor signs, and what he doesn’t.
[ad_2]
