Thống đốc California từ chối dự luật về an toàn cho trí tuệ nhân tạo – NGÀY HÔM NAY
Thống đốc California, Gavin Newsom đã từ chối Dự luật An toàn và Bảo mật cho Mô hình Trí tuệ Nhân tạo tiên tiến (SB 1047) vào ngày hôm nay. Trong thông điệp từ chối của mình, Thống đốc Newsom đã đưa ra nhiều yếu tố quyết định, bao gồm gánh nặng mà dự luật sẽ đặt lên các công ty AI, vị trí hàng đầu của California trong lĩnh vực này, và một phê bình rằng dự luật có thể quá rộng rãi.
Trong thông điệp từ chối của mình, Thống đốc Newsom viết rằng dự luật không xem xét xem hệ thống AI được triển khai trong môi trường có nguy cơ cao, liên quan đến quyết định quyết định quan trọng hay việc sử dụng dữ liệu nhạy cảm. Thay vào đó, dự luật áp dụng tiêu chuẩn chặt chẽ cho dù chức năng cơ bản nhất – miễn là có hệ thống lớn triển khai nó. Thống đốc viết rằng ông không tin rằng đây là cách tiếp cận tốt nhất để bảo vệ công chúng khỏi các mối đe doạ thực sự dẫn đến bởi công nghệ này.
Thống đốc cho biết ông đồng ý rằng nên có giao thức và rào cản an toàn, cũng như hậu quả “rõ ràng và có thể thi hành” đối với những người làm xấu. Tuy nhiên, ông khẳng định rằng ông không tin rằng bang California nên “chấp nhận một giải pháp không được thông tin bằng phân tích quỹ đạo kinh nghiệm của các hệ thống AI và khả năng của chúng.”
Trong một bài đăng trên X, Thượng nghị sĩ Scott Wiener, tác giả chính của dự luật, gọi việc từ chối này là “một trở ngại cho những người tin vào sự giám sát của các công ty lớn đang đưa ra các quyết định quan trọng” ảnh hưởng đến an toàn và phúc lợi công cộng và “tương lai của hành tinh.” “Việc từ chối này làm cho chúng tôi thực sự lo ngại rằng các công ty nhắm mục tiêu tạo ra một công nghệ cực mạnh không gặp bất kỳ hạn chế ràng buộc nào từ chính phủ Mỹ, đặc biệt là khi Quốc hội tiếp tục đắn đo về việc quy định ngành công nghệ một cách có ý nghĩa.”
Dự luật SB 1047 đã trên tay Thống đốc Newsom vào cuối tháng Tám, được trở thành hệ thống pháp lý nghiêm ngặt nhất về AI tại Mỹ, với một hạn chót để ký hoặc từ chối là vài 30 tháng Chín. Dự luật áp dụng cho các công ty AI được bao gồm trong California với một mô hình mà cần hơn 100 triệu đô-la để huấn luyện hoặc hơn 10 triệu đô-la để điều chỉnh, thêm yêu cầu cho các nhà phát triển triển khai các biện pháp bảo vệ như “nút tắt” và định rõ giao thức kiểm tra để giảm nguy cơ xảy ra các sự kiện tai hại như một cuộc tấn công mạng hay dịch bệnh. Văn bản cũng thiết lập các biện pháp bảo vệ cho những người làm chứng thần tốc để báo cáo vi phạm và cho phép Thanh tra Tổng thể kiện các nhà phát triển vì các vụ việc gây tai hại.
Các thay đổi kể từ khi dự luật giới thiệu bao gồm việc loại bỏ đề xuất về một cơ quan quản lý mới và trao quyền cho Thanh tra Tổng làm công tác kiện sẽ với những sự kiện tiềm năng trước khi chúng xảy ra. Hầu hết các công ty được bao gồm trong dự luật đã phản kháng lại dự luật, mặc dù một số không phản kháng mạnh mẽ sau những sửa đổi đó.
Trong một bức thư gửi cho tác giả dự luật Thượng nghị sĩ Wiener, Giám đốc Chiến lược chính của OpenAI, Jason Kwon nói rằng SB 1047 sẽ chậm tiến bộ và rằng chính phủ liên bang nên xử lý quy định AI thay vào đó. Trong khi đó, Giám đốc điều hành của Anthropic, Dario Amodei đã viết thư cho thống đốc sau khi dự luật đã được sửa đổi, liệt kê các lợi ích và hại mà ông cho rằng “…dự luật SB 1047 mới đã được cải thiện đáng kể, tới mức chúng tôi tin rằng lợi ích của nó có thể vượt qua chi phí của nó.”
Liên minh Tiến bộ, một liên minh đại diện cho Amazon, Meta và Google, cũng cảnh báo rằng dự luật sẽ “cản trở sự tiến bộ công nghệ.” Người phát ngôn công cộng của Meta, Jamie Radice đã gửi một email chứa tuyên bố của Meta về việc từ chối cho The Verge: “Chúng tôi rất vui mừng Thống đốc Newsom đã từ chối SB1047. Dự luật này sẽ hạn chế sự đổi mới trong AI, làm hại đến sự phát triển kinh doanh và sự tạo ra việc làm, và phá vỡ truyền thống lâu dài của bang về việc khuyến khích phát triển mã nguồn mở. Chúng tôi ủng hộ quy định AI có trách nhiệm và cam kết hợp tác với các nhà lập pháp để thúc đẩy các phương pháp tốt hơn.”
Những điều phản đối dự luật bao gồm cựu nghị sĩ Hạ viện Nancy Pelosi, Thị trưởng San Francisco London Breed, và tám nghị sĩ Dân chủ từ California. Trên mặt khác, những người ủng hộ nổi tiếng bao gồm Elon Musk, những tên tuổi nổi tiếng Hollywood như Mark Hamill, Alyssa Milano, Shonda Rhimes và J.J. Abrams, cũng như các công đoàn bao gồm SAG-AFTRA và SEIU. Chính phủ liên bang cũng đang tìm cách để quy định AI. Vào tháng Năm, Thượng viện đề xuất một kế hoạch 32 tỷ đô-la đi qua nhiều lĩnh vực mà các nhà lập pháp nên xem xét, bao gồm tác động của AI đối với bầu cử, an ninh quốc gia, nội dung được bảo hộ bản quyền, và nhiều hơn nữa. #dựluậtAI #SB1047 #tưngdaysựkiện
California Governor Gavin Newsom vetoed the Safe and Secure Innovation for Frontier Artificial Intelligence Models Act (SB 1047) today. In his veto message, Governor Newsom cited multiple factors in his decision, including the burden the bill would have placed on AI companies, California’s lead in the space, and a critique that the bill may be too broad.
“While well-intentioned, SB 1047 does not take into account whether an AI system is deployed in high-risk environments, involves critical decision-making or the use of sensitive data. Instead, the bill applies stringent standards to even the most basic functions — so long as a large system deploys it. I do not believe this is the best approach to protecting the public from real threats posed by the technology.”
Newsom writes that the bill could “give the public a false sense of security about controlling this fast-moving technology.”
“Smaller, specialized models may emerge as equally or even more dangerous than the models targeted by SB 1047 – at the potential expense of curtailing the very innovation that fuels advancement in favor of the public good.”
The Governor says he agrees that there should be safety protocols and guardrails in place, as well as “clear and enforceable” consequences for bad actors. However, he states that he doesn’t believe the state should “settle for a solution that is not informed by an empirical trajectory analysis of Al systems and capabilities.”
Here is the full veto message:
In a post on X, Senator Scott Wiener, the bill’s main author, called the veto “a setback for everyone who believes in oversight of massive corporations that are making critical decisions” affecting public safety and welfare and “the future of the planet.”
“This veto leaves us with the troubling reality that companies aiming to create an extremely powerful technology face no binding restrictions from U.S. policymakers, particularly given Congress’s continuing paralysis around regulating the tech industry in any meaningful way.”
In late August, SB 1047 arrived on Gov. Newsom’s desk, poised to become the strictest legal framework around AI in the US, with a deadline to either sign or veto it as of September 30th.
It would have applied to covered AI companies doing business in California with a model that costs over $100 million to train or over $10 million to fine-tune, adding requirements that developers implement safeguards like a “kill switch” and lay out protocols for testing to reduce the chance of disastrous events like a cyberattack or a pandemic. The text also establishes protections for whistleblowers to report violations and enables the AG to sue for damages caused by safety incidents.
Changes since its introduction included removing proposals for a new regulatory agency and giving the state attorney general power to sue developers for potential incidents before they occur. Most companies covered by the law pushed back against the legislation, though some muted their criticism after those amendments.
In a letter to bill author Senator Wiener, OpenAI chief strategy officer Jason Kwon said SB 1047 would slow progress and that the federal government should handle AI regulation instead. Meanwhile, Anthropic CEO Dario Amodei wrote to the governor after the bill was amended, listing his perceived pros and cons and saying, “…the new SB 1047 is substantially improved, to the point where we believe its benefits likely outweigh its costs.”
The Chamber of Progress, a coalition that represents Amazon, Meta, and Google, similarly warned the law would “hamstring innovation.”
Meta public affairs manager Jamie Radice emailed Meta’s statement on the veto to The Verge:
“We are pleased that Governor Newsom vetoed SB1047. This bill would have stifled AI innovation, hurt business growth and job creation, and broken the state’s long tradition of fostering open-source development. We support responsible AI regulations and remain committed to partnering with lawmakers to promote better approaches.”
The bill’s opponents have included former House Speaker Nancy Pelosi, San Francisco Mayor London Breed, and eight congressional Democrats from California. On the other side, vocal supporters have included Elon Musk, prominent Hollywood names like Mark Hamill, Alyssa Milano, Shonda Rhimes, and J.J. Abrams, and unions including SAG-AFTRA and SEIU.
The federal government is also looking into ways it could regulate AI. In May, the Senate proposed a $32 billion roadmap that goes over several areas lawmakers should look into, including the impact of AI on elections, national security, copyrighted content, and more.
[ad_2]
