Các nhà lãnh đạo công nghệ muốn có quy định AI ‘cân nhắc’ tại buổi họp riêng ở Thượng viện
Các nhà lãnh đạo công nghệ đã kêu gọi quy định kết hợp giữa sự đổi mới và an toàn trong khi Thượng viện tổ chức một trong nhiều “diễn đàn hiểu biết” để cung cấp thông tin cho quy định tiềm năng. Thượng nghị sĩ Chuck Schumer, đại diện Đảng Dân chủ, đã mời các nhà lãnh đạo trong lĩnh vực trí tuệ nhân tạo (AI), bao gồm CEO của Meta Mark Zuckerberg, CEO của OpenAI Sam Altman, CEO của Microsoft Satya Nadella, tổng giám đốc của Nvidia Jensen Huang, CEO của Google Sundar Pichai và Chủ tịch của X Elon Musk, tham gia Diễn đàn Hiểu biết AI đảng phái. Diễn đàn này đã đóng cửa với công chúng và truyền thông, nhưng một số nhà lãnh đạo công nghệ đã chuẩn bị bài phát biểu hoặc đã nói chuyện với phóng viên ngoài sự kiện. Zuckerberg nói trong bài phát biểu chuẩn bị rằng “Quốc hội nên tương tác với AI để hỗ trợ sự đổi mới và biện pháp bảo vệ.” Ông nói có hai vấn đề quyết định cho AI: an toàn và truy cập. Meta xây dựng biện pháp bảo vệ vào mô hình AI tạo ra và quyết định công bố các sản phẩm được trang bị AI. Nhưng công ty cũng tin rằng các mô hình AI mạnh mẽ sẽ “trở thành một lá chắn quan trọng ngày càng nhiều trong tương lai,” Zuckerberg nói. “Chúng tôi nghĩ rằng các nhà lập luận chính trị, học thuật, xã hội dân sự và công nghiệp nên cùng nhau làm việc để giảm thiểu các nguy cơ tiềm năng của công nghệ mới này, nhưng cũng để tối đa hóa các lợi ích tiềm năng,” Zuckerberg nói. Zuckerberg quảng cáo việc “phát hành công khai” mô hình Llama 2 của Meta để cung cấp quyền truy cập vào các mô hình AI. CEO của Meta lưu ý rằng cân nhắc quy định và đổi mới quan trọng để Mỹ tiếp tục dẫn đầu cuộc đua AI, điều ông đã nhắc tới trước đó. Trong khi đó, Musk của X, người đã thành lập một công ty AI gần đây, nói với các phóng viên ở bên ngoài diễn đàn rằng chính phủ cần có một cơ quan giám sát AI liên bang. Reuters đưa tin rằng Musk nói với các phóng viên rằng “quan trọng đối với chúng ta là cần có một trọng tài” để các công ty không vận hành các sản phẩm AI mà không kiểm soát. New York Times đưa tin rằng nhiều nhà lãnh đạo công nghệ đã nhấn mạnh tầm quan trọng của việc quy định công nghệ, với Altman của OpenAI nói rằng ông tin rằng các nhà lập luận chính trị muốn “làm đúng điều” và ấn tượng với tốc độ mà chính phủ muốn tạo ra quy định xung quanh công nghệ này. Schumer, người trước đây đã kêu gọi đồng nghiệp “tăng tốc” quy định AI, nói rằng diễn đàn là quan trọng để hiểu thêm về công nghệ và ông nói chuyện với phóng viên sau diễn đàn rằng Mỹ không thể lúc này gấp rút quy định. Nhưng trong khi các công ty công nghệ rất hoan nghênh cơ hội nói chuyện sau cửa mặt sau với các nhà lập luận chính trị, những người khác đã bày tỏ lo ngại về tính riêng tư của diễn đàn. Thượng nghị sĩ Elizabeth Warren (D-MA) chỉ trích diễn đàn, cho rằng đó là một cách cho các ông trùm công nghệ ảnh hưởng đến các chính sách. Ramayya Krishnan, giám đốc Viện Heinz College of Information Systems and Public Policy tại Đại học Carnegie Mellon, cho biết cho The Verge rằng các Diễn đàn Hiểu biết AI khác phải công khai. “Chúng tôi cần có nhiều phiên điều trần công khai hơn để có nhiều sự minh bạch hơn về cách quy định đang được lập ra,” Krishnan nói. “Tôi hy vọng rằng các diễn đàn khác sẽ mở cửa cho công chúng.” Lo ngại về sự kiểm soát quy định – khi ngành công nghiệp có thể quyết định cách luật được đặt ra – gia tăng khi các công ty công nghệ lớn tham gia vào các cuộc gọi quy định AI, có thể làm mất lại các công ty nhỏ hơn. Các nhà lập pháp khác, bao gồm Warren và Thượng nghị sĩ Edward Markey (D-MA), cũng đã gửi thư đến các công ty AI lớn, đòi hỏi câu trả lời về điều kiện làm việc của nhân viên con người đóng vai trò đào tạo và kiểm soát các mô hình AI. Các nhà lập pháp Mỹ đã có một tuần bận rộn nói về việc quy định AI. Trước buổi Diễn đàn Hiểu biết AI, Ủy ban Tư pháp của Thượng viện đã tổ chức một cuộc điều trần về pháp luật AI. Quốc hội đã tổ chức các cuộc điều trần đều đặn về các chủ đề khác nhau liên quan đến quy định AI trong nhiều tháng qua. Nhà Trắng cũng đã nhận cam kết tự nguyện từ các công ty AI để phát triển AI một cách có trách nhiệm.
Nguồn: https://www.theverge.com/2023/9/13/23872478/ai-tech-regulation-leaders-insight-forum
Tech leaders called for regulation that balances innovation and safety as the Senate conducted one of the many “insight forums” to inform potential rulemaking.
Senate Majority Leader Chuck Schumer (D-NY) invited leaders in the AI space, including Meta CEO Mark Zuckerberg, OpenAI CEO Sam Altman, Microsoft CEO Satya Nadella, Nvidia president Jensen Huang, Google CEO Sundar Pichai, and X chair Elon Musk to a bipartisan AI Insight Forum.
The forum was closed to the public and media, but some tech leaders prepared remarks or spoke to reporters outside the event.
Zuckerberg said in prepared remarks that “Congress should engage with AI to support innovation and safeguards.” He said there are two defining issues for AI: safety and access.
Meta builds safeguards into its generative AI models and is deliberate about how to roll out AI-powered products. But the company also believes powerful AI models are “going to be an increasingly important driver of opportunity in the future,” Zuckerberg said.
“We think policymakers, academics, civil society, and industry should all work together to minimize the potential risks of this new technology, but also to maximize the potential benefits,” Zuckerberg said. “If you believe this generation of AI tools is a meaningful step forward, then it’s important not to undervalue the potential upside.”
Zuckerberg touted Meta’s “open sourcing” of its Llama 2 model to provide access to AI models.
The Meta CEO noted balancing regulation and innovation is important so that the US continues to lead the AI race, something he’s brought up before.
On the other hand, X’s Musk, who started an AI company recently, told reporters outside the forum that the government needs a federal AI oversight agency.
Reuters reports Musk told reporters that “it’s important for us to have a referee” so that companies do not run AI products unchecked.
The New York Times reports several tech leaders remarked on the importance of regulating the technology, with OpenAI’s Altman saying he believes policymakers want “to do the right thing” and is impressed with how fast the government wants to create rules around the technology.
Schumer, who previously called on peers to “pick up the pace” around AI regulation, said the forum was important to understand more of the technology and told reporters after the forum that the US cannot rush rulemaking.
But while tech companies welcomed the opportunity to speak behind closed doors to policymakers, others expressed concern about the private nature of the forum. Sen. Elizabeth Warren (D-MA) criticized the forum, saying it was a way for tech giants to influence policies.
Ramayya Krishnan, dean of the Heinz College of Information Systems and Public Policy at Carnegie Mellon University, tells The Verge that other AI Insight Forums have to be public.
“We need more public hearings so we have more transparency into how the regulations are being crafted,” Krishnan said. “I hope other forums are open to the public.”
Concerns over regulatory capture — when an industry can dictate how laws are made — rose as Big Tech companies involved in AI called for regulation, potentially leaving behind smaller companies in their wake.
Other lawmakers, including Warren and Sen. Edward Markey (D-MA), also sent a letter to large AI companies, demanding answers about the working conditions of the human workers who help train and moderate AI models.
US lawmakers have had a busy week talking about regulating AI. The day before the AI Insight Forum, the Senate’s Judiciary Committee held a hearing about AI legislation. Congress has held fairly regular hearings on various topics around AI regulation for months. The White House also got voluntary commitments from AI companies to develop AI responsibly.
