“Cơ quan quản lý trí thông minh nhân tạo: Giải pháp đáng sợ của chính phủ Mỹ trong nỗi lo ChatGPT”

#TinTứcHômNay #AI #QuảnLýAICủaHoaKỳ #OpenAI #ChatGPT #CôngNghệAI

Các nhà lập pháp Hoa Kỳ đang hoang mang và muốn tạo ra một cơ quan quản lý AI sau khi công ty OpenAI phát hành ChatGPT vào tháng 11. Các nhà lập pháp lo lắng về những tác hại tiềm ẩn của công nghệ AI và cho rằng cần phải bảo vệ quyền của mọi người trước những hậu quả xấu.

Phiên điều trần do tiểu ban Tư pháp Thượng viện tổ chức ngày hôm qua đã cho thấy các nhà lập pháp đã nghe một danh sách rất đáng sợ về những cách trí tuệ nhân tạo có thể gây hại cho con người và nền dân chủ. Các đại biểu đã ủng hộ ý tưởng thành lập một nhánh mới của chính phủ Hoa Kỳ chuyên điều chỉnh AI.

Tuy nhiên, việc thành lập một cơ quan mới có thể gặp khó khăn trong việc theo kịp tốc độ và sức mạnh của ngành công nghệ, đặc biệt khi các nhà lập pháp không theo kịp tốc độ thay đổi của công nghệ.

Các đại biểu đã thảo luận về các phản ứng pháp lý ít triệt để hơn đối với những tiến bộ gần đây trong AI. Các ý tưởng đó bao gồm yêu cầu tài liệu công khai về các hạn chế của hệ thống AI hoặc bộ dữ liệu được sử dụng để tạo ra chúng.

Tóm lại, việc thành lập một cơ quan quản lý AI mới là cần thiết để đảm bảo an toàn và tránh những hậu quả không mong muốn của công nghệ AI.

Nguồn: https://www.wired.com/story/spooked-by-chatgpt-us-lawmakers-want-to-create-an-ai-regulator/

kể từ khi công nghệ ngành công nghiệp bắt đầu mối tình với máy học khoảng một thập kỷ trước, các nhà lập pháp Hoa Kỳ đã bàn tán về nhu cầu tiềm ẩn đối với quy định để kiềm chế công nghệ. Không có đề xuất nào để điều chỉnh các dự án AI của công ty sắp trở thành luật—nhưng việc OpenAI phát hành ChatGPT vào tháng 11 đã thuyết phục một số thượng nghị sĩ rằng hiện tại cần phải làm điều gì đó khẩn cấp để bảo vệ quyền của mọi người trước những tác hại tiềm ẩn của công nghệ AI.

Tại một phiên điều trần do tiểu ban Tư pháp Thượng viện tổ chức ngày hôm qua, những người tham dự đã nghe một danh sách khủng khiếp về những cách trí tuệ nhân tạo có thể gây hại cho con người và nền dân chủ. Các thượng nghị sĩ của cả hai bên đã phát biểu ủng hộ ý tưởng thành lập một nhánh mới của chính phủ Hoa Kỳ chuyên điều chỉnh AI. Ý tưởng thậm chí còn nhận được sự ủng hộ của Sam Altman, CEO của OpenAI.

“Nỗi sợ hãi tồi tệ nhất của tôi là chúng ta—lĩnh vực, công nghệ, ngành công nghiệp—gây ra tác hại đáng kể cho thế giới,” Altman nói. Ông cũng tán thành ý tưởng về việc các công ty AI gửi mô hình AI của họ để bên ngoài thử nghiệm và cho biết cơ quan quản lý AI của Hoa Kỳ nên có quyền cấp hoặc thu hồi giấy phép tạo AI trên một ngưỡng khả năng nhất định.

Một số cơ quan liên bang Hoa Kỳ bao gồm cả Ủy ban Thương mại Liên bangCục Quản lý Thực phẩm và Dược đã quy định cách các công ty sử dụng AI ngày nay. Nhưng thượng nghị sĩ Peter Welch cho biết thời gian làm việc tại Quốc hội đã thuyết phục ông rằng Quốc hội không thể theo kịp tốc độ thay đổi của công nghệ.

Welch, một đảng viên Đảng Dân chủ, cho biết: “Trừ khi chúng ta có một cơ quan giải quyết những câu hỏi này từ mạng xã hội và AI, nếu không chúng ta thực sự không có nhiều biện pháp bảo vệ chống lại những điều tồi tệ và những điều tồi tệ sẽ đến. “Chúng tôi hoàn toàn phải có một cơ quan.”

Richard Blumenthal, một thành viên Đảng Dân chủ, người chủ trì phiên điều trần, nói rằng một cơ quan quản lý AI mới có thể cần thiết vì Quốc hội đã cho thấy họ thường không theo kịp công nghệ mới. các nhà lập pháp Hoa Kỳ hồ sơ theo dõi đáng chú ý về quyền riêng tư kỹ thuật số và phương tiện truyền thông xã hội đã được đề cập thường xuyên trong phiên điều trần.

Nhưng Blumenthal cũng bày tỏ lo ngại rằng một cơ quan AI mới của liên bang có thể gặp khó khăn trong việc bắt kịp tốc độ và sức mạnh của ngành công nghệ. Ông nói với Altman và nhân chứng trong ngành, Christina Montgomery, giám đốc ủy thác và quyền riêng tư của IBM: “Nếu không có nguồn tài trợ phù hợp, bạn sẽ chạy lòng vòng quanh các cơ quan quản lý đó. Altman và Montgomery được tham gia bởi giáo sư tâm lý trở thành nhà bình luận AI Gary Marcusngười đã ủng hộ việc thành lập một cơ quan quốc tế để theo dõi tiến trình của AI và khuyến khích sự phát triển an toàn của công nghệ.

Blumenthal đã mở đầu phiên điều trần bằng một bản sao giọng nói AI của chính anh ấy đang đọc lại văn bản do ChatGPT viết để nhấn mạnh rằng AI có thể tạo ra kết quả thuyết phục.

Các thượng nghị sĩ đã không đề xuất một cái tên cho cơ quan tương lai hoặc vạch ra các chức năng có thể có của nó một cách chi tiết. Họ cũng thảo luận về các phản ứng pháp lý ít triệt để hơn đối với những tiến bộ gần đây trong AI.

Những ý tưởng đó bao gồm tán thành ý tưởng yêu cầu tài liệu công khai về các hạn chế của hệ thống AI hoặc bộ dữ liệu được sử dụng để tạo ra chúng, giống như nhãn dinh dưỡng AI, những ý tưởng được các nhà nghiên cứu như cựu lãnh đạo nhóm Google Ethical AI đưa ra cách đây nhiều năm. Timnit Gebru người đã bị trục xuất khỏi công ty sau một tranh chấp về một tiên tri bài nghiên cứu cảnh báo về những hạn chế và nguy hiểm của các mô hình ngôn ngữ lớn.


[ad_2]

Leave a Reply

Your email address will not be published. Required fields are marked *