Các nhà nghiên cứu và CEO hàng đầu về Trí tuệ nhân tạo (AI) đã đưa ra tuyên bố cảnh báo về nguy cơ diệt vong nếu không quản lý phát triển AI đúng cách. Bản tuyên bố này được ký bởi hàng trăm chuyên gia, bao gồm cả các CEO của mởAI, DeepMind và Anthropic, cùng các nhà khoa học nổi tiếng trong lĩnh vực AI. Tuyên bố này nhằm mục đích vượt qua các trở ngại trong việc thảo luận cởi mở về những rủi ro thảm khốc từ AI. Hiện nay, có những lo ngại ngày càng tăng về sự tác động xã hội của AI, dẫn đến các cuộc thảo luận về cách tiếp cận tốt nhất để quản lý và phát triển AI một cách có trách nhiệm. Trong thời gian tới, cộng đồng cần tiếp tục tham gia vào các cuộc thảo luận có ý nghĩa để tìm ra giải pháp đảm bảo an toàn và tích cực của công nghệ AI. #AI #tuyênbốcảnhbáo #quảnlýAITốt #thảoluậncủarủirotệmhọcanhữnggiảiquyết #VentureBeat
Tham gia cùng các giám đốc điều hành hàng đầu tại San Francisco vào ngày 11-12 tháng 7, để nghe cách các nhà lãnh đạo đang tích hợp và tối ưu hóa các khoản đầu tư AI để thành công. Tìm hiểu thêm
Một nhóm các chuyên gia trí tuệ nhân tạo (AI) hàng đầu thế giới — bao gồm nhiều nhà nghiên cứu tiên phong, những người đã gióng lên hồi chuông cảnh báo trong những tháng gần đây về các mối đe dọa hiện hữu do chính công việc của họ gây ra — đã đưa ra một tuyên bố sắc bén vào hôm thứ Ba cảnh báo về một “nguy cơ tuyệt chủng” khỏi AI tiên tiến nếu sự phát triển của nó không được quản lý đúng cách.
Tuyên bố chung, được ký bởi hàng trăm chuyên gia bao gồm cả các CEO của mởAI, DeepMind Và nhân loại theo các tác giả của nó nhằm mục đích vượt qua những trở ngại để thảo luận cởi mở về những rủi ro thảm khốc từ AI. Nó xuất hiện trong thời kỳ mối lo ngại ngày càng tăng về tác động xã hội của AI, ngay cả khi các công ty và chính phủ nỗ lực đạt được những bước nhảy vọt mang tính biến đổi trong khả năng của nó.
“Các chuyên gia về AI, nhà báo, nhà hoạch định chính sách và công chúng đang ngày càng thảo luận nhiều hơn về một loạt các rủi ro quan trọng và cấp bách từ AI,” báo cáo viết. tuyên bố được xuất bản bởi Trung tâm An toàn AI. “Mặc dù vậy, có thể khó nói lên mối lo ngại về một số rủi ro nghiêm trọng nhất của AI tiên tiến. Tuyên bố ngắn gọn dưới đây nhằm vượt qua trở ngại này và mở ra cuộc thảo luận.”
Các nhà lãnh đạo nổi tiếng nhận ra mối quan tâm
Các bên ký kết bao gồm một số nhân vật có ảnh hưởng nhất trong ngành AI, chẳng hạn như Sam Altman, Giám đốc điều hành của OpenAI; Dennis Hassabis, Giám đốc điều hành của Google DeepMind; và Dario Amodei, Giám đốc điều hành của Anthropic. Các công ty này được coi là đi đầu trong nghiên cứu và phát triển AI, khiến cho sự thừa nhận của các giám đốc điều hành của họ về những rủi ro tiềm ẩn trở nên đặc biệt đáng chú ý.
Sự kiện
Chuyển đổi 2023
Hãy tham gia cùng chúng tôi tại San Francisco vào ngày 11-12 tháng 7, nơi các giám đốc điều hành hàng đầu sẽ chia sẻ cách họ đã tích hợp và tối ưu hóa các khoản đầu tư vào AI để đạt được thành công và tránh những cạm bẫy phổ biến.
Đăng ký ngay
Các nhà nghiên cứu đáng chú ý cũng đã ký vào bản tuyên bố bao gồm Yoshua Bengio, người tiên phong trong lĩnh vực học sâu; Ya-Qin Zhang, một nhà khoa học nổi tiếng và phó chủ tịch tập đoàn tại Microsoft; và Geoffrey Hinton, được mệnh danh là “cha đỡ đầu của deep learning,” người gần đây đã rời vị trí của mình tại Google để “nói chuyện thoải mái hơn” về mối đe dọa hiện hữu do AI gây ra.
Việc Hinton rời Google vào tháng trước đã thu hút sự chú ý đến những quan điểm đang phát triển của anh ấy về khả năng của các hệ thống máy tính mà anh ấy đã dành cả đời để nghiên cứu. Ở tuổi 75, vị giáo sư nổi tiếng đã bày tỏ mong muốn tham gia vào các cuộc thảo luận thẳng thắn về những nguy cơ tiềm ẩn của AI mà không bị ràng buộc bởi liên kết của công ty.
Kêu gọi hành động
Tuyên bố chung được đưa ra sau một sáng kiến tương tự vào tháng 3 khi hàng chục nhà nghiên cứu ký vào một bức thư ngỏ kêu gọi “tạm dừng” sáu tháng về phát triển AI quy mô lớn ngoài GPT-4 của OpenAI. Những người ký tên vào bức thư “tạm dừng” bao gồm những người nổi tiếng về công nghệ Elon Musk, Steve Wozniak, Bengio và Gary Marcus.
Bất chấp những lời kêu gọi thận trọng này, vẫn có rất ít sự đồng thuận giữa các nhà lãnh đạo ngành và các nhà hoạch định chính sách về cách tiếp cận tốt nhất để điều chỉnh và phát triển AI một cách có trách nhiệm. Đầu tháng này, các nhà lãnh đạo công nghệ bao gồm Altman, Amodei và Hassabis đã gặp Tổng thống Biden và Phó Tổng thống Harris để thảo luận về quy định tiềm năng. Trong một tiếp theo lời khai của thượng việnAltman ủng hộ sự can thiệp của chính phủ, nhấn mạnh mức độ nghiêm trọng của các rủi ro do các hệ thống AI tiên tiến gây ra và sự cần thiết phải có quy định để giải quyết các tác hại tiềm ẩn.
Trong một thời gian gần đây bài viết trên blog, các giám đốc điều hành của OpenAI đã vạch ra một số đề xuất để quản lý các hệ thống AI một cách có trách nhiệm. Trong số các khuyến nghị của họ là tăng cường hợp tác giữa các nhà nghiên cứu AI hàng đầu, nghiên cứu kỹ thuật chuyên sâu hơn về các mô hình ngôn ngữ lớn (LLM) và thành lập một tổ chức an toàn AI quốc tế. Tuyên bố này đóng vai trò như một lời kêu gọi hành động tiếp theo, thúc giục cộng đồng rộng lớn hơn tham gia vào một cuộc trò chuyện có ý nghĩa về tương lai của AI và tác động tiềm ẩn của nó đối với xã hội.
Sứ mệnh của VentureBeat là trở thành một quảng trường thành phố kỹ thuật số để những người ra quyết định kỹ thuật có được kiến thức về công nghệ doanh nghiệp chuyển đổi và giao dịch. Khám phá Briefings của chúng tôi.
[ad_2]
