#Sựkiệnhômnay: Chuyên gia cảnh báo Runaway AI là mối đe dọa tương đương với chiến tranh hạt nhân và đại dịch. Tuyên bố được ký bởi nhân vật hàng đầu trong sự phát triển trí tuệ nhân tạo bao gồm Giám đốc điều hành OpenAI Sam Altman, Giám đốc điều hành Google DeepMind Demis Hassabis, và Geoffrey Hinton Và Yoshua Bengio. Ý tưởng rằng AI trở nên khó kiểm soát và gây tuyệt chủng loài người được thảo luận rộng rãi và nghiêm túc hơn. Viện tương lai của cuộc sống, một tổ chức phi lợi nhuận tập trung vào những rủi ro dài hạn do AI gây ra, đã kêu gọi các chính phủ và công chúng nghiêm túc nhìn nhận nguy cơ hiện hữu này. Mô hình ngôn ngữ lớn, một loại mạng lưới thần kinh nhân tạo, đang được chứng minh là mạch lạc và có khả năng giải quyết các vấn đề phức tạp. Các chuyên gia cảnh báo việc giảm thiểu nguy cơ tuyệt chủng do AI phải là ưu tiên toàn cầu.
Nguồn: https://www.wired.com/story/runaway-ai-extinction-statement/
Nhân vật hàng đầu trong sự phát triển của các hệ thống trí tuệ nhân tạo, bao gồm Giám đốc điều hành OpenAI Sam Altman và Giám đốc điều hành Google DeepMind Demis Hassabis, đã ký một tuyên bố cảnh báo rằng công nghệ mà họ đang xây dựng một ngày nào đó có thể đặt ra mối đe dọa hiện hữu đối với nhân loại tương đương với chiến tranh hạt nhân và đại dịch.
“Giảm thiểu nguy cơ tuyệt chủng do AI phải là ưu tiên toàn cầu bên cạnh các rủi ro quy mô xã hội khác, chẳng hạn như đại dịch và chiến tranh hạt nhân,” đọc một tuyên bố một câu, được phát hành hôm nay bởi Trung tâm An toàn AImột tổ chức phi lợi nhuận.
Ý tưởng rằng AI có thể trở nên khó kiểm soát và vô tình hoặc cố ý hủy diệt loài người đã được các nhà triết học tranh luận từ lâu. Nhưng trong sáu tháng qua, sau một số bước nhảy vọt đáng ngạc nhiên và đáng sợ trong hiệu suất của các thuật toán AI, vấn đề này đã được thảo luận rộng rãi và nghiêm túc hơn rất nhiều.
Ngoài Altman và Hassabis, tuyên bố còn được ký bởi Dario Amodei, Giám đốc điều hành của nhân loại, một công ty khởi nghiệp chuyên phát triển AI với trọng tâm là sự an toàn. Các bên ký kết khác bao gồm Geoffrey Hinton Và Yoshua Bengio—hai trong số ba học giả được trao Giải thưởng Turing cho công trình của họ về học kĩ càngcông nghệ làm nền tảng cho những tiến bộ hiện đại trong máy học và AI—cũng như hàng chục doanh nhân và nhà nghiên cứu đang làm việc về các vấn đề AI tiên tiến.
“Tuyên bố là một sáng kiến tuyệt vời,” nói Dấu hiệu tối đamột giáo sư vật lý tại Viện Công nghệ Massachusetts và là giám đốc của Viện tương lai của cuộc sống, một tổ chức phi lợi nhuận tập trung vào những rủi ro dài hạn do AI gây ra. Vào tháng 3, Viện Tegmark đã xuất bản một thư kêu gọi tạm dừng sáu tháng về việc phát triển các thuật toán AI tiên tiến để có thể đánh giá rủi ro. Bức thư được ký bởi hàng trăm nhà nghiên cứu và giám đốc điều hành AI, bao gồm cả Elon Musk.
Tegmark cho biết ông hy vọng tuyên bố này sẽ khuyến khích các chính phủ và công chúng nhìn nhận những rủi ro hiện hữu của AI một cách nghiêm túc hơn. “Kết quả lý tưởng là mối đe dọa tuyệt chủng AI được phổ biến rộng rãi, cho phép mọi người thảo luận về nó mà không sợ bị chế nhạo,” ông nói thêm.
Dan Hendrycks, giám đốc Trung tâm An toàn AI, đã so sánh thời điểm quan tâm hiện tại về AI với cuộc tranh luận giữa các nhà khoa học về việc tạo ra vũ khí hạt nhân. “Chúng ta cần có những cuộc trò chuyện mà các nhà khoa học hạt nhân đã có trước khi tạo ra bom nguyên tử,” Hendrycks nói trong một trích dẫn được đưa ra cùng với tuyên bố của tổ chức của ông.
Giai điệu cảnh báo hiện tại gắn liền với một số bước nhảy vọt trong hiệu suất của thuật toán AI được gọi là mô hình ngôn ngữ lớn. Các mô hình này bao gồm một loại mạng lưới thần kinh nhân tạo cụ thể được đào tạo dựa trên số lượng lớn văn bản do con người viết để dự đoán các từ sẽ tuân theo một chuỗi nhất định. Khi được cung cấp đủ dữ liệu và được đào tạo bổ sung dưới dạng phản hồi từ con người về câu trả lời tốt và xấu, các mô hình ngôn ngữ này có thể tạo văn bản và trả lời các câu hỏi với khả năng hùng biện và kiến thức rõ ràng đáng chú ý—ngay cả khi câu trả lời của chúng thường mắc lỗi.
Các mô hình ngôn ngữ này ngày càng được chứng minh là mạch lạc và có khả năng khi chúng được cung cấp thêm dữ liệu và sức mạnh máy tính. Mô hình mạnh mẽ nhất được tạo ra cho đến nay, GPT-4 của OpenAI, có thể giải quyết các vấn đề phức tạp, bao gồm cả những vấn đề dường như yêu cầu một số hình thức trừu tượng và lý luận thông thường.
[ad_2]
