#SựKiệnNgàyHômNay: Nhóm nhà nghiên cứu AI đưa ra tuyên bố giảm thiểu nguy cơ tuyệt chủng do AI. Tuy nhiên, việc AI có thể thúc đẩy sự tuyệt chủng của loài người là một điều cần phải xem xét nghiêm túc. Trong khi cùng với nhiều lợi ích, công nghệ này cũng đi kèm với những rủi ro lớn. Tuy nhiên, hiện chưa có kịch bản cụ thể về việc sự tuyệt chủng sẽ xảy ra như thế nào. Cần phải đặt tên và mô tả rõ ràng những vấn đề mà AI có thể gây ra để giải quyết chúng.
Nguồn: https://gizmodo.com/chatgpt-ai-how-could-ai-drive-humanity-extinct-1850501355
Những người bạn sáng tạo của ChatGPT cho đến Quốc hội | công nghệ tương lai
Tuần này một nhóm các nhà nghiên cứu AI nổi tiếng và uy tín đã ký bản tường trình gồm 22 từ:
Giảm thiểu nguy cơ tuyệt chủng do AI phải là ưu tiên toàn cầu bên cạnh các rủi ro quy mô xã hội khác như đại dịch và chiến tranh hạt nhân.
Với tư cách là một giáo sư về AI, tôi cũng ủng hộ việc giảm thiểu mọi rủi ro và sẵn sàng làm việc với tư cách cá nhân. Nhưng bất kỳ tuyên bố nào được diễn đạt theo cách như vậy chắc chắn sẽ tạo ra báo động, vì vậy các tác giả của nó có lẽ nên cụ thể hơn và làm rõ mối quan tâm của họ.
Theo định nghĩa của Encyclopedia Britannica, sự tuyệt chủng là “sự chết dần hoặc tiêu diệt một loài”. Tôi đã gặp nhiều người ký tuyên bố, họ là những nhà khoa học có uy tín và vững chắc nhất trong lĩnh vực này – và họ chắc chắn có ý tốt. Tuy nhiên, họ không đưa ra cho chúng ta một kịch bản hữu hình nào về việc một sự kiện cực đoan như vậy có thể xảy ra như thế nào.
Đây không phải là lần đầu tiên chúng tôi ở vị trí này. Vào ngày 22 tháng 3 năm nay, một bản kiến nghị được ký bởi một nhóm doanh nhân và nhà nghiên cứu khác yêu cầu tạm dừng triển khai AI trong sáu tháng. Trong đơn thỉnh cầu, trên trang web của Viện Tương lai Cuộc sống, họ đưa ra lập luận của mình: “Những rủi ro sâu sắc đối với xã hội và nhân loại, thể hiện qua nghiên cứu sâu rộng và được các phòng thí nghiệm AI hàng đầu thừa nhận” – và kèm theo yêu cầu của họ một danh sách các câu hỏi tu từ:
Chúng ta có nên để máy móc tràn ngập các kênh thông tin của chúng ta với tuyên truyền và sai sự thật? Chúng ta có nên tự động hóa tất cả các công việc, bao gồm cả những công việc hoàn thành không? Chúng ta có nên phát triển những bộ óc phi phàm mà cuối cùng có thể đông hơn, thông minh hơn, lỗi thời và thay thế chúng ta không? Chúng ta có nên mạo hiểm mất kiểm soát nền văn minh của mình không?
Một cảm giác báo động chung
Chắc chắn là cùng với nhiều lợi ích, công nghệ này đi kèm với những rủi ro mà chúng ta cần phải xem xét nghiêm túc. Nhưng không có kịch bản nào nói trên dường như vạch ra một con đường cụ thể dẫn đến sự tuyệt chủng. Điều này có nghĩa là chúng ta chỉ còn lại cảm giác báo động chung chung, mà chúng ta không thể thực hiện bất kỳ hành động khả thi nào.
Trang web của Trung tâm An toàn AInơi tuyên bố mới nhất xuất hiện, phác thảo trong một phần riêng biệt tám loại rủi ro rộng. Chúng bao gồm “vũ khí hóa” AI, việc sử dụng nó để thao túng hệ thống tin tức, khả năng con người cuối cùng không thể tự quản, tạo điều kiện thuận lợi cho các chế độ áp bức, v.v.
Ngoại trừ việc vũ khí hóa, vẫn chưa rõ làm thế nào những rủi ro khác – vẫn còn khủng khiếp – có thể dẫn đến sự tuyệt chủng của loài chúng ta và gánh nặng đánh vần nó thuộc về những người tuyên bố nó.
Tất nhiên, vũ khí hóa là một mối quan tâm thực sự, nhưng ý nghĩa của điều này cũng cần được làm rõ. Trên trang web của mình, mối lo ngại chính của Trung tâm An toàn AI dường như là việc sử dụng các hệ thống AI để thiết kế vũ khí hóa học. Điều này nên được ngăn chặn bằng mọi giá – nhưng vũ khí hóa học đã bị cấm. Sự tuyệt chủng là một sự kiện rất cụ thể đòi hỏi những lời giải thích rất cụ thể.
Vào ngày 16 tháng 5, tại phiên điều trần Thượng viện Hoa Kỳ của mình, Sam Altman, CEO của OpenAI – công ty đã phát triển chatbot AI ChatGPT – đã hai lần được yêu cầu nêu ra tình huống xấu nhất của mình. Cuối cùng anh đáp:
Nỗi sợ hãi tồi tệ nhất của tôi là chúng ta – lĩnh vực, công nghệ, ngành công nghiệp – gây ra tác hại đáng kể cho thế giới… Đó là lý do tại sao chúng tôi thành lập công ty (để ngăn chặn tương lai đó)… Tôi nghĩ nếu công nghệ này gặp trục trặc, nó có thể trở nên tồi tệ.
Nhưng trong khi tôi cực kỳ ủng hộ việc cẩn thận hết mức có thể, và đã nói điều này một cách công khai trong mười năm qua, điều quan trọng là phải duy trì cảm giác cân bằng – đặc biệt khi thảo luận về sự tuyệt chủng của tám tỷ loài. cá nhân.
AI có thể tạo ra các vấn đề xã hội cần phải thực sự được ngăn chặn. Là nhà khoa học, chúng ta có nhiệm vụ phải hiểu chúng và sau đó cố gắng hết sức để giải quyết chúng. Nhưng bước đầu tiên là đặt tên và mô tả chúng – và phải cụ thể.
Bạn muốn biết thêm về AI, chatbot và tương lai của máy học? Kiểm tra bảo hiểm đầy đủ của chúng tôi về trí tuệ nhân tạohoặc duyệt hướng dẫn của chúng tôi để Trình tạo nghệ thuật AI miễn phí tốt nhất Và Mọi thứ chúng tôi biết về ChatGPT của OpenAI.
Nello CristianiniGiáo sư Trí tuệ nhân tạo, Đại học tắm
Bài viết này được đăng lại từ Cuộc trò chuyện theo giấy phép Creative Commons. Đọc bài báo gốc.
[ad_2]
