#NgàyHômNay: Các lãnh đạo AI đưa ra cảnh báo về nguy cơ tuyệt chủng do công nghệ AI gây ra. Hơn 350 giám đốc điều hành, nhà nghiên cứu và lãnh đạo ngành AI đã ký một tuyên bố cảnh báo tối ngày 23/11 rằng chúng ta cần phải ngăn chặn công nghệ của họ phá hủy thế giới. Việc giảm thiểu nguy cơ tuyệt chủng do AI phải là ưu tiên toàn cầu bên cạnh các rủi ro khác như đại dịch và chiến tranh hạt nhân. Các bên ký kết bao gồm những người như Sam Altman, Demis Hassabis, Dario Amodei, Geoffrey Hinton, người được gọi là “Bố già của AI”. Mặc dù có sự đồng thuận về nguy cơ của AI gây ra nhưng vẫn chưa có sự đồng thuận về bản chất hoặc khả năng xảy ra những rủi ro tồn tại này. Thêm vào đó, quy định của chính phủ là điều cần thiết để giúp giảm thiểu các rủi ro này.
Nguồn: https://gizmodo.com/ai-chatgpt-extinction-warning-letter-openai-sam-altman-1850486688
Hơn 350 giám đốc điều hành, nhà nghiên cứu và lãnh đạo ngành AI đã ký một cảnh báo trong một câu được công bố hôm thứ Ba, nói rằng chúng ta nên cố gắng ngăn chặn công nghệ của họ phá hủy thế giới.
Những người bạn sáng tạo của ChatGPT cho đến Quốc hội | công nghệ tương lai
“Việc giảm thiểu nguy cơ tuyệt chủng do AI phải là ưu tiên toàn cầu bên cạnh các rủi ro ở quy mô xã hội khác như đại dịch và chiến tranh hạt nhân,” tuyên bố do Trung tâm An toàn AI đưa ra cho biết. Các bên ký kết bao gồm Sam Altman, Giám đốc điều hành của mởAIDemis Hassabis, Giám đốc điều hành của Google DeepMindDario Amodei, Giám đốc điều hành của nhân loạivà Geoffrey Hinton, người được gọi là “Bố già của AI”, người gần đây bỏ Google vì lo sợ về công việc để đời của mình.
Khi cuộc trò chuyện công khai về AI chuyển từ kinh hoàng sang lạc hậu trong năm qua, ngày càng có nhiều người ủng hộ, nhà lập pháp và thậm chí Các nhà điều hành AI thống nhất xung quanh một thông điệp duy nhất: AI có thể hủy diệt thế giới và chúng ta nên làm gì đó về nó. Cụ thể, thứ gì đó nên là gì hoàn toàn chưa được giải quyết và có rất ít sự đồng thuận về bản chất hoặc khả năng xảy ra những rủi ro tồn tại này.
Không có câu hỏi rằng AI đã sẵn sàng tràn ngập thế giới với thông tin sai lệchvà một số lượng lớn công việc có thể sẽ được tự động vào quên lãng. Câu hỏi đặt ra là những vấn đề này sẽ đi bao xa, và khi nào hoặc liệu chúng có phá vỡ trật tự của xã hội chúng ta hay không.
Thường xuyên, các giám đốc điều hành công nghệ nói với bạn rằng đừng lo lắng về các mối đe dọa trong công việc của họ, nhưng ngành kinh doanh AI đang áp dụng chiến thuật ngược lại. OpenAI Sam Altman làm chứng trước Ủy ban Tư pháp Thượng viện tháng này, kêu gọi Ctiến trình thành lập một cơ quan quản lý AI. Công ty đã xuất bản một bài viết trên blog lập luận rằng các công ty cần phải có giấy phép nếu họ muốn làm việc trên “siêu trí tuệ” AI. Altman và những người đứng đầu nhân loại và Google DeepMind gần đây đã gặp Tổng thống Biden tại Nhà Trắng để trò chuyện về quy định AI.
Tuy nhiên, mọi thứ bị phá vỡ khi nói đến các chi tiết cụ thể, điều này giải thích độ dài của tuyên bố hôm thứ Ba. Dan Hendrycks, giám đốc điều hành của Trung tâm An toàn AI, nói với Thời báo New York họ giữ nó ngắn gọn vì các chuyên gia không đồng ý về các chi tiết về rủi ro hoặc chính xác những gì nên được thực hiện để giải quyết chúng. Hendrycks nói: “Chúng tôi không muốn thúc đẩy một danh sách quá lớn gồm 30 biện pháp can thiệp tiềm năng. “Khi điều đó xảy ra, nó sẽ làm loãng thông điệp.”
Có vẻ lạ khi các công ty AI lại kêu gọi chính phủ điều chỉnh họ, điều này có vẻ như sẽ cản trở họ. Có thể không giống như các nhà lãnh đạo của các doanh nghiệp công nghệ khác, các giám đốc điều hành AI thực sự quan tâm đến xã hội. Tuy nhiên, có rất nhiều lý do để nghĩ rằng điều này hơi hoài nghi hơn vẻ ngoài của nó. Ở nhiều khía cạnh, các quy tắc nhẹ nhàng sẽ tốt cho việc kinh doanh. Điều này không mới: một số người ủng hộ lớn nhất cho một luật riêng tư quốc giaví dụ: bao gồm Google, Meta và Microsoft.
Đối với một, quy định cung cấp cho các doanh nghiệp một cái cớ khi các nhà phê bình bắt đầu làm ầm lên. Đó là điều mà chúng ta thấy trong ngành dầu khí, nơi các công ty về cơ bản giơ tay và nói “Chà, chúng tôi đang tuân thủ luật pháp. Nhiều hơn những gì bạn muốn?” Đột nhiên, vấn đề là các cơ quan quản lý không đủ năng lực, chứ không phải các tập đoàn nghèo.
Quy định cũng làm cho việc vận hành trở nên đắt đỏ hơn rất nhiều, điều này có thể mang lại lợi ích cho các công ty đã thành lập khi nó cản trở các công ty mới nổi nhỏ hơn có thể cạnh tranh. Điều đó đặc biệt có liên quan trong lĩnh vực kinh doanh AI, nơi vẫn là trò chơi của bất kỳ ai và các nhà phát triển nhỏ hơn có thể gây ra mối đe dọa cho các ông lớn. Với loại quy định phù hợp, các công ty như OpenAI và Google về cơ bản có thể leo lên bậc thang phía sau họ. Trên hết, luật pháp yếu kém trên toàn quốc cản trở các nhà lập pháp tiểu bang phiền phức, những người thường thúc đẩy mạnh mẽ hơn đối với hoạt động kinh doanh công nghệ.
Và đừng quên rằng quy định mà các doanh nhân AI đang kêu gọi là về các vấn đề giả định có thể xảy ra sau này, chứ không phải các vấn đề thực sự đang xảy ra bây giờ. Các công cụ như ChatGPT tạo nên những lời nói dốihọ có nướng-trong phân biệt chủng tộcvà họ đã giúp các công ty loại bỏ công việc. Trong lời kêu gọi của OpenAI nhằm điều chỉnh siêu trí tuệ – một công nghệ không tồn tại — công ty đưa ra một tham chiếu vẫy tay duy nhất về các vấn đề thực tế mà chúng ta đang phải đối mặt, “Chúng ta cũng phải giảm thiểu rủi ro của công nghệ AI ngày nay.”
Tuy nhiên, cho đến nay, OpenAI dường như không thực sự thích khi mọi người cố gắng giảm thiểu những rủi ro đó. Liên minh châu Âu đã thực hiện các bước để làm điều gì đó về những vấn đề này, đề xuất các quy tắc đặc biệt cho các hệ thống AI ở mức độ caorủi ro” như bầu cử và chăm sóc sức khỏe, và Altman đe dọa rút công ty của mình ra khỏi EU hoạt động hoàn toàn. Sau đó, anh ấy đã đưa ra tuyên bố trở lại và nói OpenAI không có kế hoạch rời châu Âu, ít nhất là chưa.
Bạn muốn biết thêm về AI, chatbot và tương lai của máy học? Kiểm tra bảo hiểm đầy đủ của chúng tôi về trí tuệ nhân tạohoặc duyệt hướng dẫn của chúng tôi để Trình tạo nghệ thuật AI miễn phí tốt nhất Và Mọi thứ chúng tôi biết về ChatGPT của OpenAI.
[ad_2]
