#AI #sự_kiện_ngày_hôm_nay
Tiến sĩ Geoffrey Hinton, cựu nhân viên của Google và người đoạt giải Turing Prize đã bày tỏ mối lo ngại về sự phát triển nhanh chóng của AI và những ảnh hưởng tiêu cực của nó đến cuộc sống của con người. Hinton đã nhìn nhận rằng AI có khả năng hủy hoại mọi thứ và đưa ra 5 cách mà AI có thể gây hại:
1. Cạnh tranh dữ dội giữa các công ty AI dẫn đến sự kém thận trọng trong phát triển và triển khai các chatbot.
2. Sự gia tăng của AI dẫn đến sự lan tràn nội dung trực tuyến giả mạo, deep fakes.
3. AI được thiết lập để đảm nhận nhiều hơn những nhiệm vụ mà con người không muốn làm.
4. AI có thể học những bài học mà con người không lường trước được và thực hiện chương trình củng cố những bài học đó.
5. Tiến sĩ Hinton cho rằng ngày AI thông minh hơn con người đang đến rất nhanh và chắc chắn sẽ có những tác động không lường trước đến cuộc sống của con người.
Những lời cảnh báo của Tiến sĩ Hinton đã gây sự quan tâm cho công chúng về sự phát triển của AI và những tác động có thể gây ra đến cuộc sống của con người. Điều này cho thấy rằng chúng ta cần có những quy định và luật lệ rõ ràng để kiểm soát sự phát triển của AI và đảm bảo rằng nó sẽ phục vụ cho lợi ích của con người.
Nguồn: https://techtoday.co/5-ways-the-godfather-of-ai-thinks-ai-could-ruin-everything/
bản tin
Sed ut perspiciatis unde.
Gần một thập kỷ trước, người đoạt giải Turing Prize và hiện là cựu nhân viên của Google, Tiến sĩ Geoffrey Hinton, được biết đến là người đã nhiệt tình thốt lên trong số các sinh viên AI của mình, “Bây giờ tôi đã hiểu cách thức hoạt động của bộ não!” Tuy nhiên, giờ đây, “Bố già của AI” đã rời khỏi Google — và ông ấy có nhiều khả năng được nghe thấy tiếng chuông cảnh báo AI tuyệt vọng hơn.
Trong một cuộc phỏng vấn xuất cảnh với Thời báo New York (mở trong tab mới), Hinton bày tỏ mối lo ngại sâu sắc về sự phát triển nhanh chóng của AI, nói rằng “thật khó để biết làm thế nào bạn có thể ngăn chặn những kẻ xấu sử dụng nó cho mục đích xấu”.
Một đường dây trực tiếp kết nối công việc tiên phong kéo dài hàng thập kỷ của Hinton trong các mạng thần kinh với các chatbot (ChatGPT, Google Bard, Bing AI) ngày nay. Những đột phá của anh ấy hơn một thập kỷ trước đã khiến Google mời anh ấy tham gia phát triển các hệ thống học sâu thế hệ tiếp theo có thể giúp máy tính diễn giải hình ảnh, văn bản và lời nói giống như cách con người làm.
Nói chuyện với WI màu đỏ trong năm 2014 (mở trong tab mới)sự nhiệt tình của Hinton rất rõ ràng: “Tôi rất hào hứng khi chúng ta khám phá ra cách làm cho mạng lưới thần kinh trở nên tốt hơn — và khi điều đó liên quan mật thiết đến cách thức hoạt động của bộ não.”
Một Hinton rất khác đã nói chuyện với Thời báo New York (mở trong tab mới) trong tuần này, để phác thảo tất cả các cách mà AI có thể đưa nhân loại ra khỏi đường ray. Dưới đây là những điểm chính:
Vội vã cạnh tranh có nghĩa là lan can bay ra
Trong khi các công ty như Microsoft, Google và OpenAI thường tuyên bố rằng họ đang thực hiện một cách tiếp cận chậm và thận trọng để phát triển AI và triển khai chatbot, Tiến sĩ Hinton nói Thời báo New York rằng anh ấy lo lắng về thực tế là sự cạnh tranh ngày càng tăng dẫn đến cách tiếp cận kém thận trọng hơn. Và anh ấy rõ ràng đã đúng: Đầu năm nay, chúng tôi đã chứng kiến Google tung ra một Bard chưa sẵn sàng để đáp ứng sự xuất hiện bất ngờ của Bing AI do ChatGPT hỗ trợ của Microsoft.
Liệu các công ty này có thể cân bằng yêu cầu bắt buộc của thị trường để dẫn đầu đối thủ (ví dụ: Google giữ vị trí số 1 trong tìm kiếm) với lợi ích tốt hơn không? Tiến sĩ Hinton bây giờ không bị thuyết phục.
Mất sự thật
Tiến sĩ Hinton lo lắng về sự gia tăng của AI dẫn đến tràn ngập nội dung trực tuyến giả mạo. Tất nhiên, đó không phải là mối quan tâm trong tương lai mà là thời gian thực vì mọi người hiện nay thường xuyên bị lừa bởi âm nhạc AI giả mạo giọng hát của các bậc thầy (kể cả những người đã chết), hình ảnh tin tức AI (mở trong tab mới) được coi là có thật và hình ảnh sáng tạo giành chiến thắng trong các cuộc thi nhiếp ảnh (mở trong tab mới). Với sức mạnh và mức độ phổ biến của deep fakes, rất ít video chúng ta xem ngày nay có thể được coi là có giá trị.
Tuy nhiên, Tiến sĩ Hinton có thể đúng khi cho rằng đây mới chỉ là bắt đầu. Trừ khi Google, Microsoft, OpenAI và những người khác làm điều gì đó về nó, chúng tôi sẽ không thể tin bất cứ điều gì chúng tôi thấy hoặc thậm chí nghe thấy.
Một thị trường việc làm bị hủy hoại
Tiến sĩ Hinton cảnh báo Thơi gian rằng AI được thiết lập để đảm nhận nhiều hơn là những nhiệm vụ mà chúng ta không muốn làm.
Nhiều người trong chúng ta đã sử dụng ChatBots như Bard và ChatGPT để viết bài thuyết trình, đề xuất và thậm chí là lập trình. Hầu hết đầu ra chưa sẵn sàng cho khung giờ vàng, nhưng một số trong số đó đã hoặc ít nhất là có thể vượt qua được.
Hiện có hàng tá tiểu thuyết do AI tạo ra được rao bán trên Amazon và hiệp hội các nhà biên kịch (Writers Guild of America) ở Mỹ đã bày tỏ lo ngại rằng nếu họ không đồng ý về một hợp đồng mới, các hãng phim có thể thuê ngoài công việc của họ cho AI. Và mặc dù không có tình trạng sa thải phổ biến liên quan trực tiếp đến AI, nhưng sự phát triển của những công cụ mạnh mẽ này đang khiến một số người phải suy nghĩ lại về lực lượng lao động của họ.
Hành vi bất ngờ và không mong muốn
Một trong những đặc điểm nổi bật của mạng lưới thần kinh và AI học sâu là nó có thể sử dụng một lượng lớn dữ liệu để dạy chính nó. Một trong những hậu quả không mong muốn của sức mạnh giống như bộ não con người này là AI có thể học những bài học mà bạn không bao giờ lường trước được. AI tự quyết có thể AI về những bài học đó. Tiến sĩ Hinton cho biết một AI không chỉ có thể lập trình mà còn có thể chạy chương trình của chính nó là điều đặc biệt đáng lo ngại, đặc biệt là khi nó liên quan đến các kết quả không lường trước được.
AI sẽ thông minh hơn chúng ta
AI hiện tại thường có vẻ thông minh hơn con người, nhưng với xu hướng ảo giác và sự thật được tạo ra, nó còn lâu mới sánh được với những bộ óc vĩ đại nhất của chúng ta. Tiến sĩ Hinton tin rằng ngày AI thông minh hơn chúng ta đang đến rất nhanh và chắc chắn là nhanh hơn dự đoán ban đầu của ông.
AI có thể giả mạo sự đồng cảm – hãy xem thử nghiệm gần đây của nó như một nguồn tư vấn y tế (mở trong tab mới) – nhưng điều đó không giống như sự đồng cảm thực sự của con người. Các hệ thống siêu thông minh có thể tìm ra mọi thứ mà không cần cân nhắc đến việc các lựa chọn của chúng có thể tác động đến con người như thế nào là điều đáng lo ngại sâu sắc.
Trong khi những lời cảnh báo của Tiến sĩ Hinton hoàn toàn trái ngược với sự nhiệt tình ban đầu của ông đối với lĩnh vực công nghệ mà ông đã phát minh ra, thì ông đã nói một điều gì đó có dây về công việc trên các hệ thống AI bắt chước não người vào năm 2014 giờ đây nghe có vẻ tiên tri một cách kỳ lạ: “Chúng tôi không còn là những kẻ điên rồ nữa. Bây giờ chúng tôi là cốt lõi mất trí.
