#Bố_Già_AI #Google #ChatGPT #chatbot #rủi_ro_AI #trí_tuệ_nhân_tạo #thông_tin_sai_lệch #tự_động_hóa #thị_trường_việc_làm #OpenAI #Microsoft_Bing #Google_Bard #công_nghệ_mạnh #nút_tạm_dừng_AI
Geoffrey Hinton, người được gọi là “Bố già của AI,” đã từ chức khỏi Google để cảnh báo về những mối nguy hiểm mà AI đem lại. Ông lo lắng về thông tin sai lệch và khả năng tự động hóa các nhiệm vụ của AI sẽ thay thế toàn bộ thị trường việc làm. Việc ra mắt ChatGPT của OpenAI làm cho ông thấy cuộc cách mạng AI sẽ diễn ra nhanh hơn dự đoán trước đây và đem lại nhiều rủi ro. Các công ty đang trong cuộc cạnh tranh thúc đẩy sự phát triển AI và nếu không có quy định hoặc sự minh bạch, họ có thể mất quyền kiểm soát.
Ngoài ra, Microsoft Bing và Google Bard là hai ứng cử viên sắp tới cho mảng kinh doanh tìm kiếm cốt lõi, đang trong tình trạng cạnh tranh với ChatGPT của OpenAI. Tuy nhiên, OpenAI đã tung ra các tùy chọn bảo mật quan trọng để giải quyết vấn đề này.
Hinton kêu gọi cần có quy định và sự minh bạch để các công ty không mất kiểm soát một công nghệ mạnh. Ông cũng đồng tình với những chuyên gia khác kêu gọi phải tạm dừng sự phát triển AI để đạt được mục tiêu. Cảnh báo của ông nhắc nhở chúng ta cẩn thận và có quy định trong việc áp dụng công nghệ trí tuệ nhân tạo để đảm bảo an toàn và hiệu quả.
Nguồn: https://mashable.com/article/hinton-godfather-of-ai-quit-google-chatgpt-risks
Geoffrey Hinton, “Bố già của AI” đã từ chức khỏi Google sau sự gia tăng nhanh chóng của ChatGPT và các chatbot khác, để “tự do lên tiếng về những rủi ro của AI”. anh ấy nói với(mở trong tab mới) các Thời báo New York.
Hinton, người đã giúp đặt nền móng cho trí tuệ nhân tạo thế hệ ngày nay, là một kỹ sư tại Google trong hơn một thập kỷ. theo lần, một phần trong anh ấy hối hận về công việc để đời của mình sau khi nhìn thấy mối nguy hiểm mà AI tạo ra. Anh ấy lo lắng về thông tin sai lệch; rằng người bình thường sẽ “không thể biết đâu là sự thật nữa.” Trong tương lai gần, anh ấy lo ngại rằng khả năng tự động hóa các nhiệm vụ của AI sẽ không chỉ thay thế công việc nặng nhọc mà còn thay thế toàn bộ thị trường việc làm.
ChatGPT tung ra các tùy chọn bảo mật quan trọng
Trước đây, Hinton nghĩ rằng cuộc cách mạng AI còn nhiều thập kỷ nữa mới diễn ra. Nhưng kể từ khi OpenAI ra mắt ChatGPT vào tháng 11 năm 2022, trí thông minh của mô hình ngôn ngữ lớn (LLM) đã thay đổi suy nghĩ của anh ấy. “Hãy nhìn xem 5 năm trước và bây giờ như thế nào,” anh nói. “Lấy phần chênh lệch và tuyên truyền về phía trước. Điều đó thật đáng sợ.”
Sự ra mắt của ChatGPT đã khởi động một kiểu cạnh tranh tay ba không cân xứng với Microsoft BingVà Google Bard. Bị lệch, bởi vì GPT-4 hỗ trợ ChatGPT cũng hỗ trợ Bing. Với hai ứng cử viên sắp tới cho mảng kinh doanh tìm kiếm cốt lõi của mình, Google đã tranh nhau tung ra Bard, bất chấp mối quan tâm nội bộ rằng nó không được kiểm tra căng thẳng đủ về độ chính xác và an toàn.
Hinton làm rõ(mở trong tab mới) trên Twitter sau khi lần đã được xuất bản rằng anh ấy không chỉ trích cụ thể Google và tin rằng nó đã “hành động rất có trách nhiệm”. Thay vào đó, anh ấy lo ngại về những rủi ro rộng lớn hơn của sự phát triển AI với tốc độ chóng mặt, do bối cảnh cạnh tranh thúc đẩy. Nếu không có quy định hoặc sự minh bạch, các công ty có nguy cơ mất quyền kiểm soát một công nghệ mạnh. Hinton nói: “Tôi không nghĩ họ nên mở rộng quy mô này cho đến khi họ hiểu liệu họ có thể kiểm soát được nó hay không.
Đó là một chuyên gia khác kêu gọi phát triển AI để đạt được mục tiêu nút tạm dừng.
