#OpenAI #sựkiệnngàyhôm nay
Geoffrey Hinton, giáo sư tại Đại học Toronto, đã được tặng giải Turing về khoa học máy tính với công trình của ông về mạng lưới thần kinh. Trong một cuộc phỏng vấn gần đây, ông đã bày tỏ sự lo ngại của mình về tình trạng phát triển quá nhanh của Trí tuệ nhân tạo (AI) và cảnh báo về những hậu quả tiêu cực có thể xảy ra.
Ông cho rằng chúng ta phải nỗ lực để giảm thiểu hoặc ngăn chặn những hậu quả xấu có thể xảy ra, bao gồm cả nguy cơ các thuật toán ngôn ngữ tiên tiến có thể can thiệp vào các cuộc bầu cử. Các công ty Công nghệ lớn đang đổ xô tuyển dụng các chuyên gia AI và xây dựng các thuật toán học sâu ngày càng mạnh mẽ và áp dụng chúng vào các sản phẩm như nhận dạng khuôn mặt, dịch và nhận dạng giọng nói.
Hinton đã rời Google không phải để phản đối việc Google xử lý dạng AI mới này. Ông cũng không nghĩ rằng phải dừng lại việc phát triển AI ngay bây giờ. Tuy nhiên, ông cho rằng chúng ta cần nỗ lực như nhau để giảm thiểu các rủi ro tiềm tàng và đảm bảo rằng AI sẽ có lợi cho con người.
OpenAI, công ty của Hinton, tập trung vào việc mở rộng quy mô của mạng nơ-ron, khối lượng dữ liệu mà chúng sử dụng và năng lượng máy tính mà chúng tiêu thụ. Họ đã phát triển một loạt các hệ thống tạo văn bản trôi chảy nổi bật, gần đây nhất là GPT-4hỗ trợ phiên bản cao cấp của ChatGPT và có các nhà nghiên cứu choáng váng với khả năng thực hiện các nhiệm vụ dường như đòi hỏi lý luận và lẽ thường.
Tuy nhiên, Hinton cho rằng chúng ta đã có một công nghệ sẽ gây rối và gây mất ổn định. Nhưng, chúng ta vẫn nên tiếp tục phát triển AI vì nó có thể mang lại những điều tuyệt vời. Nhưng quan trọng nhất là chúng ta phải đảm bảo rằng AI sẽ hữu ích cho con người và giảm thiểu rủi ro tiềm tàng.
Nguồn: https://www.wired.com/story/geoffrey-hinton-ai-chatgpt-dangers/
Anh ấy nói: “Rất nhiều tiêu đề đã nói rằng tôi nghĩ nó nên dừng lại ngay bây giờ — và tôi chưa bao giờ nói điều đó. “Đầu tiên, tôi không nghĩ điều đó là khả thi, và tôi nghĩ chúng ta nên tiếp tục phát triển nó vì nó có thể làm nên những điều tuyệt vời. Nhưng chúng ta nên nỗ lực như nhau để giảm thiểu hoặc ngăn chặn những hậu quả xấu có thể xảy ra.”
Hinton nói rằng anh rời Google không phải để phản đối việc Google xử lý dạng AI mới này. Trên thực tế, ông nói, công ty đã di chuyển tương đối thận trọng mặc dù đã dẫn đầu trong khu vực. Các nhà nghiên cứu tại Google đã phát minh ra một loại mạng nơ-ron được gọi là máy biến áp, điều này rất quan trọng đối với sự phát triển của các mô hình như PaLM và GPT-4.
Vào những năm 1980, Hinton, giáo sư tại Đại học Toronto, cùng với một số ít các nhà nghiên cứu khác, đã tìm cách cung cấp cho máy tính trí thông minh cao hơn bằng cách huấn luyện mạng thần kinh nhân tạo bằng dữ liệu thay vì lập trình chúng theo cách thông thường. Các mạng có thể tiêu hóa các pixel làm đầu vào và khi chúng xem thêm các ví dụ, điều chỉnh các giá trị kết nối các nơ-ron mô phỏng thô sơ của chúng cho đến khi hệ thống có thể nhận ra nội dung của một hình ảnh. Cách tiếp cận này đã cho thấy nhiều hứa hẹn trong nhiều năm, nhưng phải đến một thập kỷ trước, sức mạnh và tiềm năng thực sự của nó mới được phát hiện. trở nên rõ ràng.
Năm 2018, Hinton được trao giải giải Turing, giải thưởng danh giá nhất về khoa học máy tính, cho công trình của ông về mạng lưới thần kinh. Ông nhận giải cùng với hai nhân vật tiên phong khác, Yann LeCunnhà khoa học AI trưởng của Meta, và Yoshua Bengiomột giáo sư tại Đại học Montreal.
Đó là khi một thế hệ mạng thần kinh nhân tạo nhiều lớp mới—được cung cấp một lượng lớn dữ liệu đào tạo và chạy trên các chip máy tính mạnh mẽ—đột nhiên tốt hơn nhiều so với bất kỳ chương trình hiện có nào tại ghi nhãn nội dung của ảnh.
Kỹ thuật, được gọi là học kĩ càngkhởi đầu cho thời kỳ phục hưng của trí tuệ nhân tạo, với việc các công ty Công nghệ lớn đổ xô tuyển dụng các chuyên gia AI, xây dựng các thuật toán học sâu ngày càng mạnh mẽ và áp dụng chúng vào các sản phẩm như nhận dạng khuôn mặt, dịchVà nhận dạng giọng nói.
Google đã thuê Hinton vào năm 2013 sau khi mua lại công ty của anh ấy, DNNResearch, được thành lập để thương mại hóa các ý tưởng học tập sâu trong phòng thí nghiệm của trường đại học của anh ấy. Hai năm sau, một trong những sinh viên tốt nghiệp của Hinton, người cũng đã gia nhập Google, Ilya Sutskever, đã rời công ty tìm kiếm để đồng sáng lập OpenAI với tư cách là một đối trọng phi lợi nhuận đến sức mạnh được tích lũy bởi các công ty Công nghệ lớn trong AI.
Kể từ khi thành lập, OpenAI đã tập trung vào việc mở rộng quy mô của mạng nơ-ron, khối lượng dữ liệu mà chúng sử dụng và năng lượng máy tính mà chúng tiêu thụ. Vào năm 2019, công ty đã tổ chức lại thành một tập đoàn vì lợi nhuận với các nhà đầu tư bên ngoài và sau đó đã nhận 10 tỷ USD từ Microsoft. Nó đã phát triển một loạt các hệ thống tạo văn bản trôi chảy nổi bật, gần đây nhất là GPT-4hỗ trợ phiên bản cao cấp của ChatGPT và có các nhà nghiên cứu choáng váng với khả năng thực hiện các nhiệm vụ dường như đòi hỏi lý luận và lẽ thường.
Hinton tin rằng chúng ta đã có một công nghệ sẽ gây rối và gây mất ổn định. Ông chỉ ra rủi ro, như những người khác đã làm, rằng các thuật toán ngôn ngữ tiên tiến hơn sẽ có thể tiến hành các chiến dịch thông tin sai lệch tinh vi hơn và can thiệp vào các cuộc bầu cử.
