#OpenAI #Trítuệnhântạo #chatbotAI #TròchuyệnGPT #GoogleBard #ảogiác #thôngtinsaillệch #côngthứcAI #giáotrình #kếtquả #nghiêncứu #tíchnăng #lýluậntuẩnthiết #mãhiệntại #khámphá #tươnglai
OpenAI vừa tìm ra cách để các mô hình AI hoạt động logic hơn và tránh ảo giác. Việc tạo ra thông tin sai lệch của trí tuệ nhân tạo là một trong những nguy cơ lan truyền thông tin sai lệch và ảnh hưởng tiêu cực tới xã hội hiện nay. Để khắc phục vấn đề này, OpenAI đã tạo ra một phương pháp giám sát quy trình, cung cấp phản hồi cho từng bước riêng lẻ và dẫn đến hiệu suất tốt hơn đáng kể. Theo OpenAI, phương pháp giám sát quy trình còn giúp mô hình AI tuân theo quy trình được con người chấp thuận, tạo ra lý luận có thể hiểu được hơn. Mặc dù phương pháp này mới chỉ được áp dụng trong các vấn đề toán học, nhưng OpenAI hy vọng nó sẽ được khám phá và áp dụng trong các lĩnh vực khác trong tương lai.
Mặc dù trí tuệ nhân tạo các mô hình tiên tiến và có thể làm những điều phi thường, chúng vẫn có khả năng phạm sai lầm và đưa ra câu trả lời sai — được gọi là ảo giác.
Tất cả các chuyên ngành chatbot AIbao gồm Trò chuyệnGPT Và Google Bard, dễ bị những ảo giác này. Cả OpenAI và Google thậm chí còn tiết lộ rằng chatbot của họ có thể tạo ra thông tin không chính xác.
Cũng: ChatGPT vs Bing Chat vs Google Bard? Chatbot AI nào tốt nhất?
OpenAI cho biết: “ChatGPT đôi khi viết những câu trả lời nghe có vẻ hợp lý nhưng không chính xác hoặc vô nghĩa”. Bài đăng trên blog ChatGPT.
Việc tạo ra thông tin sai lệch đã dẫn đến mối lo ngại lan rộng về việc phổ biến thông tin sai lệch và những hậu quả tiêu cực tiềm tàng của nó.
trong một bài nghiên cứu mớiOpenAI chia sẻ rằng có thể họ đã tìm ra cách khiến các mô hình AI hoạt động logic hơn và tránh ảo giác.
OpenAI đã đào tạo một mô hình có khả năng giải quyết các vấn đề toán học phức tạp thông qua “giám sát quy trình”, một phương pháp cung cấp phản hồi cho từng bước riêng lẻ trái ngược với “giám sát kết quả”, cung cấp phản hồi về kết quả cuối cùng.
Cũng: Tôi đã thử nghiệm rất nhiều công cụ AI cho công việc. Đây là 5 yêu thích của tôi cho đến nay
Trong tài liệu nghiên cứu, OpenAI đã thử nghiệm cả hai phương pháp bằng cách sử dụng bộ dữ liệu MATH và nhận thấy rằng phương pháp giám sát quy trình dẫn đến “hiệu suất tốt hơn đáng kể”.
OpenAI cho biết trong bài báo nghiên cứu: “Việc giám sát quy trình cũng có nhiều khả năng tạo ra lý luận có thể hiểu được hơn, vì nó khuyến khích mô hình tuân theo quy trình được con người chấp thuận”.
Cũng: Cách ChatGPT có thể viết lại và cải thiện mã hiện tại của bạn
OpenAI lưu ý rằng bên ngoài phạm vi của các vấn đề toán học, không biết những kết quả này sẽ được áp dụng rộng rãi như thế nào, nhưng điều quan trọng là phải khám phá nó trong các lĩnh vực khác.
[ad_2]
