OpenAI vừa tiết lộ Model Spec mới phản ánh thêm về cách mà họ muốn AI hoạt động. Được biết, OpenAI đã dẫn đầu trong lĩnh vực trí tuệ nhân tạo phát sinh kể từ khi ra mắt ChatGPT, đặt ra nhiều tiền lệ cho sự phát triển AI trong tương lai. Để thúc đẩy sự minh bạch với công chúng, OpenAI đã chia sẻ một tài liệu mới cung cấp cái nhìn sâu hơn về các mô hình AI của mình.
Vào ngày thứ Tư, OpenAI đã phát hành bản nháp đầu tiên của Model Spec của mình, một tài liệu mô tả cách mà công ty muốn mô hình của mình hoạt động trong OpenAI API và ChatGPT. Model Spec cũng được thiết kế để cung cấp cái nhìn về cách OpenAI đưa ra quyết định về hành vi của các mô hình của mình.
Behavior behavior đề cập đến cách mà các mô hình AI phản hồi vào các đầu vào của người dùng, bao gồm các đặc điểm như thái độ, chiều dài phản hồi, và nhiều hơn nữa. OpenAI giải thích rằng các mô hình AI không được lập trình một cách cụ thể mà thay vào đó học từ dữ liệu; do đó, việc định hình hành vi của chúng vẫn là một “khoa học mới mẻ” với nhiều sắc thái cần phải cân nhắc.
Model Spec tài liệu cách mà OpenAI tiếp cận việc phức tạp hóa việc định hình hành vi của mô hình, bao gồm các kinh nghiệm và nghiên cứu liên quan đến chủ đề. OpenAI giải thích rằng họ chưa sử dụng Model Spec “dưới dạng hiện tại” nhưng đang làm việc với các kỹ thuật cho phép các mô hình của họ học trực tiếp từ tài liệu này.
Trong tài liệu, OpenAI phân tích ba nguyên tắc của Model Spec: mục tiêu, bao gồm hỗ trợ cho nhà phát triển và người dùng cuối cùng, và lợi ích cho nhân loại; quy tắc; và hành vi mặc định, đề cập đến các nguyên tắc nhất quán với mục tiêu và quy tắc.
Công ty cho biết họ chia sẻ Model Spec với công chúng để phục vụ như một hướng dẫn cho các nhà nghiên cứu và huấn luyện AI đang làm việc với học củng cố dựa trên phản hồi của con người. Bằng cách chia sẻ tài liệu này, OpenAI mong muốn tăng cường tính minh bạch về các mô hình của mình với khán giả và thu thập phản hồi của tất cả các bên liên quan đến phương pháp tiếp cận của mình.
#OpenAI #ModelSpec #AI_behavior #Transparency #TechNews
OpenAI has led the generative AI space since launching ChatGPT, setting multiple precedents for future AI developments. To that end — and to further foster transparency with the public — OpenAI has shared a new document that gives users deeper insight into its AI models.
On Wednesday, OpenAI released the first draft of its Model Spec, a document that outlines how the startup wants its models to behave in the OpenAI API and ChatGPT. The Model Spec is also meant to provide insights into how OpenAI makes decisions about its models’ behaviors.
To deepen the public conversation about how AI models should behave, we’re sharing our Model Spec — our approach to shaping desired model behavior. https://t.co/RJBRwrcTtQ
— OpenAI (@OpenAI) May 8, 2024
Model behavior refers to how AI models respond to user inputs, including characteristics such as tone, response length, and more. OpenAI explains that AI models are not explicitly programmed but rather learn from data; therefore, shaping their behavior remains a “nascent science” with many nuances to account for.
The Model Spec documents how OpenAI approaches the complex task of shaping model behavior, including experiences and ongoing research regarding the topic. OpenAI explains that it has yet to use the Model Spec “in its current form” but is working on techniques that will allow its models to learn directly from the spec.
Within the document, OpenAI breaks down three Model Spec principles: objectives, which include assisting the developer and end user and benefiting humanity; rules; and default behavior, which refers to guidelines consistent with the objectives and rules.
The company says it is sharing the Model Spec with the public to serve as a guideline for researchers and AI trainers who are working with reinforcement learning based on human feedback. By sharing the document, OpenAI seeks to increase transparency about its models with its audience and collect all stakeholder feedback regarding its approach.
Also: Google was right to be worried: OpenAI reportedly wants to enter the search market
The Model Spec Feedback form is open until May 22. All stakeholders are encouraged to complete the form, regardless of technical expertise.
The Model Spec fits into OpenAI’s ongoing efforts to deepen trust with its stakeholders regarding its models. Just this week, OpenAI released a new tool that can detect AI images generated using its own DALL-E 3 tool.
