Đã có đến đến A.I. cá nhân. Thế giới đã sẵn sàng cho chúng chưa?

admin

1 year ago

Đã có Agent A.I. được cá nhân hóa. Thế giới đã sẵn sàng cho chúng chưa? Trước hết, chúng được lập trình để thực hiện các nhiệm vụ cụ thể. Ví dụ, OpenAI đã tạo ra “Creative Writing Coach” và “Mocktail Mixologist,” một bot đề xuất công thức đồ uống không chứa cồn. Thứ hai, các bot có thể truy cập vào dữ liệu riêng tư, chẳng hạn như tài liệu nội bộ về nhân sự của một công ty hoặc cơ sở dữ liệu về bất động sản, và tích hợp dữ liệu đó vào các phản hồi của chúng. Thứ ba, nếu bạn cho phép, các bot có thể kết nối với các phần khác của cuộc sống trực tuyến của bạn – lịch của bạn, danh sách công việc cần làm, tài khoản Slack của bạn – và thực hiện các hành động bằng thông tin xác thực của bạn.

Nghe có vẻ đáng sợ? Đúng vậy, nếu bạn hỏi một số nhà nghiên cứu an toàn A.I., họ sợ rằng việc cho bot có quyền tự chủ hơn có thể dẫn đến thảm họa. Trung tâm An toàn A.I., một tổ chức nghiên cứu phi lợi nhuận, liệt kê các điểm nguy hiểm của các đặc vụ tự động là một trong những “nguy cơ A.I. thảm họa” của năm nay, cho biết “những kẻ ác tạo có thể cố ý tạo ra những A.I. độc ác với mục tiêu nguy hiểm.”

Nhưng có tiền để kiếm từ các trợ lý A.I. có thể thực hiện các nhiệm vụ hữu ích cho con người, và các khách hàng doanh nghiệp đã rất háo hức để huấn luyện chatbot theo dữ liệu của họ. Cũng có một lập luận rằng A.I. không thực sự hữu ích cho đến khi nó thực sự hiểu người dùng của nó – cách giao tiếp của họ, sở thích và không thích của họ, những gì họ nhìn và mua sắm trực tuyến.

Và đây chúng ta đang lao vào thời đại của đặc vụ A.I. tự động – không quan tâm đến những người lo sợ.

Để công bằng, bot của OpenAI thực sự không nguy hiểm. Tôi đã có cơ hội xem xét một số GPTs trong hội nghị phát triển của công ty tại San Francisco vào thứ Hai, và chúng chủ yếu tự động hóa các nhiệm vụ vô hại như tạo trang tô màu cho trẻ em, hoặc giải thích các luật chơi trò chơi bài.

Custom GPTs hiện tại cũng chưa thực sự có khả năng gì ngoài việc tìm kiếm trong các tài liệu và kết nối vào các ứng dụng phổ thông. Một demo tôi đã thấy vào thứ Hai liên quan đến một nhân viên OpenAI yêu cầu một GPT tìm các cuộc họp trùng lịch trên lịch Google của cô và gửi tin nhắn thông qua Slack cho sếp của cô. Một demo khác diễn ra trên sân khấu khi Sam Altman, giám đốc điều hành của OpenAI, xây dựng một chatbot “cố vấn khởi nghiệp” để đưa ra lời khuyên cho những người sáng lập mới, dựa trên một tệp tin phát biểu của ông đã thực hiện nhiều năm trước.

#AI #sựkiện #OpenAI #thờidiaiAI #Làmviecốvấnkhởinghiệp #thôngtinriêngtư #an_toanA.I.

Nguồn: https://www.nytimes.com/2023/11/10/technology/personalized-ai-agents.html

First, they are programmed for specific tasks. (Examples that OpenAI created include “Creative Writing Coach” and “Mocktail Mixologist,” a bot that suggests nonalcoholic drink recipes.) Second, the bots can pull from private data, such as a company’s internal H.R. documents or a database of real estate listings, and incorporate that data into their responses. Third, if you let them, the bots can plug into other parts of your online life — your calendar, your to-do list, your Slack account — and take actions using your credentials.

Sound scary? It is, if you ask some A.I. safety researchers, who fear that giving bots more autonomy could lead to disaster. The Center for AI Safety, a nonprofit research organization, listed autonomous agents as one of its “catastrophic A.I. risks” this year, saying that “malicious actors could intentionally create rogue A.I.s with dangerous goals.”

But there is money to be made in A.I. assistants that can do useful tasks for people, and corporate customers have been itching to train chatbots on their own data. There is also an argument that A.I. won’t truly be useful until it really understands its users — their communication styles, their likes and dislikes, what they look at and shop for online.

So here we are, speeding into the age of the autonomous A.I. agent — doomers be damned.

To be fair, OpenAI’s bots aren’t particularly dangerous. I got a demo of several GPTs during the company’s developer conference in San Francisco on Monday, and they mostly automated harmless tasks like creating coloring pages for children, or explaining the rules of card games.

Custom GPTs also can’t really do much yet, beyond searching through documents and plugging into common apps. One demo I saw on Monday involved an OpenAI employee asking a GPT to look up conflicting meetings on her Google calendar and send a Slack message to her boss. Another happened onstage when Sam Altman, OpenAI’s chief executive, built a “start-up mentor” chatbot to give advice to aspiring founders, based on an uploaded file of a speech he had given years earlier.