Các nghiên cứu viên và nhà tương lai học đã từng nói suốt hàng thập kỷ về ngày khi các trợ lý phần mềm thông minh sẽ hoạt động như những trợ lý cá nhân, giáo viên và cố vấn. Apple đã sản xuất video nổi tiếng của mình mang tên Knowledge Navigator vào năm 1987. Tôi nhớ rằng tôi đã tham dự một sự kiện tại Viện truyền thông MIT trong những năm 1990 về các trợ lý phần mềm, nơi người điều tiết xuất hiện như một quản gia, đội mũ tròn. Với sự xuất hiện của trí tuệ nhân tạo tạo một cách cụ thể trong tương lai gần, tầm nhìn mơ màng về phần mềm làm việc như một đệ tử đã trở nên rõ ràng. Will Knight của WIRED đã cung cấp một cái nhìn tổng quan về những gì hiện có và sắp tới.
Tôi lo lắng về việc điều này sẽ làm thay đổi chúng ta và mối quan hệ của chúng ta với người khác trong tương lai dài hơn. Rất nhiều cuộc tương tác của chúng ta với người khác sẽ được trung gian qua các trợ lý phần mềm hoạt động thay mặt chúng ta. Trợ lý robot khác với người trợ giúp: Chúng không cần nghỉ ngơi, chúng có thể truy cập ngay lập tức vào toàn bộ kiến thức của thế giới, và chúng không cần lương sống. Mỗi khi chúng ta sử dụng chúng, điều đó càng kích thích chúng ta để giao cho chúng những nhiệm vụ mà trước đây chúng ta dành riêng cho bản thân.
Hiện tại, các trợ lý trí tuệ nhân tạo hiện có vẫn chưa được hoàn thiện. Chúng ta vẫn chưa đạt đến mức mà các trợ lý tự động sẽ thường xuyên thực hiện các hoạt động mà việc mắc lỗi không được chấp nhận, chẳng hạn như đặt vé máy bay, đặt cuộc hẹn với bác sĩ và quản lý danh mục tài chính. Nhưng điều đó sẽ thay đổi, vì nó có thể. Chúng ta có vẻ định sống cuộc sống như phi công chở hàng dài cựa sau khi thiết lập một tuyến đường, chúng ta có thể nằm dựa lưng trong buồng lái khi trí tuệ nhân tạo điều khiển máy bay, chuyển sang chế độ bằng tay khi cần thiết. Nỗi sợ hãi là, cuối cùng, có thể là các trợ lý sẽ quyết định máy bay đang bay đến đâu trong lần bay đầu tiên.
Mặc dù không bi quan, tất cả chúng ta phải đối mặt với các trợ lý siêu thông minh và có thể manipulative của người khác. Chúng ta sẽ chuyển quyền kiểm soát hoạt động hàng ngày và những lựa chọn hàng ngày của chúng ta, từ danh sách mua sắm đến lịch hẹn, cho trợ lý trí tuệ nhân tạo của chúng ta, người cũng sẽ tương tác với các trợ lý của gia đình, bạn bè và đối thủ của chúng ta. Khi trợ lý tự động của chúng ta đạt được tính độc lập, chúng có thể đưa ra quyết định hoặc thương lượng thay mặt chúng ta mà không tốt chút nào.
Để có một cái nhìn lạc quan về tương lai này, tôi tìm kiếm ý kiến của Mustafa Suleyman. Là một trong những người sáng lập công ty khởi nghiệp trí tuệ nhân tạo DeepMind, hiện đang là trái tim của phát triển trí tuệ nhân tạo của Google, ông hiện là CEO của Inflection.ai, một công ty đang phát triển chatbot. Suleyman cũng gần đây đã lọt vào danh sách sách bán chạy nhất của The New York Times với cuốn sách The Coming Wave của mình, đề cập đến cách con người có thể đối mặt với những nguy hiểm tồn tại của trí tuệ nhân tạo. Nhìn chung, ông là một người lạc quan và có một viễn cảnh lạc quan về các trợ lý phần mềm. Ông mô tả bot mà công ty ông sản xuất, Pi, là một “cố vấn chính” cá nhân mang đến không chỉ khả năng thông minh mà còn sự cổ vũ thông cảm và tử tế.
“Sự việc Pi hiện nay chưa thể đặt đặt cho bạn các nhà hàng hoặc đặt xe hơi hay, bạn biết, mua đồ cho bạn,” Suleyman nói. “Nhưng trong tương lai, nó sẽ trở thành đối tác pháp lý và hợp đồng của bạn, đồng nghĩa rằng bạn đã ban quyền cho nó để ký hợp đồng thay mặt bạn và chi tiêu tiền thật và ràng buộc bạn vào các thỏa thuận hữu hình trong thế giới thực.” Cũng nằm trong lộ trình: Pi sẽ thay chủ nhân của nó thực hiện cuộc gọi điện thoại và thương lượng với đại diện dịch vụ khách hàng.
Điều đó dường như công bằng, vì ngay bây giờ, quá nhiều đại diện dịch vụ đó đã là trợ lý và — có lẽ theo thiết kế? — không mở cửa cho các luận điểm hợp lý rằng các nhà tuyển dụng của họ đã làm tổn thương khách hàng của mình. Tự nhiên, chúng ta sẽ khởi động các trí tuệ nhân tạo của chúng ta vào các cuộc đàm phán với các trí tuệ nhân tạo khác trong tất cả các lĩnh vực trong cuộc sống. Suleyman nhận thấy rằng chúng ta không muốn cho các bot này trở thành quá thân thiết với nhau hoặc tương tác theo cách mà con người không thể xem xét được. “Thực tế là chúng ta muốn việc giao tiếp giữa các trí tuệ nhân tạo với nhau được giới hạn trong tiếng Anh đơn giản,” Suleyman nói. “Điều đó giúp chúng ta kiểm tra.”
Researchers and futurists have been talking for decades about the day when intelligent software agents will act as personal assistants, tutors, and advisers. Apple produced its famous Knowledge Navigator video in 1987. I seem to remember attending an MIT Media Lab event in the 1990s about software agents, where the moderator appeared as a butler, in a bowler hat. With the advent of generative AI, that gauzy vision of software as aide-de-camp has suddenly come into focus. WIRED’s Will Knight provided an overview this week of what’s available now and what’s imminent.
I’m concerned about how this will change us, and our relations with others, over the longer term. Many of our interactions with others will be mediated by bots acting in our stead. Robot assistants are different from human helpers: They don’t take breaks, they can instantly access all the world’s knowledge, and they won’t require paying a living wage. The more we use them, the more tempting it will become to turn over tasks we once reserved for ourselves.
Right now the AI assistants on offer are still unrefined. We’re not yet at the point where autonomous bots will routinely take over activities where screw-ups can’t be tolerated, like booking flights, making doctor’s appointments, and managing financial portfolios. But that will change, because it can. We seem destined to live our lives like long-haul airline pilots—after setting a course, we can lean back in the cockpit as AI steers the plane, switching to manual mode when necessary. The fear is that, eventually, it might be the agents who decide where the plane is going in the first place.
Doomerism aside, all of us will have to deal with someone else’s supersmart and possibly manipulative agents. We’ll turn over control of our own daily activities and everyday choices, from shopping lists to appointment calendars, to our own AI assistants, who will also interact with the agents of our family, friends, and enemies. As they gain independence, our automated helpers may end up making decisions or deals on our behalf that aren’t good at all.
For an upbeat view of this future, I consult Mustafa Suleyman. A cofounder of AI startup DeepMind, now the heart of Google’s AI development, he’s now the CEO of Inflection.ai, a company developing chatbots. Suleyman has also recently taken residency on The New York Times bestseller list for his book The Coming Wave, which suggests how humans can confront the existential perils of AI. Overall, he’s an optimist and of course has a rosy outlook about software agents. He describes the bot his company makes, Pi, as a personal “chief of staff” that provides not only wisdom but empathetic encouragement and kindness.
“Today Pi is not able to book you restaurants or arrange a car or, you know, buy things for you,” Suleyman says. “But in the future, it will have your contractual and legal proxy, which means that you’ve granted permissions to enter into contracts on your behalf, and spend real money and bind you to material agreements in the real world.” Also on the road map: Pi will make phone calls on its owner’s behalf and negotiate with customer service agents.
That seems fair, because right now, too many of those service agents are already bots, and—maybe by design?—not open to reasonable arguments that their corporate employers screw over their own customers. Inevitably, we’ll be launching our AIs into negotiations with other AIs in all areas of life. Suleyman acknowledges that we don’t want those bots to get too cozy with each other or interact in ways not open to human inspection. “We actually want AI-to-AI communication to be limited to plain English,” says Suleyman. “That way, we can audit it.”
[ad_2]
