Việc Sa thải của Sam Altman đối với Tương lai của OpenAI
Việc Sa thải của Altman đã cho thấy rằng tổ chức nhằm phối hợp trí tuệ nhân tạo siêu thông minh với con người đã không thể làm cho các giá trị của các thành viên hội đồng và lãnh đạo của mình hòa hợp với nhau. Việc thêm một yếu tố tìm lợi nhuận cho dự án phi lợi nhuận đã biến nó thành một cỗ máy trí tuệ nhân tạo mạnh mẽ. Việc tung ra các sản phẩm đã dự định cung cấp không chỉ lợi nhuận mà còn cơ hội học hỏi cách kiểm soát và phát triển trí tuệ nhân tạo có lợi ích hơn. Bây giờ không rõ liệu lãnh đạo hiện tại có nghĩ rằng điều đó có thể thực hiện mà không vi phạm lời hứa ban đầu của dự án để sáng tạo trí tuệ nhân tạo tự động một cách an toàn hay không.
Murati phải đối mặt với thách thức thuyết phục nhân viên và nhà tài trợ của OpenAI rằng nó vẫn có triết lý hoạt động có thể để phát triển trí tuệ nhân tạo. Cô cũng phải cung cấp tiền mặt để hoạt động cơ sở hạ tầng rộng lớn đằng sau các dự án như ChatGPT. Vào thời điểm mà ông bị sa thải, Altman đã được cho là đang tìm kiếm tỷ đô mới đầu tư, trong một vòng đầu tư do Thrive Capital dẫn đầu. Công ty không thể không ít hấp dẫn hơn so với chỉ 24 giờ trước đó. (Giám đốc điều hành của Thrive, Joshua Kushner, không phản hồi email.)
Ngoài ra, bất kỳ ai đứng trên tấm biển tên CEO bao gồm thẻ “tạm thời” sẽ phải đối mặt với những thách thức bổ sung trong mọi thứ họ làm. Sớm khi OpenAI bổ nhiệm một người lãnh đạo cố định, sẽ càng tốt.
Bắt đầu Lại
Người lãnh đạo mới của OpenAI đã được chia rẽ với việc họ ủng hộ lãnh đạo hiện tại, Sutskever và Murati, hay những ông chủ đã rời đi, Altman và Brockman. Một trong ba nhà nghiên cứu được báo cáo là đã từ bỏ sau cuộc đảo chính là giám đốc nghiên cứu Jakub Pachocki, một người đồng phát minh của GPT-4—một mất mát quan trọng, và chúng ta có thể mong đợi nhiều hơn nữa theo sau.
OpenAI có thể bây giờ đang ở trong tình thế bất lợi nghiêm trọng trong cuộc đua đến với tài năng trí tuệ nhân tạo. Các nhà nghiên cứu hàng đầu đang được bảo đảm bằng các gói lương hàng triệu đô la, nhưng đối với những người yêu nghề, tiền bạc là một yếu tố phụ thuộc không quan trọng so với việc làm thế nào để phát triển và triển khai trí tuệ nhân tạo mạnh mẽ hơn. Nếu OpenAI được coi là nơi đầy những cuộc tranh cãi đau đầu mà làm mất tập trung khỏi việc quyết định cách tốt nhất để sáng tạo và phổ biến phát minh quan trọng nhất của con người, tài năng hàng đầu sẽ ngần ngại cam kết. Các nhà nghiên cứu hàng đầu có thể chuyển sang Anthropic, một nhà phát triển trí tuệ nhân tạo được bắt đầu bởi những người lao động của OpenAI vào năm 2021—hoặc có thể là bất kỳ dự án mới nào mà Altman và Brockman bắt đầu.
Quỹ đạo của Altman cho đến bây giờ đã là một hành trình anh hùng kinh điển theo nghĩa của Joseph Campbell. Từ lần đầu tiên tôi gặp mặt anh khi anh đến văn phòng của tôi trên Newsweek vào năm 2007 với tư cách là CEO của một startup mang tên Loopt, anh toả ra sự nhiệt huyết đốt cháy để thực hiện những thách thức lớn nhất của công nghệ và cũng một sự khiêm tốn đáng chú ý về mặt cá nhân. Khi tôi đi cùng anh tại London trong năm nay trong chuyến công du cuồng nhiệt của anh để quảng bá “trí tuệ nhân tạo tích cực cho con người”—và đồng thời khuyến nghị rằng nó phải được quy định để ngăn chặn thảm họa—tôi thấy anh đang phát biểu trước đám đông, chụp ảnh tự sướng, và thậm chí tham gia một vài nhà biểu tình nhận lời để nghe quan tâm của họ. Nhưng tôi cũng cảm thấy công việc mệt mỏi, có thể gây ra một trận đau đầu kinh niên của anh, giống như trận đau đầu anh đánh bại khi chứng kiến trước Quốc hội.
Chỉ một tuần trước đây, Altman có vẻ như đã vượt qua những thách thức to lớn đi kèm với quyền lực và sự nổi danh mới của anh. Tại ngày phát triển của OpenAI vào ngày 6 tháng 11, anh tự tin và tỉ mỉ rất kỹ khi anh giới thiệu một danh sách sản phẩm mới, đòi hỏi sự làm chủ của người đã điều hành vị trí chim công cũ quy mô cuối cùng của vũ trụ công nghệ: một người biểu diễn trình diễn những tiến bộ đố kỵ của tư duy theo phong cách của Steve Jobs. Có vẻ như Altman cuối cùng đã cảm thấy như ở nhà trong ánh sáng đèn. Nhưng sau đó đèn tắt. Sam Altman sẽ phải tạo ra trí tuệ nhân tạo mạnh mẽ ở một nơi khác. Openai có lẽ vẫn đang đi tìm—nhưng chỉ sau khi nó nhặt lại từng mảnh vụn.
Ý nghĩa của việc sa thải Sam Altman đối với tương lai của OpenAI
#OpenAI #AI #Trítuệnhântạo #SamAltman #Sựkiệnnghệthuật
Nguồn: https://www.wired.com/story/sam-altman-firing-openai-future/
Altman’s ouster shows the organization meant to align superintelligent AI with humanity failing to align the values of even its own board members and leadership. Adding a profit-seeking component to the nonprofit project turned it into an AI powerhouse. Launching products was supposed to provide not only profits but also opportunities to learn how to better control and develop beneficial AI. Now it’s unclear whether the current leadership thinks that can be done without breaching the project’s original promise to create AGI safely.
Murati faces the challenge of convincing OpenAI’s staff and backers that it still has a workable philosophy for developing AI. She must also feed the company’s hunger for cash to operate the expansive infrastructure behind projects like ChatGPT. At the time he was pink-slipped, Altman was reportedly seeking billions of new investment, in a funding round to be led by Thrive Capital. The company is undoubtedly less attractive to funders than it was only 24 hours ago. (Thrive’s CEO Joshua Kushner did not respond to an email.)
In addition, anyone whose CEO nameplate includes the tag “interim” will face additional hurdles in anything they do. The sooner OpenAI appoints a permanent leader, the better.
Starting Over
Whomever OpenAI’s new leader turns out to be, they look set to inherit a team riven by whether they stand with the current leaders, Sutskever and Murati, or the departed bosses, Altman and Brockman. One of the three researchers reported to have quit over the putsch was director of research Jakub Pachocki, a coinventor of GPT-4—a crucial loss, and we can expect more to follow.
OpenAI may now be at a severe disadvantage in the fierce race for AI talent. Top researchers are being secured by multimillion-dollar payment packages, but for the most passionate, money is a secondary consideration to the question of how more powerful AI is to be developed and deployed. If OpenAI is seen as a place ridden with palace intrigues that distract from deciding how best to create and disseminate humanity’s most consequential invention, top talent will be reluctant to commit. Elite researchers might instead look to Anthropic, an AI developer started by ex-OpenAI employees in 2021—or maybe whatever new project Altman and Brockman start.
Altman’s trajectory until now has been a classic hero’s journey in the Joseph Campbell sense. From the moment I first met him, when he came to my Newsweek office in 2007 as CEO of a startup called Loopt, he exuded a burning passion to fulfill technology’s biggest challenges and also a striking personal humility. When I accompanied him in London this year during his whirlwind tour to promote “human positive” AI—and yet also recommend that it be regulated to prevent disaster—I saw him addressing crowds, posing for selfies, and even engaging a few protesters to hear out their concerns. But I also sensed that the task was stressful, possibly triggering one of his periodic migraine headaches, like the one he fought off when testifying before the Senate.
Just last week, Altman appeared to have mastered the prodigious challenges that came with his new power and prominence. At OpenAI’s developer day on November 6, he was confident and meticulously rehearsed as he introduced a raft of new products, laying claim to the technosphere’s ultimate peacock perch: a showman unveiling mind-bending advances in the mode of Steve Jobs. It seemed that Altman finally felt at home in the spotlight. But then the lights went out. Sam Altman will have to create AGI somewhere else. OpenAI may still be in the hunt—but only after it picks up the pieces.
