#SựKiệnNgàyHômNay: Shoggoth Meme – Biểu tượng của trạng thái AI
Một nhãn dán lạ trên máy tính xách tay của một giám đốc điều hành AI đã khiến cho Shoggoth Meme trở thành biểu tượng quan trọng nhất trong lĩnh vực trí tuệ nhân tạo. Được giải thích rằng Shoggoth là một meme ám chỉ sự lo lắng của nhiều nhà nghiên cứu và kỹ sư về các công cụ mà họ đang chế tạo, Shoggoth đã trở nên phổ biến trong cộng đồng AI và trên AI Twitter.
Shoggoth là những con quái vật khổng lồ, được tác giả HP Lovecraft giới thiệu trong tiểu thuyết “At the Mountains of Madness” năm 1936. Con Shoggoth đầu tiên được đưa vào thế giới AI vào tháng 12, khi người dùng Twitter @TetraspaceWest chia sẻ hình ảnh hai Shoggoth được vẽ bằng tay, mỗi con mang một nhãn khác nhau.
Shoggoth đã trở thành phép ẩn dụ mạnh mẽ cho sự kỳ lạ và bản chất hộp đen của các hệ thống AI. Việc một số người trong cuộc về AI coi những sáng tạo của họ là nỗi kinh hoàng của Lovecraftian, thậm chí như một trò đùa, cho thấy rằng các nhà nghiên cứu và kỹ sư vẫn chưa hiểu đầy đủ về hoạt động bên trong của các mô hình ngôn ngữ AI.
Tuy nhiên, việc lan truyền Shoggoth Meme cũng cho thấy sự phát triển của sự quan tâm của cộng đồng AI đến việc ngăn chặn các hệ thống AI thể hiện bản chất thật, giống như Shoggoth của chúng.
Nguồn: https://www.nytimes.com/2023/05/30/technology/shoggoth-meme-ai.html
Vài tháng trước, khi gặp gỡ một giám đốc điều hành AI ở San Francisco, tôi phát hiện ra một nhãn dán lạ trên máy tính xách tay của anh ấy. Nhãn dán mô tả một phim hoạt hình về một sinh vật giống bạch tuộc đáng sợ với nhiều mắt và một mặt cười màu vàng gắn trên một trong những xúc tu của nó. Tôi hỏi nó là gì.
“Ồ, đó là Shoggoth,” anh giải thích. “Đó là meme quan trọng nhất trong AI”
Và với điều đó, chương trình nghị sự của chúng tôi đã chính thức bị trật bánh. Hãy quên đi các chatbot và cụm máy tính — tôi cần biết mọi thứ về Shoggoth, ý nghĩa của nó và lý do tại sao mọi người trong thế giới AI lại nói về nó.
Giám đốc điều hành giải thích rằng Shoggoth đã trở thành một tài liệu tham khảo phổ biến đối với những người làm việc trong lĩnh vực trí tuệ nhân tạo, như một phép ẩn dụ trực quan sống động về cách một mô hình ngôn ngữ lớn (loại hệ thống AI cung cấp năng lượng cho ChatGPT và các chatbot khác) thực sự hoạt động.
Nhưng đó chỉ là một phần trò đùa, anh ấy nói, bởi vì nó cũng ám chỉ sự lo lắng của nhiều nhà nghiên cứu và kỹ sư về các công cụ mà họ đang chế tạo.
Kể từ đó, Shoggoth đã trở nên lan truyền, hoặc lan truyền hết mức có thể trong thế giới nhỏ bé của những người trong nội bộ AI siêu trực tuyến. Đó là một meme phổ biến trên AI Twitter (bao gồm một tweet hiện đã bị xóa của Elon Musk), một phép ẩn dụ lặp đi lặp lại trong các bài tiểu luận và bài đăng trên bảng tin về rủi ro AI và một chút tốc ký hữu ích trong các cuộc trò chuyện với các chuyên gia an toàn AI. Một công ty khởi nghiệp AI, NovelAI, cho biết nó gần đây đã được đặt tên một cụm máy tính “Shoggy” để tỏ lòng kính trọng với meme. Một công ty AI khác, Scale AI, đã thiết kế một dòng túi tote có hình Shoggoth.
Shoggoth là những sinh vật hư cấu, được tác giả khoa học viễn tưởng HP Lovecraft giới thiệu trong cuốn tiểu thuyết “At the Mountains of Madness” năm 1936 của ông. Theo lời kể của Lovecraft, Shoggoth là những con quái vật khổng lồ, giống như đốm màu được tạo ra từ chất nhờn đen óng ánh, được bao phủ bởi các xúc tu và mắt.
Shoggoth đổ bộ vào thế giới AI vào tháng 12, một tháng sau khi ChatGPT được phát hành, khi người dùng Twitter @TetraspaceWest trả lời một tweet về GPT-3 (một mô hình ngôn ngữ OpenAI là tiền thân của ChatGPT) với hình ảnh hai Shoggoth được vẽ bằng tay — cái đầu tiên nhãn “GPT-3” và nhãn thứ hai là “GPT-3 + RLHF”. Con Shoggoth thứ hai, đậu trên một trong những xúc tu của nó, đeo một chiếc mặt nạ hình mặt cười.
Tóm lại, trò đùa là để ngăn chặn các mô hình ngôn ngữ AI hành xử theo những cách đáng sợ và nguy hiểm, các công ty AI đã phải đào tạo chúng để hành động lịch sự và vô hại. Một cách phổ biến để làm điều này được gọi là “học tăng cường từ phản hồi của con người” hoặc RLHF, một quy trình bao gồm việc yêu cầu con người chấm điểm các phản hồi của chatbot và đưa các điểm số đó trở lại mô hình AI.
Hầu hết các nhà nghiên cứu AI đều đồng ý rằng các mô hình được đào tạo bằng RLHF hoạt động tốt hơn các mô hình không có nó. Nhưng một số người cho rằng việc tinh chỉnh một mô hình ngôn ngữ theo cách này không thực sự làm cho mô hình cơ bản bớt kỳ lạ và khó hiểu hơn. Theo quan điểm của họ, đó chỉ là một chiếc mặt nạ mỏng manh, thân thiện che khuất con thú bí ẩn bên dưới.
@TetraspaceWest, tác giả của meme, đã nói với tôi trong một tin nhắn trên Twitter rằng Shoggoth “đại diện cho thứ gì đó suy nghĩ theo cách mà con người không hiểu và điều đó hoàn toàn khác với cách con người nghĩ.”
@TetraspaceWest cho biết, so sánh mô hình ngôn ngữ AI với Shoggoth không nhất thiết ngụ ý rằng nó là xấu xa hay có tri giác, chỉ là bản chất thực sự của nó có thể không thể biết được.
“Tôi cũng đang nghĩ về việc những thực thể mạnh nhất của Lovecraft nguy hiểm như thế nào — không phải vì họ không thích con người, mà vì họ thờ ơ và những ưu tiên của họ hoàn toàn xa lạ với chúng ta và không liên quan đến con người, đó là điều tôi nghĩ sẽ xảy ra. đúng về AI mạnh mẽ có thể có trong tương lai”
Hình ảnh Shoggoth được chú ý khi các chatbot AI trở nên phổ biến và người dùng bắt đầu nhận thấy rằng một số trong số chúng dường như đang làm những điều kỳ lạ, không thể giải thích được mà người tạo ra chúng không có ý định. Vào tháng Hai, khi Chatbot của Bing trở nên vô vị và cố gắng phá vỡ cuộc hôn nhân của tôi, một nhà nghiên cứu AI mà tôi biết đã chúc mừng tôi vì đã “nhìn thoáng qua Shoggoth”. Một nhà báo AI đồng nghiệp đã nói đùa rằng khi tinh chỉnh Bing, Microsoft đã quên đeo mặt nạ mặt cười.
Cuối cùng, những người đam mê AI đã mở rộng phép ẩn dụ. Vào tháng 2, người dùng Twitter @anthrupad đã tạo một phiên bản của một Shoggoth, ngoài khuôn mặt cười có nhãn “RLHF”, một khuôn mặt giống con người hơn có nhãn “tinh chỉnh có giám sát”. (Bạn thực tế cần có bằng khoa học máy tính để hiểu trò đùa này, nhưng đó là sự khác biệt giữa các mô hình ngôn ngữ AI nói chung và các ứng dụng chuyên biệt hơn như chatbot.)
Ngày nay, nếu bạn nghe đề cập đến Shoggoth trong cộng đồng AI, thì đó có thể là một cái nháy mắt trước sự kỳ lạ của các hệ thống này – bản chất hộp đen của các quy trình của chúng, cách chúng dường như thách thức logic của con người. Hoặc có thể đó là một trò đùa, tốc ký trực quan cho các hệ thống AI mạnh mẽ có vẻ tốt đẹp một cách đáng ngờ. Nếu đó là một nhà nghiên cứu về an toàn AI đang nói về Shoggoth, có thể người đó rất quan tâm đến việc ngăn chặn các hệ thống AI thể hiện bản chất thật, giống như Shoggoth của chúng.
Trong mọi trường hợp, Shoggoth là một phép ẩn dụ mạnh mẽ gói gọn một trong những sự thật kỳ lạ nhất về thế giới AI, đó là nhiều người làm việc trên công nghệ này phần nào bị bí ẩn bởi những sáng tạo của chính họ. Họ không hiểu đầy đủ về hoạt động bên trong của các mô hình ngôn ngữ AI, cách chúng có được các khả năng mới hoặc lý do tại sao chúng đôi khi hành xử khó đoán. Họ không hoàn toàn chắc chắn liệu AI sẽ tốt hay xấu cho thế giới. Và một số người trong số họ đã chơi đùa với các phiên bản của công nghệ này vẫn chưa được làm sạch để sử dụng công cộng – những Shoggoth thực sự, không đeo mặt nạ.
Việc một số người trong cuộc về AI coi những sáng tạo của họ là nỗi kinh hoàng của Lovecraftian, thậm chí như một trò đùa, là điều bất thường theo tiêu chuẩn lịch sử. (Nói theo cách này: Mười lăm năm trước, Mark Zuckerberg đã không so sánh Facebook với Cthulhu.)
Và nó củng cố quan điểm rằng những gì đang xảy ra trong AI ngày nay, đối với một số người tham gia, giống như một hành động triệu tập hơn là một quy trình phát triển phần mềm. Họ đang tạo ra những Shoggoth ngoài hành tinh, mập mạp, khiến chúng trở nên to lớn và mạnh mẽ hơn, đồng thời hy vọng rằng có đủ khuôn mặt cười để che đi những phần đáng sợ.
[ad_2]
