#Nvidia #NeMoGuardrails #AI #LangChain #OpenAI #GPT3 #Google #T5 #XL #BingAI #ChatGPT #Microsoft #Snapchat
Nvidia vừa giới thiệu một giải pháp mới mang tên NeMo Guardrails. Đây là một lan can mã nguồn mở dành cho các ứng dụng được cung cấp bởi các mô hình ngôn ngữ lớn. NeMo Guardrails được thiết kế để giữ cho các hệ thống AI trong những giới hạn nhất định, ngăn chặn các tình huống đáng nguy hiểm như nói dối, gian lận, phân biệt chủng tộc hoặc phát tán thông tin sai lệch.
NeMo Guardrails sử dụng giao diện Colang để xác định các hạn chế nào đối với đầu ra AI và giúp chatbot bám sát chủ đề. Nvidia cho biết giải pháp này được phát triển để hoạt động tốt với các mô hình ngôn ngữ của OpenAI và Google và các mô hình tạo ảnh AI như Khuếch tán ổn định 1.5 và Imagen.
Tuy nhiên, NeMo Guardrails cũng không thể ngăn chặn tất cả các tình huống đáng nguy hiểm của AI. Nhiều công ty đã gặp phải khó khăn khi triển khai các hệ thống AI của mình trong quá trình họ cố gắng ngăn chặn thông tin sai lệch và tình huống khó xử.
Việc Nvidia giới thiệu NeMo Guardrails có thể đóng vai trò quan trọng trong việc phát triển phần mềm AI của công ty dành cho doanh nghiệp. Nvidia là một trong những tên tuổi lớn nhất trong không gian AI và các chip đào tạo AI A100 và H100 mới hơn của họ chiếm hơn 90% thị trường toàn cầu cho loại GPU đó. Microsoft hiện đang cố gắng tạo ra chip đào tạo AI của riêng mình để thoát khỏi ách thống trị của Nvidia.
Nguồn: https://gizmodo.com/nvidia-ai-gpt-chatbot-gpt-4-openai-1850374066
Các danh sách ngày càng tăng của các công ty kết hợp AI vào các ứng dụng và nền tảng của họ đã phải tạo và liên tục điều chỉnh các cách giải quyết của riêng họ để đối phó với xu hướng của AI đối với nói dối, gian lận, phong cách, mượn hoặc đổi chác. Giờ đây, Nvidia đang tìm cách cung cấp cho nhiều nhà phát triển hơn một cách dễ dàng hơn để ra lệnh cho AI đóng bẫy của nó.
Cảnh báo! Microsoft muốn ChatGPT điều khiển robot Tiếp theo
Vào thứ ba, Nvidia chia sẻ cái gọi là “NeMo Guardrails” mà công ty mô tả là một loại bot kiểm duyệt một kích cỡ phù hợp với tất cả các ứng dụng được cung cấp bởi các mô hình ngôn ngữ lớn. phần mềm là mã nguồn mởvà được cho là nằm trên các bộ công cụ hiện đại thường được sử dụng như LangChain. Theo của công ty blog kỹ thuậtNeMo sử dụng một hệ thống phụ dành riêng cho AI có tên là Colang như một loại giao diện để xác định loại hạn chế nào đối với đầu ra AI mà mỗi ứng dụng muốn có.
Những người sử dụng NeMo có thể giúp các chatbot bám sát chủ đề và ngăn không cho nó đưa ra thông tin sai lệch, đưa ra các phản hồi độc hại hoặc phân biệt chủng tộc hoàn toàn hoặc thực hiện các tác vụ như tạo mã độc. Nvidia cho biết họ đã làm việc với công ty ứng dụng web dành cho doanh nghiệp Zapier.
Phó Giám đốc Nghiên cứu Ứng dụng của Nvidia, Jonathan Cohen, nói TechCrunch rằng mặc dù công ty đã nghiên cứu hệ thống Lan can trong nhiều năm, nhưng một năm trước họ đã phát hiện ra rằng hệ thống này sẽ hoạt động tốt đối với Các mô hình GPT của OpenAI. Trang NeMo cho biết nó hoạt động trên các mô hình ngôn ngữ cũ hơn như GPT-3 của OpenAI và T5 của Google. Nvidia cho biết nó cũng hoạt động trên một số Mô hình tạo ảnh AI như Khuếch tán ổn định 1.5 và Imagen. MỘT Người phát ngôn của Nvidia đã xác nhận với Gizmodo rằng NeMo được cho là sẽ hoạt động với “tất cả các LLM chính được hỗ trợ bởi LangChain, bao gồm cả GPT-4 của OpenAI.”
BÁN NGAY BÂY GIỜ
Hai trong số các VPN yêu thích của chúng tôi
Bảo vệ dữ liệu riêng tư của bạn
Chúng tôi chia sẻ và truy cập rất nhiều dữ liệu riêng tư mỗi ngày, điều này có thể gây ra một số vấn đề lớn nếu thông tin đó lọt vào tay kẻ xấu.
Tuy nhiên, vẫn chưa rõ một lan can nguồn mở có thể thực hiện tốt đến mức nào. Trong khi chúng tôi có thể không sớm nhận được “GPT-5”OpenAI đã cố gắng tiếp thị đại chúng mô hình GPT-4 với quyền truy cập API của nó. Ổn định AI, nhà sản xuất của Khuếch tán ổn định, là cũng hướng tới các doanh nghiệp với mô hình “XL”. Cả hai công ty đã cố gắng trấn an khách hàng rằng đã có các khối trên nội dung xấu được tìm thấy ở độ sâu của dữ liệu đào tạo của AImặc dù đặc biệt là với GPT-4, đã từng buộc phải dùng từ của OpenAI cho Nó.
Và ngay cả khi nó được triển khai trong phần mềm hỗ trợ tốt nhất, như LangChain, thì không phải NeMo sẽ nắm bắt được mọi thứ. Các công ty đã triển khai các hệ thống AI đã phát hiện ra điều đó một cách khó khăn. Bing AI của Micorosoft đã bắt đầu hành trình vào đầu năm nay và người dùng ngay lập tức tìm cách lạm dụng nó để nói “Heil Hitler” và đưa ra những tuyên bố phân biệt chủng tộc khác. Mỗi bản cập nhật đó đã cho AI thêm một chút khoảng trống để chứng minh AI của nó có thể bị khai thác như thế nào.
Và ngay cả khi AI có các khối rõ ràng đối với một số nội dung nhất định, điều đó không có nghĩa là nó luôn hoàn hảo. Tuần trước, Snapchat đã sử dụng chatbot dựa trên ChatGPT “My AI” của mình hết phiên bản beta và buộc tất cả người dùng của nó phải làm như vậy. Một người dùng đã chứng minh rằng họ có thể điều khiển AI để nói từ nbất chấp những nỗ lực của người dùng khác với cùng một lời nhắc đã bị cản trở bởi các khối hiện có trên AI.
Đây là lý do tại sao hầu hết các triển khai AI đã được phát hành ở dạng “beta”. Google có được gọi là phát hành Bard AI của nó một “bài kiểm tra” trong khi liên tục cố gắng nói lên sự phát triển AI “có trách nhiệm”. Microsoft đã phát hành Bing AI dựa trên ChatGPT của OpenAI ở định dạng beta. Chatbot AI hiện đại là loại nói dối tồi tệ nhất. Họ bịa đặt mà không hề biết những gì họ nói là không đúng sự thật. Họ có thể đăng nội dung có hại, nguy hiểm và thường vô lý mà không hiểu bất cứ điều gì nó nói.
Chatbot AI còn tệ hơn bất kỳ đứa trẻ nào la hét những lời tục tĩu trong Walmart vì đứa trẻ cuối cùng cũng có thể học được. Nếu được gọi ra, AI sẽ giả vờ xin lỗi, nhưng nếu không sửa đổi dữ liệu hoặc quy trình học tập của AI, AI sẽ không bao giờ thay đổi. Điều tốt nhất mà hầu hết các nhà phát triển AI có thể làm để cản trở những xung động tồi tệ nhất của AI là nhốt nó vào một cái lồng giống như bạn thấy trong hang sư tử ở sở thú địa phương. Bạn cần những bức tường cao để ngăn chặn AI, và thậm chí sau đó, đừng thò tay qua song sắt.
Và bạn không thể quên làm thế nào đây là tất cả kinh doanh lớn cho Nvidia. Những lan can này được cho là để thúc đẩy bộ phần mềm AI hiện có của công ty dành cho doanh nghiệp. Nvidia đã là một trong những người chơi lớn nhất trong không gian AI, ít nhất là về phần cứng. Các chip đào tạo AI A100 và H100 mới hơn của nó chiếm hơn 90% thị trường toàn cầu cho loại GPU đó. Microsoft được cho là đang cố gắng tìm cách tạo ra chip đào tạo AI của riêng mình và thoát khỏi ách thống trị của Nvidia.
