Microsoft tuyên bố công cụ an toàn AI của họ không chỉ tìm ra lỗi mà còn sửa chúng. Microsoft đang ra mắt một tính năng mới gọi là “sửa lỗi” mà xây dựng trên nỗ lực của công ty để chống lại những sai sót của AI. Khách hàng sử dụng Microsoft Azure để nâng cấp hệ thống AI của họ có thể sử dụng tính năng này để tự động phát hiện và viết lại nội dung không đúng trong đầu ra của AI. Tính năng sửa lỗi này hiện đã có sẵn dưới dạng xem trước trong Azure AI Studio – một bộ công cụ an toàn được thiết kế để phát hiện điểm yếu, tìm “ảo giác” và chặn các lời gợi lừa hại. Khi được kích hoạt, hệ thống sửa lỗi sẽ quét và xác định những sai sót trong đầu ra AI bằng cách so sánh nó với tài liệu nguồn của khách hàng. Từ đó, nó sẽ nhấn mạnh lỗi, cung cấp thông tin về lý do tại sao nó không chính xác, và viết lại nội dung đó – tất cả “trước khi người dùng có thể nhìn thấy” sai lầm. Mặc dù điều này có vẻ là một cách hữu ích để đối phó với những “nonsense” thường được phát ngôn bởi các mô hình AI, nó có thể không phải là một giải pháp hoàn toàn đáng tin cậy. Vertex AI, nền tảng đám mây của Google dành cho các công ty phát triển hệ thống AI, có một tính năng “ground” mô hình AI bằng cách kiểm tra đầu ra so với Google Search, dữ liệu của công ty và (sắp tới) tập dataset của bên thứ ba. Trong một tuyên bố cho TechCrunch, một người phát ngôn của Microsoft cho biết hệ thống “sửa lỗi” sử dụng “mô hình ngôn ngữ nhỏ và lớn để cân chỉnh đầu ra với tài liệu cơ sở,” điều này có nghĩa là nó cũng không miễn cưỡng khỏi việc mắc lỗi. Microsoft cho biết rằng việc phát hiện groundedness không giải quyết cho “chính xác,” nhưng giúp cân chỉnh đầu ra từ AI sinh ra với tài liệu cơ sở. Microsoft AI TechCrunch AIHallucinations #Azure #VertexAI #AIErrorDetection
Nguồn: https://www.theverge.com/2024/9/24/24253452/microsoft-correction-ai-safety-tool-fix-errors
Microsoft is launching a new feature called “correction” that builds on the company’s efforts to combat AI inaccuracies. Customers using Microsoft Azure to power their AI systems can now use the capability to automatically detect and rewrite incorrect content in AI outputs.
The correction feature is available in preview as part of the Azure AI Studio — a suite of safety tools designed to detect vulnerabilities, find “hallucinations,” and block malicious prompts. Once enabled, the correction system will scan and identify inaccuracies in AI output by comparing it with a customer’s source material.
From there, it will highlight the mistake, provide information about why it’s incorrect, and rewrite the content in question — all “before the user is able to see” the inaccuracy. While this seems like a helpful way to address the nonsense often espoused by AI models, it might not be a fully reliable solution.
Vertex AI, Google’s cloud platform for companies developing AI systems, has a feature that “grounds” AI models by checking outputs against Google Search, a company’s own data, and (soon) third-party datasets.
In a statement to TechCrunch, a Microsoft spokesperson said the “correction” system uses “small language models and large language models to align outputs with grounding documents,” which means it isn’t immune to making errors, either. “It is important to note that groundedness detection does not solve for ‘accuracy,’ but helps to align generative AI outputs with grounding documents,” Microsoft told TechCrunch.
[ad_2]
