‘Hiệu quả nguy hiểm’ – Google AI search gây ra sự chế nhạo, lo ngại. Hãy tham gia cùng chúng tôi quay trở lại New York vào ngày 5 tháng 6 để hợp tác với các nhà lãnh đạo cấp cao trong việc khám phá các phương pháp toàn diện để kiểm tra các mô hình AI liên quan đến độ thiasedtheo sự thiasedthế, hiệu suất và tuân thủ đạo đạo đức trên các tổ chức đa dạng. Tìm hiểu cách bạn có thể tham dự tại đây. Liệu bạn có nên thêm keo vào pizza của mình, nhìn trực tiếp vào mặt trời trong 30 phút mỗi ngày, ăn đá hay nấm có độc hay xử lý vết cắn của rắn bằng đá lạnh không? Theo thông tin từ tính năng “Tổng quan AI” mới của Google Search, những đề xuất ngốc nghếch và nguy hiểm này không chỉ là ý tưởng tốt mà còn là hàng đầu trong tất cả các kết quả mà người dùng nên thấy khi tìm kiếm với sản phẩm đặc trưng của họ. Google AI từ nấm đến vết cắn rắn, nội dung là thực sự nguy hiểm.
Theo thông tin từ tính năng “Tổng quan AI” mới của Google Search, những đề xuất ngốc nghếch và nguy hiểm đã trở thành một hiện tượng của riêng mình và thậm chí đã trở thành một meme với một số người dùng đang chế ảnh các câu trả lời để làm nhìn Google xấu hơn.
Mặc dù có những cảnh báo, người dùng và báo chí công nghệ đã giao đến Google hoặc dự đoán rằng công ty tìm kiếm này sẽ cuối cùng phải loại bỏ tính năng AI Tổng quan, ít nhất tạm thời, tương tự như cách mà Google đã làm sau khi tính năng sinh hình ảnh AI Gemini của họ bị chỉ ra tạo ra những hình ảnh sai lạc về mặt chủng tộc và lịch sử vào đầu năm nay.
Quan trọng hơn, các nhà báo công nghệ và người dùng hiểu biết về công nghệ đã lưu ý rằng Google có vẻ đang sử dụng các mô hình AI của mình để tạo bản tóm tắt nội dung mà họ đã lập chỉ mục trong bộ chỉ mục Tìm kiếm trước đó của mình, nội dung mà họ không phải là nguồn gốc nhưng vẫn phụ thuộc vào để cung cấp cho người dùng của họ “thông tin quan trọng”.
Cuối cùng, thật khó để nói là bao nhiêu phần trăm tìm kiếm hiển thị thông tin không chính xác. Nhưng một điều chắc chắn: AI Tổng quan dường như dễ mắc lỗi hơn so với Google Search trước đây đối với thông tin sai lạc từ các nguồn không đáng tin cậy hoặc thông tin được đăng dưới dạng một trò đùa mà các mô hình AI cơ bản phụ trách tóm tắt không thể hiểu được và xem xét nghiêm túc, và thay vào đó xem xét nghiêm túc. Tuy nhiên, liệu người dùng thực sự hành động dựa trên thông tin được cung cấp trong các kết quả này hay không, vẫn chưa rõ – nhưng nếu họ làm, đó rõ ràng là không khôn ngoan và có thể gây nguy hiểm cho sức khỏe và an toàn của họ. Hãy hy vọng rằng người dùng đủ thông minh để kiểm tra nguồn thông tin phụ cùng. #AIsearch #Google #NYC #AuditingAIModels #EthicalAI #AIBiasConcerns #AICompliance #TechEthics #AIethics #AIinSearch.
Join us in returning to NYC on June 5th to collaborate with executive leaders in exploring comprehensive methods for auditing AI models regarding bias, performance, and ethical compliance across diverse organizations. Find out how you can attend here.
Should you add glue to your pizza, stare directly at the sun for 30 minutes per day, eat rocks or a poisonous mushroom or treat a snake bite with ice?
According to information served up through Google Search’s new “AI Overview” feature, these obviously stupid and harmful suggestions are not only good ideas, but the top of all possible results a user should see when searching with its signature product.
What is going on, where did all this bad information come from, and why is Google putting at the top of its search results pages right now? Let’s dive in.
What is Google AI Overview?
In its bid to catch-up to rival OpenAI and its hit chatbot ChatGPT in the large language model (LLM) chatbot and search game, Google introduced a new feature called “Search Generative Experience” nearly a year ago in May 2023.
VB Event
The AI Impact Tour: The AI Audit
Join us as we return to NYC on June 5th to engage with top executive leaders, delving into strategies for auditing AI models to ensure fairness, optimal performance, and ethical compliance across diverse organizations. Secure your attendance for this exclusive invite-only event.
It was described then as: “an AI-powered snapshot of key information to consider, with links to dig deeper,” and appeared basically as a new paragraph of text right below the Google Search input bar, above the traditional list of blue links the user typically got when searching Google.
The feature was said to be powered by Search-specific AI models. At the time, it was an “opt-in” service and users had to go through a number of hoops to turn it on.
But 10 days ago at Google’s I/O conference, amid a fleet of AI-related announcements, the company announced the Search Generative Experience had been renamed AI Overviews and was coming as the default experience on Google Search to all users, beginning with those in the U.S.
There are ways to turn it off or perform Google Searches without AI Overviews (namely the “Web” tab on Google Search), but now, in this case, users have to take a few extra steps to do so.
Why is Google AI Overview controversial?
Ever since Google turned AI Overviews on as the default for users in the U.S., some have been taking to X and other social sites to post the horrible, awful, no-good results that come up in the feature when searching different queries.
In some cases, the AI-powered feature chooses to display wildly incorrect, inflammatory and downright dangerous information.
Even celebrities including musician Lil Nas X joined in the pile-on.
Other results are more harmless but still incorrect and make Google look stupid and unreliable:
The poor quality AI generated results have taken on a life of their own and even become a meme with some users photoshopping answers into screenshots to make Google look even worse that it already does in the real results:
Google has qualified the AI Overview feature as being “experimental,” putting the following text at the bottom of each result: “Generative AI is experimental,” and linking to a page that describes the new feature in more detail.
On that page, Google writes: “AI Overviews can take the work out of searching by providing an AI-generated snapshot with key information and links to dig deeper…With user feedback and human reviews, we evaluate and improve the quality of our results and products responsibly.”
Will Google pull AI/Overview?
But some users took to X (formerly Twitter) to call upon Google or predict that the search giant would end up removing the AI Overview feature, at least temporarily, similar to the tack taken by Google after its Gemini AI image generation feature was shown to create racially and historically inaccurate images earlier this year, inflaming prominent Silicon Valley libertarians and politically conservative figures such as Marc Andreessen and Elon Musk.
In a statement to The Verge, a Google spokesperson said of the AI Overview feature that users were showing examples “generally very uncommon queries, and aren’t representative of most people’s experiences.”
In addition, The Verge reported that: “The company has taken action against violations of its policies…and are using these ‘isolated examples’ to continue to refine the product.”
Yet as some have observed on X, this sounds an awful lot like victim blaming.
A Google spokesperson reached out to me after this story was published to provide the following statement:
“The vast majority of AI Overviews provide high quality information, with links to dig deeper on the web. Many of the examples we’ve seen have been uncommon queries, and we’ve also seen examples that were doctored or that we couldn’t reproduce. We conducted extensive testing before launching this new experience, and as with other features we’ve launched in Search, we appreciate the feedback. We’re taking swift action where appropriate under our content policies, and using these examples to develop broader improvements to our systems, some of which have already started to roll out.”
Others have posited that AI developers could be held legally liable for dangerous results such as the kind shown in AI Overview:
Importantly, tech journalists and other digitally literate users have noted that Google appears to be using its AI models to create summaries of content it has indexed in its Search index previously, content it did not originate but is nonetheless relying upon to provide its users with “key information.”
Ultimately, it’s hard to say what percentage of searches display this erroneous information.
But one thing is clear: AI Overview seems to be more prone than Google Search was previously to disinformation from untrustworthy sources, or information posted as a joke which the underlying AI models responsible for summarization cannot understand as such, and instead treat as serious.
Now, whether users actually act upon the information provided in these results remains to be seen — but if they do, it is clearly unwise and could pose risks to their health and safety.
Let’s hope users are smart enough to check alternate sources. Say, rival AI search startup Perplexity, which seems to have less problems surfacing correct information than Google’s AI Overviews at the moment (an unfortunate irony for the search giant and its users, given Google’s role in first conceiving of and articulating the machine learning transformer architecture at the heart of the modern generative AI/LLM boom).
[ad_2]
