Phát sinh khuôn mặt do AI thuyết phục hơn khuôn mặt thực: nghiên cứu mới
Một nghiên cứu mới đã phát hiện ra rằng hình ảnh được tạo ra bởi trí tuệ nhân tạo của các khuôn mặt da trắng có khả năng được nhận biết như con người thực sự hơn so với hình ảnh thực sự của con người, theo báo cáo của The Guardian.
Nghiên cứu này được tiến hành bởi một nhóm các nhà khoa học từ Úc, Anh và Hà Lan, đã đưa ra một phát hiện đáng kinh ngạc: hình ảnh của khuôn mặt trắng được tạo ra bởi thuật toán trí tuệ nhân tạo có thể thành công trong việc làm cho người xem tin rằng chúng là con người – ngay cả nhiều hơn cả trong trường hợp của khuôn mặt người thực.
“Đáng ngạc nhiên, khuôn mặt AI da trắng có thể dễ dàng khiến người khác tin rằng chúng thực sự là con người – và mọi người không nhận ra họ đang bị lừa,” các tác giả nghiên cứu cho biết.
Hiện tượng này có thể có những ảnh hưởng nghiêm trọng trong thế giới thực, bao gồm cả mạo danh thông qua hình ảnh cá nhân giả siêu thực được tạo ra bởi AI. Mọi người có thể tương tác với kẻ giả mạo sống ảo đang giả vờ là con người thực sự trong không gian trực tuyến.
#KhuônMặtMáyHọc #TríTuệNhânTạo #HàngThật #HàngGiả #NhậnDạngConNgười
Nguồn: https://readwrite.com/ai-generated-faces-more-convincing-than-real-ones-study/
A new study has found that AI-generated images of white faces are more likely to be perceived as real humans compared to actual photos of people, The Guardian reports.
The research, conducted by a team of scientists from Australia, the UK and the Netherlands, made a startling revelation: images of white faces produced by artificial intelligence algorithms can successfully fool people into thinking they are human — even more so than real human faces.
“Remarkably, white AI faces can convincingly pass as more real than human faces — and people do not realize they are being fooled,” the study authors reported.
This could have serious real-world implications, including identity theft through hyper-realistic fake profile pictures created by AI. People may interact with digital imposters masquerading as real humans in online spaces.
Racial differences
However, this phenomenon was restricted to white faces only. The realism advantage did not extend to AI-generated images of people of color. The researchers believe the AI system was predominantly trained on white faces.
Dr. Zak Witkower, co-author of the study from the University of Amsterdam, noted that this racial disparity in AI realism could negatively impact areas like online therapy, social robots and more — which rely on convincing simulated faces. “It’s going to produce more realistic situations for white faces than other race faces,” he said.
By confounding perceptions of race and humanness, AI face generators risk exacerbating social biases, including in missing children alerts that depend on widely circulated AI-generated photos.
In an experiment conducted as part of the study, when shown a mix of 100 real and 100 AI-generated white faces, participants were more likely to rate the AI faces as real humans than genuine photos. This effect persisted even when participants were not told some faces were AI-generated.
The researchers identified factors like excellent facial symmetry, familiarity and memorability as the main reasons why AI faces dupe humans. Ironically, a machine learning system developed by the team could accurately identify real vs fake faces 94% of the time — far better than humans.
Dr. Clare Sutherland, co-author from the University of Aberdeen, emphasized the need to address racial biases in AI systems. “As the world changes extremely rapidly with the introduction of AI, it’s critical that we make sure that no one is left behind or disadvantaged in any situation — whether due to ethnicity, gender, age, or any other protected characteristic,” she said.
Photo by ThisIsEngineering.
