FTC cho biết máy quét AI đã “lừa dối” người dùng sau tiết lộ của BBC. Evolv Technology, một công ty quét vũ khí tại Mỹ, đã bị cấm đưa ra những tuyên bố không có căn cứ về sản phẩm của mình sau khi BBC phát hiện ra rằng máy quét AI của họ không thể phát hiện tất cả vũ khí như đã quảng cáo.
Theo thỏa thuận với FTC, Evolv Technology đã thừa nhận hành vi sai trái và sẽ bị cấm đưa ra những tuyên bố không có căn cứ về khả năng phát hiện vũ khí của sản phẩm. Các cuộc điều tra của BBC đã làm sáng tỏ rằng những tuyên bố của công ty là không chính xác.
FTC cảnh báo các công ty AI khác rằng tuyên bố về công nghệ cần phải được chứng minh. Các quan chức ở Mỹ và Anh đều đang lo ngại về việc các công ty phóng đại khả năng của trí tuệ nhân tạo trong việc cải tiến sản phẩm mà không chứng minh được sự hiệu quả thực sự.
#FTC #EvolvTechnology #BBC #AI #máyquét #vũkhí #lừadối #côngnghệ #trítuệnhântạo #thỏathuận #cấmđưa #tuyênbốkhôngcócăn #cuộcđiềutra #chínhxác #cảnhbáo #longiai #phóngđại #cải
Nguồn: https://www.bbc.com/news/articles/c9dlz3y0pl0o
Công ty quét vũ khí Evolv Technology của Hoa Kỳ sẽ bị cấm đưa ra những tuyên bố không có căn cứ về sản phẩm của mình trong một thỏa thuận được đề xuất với chính phủ Hoa Kỳ.
Công ty tuyên bố máy quét AI của họ, được sử dụng ở lối vào của hàng nghìn trường học, bệnh viện và sân vận động ở Mỹ, có thể phát hiện tất cả vũ khí.
Tuy nhiên các cuộc điều tra của BBC cho thấy những tuyên bố này là sai sự thật.
Evolv cho biết hiện họ đã đạt được thỏa thuận với Ủy ban Thương mại Liên bang (FTC), nhưng không thừa nhận hành vi sai trái.
FTC cho biết hành động này sẽ là lời cảnh báo cho các công ty AI khác.
Samuel Levine, Giám đốc Cục Bảo vệ Người tiêu dùng cho biết: “FTC đã nói rõ rằng các tuyên bố về công nghệ – bao gồm cả trí tuệ nhân tạo – cần phải được chứng minh”.
Sứ mệnh của Evolv Technology là thay thế máy dò kim loại bằng máy quét vũ khí AI.
Nó tuyên bố sẽ làm được điều này bằng trí tuệ nhân tạo, có thể chủ động phát hiện các vũ khí được cất giấu như bom, dao và súng.
Khiếu nại của FTC cáo buộc công ty đã quảng cáo lừa đảo rằng máy quét của họ sẽ phát hiện “tất cả vũ khí”.
Vào năm 2022, BBC đã phác thảo một số tuyên bố ấn tượng mà Giám đốc điều hành lúc đó của Evolv đã đưa ra về công nghệ.
Giám đốc điều hành Peter George cho biết vào năm 2021: “Thành phần kim loại, hình dạng, độ phân mảnh – chúng tôi có hàng chục nghìn chữ ký này cho tất cả các loại vũ khí hiện có”. “
Tuy nhiên một Báo cáo của BBC năm 2022 cho thấy thử nghiệm cho thấy hệ thống của Evolv không thể phát hiện súng hoặc bom một cách đáng tin cậy – sau khi có yêu cầu về quyền tự do thông tin từ công ty phân tích bảo mật IPVM.
Một báo cáo khác của BBC vào năm 2023 tiết lộ chi tiết về vụ đâm ở một trường học ở New York, nơi sử dụng máy quét vũ khí của Evolv.
“Nó thực sự, thực sự không tìm thấy dao”, Giám đốc Trường học Utica khi đó nói với BBC.
Và đầu năm nay, BBC đưa tin rằng tuyên bố của Evolv rằng chính phủ Anh đã thử nghiệm và phê duyệt công nghệ của họ cũng là sai.
Theo đề xuất giải quyết của cơ quan giám sát người tiêu dùng Hoa Kỳ, Evolv sẽ bị cấm đưa ra những tuyên bố không có căn cứ về khả năng phát hiện vũ khí của sản phẩm và cung cấp cho một số khách hàng trường học tùy chọn hủy hợp đồng của họ.
Bây giờ nó sẽ được đưa đến thẩm phán để phê duyệt.
Người phát ngôn của Evolv cho biết họ đã hợp tác “cộng tác” với cơ quan này.
Mike Ellenbogen, Chủ tịch lâm thời kiêm Giám đốc điều hành của Evolv cho biết: “FTC không thách thức tính hiệu quả cơ bản của công nghệ của chúng tôi và nghị quyết không bao gồm bất kỳ khoản cứu trợ tiền tệ nào”.
Ông nói: “Nói rõ hơn, cuộc điều tra này liên quan đến ngôn ngữ tiếp thị trong quá khứ chứ không phải khả năng hệ thống của chúng tôi tăng thêm giá trị cho các hoạt động bảo mật”.
Các quan chức ở Mỹ và Anh đang lo ngại về việc các công ty phóng đại khả năng của trí tuệ nhân tạo trong việc cải tiến sản phẩm. Trong một số trường hợp, không rõ liệu trí tuệ nhân tạo có được sử dụng hay không.
FTC gần đây đã triển khai “Chiến dịch tuân thủ AI” nhằm vào các công ty đưa ra tuyên bố lừa đảo về AI.
