#deepfake #sựkiện #AI #luậtpháp
Jennifer DeStefano đã chia sẻ câu chuyện kinh hoàng của mình trong buổi thảo luận của Ủy ban Tư pháp Thượng viện về sự ảnh hưởng của trí tuệ nhân tạo đối với con người. Cô đã trải qua một trải nghiệm đau đớn khi nghe giọng nói giả của con gái Brie qua điện thoại bị kẻ lừa đảo deepfake tạo ra. Họ đe dọa tẩy não Brie và yêu cầu khoản tiền chuộc 1 triệu đô la.
Điều này chỉ ra rằng không chỉ các lĩnh vực lạm dụng AI mới đáng lo ngại, mà còn sự thiếu sót nghiêm trọng của luật pháp cần thiết để buộc những kẻ xấu phải chịu trách nhiệm. Các chuyên gia cảnh báo AI đang làm xáo trộn sự thật tập thể và gây nguy hiểm rõ ràng cho các cuộc bầu cử sắp tới của Hoa Kỳ.
Các nhà lập pháp cần mở rộng các luật hiện hành để điều chỉnh hành vi theo dõi và quấy rối để áp dụng cho cả không gian kỹ thuật số trực tuyến. Các công ty tư nhân cũng cần phát triển khả năng phát hiện deepfake tốt hơn. Điều này sẽ giúp ngăn chặn các trò lừa đảo AI và bảo vệ người dân trước các tác động tiêu cực của các công nghệ đang trỗi dậy.
Nguồn: https://gizmodo.com/ai-deepfake-kidnapping-scam-congress-hearing-1850536490
Ngày 20 tháng 1 bắt đầu giống như hầu hết các buổi chiều thứ Sáu điển hình đối với Jennifer DeStefano, cư dân Scottsdale, Arizona. Bà mẹ hai con vừa đón cô con gái út từ buổi tập nhảy thì nhận được cuộc gọi từ một số lạ. Cô ấy gần như để số vào hộp thư thoại nhưng quyết định nhấc máy khi hồi chuông cuối cùng. DeStefano cho biết những gì xảy ra trong vài phút tới có thể sẽ ám ảnh cô đến hết cuộc đời. Cô ấy chưa biết điều đó, nhưng cư dân Arizona sắp trở thành nhân vật chủ chốt trong xu hướng đang nổi lên nhanh chóng của AI deepfake lừa đảo bắt cóc.
Có lẽ Tập lệnh do AI viết là một ý tưởng tồi?
DeStefano đã kể lại kinh nghiệm của cô ấy một cách chi tiết hấp dẫn trong Ủy ban Tư pháp Thượng viện thính giác Thứ ba thảo luận về tác động trong thế giới thực của trí tuệ nhân tạo tổng quát đối với quyền con người. Cô nhớ lại giọng nói đang khóc ở đầu bên kia của cuộc gọi nghe gần giống với cô con gái Brie 15 tuổi của cô, người đang đi trượt tuyết cùng cha.
“Mẹ ơi, con làm rối tung lên rồi,” giọng nói cất lên giữa những tràng khóc. Mẹ ơi những người đàn ông tồi tệ này có tôi, giúp tôi, giúp tôi.
Giọng nói của một người đàn ông bất ngờ xuất hiện trong cuộc gọi và yêu cầu khoản tiền chuộc trị giá 1 triệu đô la được giao tận tay để Brie trở về an toàn. Người đàn ông đe dọa DeStefano không được kêu cứu và nói rằng anh ta sẽ đánh thuốc mê cô con gái tuổi teen của cô ấy, “làm theo cách của anh ấy với cô ấy” và giết cô ấy nếu cô ấy gọi cho cơ quan thực thi pháp luật. Em gái của Brie đã nghe tất cả những điều này qua loa ngoài. Không ai trong số đó, hóa ra là sự thật. Giọng nói của Brie Brie thực sự là một Deepfake do AI tạo ra. Kẻ bắt cóc là một kẻ lừa đảo đang tìm cách kiếm tiền dễ dàng.
DeStefano nói, cố kìm nước mắt: “Tôi sẽ không bao giờ có thể rũ bỏ được giọng nói đó và tiếng kêu cứu tuyệt vọng trong tâm trí mình. “Đó là cơn ác mộng tồi tệ nhất của mỗi bậc cha mẹ khi nghe con mình cầu xin trong sợ hãi và đau đớn, biết rằng chúng đang bị tổn hại và bất lực.”
Câu chuyện của người mẹ chỉ ra cả những lĩnh vực lạm dụng AI mới đáng lo ngại và sự thiếu sót nghiêm trọng của luật pháp cần thiết để buộc những kẻ xấu phải chịu trách nhiệm. Khi DeStefano liên hệ với cảnh sát về vụ lừa đảo deepfake này, cô ấy đã bị sốc khi biết rằng cơ quan thực thi pháp luật đã nhận thức rõ về vấn đề đang nổi lên. Bất chấp chấn thương và nỗi kinh hoàng mà trải nghiệm gây ra, cảnh sát cho biết nó chẳng khác gì một “cuộc gọi chơi khăm” vì không có tội phạm thực sự nào được thực hiện và không có tiền trao tay.
DeStefano, người cho biết cô đã thức trắng nhiều đêm “tê liệt vì sợ hãi” sau vụ việc, nhanh chóng phát hiện ra những người khác trong cộng đồng của cô cũng từng bị lừa đảo kiểu tương tự. Mẹ của cô, DeStefano làm chứng, cho biết bà nhận được một cuộc điện thoại nghe giống như giọng nói của anh trai mình nói rằng anh ấy bị tai nạn và cần tiền để thanh toán viện phí. DeStefano nói với các nhà lập pháp rằng cô ấy đã đến DC trong tuần này, một phần vì cô ấy sợ sự gia tăng của những trò gian lận như thế này đe dọa ý tưởng được chia sẻ hoặc bản thân thực tế.
DeStefano nói: “Chúng ta không còn có thể tin rằng nhìn là tin hay ‘Tôi đã nghe tận tai’. “Không có giới hạn nào về độ sâu mà AI xấu xa có thể kích hoạt.”
Các chuyên gia cảnh báo AI đang làm xáo trộn sự thật tập thể
Một nhóm các nhân chứng chuyên gia phát biểu trước tiểu ban nhân quyền và luật pháp của Ủy ban Tư pháp đã chia sẻ những lo ngại của DeStefano và chỉ ra các nhà lập pháp về những lĩnh vực mà họ tin rằng sẽ được hưởng lợi từ luật AI mới. Aleksander Madry, một giáo sư khoa học máy tính nổi tiếng và là giám đốc của Trung tâm Học máy có thể triển khai của MIT, cho biết làn sóng tiến bộ gần đây về AI do OpenAI’s dẫn đầu. Trò chuyệnGPT Và DALL-E “sẵn sàng để thay đổi căn bản khả năng cảm nhận tập thể của chúng ta.” Giờ đây, những kẻ lừa đảo có thể tạo nội dung chân thực, thuyết phục, được cá nhân hóa và có thể triển khai trên quy mô lớn ngay cả khi nội dung đó hoàn toàn là giả mạo. Madry cho biết, điều đó tạo ra những khu vực lạm dụng rộng lớn cho các trò gian lận, nhưng nó cũng đe dọa niềm tin chung vào chính thực tế được chia sẻ.
Giám đốc điều hành của Trung tâm Dân chủ & Công nghệ, Alexandra Reeve Givens đã chia sẻ những lo ngại đó và nói với các nhà lập pháp những trò lừa bịp sâu giống như loại được sử dụng để chống lại DeStefano đã gây ra những mối nguy hiểm rõ ràng và hiện hữu cho các cuộc bầu cử sắp tới của Hoa Kỳ. Người dùng Twitter đã trải nghiệm một mô hình thu nhỏ ngắn gọn về khả năng đó vào đầu tháng này khi hình ảnh do AI tạo ra về một quả bom được cho là phát nổ bên ngoài Lầu Năm Góc đạt được lực kéo. Tác giả và Tổ chức Sáng tạo Hoa Kỳ Thành viên cao cấp Geoffrey Cain cho biết công việc của ông bao gồm việc sử dụng các hệ thống AI tiên tiến của Trung Quốc để giám sát thiểu số người Hồi giáo Duy Ngô Nhĩ của nó đã đưa ra một cái nhìn thoáng qua về những nguy cơ toàn trị do các hệ thống này gây ra ở mức độ cực đoan. Các nhân chứng đều nhất trí nói rằng thời gian đang điểm để ban hành “các tiêu chuẩn an toàn mạnh mẽ” để ngăn chặn Hoa Kỳ đi theo con đường tương tự.
“Đây có phải là điều bình thường mới của chúng ta không?” DeStefano hỏi ủy ban.
Các nhà lập pháp có thể củng cố các luật hiện hành và khuyến khích phát hiện deepfake
Phát biểu trong phiên điều trần, Thượng nghị sĩ Tennessee Marsha Blackburn cho biết câu chuyện của DeStefano đã chứng minh sự cần thiết phải mở rộng các luật hiện hành điều chỉnh hành vi theo dõi và quấy rối để áp dụng cho cả không gian kỹ thuật số trực tuyến. Tương tự, Reeve Givens cũng khuyên Quốc hội điều tra các cách có thể củng cố các luật hiện hành về các vấn đề như phân biệt đối xử và gian lận để giải thích cho các thuật toán AI. Ủy ban Thương mại Liên bang, cơ quan dẫn đầu các hành động thực thi an toàn của người tiêu dùng đối với các công ty công nghệ, gần đây cho biết họ cũng đang xem xét các cách để buộc những kẻ lừa đảo AI phải chịu trách nhiệm sử dụng các luật hiện hành đã có trong sách.
Ngoài các cải cách pháp lý, Reeve Givens và Madry cho biết Quốc hội có thể và nên thực hiện các bước để khuyến khích các công ty tư nhân phát triển khả năng phát hiện deepfake tốt hơn. Trong khi không thiếu các công ty đã cung cấp dịch vụ tuyên bố phát hiện nội dung do AI tạo, Madry mô tả đây là trò chơi “mèo vờn chuột”, nơi những kẻ tấn công luôn đi trước vài bước. Ông nói, các nhà phát triển AI có thể đóng một vai trò trong việc giảm thiểu rủi ro bằng cách phát triển các hệ thống thủy ấn để tiết lộ nội dung bất kỳ lúc nào được tạo bởi các mô hình AI của nó. Reeve Givens lưu ý rằng các cơ quan thực thi pháp luật nên được trang bị đầy đủ khả năng phát hiện AI để họ có khả năng ứng phó với các trường hợp như của DeStefano.’
Ngay cả sau khi trải qua “chấn thương khủng khiếp và kéo dài” dưới bàn tay của các công cụ AI, DeStefanos vẫn bày tỏ sự lạc quan về mặt tiềm năng của các mô hình AI tổng quát được quản lý tốt.
“Điều xảy ra với tôi và con gái tôi là khía cạnh bi thảm của AI, nhưng cũng có những tiến bộ đầy hy vọng trong cách AI có thể cải thiện cuộc sống,” DeStefano’s nói.
[ad_2]
