OpenAI phát hiện chứng cứ về công cụ giám sát Trung Quốc được cung cấp bởi trí tuệ nhân tạo

Openai cho biết hôm thứ Sáu rằng họ đã phát hiện ra bằng chứng cho thấy một hoạt động an ninh Trung Quốc đã xây dựng một công cụ giám sát do trí tuệ nhân tạo để thu thập các báo cáo thời gian thực về các bài đăng chống Trung Quốc về các dịch vụ truyền thông xã hội ở các nước phương Tây.

Các nhà nghiên cứu của công ty cho biết họ đã xác định chiến dịch mới này, mà họ gọi là đánh giá ngang hàng, bởi vì ai đó làm việc trên công cụ đã sử dụng các công nghệ của Openai để gỡ lỗi một số mã máy tính củng cố nó.

Ben Nimmo, một điều tra viên chính của Openai, cho biết đây là lần đầu tiên công ty phát hiện ra một công cụ giám sát do AI cung cấp loại này.

Các diễn viên đe dọa đôi khi cho chúng ta một cái nhìn thoáng qua về những gì họ đang làm trong các phần khác của internet vì cách họ sử dụng các mô hình AI của chúng ta, ông Nimmo nói.

Đã có những lo ngại ngày càng tăng rằng AI có thể được sử dụng để giám sát, hack máy tính, chiến dịch không thông tin và các mục đích độc hại khác. Mặc dù các nhà nghiên cứu như ông Nimmo nói rằng công nghệ này chắc chắn có thể cho phép các loại hoạt động này, họ nói thêm rằng AI cũng có thể giúp xác định và ngăn chặn hành vi đó.

Ông Nimmo và nhóm của ông tin rằng công cụ giám sát Trung Quốc dựa trên Llama, một công nghệ AI được xây dựng bởi Meta, mở ra công nghệ của nó, có nghĩa là nó chia sẻ công việc của mình với các nhà phát triển phần mềm trên toàn cầu.

Trong một báo cáo chi tiết về việc sử dụng AI cho mục đích độc hại và lừa đảo, Openai cũng cho biết họ đã phát hiện ra một chiến dịch riêng của Trung Quốc, được gọi là sự bất mãn được tài trợ, đã sử dụng các công nghệ của Openai để tạo ra các bài viết tiếng Anh chỉ trích các nhà bất đồng chính kiến ​​Trung Quốc.

Cùng một nhóm, Openai cho biết, đã sử dụng các công nghệ của công ty để dịch các bài báo sang tiếng Tây Ban Nha trước khi phân phối chúng ở Mỹ Latinh. Các bài báo chỉ trích xã hội và chính trị Hoa Kỳ.

Một cách riêng biệt, các nhà nghiên cứu Openai đã xác định một chiến dịch, được cho là có trụ sở tại Campuchia, đã sử dụng các công nghệ của công ty để tạo và dịch các bình luận trên phương tiện truyền thông xã hội đã giúp thúc đẩy một vụ lừa đảo được gọi làlợn bị tàn pháBáo cáo cho biết. Các bình luận do AI tạo ra đã được sử dụng để thu hút những người đàn ông trên internet và vướng vào một kế hoạch đầu tư.

(Thời báo New York có bị kiện Openai và Microsoft để vi phạm bản quyền nội dung tin tức liên quan đến các hệ thống AI. Openai và Microsoft đã từ chối những tuyên bố đó.)