#AIxamnhap #nguonluc #congdong
Chúng ta không thể không quan tâm đến việc AI đang xâm nhập vào công việc có nguồn lực từ cộng đồng. Mới đây, một bài viết từ các nhà nghiên cứu tại trường đại học Thụy Sĩ EPFL đã đề cập đến việc từ 33% đến 46% nhân viên đám đông trên dịch vụ Mechanical Turk của Amazon đã “gian lận” khi thực hiện nhiệm vụ. Nguyên nhân của việc này là do họ sử dụng công cụ như ChatGPT để thực hiện công việc.
Nếu tình trạng này phổ biến, nó có thể trở thành một vấn đề nghiêm trọng. Máy Thổ Nhĩ Kỳ của Amazon đã trở thành nơi trú ẩn cho những nhà phát triển muốn hoàn thành công việc của con người. Đây là một giao diện lập trình ứng dụng cung cấp tác vụ cho con người và trả lại kết quả sau khi thực hiện. Những tác vụ này thường là những tác vụ mà ta đã kỳ vọng máy tính có thể làm tốt hơn.
Vấn đề của Mechanical Turk còn nghiêm trọng hơn những gì ta nghĩ. Hiện nay, AI đã trở nên rất phổ biến và giá thành rẻ, đến mức các nhà quản lý sản phẩm chọn sử dụng Mechanical Turk thay vì giải pháp do máy tạo ra và dựa vào con người. Rủi ro của việc này là nguồn dữ liệu bị xao lạc, và có thể gây ra hậu quả nghiêm trọng.
Bạn có thể khó phân biệt được văn bản được tạo ra bởi con người và bởi máy móc. Vì vậy, các nhà nghiên cứu đã phát triển một phương pháp để tìm hiểu được nội dung được tạo ra bởi con người hay máy móc.
Vấn đề này hiện hữu trong việc yêu cầu các nhân viên sử dụng nguồn lực cộng đồng để viết tóm tắt nghiên cứu từ Tạp chí Y học New England thành các bản tóm tắt 100 từ. Điều đáng chú ý là đây là loại nhiệm vụ mà công nghệ AI tổng hợp như ChatGPT có thể thực hiện rất tốt.
Vì vậy, chúng ta cần quan tâm và lo lắng về tình trạng AI xâm nhập vào công việc có nguồn lực từ cộng đồng. Chúng ta cần có những biện pháp và quy định để đảm bảo việc sử dụng AI không gây phá hoại và bảo vệ nguồn lực của cộng đồng.
Nguồn: https://techcrunch.com/2023/06/18/i-robot/
Một bài báo mới từ các nhà nghiên cứu tại trường đại học Thụy Sĩ EPFL gợi ý rằng từ 33% đến 46% nhân viên đám đông phân tán trên dịch vụ Mechanical Turk của Amazon dường như đã “gian lận” khi thực hiện một nhiệm vụ cụ thể được giao cho họ, vì họ đã sử dụng các công cụ như ChatGPT để thực hiện một số công việc. Nếu thực tế đó phổ biến, nó có thể trở thành một vấn đề khá nghiêm trọng.
Máy Thổ Nhĩ Kỳ của Amazon từ lâu đã là nơi trú ẩn cho các nhà phát triển thất vọng, những người muốn hoàn thành công việc của con người. Tóm lại, đó là một giao diện lập trình ứng dụng (API) cung cấp các tác vụ cho con người, những người thực hiện chúng và sau đó trả lại kết quả. Những tác vụ này thường là loại mà bạn ước máy tính sẽ làm tốt hơn. Theo Amazon, một ví dụ về các nhiệm vụ như vậy sẽ là: “Vẽ các hộp giới hạn để xây dựng bộ dữ liệu chất lượng cao cho các mô hình thị giác máy tính, trong đó nhiệm vụ có thể quá mơ hồ đối với một giải pháp cơ học thuần túy và quá rộng lớn đối với ngay cả một nhóm lớn các chuyên gia là con người. ”
Các nhà khoa học dữ liệu xử lý các bộ dữ liệu khác nhau tùy theo nguồn gốc của chúng — nếu chúng được tạo bởi con người hoặc một mô hình ngôn ngữ lớn (LLM). Tuy nhiên, vấn đề ở đây với Mechanical Turk còn tồi tệ hơn người ta tưởng: AI hiện có sẵn với giá rẻ đến mức các nhà quản lý sản phẩm chọn sử dụng Mechanical Turk thay vì giải pháp do máy tạo ra đang dựa vào con người giỏi hơn robot. Đầu độc nguồn dữ liệu đó có thể gây ra hậu quả nghiêm trọng.
Các nhà nghiên cứu cho biết: “Việc phân biệt LLM với văn bản do con người tạo ra là rất khó đối với cả mô hình học máy và con người. Do đó, các nhà nghiên cứu đã tạo ra một phương pháp để tìm hiểu xem nội dung dựa trên văn bản được tạo ra bởi con người hay máy móc.
Bài kiểm tra liên quan đến việc yêu cầu các nhân viên sử dụng nguồn lực cộng đồng cô đọng các bản tóm tắt nghiên cứu từ Tạp chí Y học New England thành các bản tóm tắt 100 từ. Điều đáng chú ý là đây là đúng loại nhiệm vụ mà các công nghệ AI tổng hợp như ChatGPT rất giỏi.
[ad_2]
