#Ngày quốc tế AI #Điều chỉnh AI #Luật tuyển dụng vòng vòng Thành phố New York #Ảnh hưởng của AI đến lao động
Thành phố New York đã điều chỉnh cách sử dụng hệ thống AI trong việc tuyển dụng nhằm đảm bảo công bằng và tránh thiên vị. Các công ty sử dụng phần mềm AI trong tuyển dụng phải thông báo cho các ứng viên rằng một hệ thống tự động đang được sử dụng và có kiểm toán viên độc lập để phát hiện sai lệch. Luật này áp dụng cho các công ty có công nhân ở Thành phố New York và được đánh giá là một bước tiến lớn trong việc điều chỉnh AI.
Thế giới đang trải qua một sự kiện quan trọng về AI khi các nhà lãnh đạo trong Quốc hội và chính quyền Biden của Mỹ cam kết kiểm soát trí tuệ nhân tạo. Tại Hội nghị thượng đỉnh nhóm 7 Ở Nhật, chủ đề về quy định về AI đã được đưa ra và đang được các chuyên gia đánh giá là một chủ đề đầy triển vọng.
Trong quá trình điều chỉnh AI, vấn đề về công bằng và trật tự xã hội đã được đặt ra. Việc sử dụng AI có thể ảnh hưởng đến lao động và cần phải được đánh giá các lợi ích và tác hại của nó. Việc đưa ra một luật điều chỉnh AI cụ thể có thể giúp điều chỉnh công nghệ này một cách có trách nhiệm và đảm bảo sự công bằng cho người lao động.
Việc điều chỉnh AI là một thách thức lớn, đặc biệt là khi nó đang tiến lên với tốc độ chóng mặt mà không rõ hậu quả. Tuy nhiên, Thành phố New York đang nỗ lực giải quyết vấn đề này bằng cách áp dụng luật tuyển dụng vòng vòng. Các tiểu bang khác cũng đang đưa ra các luật điều chỉnh AI tương tự. Việc điều chỉnh AI đang là vấn đề được quan tâm rộng rãi và là sự kiện quan trọng trên toàn thế giới.
Nguồn: https://www.nytimes.com/2023/05/25/technology/ai-hiring-law-new-york.html
các nhà lập pháp châu Âu đang hoàn thành công việc trên một hành động AI. Chính quyền Biden và các nhà lãnh đạo trong Quốc hội có kế hoạch kiểm soát trí tuệ nhân tạo. Sam Altman, giám đốc điều hành của OpenAI, nhà sản xuất ChatGPT gây chấn động AI, đã khuyến nghị thành lập một cơ quan liên bang có thẩm quyền giám sát và cấp phép trong lời khai của Thượng viện vào tuần trước. Và chủ đề đã xuất hiện tại Hội nghị thượng đỉnh nhóm 7 Ở Nhật.
Giữa các kế hoạch và cam kết sâu rộng, Thành phố New York đã nổi lên như một người tiên phong khiêm tốn trong quy định về AI.
Chính quyền thành phố đã thông qua luật vào năm 2021 và thông qua quy định cụ thể tháng trước cho một ứng dụng cổ phần cao của công nghệ: quyết định tuyển dụng và thăng chức. Việc thực thi bắt đầu vào tháng Bảy.
Luật của thành phố yêu cầu các công ty sử dụng phần mềm AI trong tuyển dụng phải thông báo cho các ứng viên rằng một hệ thống tự động đang được sử dụng. Nó cũng yêu cầu các công ty phải có kiểm toán viên độc lập kiểm tra công nghệ hàng năm để phát hiện sai lệch. Ứng viên có thể yêu cầu và được cho biết dữ liệu nào đang được thu thập và phân tích. Các công ty sẽ bị phạt nếu vi phạm.
Cách tiếp cận tập trung của Thành phố New York đại diện cho một mặt trận quan trọng trong quy định về AI. Theo các chuyên gia, tại một số điểm, các nguyên tắc chung do chính phủ và các tổ chức quốc tế phát triển phải được chuyển thành các chi tiết và định nghĩa. Ai đang bị ảnh hưởng bởi công nghệ? Những lợi ích và tác hại là gì? Ai có thể can thiệp, và can thiệp như thế nào?
Julia Stoyanovich, phó giáo sư tại Đại học New York và giám đốc Trung tâm AI có trách nhiệm cho biết: “Nếu không có trường hợp sử dụng cụ thể, bạn sẽ không thể trả lời những câu hỏi đó.
Nhưng ngay cả trước khi nó có hiệu lực, luật của Thành phố New York đã là một thỏi nam châm thu hút sự chỉ trích. Những người ủng hộ lợi ích công cộng nói rằng nó không đi đủ xa, trong khi các nhóm kinh doanh nói rằng nó không thực tế.
Các khiếu nại từ cả hai trại chỉ ra thách thức trong việc điều chỉnh AIđang tiến lên với tốc độ chóng mặt mà không rõ hậu quả, khuấy động sự nhiệt tình và lo lắng.
Thỏa hiệp khó chịu là không thể tránh khỏi.
Bà Stoyanovich lo ngại rằng luật thành phố có những kẽ hở có thể làm suy yếu nó. “Nhưng vẫn tốt hơn nhiều so với việc không có luật,” cô nói. “Và cho đến khi bạn cố gắng điều chỉnh, bạn sẽ không học được cách.”
Luật áp dụng cho các công ty có công nhân ở Thành phố New York, nhưng các chuyên gia lao động cho rằng luật này sẽ ảnh hưởng đến các hoạt động trên toàn quốc. Ít nhất bốn tiểu bang — California, New Jersey, New York và Vermont — và Quận Columbia cũng đang làm luật để điều chỉnh AI trong việc tuyển dụng. Và Illinois và Maryland đã ban hành luật hạn chế việc sử dụng các công nghệ AI cụ thể, thường là để giám sát nơi làm việc và sàng lọc các ứng viên xin việc.
Luật thành phố New York ra đời từ sự xung đột của các quan điểm trái ngược nhau gay gắt. Hội đồng thành phố đã thông qua nó trong những ngày cuối cùng dưới thời chính quyền của Thị trưởng Bill de Blasio. Các vòng điều trần và bình luận công khai, dài hơn 100.000 từ, diễn ra sau đó — được giám sát bởi Sở Bảo vệ Người tiêu dùng và Người lao động của thành phố, cơ quan ra quy tắc.
Một số nhà phê bình cho rằng kết quả là quá thông cảm với lợi ích kinh doanh.
Alexandra Givens, chủ tịch của Trung tâm Dân chủ & Công nghệ, một tổ chức chính sách và dân quyền, cho biết: “Những gì có thể là một đạo luật mang tính bước ngoặt đã bị giảm bớt hiệu quả.
Đó là bởi vì luật định nghĩa “công cụ quyết định việc làm tự động” là công nghệ được sử dụng “để hỗ trợ hoặc thay thế đáng kể việc đưa ra quyết định tùy ý,” cô nói. Bà Givens cho biết, các quy tắc được thành phố thông qua dường như diễn giải cách diễn đạt đó một cách hẹp hòi để phần mềm AI sẽ chỉ yêu cầu kiểm tra nếu đó là yếu tố đơn độc hoặc chính trong quyết định tuyển dụng hoặc được sử dụng để bác bỏ con người.
Cô ấy nói, điều đó loại bỏ cách thức chính mà phần mềm tự động được sử dụng, với việc người quản lý tuyển dụng luôn đưa ra lựa chọn cuối cùng. Cô ấy nói, khả năng phân biệt đối xử do AI thúc đẩy thường xuất hiện khi sàng lọc hàng trăm hoặc hàng nghìn ứng viên cho đến một số ít hoặc tuyển dụng trực tuyến có mục tiêu để tạo ra một nhóm ứng viên.
Bà Givens cũng chỉ trích luật hạn chế các loại nhóm được đo lường để đối xử bất công. Nó bao gồm sự thiên vị theo giới tính, chủng tộc và sắc tộc, nhưng không phân biệt đối xử với những người lao động lớn tuổi hoặc những người khuyết tật.
Bà Givens nói: “Mối quan tâm lớn nhất của tôi là điều này sẽ trở thành khuôn mẫu trên toàn quốc khi chúng ta nên hỏi nhiều hơn nữa từ các nhà hoạch định chính sách của mình.
Các quan chức thành phố cho biết, luật đã được thu hẹp để làm sắc nét và đảm bảo rằng nó được tập trung và thực thi. Hội đồng và cơ quan bảo vệ người lao động đã lắng nghe nhiều tiếng nói, bao gồm các nhà hoạt động công ích và các công ty phần mềm. Các quan chức cho biết mục tiêu của nó là cân nhắc sự đánh đổi giữa đổi mới và tác hại tiềm ẩn.
Robert Holden, chủ tịch ủy ban Hội đồng về công nghệ khi luật được thông qua và vẫn là thành viên ủy ban, cho biết: “Đây là một thành công quan trọng về mặt pháp lý nhằm đảm bảo rằng công nghệ AI được sử dụng một cách có đạo đức và có trách nhiệm.
Thành phố New York đang cố gắng giải quyết công nghệ mới trong bối cảnh luật liên bang về nơi làm việc với các hướng dẫn về việc tuyển dụng có từ những năm 1970. Quy tắc chính của Ủy ban Cơ hội Việc làm Bình đẳng nêu rõ rằng không có thông lệ hoặc phương pháp lựa chọn nào được sử dụng bởi người sử dụng lao động nên có “tác động khác biệt” đối với một nhóm được bảo vệ hợp pháp như phụ nữ hoặc dân tộc thiểu số.
Các doanh nghiệp đã chỉ trích pháp luật. Trong một hồ sơ năm nay, Liên minh phần mềm, một nhóm thương mại bao gồm Microsoft, SAP và Workday, cho biết yêu cầu kiểm toán độc lập AI là “không khả thi” vì “bối cảnh kiểm toán còn non trẻ”, thiếu các tiêu chuẩn và cơ quan giám sát chuyên nghiệp.
Nhưng một lĩnh vực non trẻ là một cơ hội thị trường. Các chuyên gia cho rằng ngành kiểm toán AI sẽ ngày càng phát triển. Nó đã thu hút các công ty luật, tư vấn và khởi nghiệp.
Các công ty bán phần mềm AI để hỗ trợ các quyết định tuyển dụng và thăng chức thường tuân theo quy định. Một số đã trải qua kiểm toán bên ngoài. Họ coi yêu cầu này là một lợi thế cạnh tranh tiềm năng, cung cấp bằng chứng cho thấy công nghệ của họ mở rộng nhóm ứng viên việc làm cho các công ty và tăng cơ hội cho người lao động.
Roy Wang, cố vấn chung của Eightfold AI, một công ty khởi nghiệp ở Thung lũng Silicon sản xuất phần mềm được sử dụng để hỗ trợ các nhà quản lý tuyển dụng, cho biết: “Chúng tôi tin rằng chúng tôi có thể tuân thủ luật pháp và cho thấy AI tốt trông như thế nào.
Luật của Thành phố New York cũng áp dụng một cách tiếp cận để điều chỉnh AI có thể trở thành tiêu chuẩn. Phép đo chính của luật là “tỷ lệ tác động” hoặc tính toán tác động của việc sử dụng phần mềm đối với một nhóm ứng viên được bảo vệ. Nó không đi sâu vào cách thuật toán đưa ra quyết định, một khái niệm được gọi là “khả năng giải thích”.
Các nhà phê bình nói rằng trong các ứng dụng ảnh hưởng đến cuộc sống như tuyển dụng, mọi người có quyền được giải thích về cách một quyết định được đưa ra. Nhưng AI như phần mềm kiểu ChatGPT đang trở nên phức tạp hơn, có lẽ khiến mục tiêu về AI có thể giải thích được ngoài tầm với, một số chuyên gia cho biết.
Ashley Casovan, giám đốc điều hành của Viện AI có trách nhiệm, đang phát triển các chứng chỉ về việc sử dụng an toàn các ứng dụng AI tại nơi làm việc, chăm sóc sức khỏe và tài chính cho biết: “Trọng tâm trở thành đầu ra của thuật toán, chứ không phải hoạt động của thuật toán.
