#Giám sát trong trường học gây nguy hại cho trẻ em, làm xáo lộn thời gian làm bài tập – Báo cáo.
Việc chuyển đổi sang học từ xa trong thời đại đại dịch đã kích thích sự tăng trưởng của một xu hướng đang ngày càng phát triển: các công ty công nghệ giáo dục cạnh tranh để bán các hệ thống giám sát học sinh và lọc nội dung internet của họ cho các trường học. Mặc dù các nhà quản lý trường học sẽ lập luận rằng các công cụ này là cần thiết để đảm bảo an toàn trực tuyến cho trẻ em, dữ liệu mới được công bố và chia sẻ với Gizmodo đã làm nổi bật nhiều vấn đề về quyền riêng tư và hậu quả không đáng ý gây ra do triển khai nhanh chóng của chúng. Các em học sinh và phụ huynh trên khắp đất nước đều lo ngại về công nghệ mới này, đặc biệt là các em học sinh trong cộng đồng bị đánh đồng lịch sử phải chịu trách nhiệm lớn.
Trung tâm Dân chủ và Công nghệ (CDT) đã tiến hành khảo sát hơn 1.000 học sinh trung học, cùng với 1.000 giáo viên và phụ huynh của học sinh trung học và phổ thông để đánh giá thái độ của họ đối với các công cụ công nghệ giáo dục. Các công cụ lọc nội dung để ngăn người dùng tìm kiếm các từ khóa nhất định trên thiết bị của trường học đã trở nên phổ biến, với gần 100% giáo viên khảo sát nói rằng trường học của họ sử dụng chúng ở một số mức độ nào đó. Các em học sinh và giáo viên cho biết những công cụ này làm cuộc sống của họ trở nên khó khăn hơn.
“Cho dù cũ hay mới, công nghệ triển khai trong các trường học đều có tác động tiêu cực đến học sinh, và các trường học không phù hợp trong việc đối phó với những lo ngại đang gia tăng”, báo cáo viết.
Gần ba phần tư số học sinh khảo sát bởi CDT cho biết các công cụ lọc nội dung này làm cho việc hoàn thành khóa học của họ khó khăn hơn bằng cách ngăn truy cập vào nội dung và thông tin hữu ích. Giáo viên cũng đồng ý. Gần một nửa số những người được khảo sát trong báo cáo nói rằng họ nghĩ công nghệ lọc này làm học sinh bị cô lập khỏi nội dung “sẽ giúp họ học tập như một học sinh” hoặc “phát triển như một người”.
Cả giáo viên và học sinh đều cho biết công nghệ lọc ban đầu được dùng để kiểm soát nội dung dành cho người lớn lại được một số quản trị viên trường học sử dụng để chặn nội dung liên quan đến cộng đồng LGBTQ+ và chủ đề về sắc tộc mà họ coi là “không thích hợp”. Hành vi kỷ luật và hình phạt không được áp dụng với tất cả học sinh với cùng một mức độ. Báo cáo cho thấy các học sinh tự nhận thấy mình là LGBTQ+ và những học sinh thuộc chương trình giáo dục cá nhân hóa có khả năng bị phạt do việc sử dụng công cụ lọc này. 19% học sinh trong các trường sử dụng công nghệ lọc thậm chí còn cho biết họ đã biết được những học sinh đã bị “vạch trần” danh tính LGBTQ+ do việc lọc. Con số này tăng 6 điểm phần trăm so với năm học 2021-2022.
“Những học sinh tại các trường Title I, học sinh có khuyết tật và học sinh LGBTQ+ tiếp tục phải chịu trách nhiệm về việc sử dụng dữ liệu và công nghệ không đúng đắn trong lớp học và ở nhà,” Elizabeth Laird, Giám đốc dự án Công nghệ Dân chủ CDT nói trong một tuyên bố. “Điều này đáng báo động khi các trường học nói rằng họ sử dụng công nghệ để đảm bảo an toàn cho tất cả học sinh và nâng cao trải nghiệm học tập của họ.”
Phần mềm giám sát hoạt động dựa trên trí tuệ nhân tạo (AI) để theo dõi hoạt động trực tuyến của học sinh cũng đang làm thay đổi cuộc sống hàng ngày của họ. Khoảng hai phần ba số giáo viên được khảo sát nói rằng họ đã thấy học sinh bị xử lý kỷ luật ở trường do phần mềm giám sát AI. Đáng ngạc nhiên, 38% giáo viên cho biết họ thậm chí còn biết đến một học sinh đã bị cơ quan chức năng liên lạc do hoạt động giám sát này.
Giáo viên, học sinh và phụ huynh đều cùng bày tỏ lo ngại về cách quản lý dữ liệu học sinh có thể nhạy cảm của các quản trị viên trường học. Hơn hai phần ba (73%) phụ huynh cho biết họ lo ngại, con số tăng lên 12 điểm phần trăm so với khảo sát năm trước. Mặc dù có những lo ngại đó, chỉ có 31% phụ huynh cho biết trường học đã yêu cầu ý kiến của họ về cách sử dụng dữ liệu học sinh một cách có trách nhiệm. Các vụ việc vi phạm dữ liệu và tấn công ransomware nhắm vào hệ thống trường học gần đây có thể góp phần tạo ra những lo lắng ngày càng tăng này.
Các nhóm yêu cầu sự hỗ trợ từ Bộ Giáo dục
Một liên minh của 19 tổ chức, bao gồm Mạng tự xưng của Người tự kỷ, Trung tâm hỗ trợ Sức khỏe tâm thần Bazelon và Trung tâm Công bằng cho Người học, đã trích dẫn báo cáo mới trong một lá thư gửi Bộ Giáo dục, trong đó họ kêu gọi các quan chức chính phủ đưa ra hướng dẫn rõ ràng về cách trường học có thể ngăn chặn việc phân biệt đối xử đối với các nhóm học sinh được bảo vệ thông qua công nghệ giáo dục.
“Các trường học và các công ty làm việc với họ đang phải đối mặt với những câu hỏi về việc sử dụng trách nhiệm AI trong giáo dục”, tổ chức viết trong lá thư được chia sẻ với Gizmodo. “Họ sẽ hưởng lợi từ sự rõ ràng về cách họ có thể thực hiện các nghĩa vụ dân quyền lâu đời song song với việc mở rộng AI trong lớp học.”
Các tiến bộ gần đây trong các công nghệ AI tạo ra như ChatGPT và Google Bard đã có tác động đến cuộc sống hàng ngày của học sinh. Nửa số giáo viên được khảo sát bởi CDT cho biết họ đã biết một học sinh bị phạt vì sử dụng AI tạo nội dung để hoàn thành bài tập, trong khi 58% học sinh thừa nhận đã sử dụng AI như vậy. Các công ty công nghệ đang đua nhau phát triển các công cụ phát hiện AI tạo ra nội dung để bắt được những học sinh đó, nhưng một số người ủng hộ lo ngại rằng họ có thể vô tình trừng phạt những người không nói tiếng Anh là ngôn ngữ mẹ đẻ.
“Bộ Giáo dục có quyền hướng dẫn, cung cấp hướng dẫn và thực thi các quyền dân quyền đã tồn tại trong hàng thế kỷ trong việc sử dụng công nghệ trong trường học,” tổng thống CDT và CEO Alexandra Reeve Givens nói. “Khi chúng ta đến gần kỷ niệm một năm của Bản thiết kế Cẩm nang về Quyền của AI từ Nhà Trắng, bây giờ là thời điểm thích hợp để hành động.”
Nguồn: https://gizmodo.com/school-surveillance-harm-kids-homework-report-1850854919
The pandemic-era shift to remote learning sparked an acceleration of an already growing trend: education technology companies jockeying to sell schools on systems for monitoring students and filtering their internet browsing. Though school administrators will argue these tools are necessary to ensure kids’ safety online, newly released data shared with Gizmodo highlights numerous privacy concerns and unintended consequences caused by their rapid deployment. Kids and parents across the country are concerned about the new tech, with students from historically marginalized communities bearing the brunt.
The Center for Democracy and Technology (CDT) surveyed over 1,000 high school students, along with 1,000 teachers and parents of middle- and high–school-aged students to gauge their attitudes toward edtech tools. Content filtering tools that prevent users from searching for certain keywords on school devices were ubiquitous, with nearly 100% of teachers surveyed saying their schools use them in some capacity. Students and teachers say those tools are making their lives more difficult.
“Whether old or new, technologies deployed across schools have negative impacts on students, and schools are out of step in addressing rising concerns,” the report reads.
Almost three-quarters of the students surveyed by CDT said these filtering tools made it more difficult for them to complete coursework by blocking access to useful content and information. Teachers agree. Nearly half of those surveyed in the reports said they thought filtering technology left students siloed away from content that “will help them learn as a student” or “grow as a person.”
Both teachers and students say filtering originally intended to target adult content is instead being used by some school administrators to block LGBTQ+ and race-related content they deem “inappropriate.” Disciplinary action and punishment for violations aren’t experienced at the same rates for all students. The report found students who identify as LGBTQ+ and those with disabilities in individualized education programs were more likely to get in trouble due to the tools. 19% of students at schools that use filtering technology say they were even aware of students who were “outed” for LGBTQ+ as a result of the filtering. That’s up six percentage points from the 2021-2022 school year.
“Students at Title I schools, students with disabilities, and LGBTQ+ students continue to bear the brunt of irresponsible data and technology use and policies in the classroom and at home,” CDT Director of the Equity in Civic Technology Project Elizabeth Laird said in a statement. “This is alarming given that schools say they use technologies to keep all students safe and enhance their learning experience.”
AI-enabled activity monitoring software that tracks students’ online activity is similarly altering students’ day-to-day lives. Around two-thirds of teachers surveyed said they’d seen students disciplined at school as a result of AI-powered monitoring software. Shockingly, 38% of teachers said they were even aware of a student who was contacted by law enforcement as a result of the monitoring.
Teachers, students, and parents alike similarly expressed concerns over school administrators’ handling of potentially sensitive student data. More than two-thirds (73%) of parents said they were concerned, a figure up by 12 percentage points from those surveyed a year prior. Despite those concerns, just 31% of the parents say their schools solicited their input for how to responsibly use student data. Recent high-profile cases of data breaches and ransomware attacks targeting school systems may be contributed to these growing anxieties.
Groups demand guidance from Department of Education
A coalition of 19 organizations including the Autistic Self Advocacy Network, Bazelon Center for Mental Health, and the Center for Learner Equity, referenced the new report in a letter sent to The Department of Education, where they called on government officials to issue clearer guidance on ways schools and prevent discrimination against protected classes of students carried out via edtech.
“Schools, and the companies that work with them, are grappling with questions about the responsible use of AI in education,” the organization wrote in a letter shared with Gizmodo. “They would benefit from clarity on how they can fulfill their long-standing civil rights obligations alongside the expansion of AI in the classroom.”
Recent advances in generative AI technologies like ChatGPT and Google Bard are already impacting students’ daily lives. Half of the teachers surveyed by CDT said they were aware of a student who had gotten in trouble for using generative AI to complete assignments while 58% of students admitted to having used generative AI. Tech firms are racing to develop generative AI detection tools to catch those students but some advocates fear they could unintentionally penalize non native English speakers.
“The Department of Education has the authority to clarify, provide guidance, and enforce decades-old civil rights protections to the use of technology in schools,” CDT President and CEPO Alexandra Reeve Givens said. “As we approach the one-year anniversary of the White House’s Blueprint for an AI Bill of Rights, now is the time to act.”
[ad_2]
