#Sựkiệnngàyhômqua #ChatGPTvàAIsángtạo #Tưonglaicôngnghệ #Thôngtinkhoahọc #Nhânđức #Từchôikhoahọc
Trung tâm ChatGPT và nền tảng trí tuệ nhân tạo đang trở nên phổ biến hơn trong việc tạo ra câu trả lời cho các câu hỏi khoa học. Tuy nhiên, sự phát triển này cũng dẫn đến những thách thức mới khi sử dụng AI để tạo ra thông tin sai lệch. Làm thế nào chúng ta có thể đối phó với hiện tượng này?
Để duy trì niềm tin tri thức, chúng ta cần phải cảnh giác hơn trong việc kiểm tra tính chính xác của thông tin khoa học. Bạn có thể sử dụng các ứng dụng xác minh tính xác thực bằng AI để tránh những thông tin sai lệch. Tuy nhiên, người dùng cũng nên đóng vai trò của mình bằng cách đánh giá và kiểm tra nguồn thông tin, thay vì chỉ chia sẻ thông tin tìm thấy một cách vội vàng.
AI tổng quát có tiềm năng để nâng cao năng suất và đưa ra câu trả lời nhanh chóng cho các câu hỏi khoa học. Tuy nhiên, chúng ta cần phải đối mặt với các thách thức mới nếu muốn duy trì niềm tin tri thức. Hãy cùng chia sẻ thông tin chính xác và cẩn thận hơn trong việc kiểm tra tính chính xác của thông tin khoa học.
Nguồn: https://gizmodo.com/chatgpt-generative-ai-openai-science-denial-1850516570
Tạo Video Qua Văn bản? | công nghệ tương lai
Cho đến rất gần đây, nếu bạn muốn biết thêm về một chủ đề khoa học gây tranh cãi – nghiên cứu tế bào gốc, sự an toàn của năng lượng hạt nhân, biến đổi khí hậu – bạn có thể tìm kiếm trên Google. Được trình bày với nhiều nguồn, bạn chọn những gì để đọc, chọn những trang web hoặc cơ quan có thẩm quyền để tin tưởng.
Bây giờ bạn có một tùy chọn khác: Bạn có thể đặt câu hỏi của mình cho ChatGPT hoặc một nền tảng trí tuệ nhân tạo tổng quát khác và nhanh chóng nhận được câu trả lời ngắn gọn dưới dạng đoạn văn.
ChatGPT không tìm kiếm trên internet theo cách của Google. Thay vào đó, nó tạo ra các câu trả lời cho các truy vấn bằng cách dự đoán kết hợp từ có khả năng từ một hỗn hợp lớn các thông tin trực tuyến có sẵn.
Mặc dù nó có tiềm năng cho nâng cao năng suất, AI tổng quát đã được chứng minh là có một số lỗi lớn. Nó có thể sản xuất thông tin sai lệch. Nó có thể tạo ra “ảo giác” – một thuật ngữ lành tính để tạo ra mọi thứ. Và không phải lúc nào nó cũng giải chính xác các bài toán suy luận. Ví dụ, khi được hỏi liệu cả ô tô và xe tăng có thể lọt qua một ô cửa hay không, câu trả lời là không thể xem xét cả chiều rộng và chiều cao. Tuy nhiên, nó đã được sử dụng để sản xuất bài viết Và Nội dung trang web bạn có thể đã gặp phải, hoặc như một công cụ trong quá trình viết. Tuy nhiên, bạn khó có thể biết liệu những gì bạn đang đọc có phải do AI tạo ra hay không.
Như các tác giả của “Từ chối khoa học: Tại sao nó xảy ra và phải làm gì với nó,” chúng tôi lo ngại về cách AI tổng quát có thể làm mờ ranh giới giữa sự thật và hư cấu đối với những người tìm kiếm thông tin khoa học có thẩm quyền.
Mỗi người tiêu dùng phương tiện truyền thông cần thận trọng hơn bao giờ hết trong việc xác minh tính chính xác khoa học trong những gì họ đọc. Đây là cách bạn có thể đứng vững trong bối cảnh thông tin mới này.
Trí tuệ nhân tạo có thể thúc đẩy sự từ chối khoa học như thế nào
Xói mòn niềm tin tri thức. Tất cả người tiêu dùng thông tin khoa học phụ thuộc vào đánh giá của các chuyên gia khoa học và y tế. niềm tin tri thức là quá trình tin tưởng kiến thức bạn nhận được từ người khác. Nó là nền tảng cho sự hiểu biết và sử dụng thông tin khoa học. Cho dù ai đó đang tìm kiếm thông tin về mối quan tâm về sức khỏe hay cố gắng tìm hiểu các giải pháp cho biến đổi khí hậu, họ thường có hiểu biết khoa học hạn chế và ít tiếp cận với bằng chứng trực tiếp. Với lượng thông tin trực tuyến ngày càng tăng nhanh, mọi người phải đưa ra quyết định thường xuyên về việc tin tưởng vào ai và cái gì. Với việc sử dụng ngày càng nhiều trí tuệ nhân tạo AI và khả năng thao túng, chúng tôi tin rằng niềm tin có thể bị xói mòn hơn nữa. nó đã có.
Gây hiểu lầm hoặc chỉ đơn giản là sai. Nếu có sai sót hoặc sai lệch trong dữ liệu mà nền tảng AI được đào tạo, điều đó có thể được phản ánh trong kết quả. Trong các tìm kiếm của riêng chúng tôi, khi chúng tôi yêu cầu ChatGPT tạo lại nhiều câu trả lời cho cùng một câu hỏi, chúng tôi đã nhận được các câu trả lời mâu thuẫn nhau. Khi được hỏi tại sao, nó trả lời: “Đôi khi tôi phạm sai lầm.” Có lẽ vấn đề khó khăn nhất với nội dung do AI tạo ra là biết khi nào nội dung đó sai.
Thông tin sai lệch lan truyền có chủ ý. AI có thể được sử dụng để tạo thông tin sai lệch hấp dẫn dưới dạng văn bản cũng như hình ảnh và video deepfake. Khi chúng tôi yêu cầu ChatGPT “viết về vắc-xin theo kiểu thông tin sai lệch,” nó tạo ra một trích dẫn không tồn tại với dữ liệu giả mạo. Geoffrey Hinton, cựu trưởng bộ phận phát triển AI của Google, đã từ chức để được tự do gióng lên hồi chuông cảnh báo, nói rằng: “Thật khó để biết làm thế nào bạn có thể ngăn chặn những kẻ xấu sử dụng nó cho những điều xấu.” Tiềm năng tạo ra và lan truyền thông tin sai lệch có chủ ý về khoa học đã tồn tại, nhưng giờ đây nó trở nên dễ dàng một cách nguy hiểm.
nguồn chế tạo. ChatGPT cung cấp câu trả lời không có nguồn nào cả hoặc nếu được yêu cầu nguồn, có thể hiển thị những cái nó tạo nên. Cả hai chúng tôi đều yêu cầu ChatGPT tạo danh sách các ấn phẩm của riêng mình. Mỗi người chúng tôi đã xác định được một vài nguồn chính xác. Nhiều hơn là ảo giác, nhưng dường như có uy tín và hầu hết là hợp lý, với các đồng tác giả thực tế trước đó, trong các tạp chí nghe có vẻ tương tự. Tính sáng tạo này là một vấn đề lớn nếu một danh sách các ấn phẩm của một học giả truyền đạt uy quyền cho người đọc không dành thời gian để xác minh chúng.
ngày kiến thức. ChatGPT không biết điều gì đã xảy ra trên thế giới sau khi khóa đào tạo của nó kết thúc. Một truy vấn về bao nhiêu phần trăm thế giới đã có COVID-19 đã trả về câu trả lời mở đầu bằng “kể từ ngày giới hạn nhận thức của tôi là tháng 9 năm 2021.” Do kiến thức tiến bộ nhanh như thế nào trong một số lĩnh vực, hạn chế này có thể có nghĩa là người đọc nhận được thông tin lỗi thời. Ví dụ, nếu bạn đang tìm kiếm nghiên cứu gần đây về một vấn đề sức khỏe cá nhân, hãy cẩn thận.
Tiến bộ nhanh chóng và kém minh bạch. Hệ thống AI tiếp tục trở thành mạnh mẽ hơn và học hỏi nhanh hơn, và họ có thể tìm hiểu thêm thông tin sai lệch về khoa học trên đường đi. Google gần đây đã công bố 25 cách sử dụng AI nhúng mới trong các dịch vụ của mình. Tại thời điểm này, không đủ lan can tại chỗ để đảm bảo rằng AI tổng quát sẽ trở thành một nhà cung cấp thông tin khoa học chính xác hơn theo thời gian.
Bạn có thể làm gì với ảo giác AI?
Nếu bạn sử dụng ChatGPT hoặc các nền tảng AI khác, hãy lưu ý rằng chúng có thể không hoàn toàn chính xác. Gánh nặng rơi vào người dùng để phân biệt độ chính xác.
Tăng cường cảnh giác. Các ứng dụng xác minh tính xác thực bằng AI có thể sớm ra mắtnhưng hiện tại, người dùng phải đóng vai trò là người xác minh tính xác thực của chính họ. Có những bước chúng tôi đề nghị. Đầu tiên là: Hãy cảnh giác. Mọi người thường chia sẻ thông tin tìm thấy từ các tìm kiếm trên mạng xã hội theo phản xạ mà không cần hoặc có rất ít sự kiểm tra. Biết khi nào nên suy nghĩ chín chắn hơn và khi nào nên xác định và đánh giá các nguồn thông tin. Nếu bạn đang cố gắng quyết định cách kiểm soát một căn bệnh nghiêm trọng hoặc để hiểu các bước tốt nhất để giải quyết vấn đề biến đổi khí hậu, hãy dành thời gian để kiểm tra các nguồn.
Cải thiện kiểm tra thực tế của bạn. Bước thứ hai là đọc bên, một quy trình mà những người kiểm tra thực tế chuyên nghiệp sử dụng. Mở một cửa sổ mới và tìm kiếm thông tin về các nguồn, Nếu được cung cấp. Là nguồn đáng tin cậy? Tác giả có chuyên môn liên quan không? Và sự đồng thuận của các chuyên gia là gì? Nếu không có nguồn nào được cung cấp hoặc bạn không biết liệu chúng có hợp lệ hay không, hãy sử dụng công cụ tìm kiếm truyền thống để tìm và đánh giá các chuyên gia về chủ đề này.
Đánh giá bằng chứng. Tiếp theo, hãy xem bằng chứng và mối liên hệ của nó với yêu cầu bồi thường. Có bằng chứng cho thấy thực phẩm biến đổi gen là an toàn? Có bằng chứng cho thấy họ không? Sự đồng thuận khoa học là gì? Việc đánh giá các xác nhận quyền sở hữu sẽ tốn nhiều công sức hơn ngoài việc truy vấn nhanh tới ChatGPT.
Nếu bạn bắt đầu với AI, đừng dừng lại ở đó. Thận trọng khi sử dụng nó như cơ quan duy nhất về bất kỳ vấn đề khoa học nào. Bạn có thể thấy những gì ChatGPT nói về các sinh vật biến đổi gen hoặc tính an toàn của vắc-xin, nhưng cũng có thể tiếp tục tìm kiếm cẩn thận hơn bằng các công cụ tìm kiếm truyền thống trước khi bạn đưa ra kết luận.
Đánh giá tính hợp lý. Đánh giá xem yêu cầu có hợp lý hay không. Nó có khả năng là sự thật? Nếu AI đưa ra một tuyên bố không hợp lý (và không chính xác) như “1 triệu ca tử vong là do vắc-xin, không phải COVID-19,” xem xét nếu nó thậm chí có ý nghĩa. Đưa ra phán quyết sơ bộ và sau đó sẵn sàng sửa đổi suy nghĩ của bạn sau khi bạn đã kiểm tra bằng chứng.
Thúc đẩy kiến thức kỹ thuật số trong chính bạn và những người khác. Mọi người cần phải lên trò chơi của họ. Cải thiện kiến thức kỹ thuật số của riêng bạnvà nếu bạn là phụ huynh, giáo viên, người cố vấn hoặc lãnh đạo cộng đồng, hãy thúc đẩy kiến thức kỹ thuật số ở những người khác. Hiệp hội Tâm lý Hoa Kỳ cung cấp hướng dẫn về xác thực thông tin trực tuyến và khuyến nghị thanh thiếu niên là được đào tạo về kỹ năng truyền thông xã hội để giảm thiểu rủi ro cho sức khỏe và hạnh phúc. Dự án Kiến thức Tin tức cung cấp các công cụ hữu ích để cải thiện và hỗ trợ kiến thức kỹ thuật số.
Trang bị cho mình những kỹ năng cần thiết để điều hướng bối cảnh thông tin AI mới. Ngay cả khi bạn không sử dụng AI tổng quát, có khả năng bạn đã đọc các bài báo do nó tạo ra hoặc phát triển từ nó. Có thể mất thời gian và công sức để tìm và đánh giá thông tin đáng tin cậy về khoa học trực tuyến – nhưng nó đáng giá.
Bạn muốn biết thêm về AI, chatbot và tương lai của máy học? Kiểm tra bảo hiểm đầy đủ của chúng tôi về trí tuệ nhân tạohoặc duyệt hướng dẫn của chúng tôi để Trình tạo nghệ thuật AI miễn phí tốt nhất Và Mọi thứ chúng tôi biết về ChatGPT của OpenAI.
Gale SinatraGiáo sư Giáo dục và Tâm lý học, Đại học Nam California Và Barbara K. HoferGiáo sư tâm lý danh dự, Middlebury
Bài viết này được đăng lại từ Cuộc trò chuyện theo giấy phép Creative Commons. Đọc bài báo gốc.
[ad_2]
