#AI #CôngNghệ #TựĐộngHóa #AnToànGiaoThông
Các chính trị gia cần phải thật sự hiểu rõ về cách thức hoạt động của trí tuệ nhân tạo (AI). Tuần này, Mỹ đã có phiên điều trần với sự tham gia của nhiều thượng nghị sĩ. Các lời khai đáng báo động đã gợi ý rằng nếu không kiểm soát được AI, nó có thể ăn cắp công việc, truyền bá thông tin sai lệch và gây ra nhiều rủi ro sắp tới.
Chính vì vậy, các chính trị gia cần phải tìm hiểu kỹ về các rủi ro của công nghệ AI. Một trong số những người có thể giúp đỡ là Cô Cummings – một phi công chiến đấu một thời và giáo sư kỹ thuật và người máy tại Đại học George Mason. Cô ấy nghiên cứu về việc sử dụng trí tuệ nhân tạo và tự động hóa trong các hệ thống quan trọng về an toàn bao gồm ô tô và máy bay.
Tuy nhiên, vẫn có nhiều rủi ro khi triển khai công nghệ AI trong các hệ thống quan trọng. Công chúng thường không rõ AI có khả năng như thế nào và các dự án AI không thể đoán trước và kiểm soát được. Điều này gây ra nhiều khó khăn và thách thức cho các nhà sản xuất ô tô, công ty khởi nghiệp và nhà đầu tư đổ những khoản tiền khổng lồ vào việc phát triển và triển khai AI.
Cần có một cơ quan liên bang mới để giám sát sự phát triển của công nghệ AI. Chúng ta cần đảm bảo rằng công nghệ AI được sử dụng đúng cách và mang lại lợi ích cho xã hội. Chúng ta không thể từ bỏ AI vì nó có thể tăng năng suất và giúp Hoa Kỳ dẫn đầu trong một cuộc cách mạng công nghệ mới. Tuy nhiên, chúng ta cũng không thể để AI gây ra những tổn thất đáng kể cho toàn xã hội.
Nguồn: https://www.wired.com/story/fast-forward-politicians-need-to-learn-how-ai-works-fast/
Tuần này, Mỹ thượng nghị sĩ nghe thấy lời khai đáng báo động gợi ý rằng AI không được kiểm soát có thể ăn cắp công việc, truyền bá thông tin sai lệchvà nói chung là “đi khá sai,” theo lời của Giám đốc điều hành OpenAI Sam Altman (bất kể điều đó có nghĩa là gì). Ông và một số nhà lập pháp đồng ý rằng Hoa Kỳ hiện có thể cần một cơ quan liên bang mới để giám sát sự phát triển của công nghệ. Nhưng phiên điều trần cũng chứng kiến sự đồng thuận rằng không ai muốn từ bỏ một công nghệ có khả năng tăng năng suất và giúp Hoa Kỳ dẫn đầu trong một cuộc cách mạng công nghệ mới.
Các thượng nghị sĩ lo lắng có thể xem xét nói chuyện với Cô CummingsMột phi công chiến đấu một thời và giáo sư kỹ thuật và người máy tại Đại học George Mason. Cô ấy nghiên cứu về việc sử dụng trí tuệ nhân tạo và tự động hóa trong các hệ thống quan trọng về an toàn bao gồm ô tô và máy bay, và đầu năm nay đã quay trở lại học viện sau một thời gian làm việc tại Cục Quản lý An toàn Giao thông Đường cao tốc Quốc gia, cơ quan giám sát công nghệ ô tôbao gồm Autopilot của Tesla và ô tô tự lái. Quan điểm của Cummings có thể giúp các chính trị gia và nhà hoạch định chính sách đang cố gắng cân nhắc lời hứa về các thuật toán mới được thổi phồng nhiều với những rủi ro sắp tới.
Cummings nói với tôi trong tuần này rằng cô ấy rời NHTSA với cảm giác lo ngại sâu sắc về các hệ thống tự trị đang được nhiều nhà sản xuất ô tô triển khai. Cummings nói: “Chúng tôi đang gặp rắc rối nghiêm trọng về khả năng của những chiếc xe này. “Họ thậm chí còn không có khả năng như mọi người vẫn nghĩ.”
Tôi bị ấn tượng bởi sự tương đồng với ChatGPT và các chatbot tương tự khơi dậy sự phấn khích và lo lắng về sức mạnh của AI. Các tính năng lái xe tự động đã xuất hiện từ lâu, nhưng giống như các mô hình ngôn ngữ lớn, chúng dựa trên các thuật toán học máy vốn không thể đoán trước, khó kiểm tra và yêu cầu một loại tư duy kỹ thuật khác với trước đây.
Cũng giống như ChatGPT, Autopilot của Tesla và các dự án lái xe tự hành khác đã được nâng tầm bởi sự cường điệu vô lý. Những giấc mơ cuồng nhiệt về một cuộc cách mạng giao thông vận tải đã khiến các nhà sản xuất ô tô, công ty khởi nghiệp và nhà đầu tư đổ những khoản tiền khổng lồ vào việc phát triển và triển khai một công nghệ vẫn còn nhiều vấn đề chưa được giải quyết. Vào giữa những năm 2010, có một môi trường pháp lý dễ dãi xung quanh ô tô tự lái, với việc các quan chức chính phủ không muốn áp dụng hệ thống phanh đối với một công nghệ hứa hẹn trị giá hàng tỷ đô la cho các doanh nghiệp Hoa Kỳ.
Sau hàng tỷ đô la chi cho công nghệ, xe tự lái vẫn bao quanh qua các vấn đềvà một số công ty ô tô đã rút phích cắm về các dự án tự chủ lớn. Trong khi đó, như Cummings nói, công chúng thường không rõ công nghệ bán tự trị thực sự có khả năng như thế nào.
Theo một nghĩa nào đó, thật tốt khi thấy các chính phủ và nhà lập pháp nhanh chóng đề xuất quy định về các công cụ AI tổng quát và các mô hình ngôn ngữ lớn. Sự hoảng loạn hiện tại tập trung vào các mô hình và công cụ ngôn ngữ lớn như Trò chuyệnGPT đó là đặc biệt giỏi trong việc trả lời các câu hỏi và giải quyết vấn đềngay cả khi họ vẫn còn những thiếu sót đáng kể, bao gồm cả việc tự tin bịa đặt sự thật.
Tại phiên điều trần của Thượng viện tuần này, Altman của OpenAI, công ty đã cung cấp cho chúng tôi ChatGPT, đã đi xa đến mức kêu gọi một hệ thống cấp phép để kiểm soát xem các công ty như của anh ấy có được phép làm việc trên AI tiên tiến hay không. “Nỗi sợ hãi tồi tệ nhất của tôi là chúng ta—lĩnh vực, công nghệ, ngành công nghiệp—gây ra tác hại đáng kể cho thế giới,” Altman nói trong phiên điều trần.
