#NgàyHômNay #CôngNghệ #AI
Gary Marcus từng xem AI như là một “ngu ngốc” nhưng giờ đây, anh ta cho rằng nó rất nguy hiểm. Với sự phát triển của các mô hình ngôn ngữ lớn, chatbot từ OpenAI, Google và các thực thể khác đang trở thành những thực thể nguy hiểm có sức mạnh có thể dẫn đến thông tin sai lệch, lỗi bảo mật và “ảo giác” phỉ báng sẽ tự động hóa việc vu khống. Để giải quyết vấn đề này, Marcus muốn lãnh đạo một tổ chức phi lợi nhuận chuyên tận dụng tối đa và tránh điều tồi tệ nhất của AI. Ông cảnh báo rằng chính phủ và cơ quan quản lý phải hãm lại sự phát triển của AI để đối phó với tác hại và sự tàn phá tiềm ẩn. Marcus ký vào bản kiến nghị yêu cầu tạm dừng sáu tháng đào tạo LLM mới và muốn tạm dừng triển khai các mô hình mới hoặc lặp đi lặp lại các mô hình hiện tại để đảm bảo không có sự thiên vị hoặc thúc đẩy thông tin sai lệch. Ông cũng đề xuất cho thế giới một “cơ quan Quốc tế về AI toàn cầu, trung lập, phi lợi nhuận” để giám sát các thuật toán và đảm bảo rằng chúng không bao gồm sự thiên vị hoặc thúc đẩy thông tin sai lệch. Tuy nhiên, việc kiểm soát AI sẽ còn là một cuộc thảo luận hấp dẫn hơn nữa khi công nghệ này ngày càng len lỏi sâu hơn vào cuộc sống của chúng ta.
Nguồn: https://www.wired.com/story/plaintext-gary-marcus-ai-stupid-dangerous/
Hồi đó – chỉ vài tháng trước – sự ngụy biện của Marcus là kỹ thuật. Nhưng giờ đây khi các mô hình ngôn ngữ lớn đã trở thành một hiện tượng toàn cầu, trọng tâm của ông đã thay đổi. Điểm mấu chốt trong thông điệp mới của Marcus là các chatbot từ OpenAI, Google và những thực thể khác là những thực thể nguy hiểm có sức mạnh sẽ dẫn đến một cơn sóng thần thông tin sai lệch, lỗi bảo mật và “ảo giác” phỉ báng sẽ tự động hóa việc vu khống. Điều này dường như tạo ra một sự mâu thuẫn. Trong nhiều năm, Marcus đã buộc tội rằng những tuyên bố của những người xây dựng AI đã bị thổi phồng quá mức. Tại sao AI bây giờ ghê gớm đến mức xã hội bây giờ phải kìm hãm nó?
Marcus, luôn nói nhiều, có câu trả lời: “Vâng, tôi đã nói trong nhiều năm rằng (LLM) thực sự khá ngu ngốc, và tôi vẫn tin điều đó. Nhưng có một sự khác biệt giữa sức mạnh và trí thông minh. Và chúng ta đột nhiên trao cho họ rất nhiều quyền lực.” Vào tháng Hai, anh ấy nhận ra rằng tình hình đã đủ đáng báo động đến mức anh ấy nên dành phần lớn năng lượng của mình để giải quyết vấn đề. Cuối cùng, anh ấy nói, anh ấy muốn lãnh đạo một tổ chức phi lợi nhuận chuyên tận dụng tối đa và tránh điều tồi tệ nhất của AI.
Marcus lập luận rằng để chống lại tất cả những tác hại và sự tàn phá tiềm ẩn, các nhà hoạch định chính sách, chính phủ và cơ quan quản lý phải hãm lại sự phát triển của AI. Cùng với Elon Musk và hàng chục nhà khoa học khác, những người đam mê chính sách và những nhà quan sát đơn giản, ông đã ký vào bản kiến nghị nổi tiếng hiện nay yêu cầu tạm dừng sáu tháng đào tạo LLM mới. Nhưng anh ấy thừa nhận rằng anh ấy không thực sự nghĩ rằng việc tạm dừng như vậy sẽ tạo ra sự khác biệt và anh ấy đã ký chủ yếu để phù hợp với cộng đồng các nhà phê bình AI. Thay vì thời gian chờ đào tạo, anh ấy muốn tạm dừng trong triển khai các mô hình mới hoặc lặp đi lặp lại các mô hình hiện tại. Điều này có lẽ sẽ buộc các công ty phải làm, vì có sự cạnh tranh khốc liệt, gần như tồn tại giữa Microsoft và Google, với Apple, Meta, Amazon và vô số công ty khởi nghiệp muốn tham gia vào cuộc chơi.
Marcus có một ý tưởng về người có thể thực hiện việc thực thi. Gần đây, anh ấy đã khăng khăng rằng thế giới cần ngay lập tức “một Cơ quan Quốc tế về AI toàn cầu, trung lập, phi lợi nhuận”, cơ quan này sẽ được gọi bằng một từ viết tắt nghe giống như một tiếng hét (Iaai!).
Như ông đã vạch ra trong một op-ed anh ấy là đồng tác giả bên trong nhà kinh tế, một cơ quan như vậy có thể hoạt động giống như Cơ quan Năng lượng Nguyên tử Quốc tế, cơ quan này tiến hành kiểm tra và thanh tra để xác định các chương trình hạt nhân non trẻ. Có lẽ cơ quan này sẽ giám sát các thuật toán để đảm bảo rằng chúng không bao gồm sự thiên vị hoặc thúc đẩy thông tin sai lệch hoặc tiếp quản lưới điện trong khi chúng tôi không tìm kiếm. Mặc dù có vẻ hơi khó để tưởng tượng rằng Hoa Kỳ, Châu Âu và Trung Quốc cùng hợp tác với nhau trong vấn đề này, nhưng có thể mối đe dọa của một người ngoài hành tinh, nếu là cây nhà lá vườn, trí thông minh lật đổ giống loài của chúng ta có thể khiến họ hành động vì lợi ích của Đội Nhân loại. Này, nó có tác dụng với mối đe dọa toàn cầu khác, biến đổi khí hậu! Ờ…
Trong mọi trường hợp, cuộc thảo luận về việc kiểm soát AI sẽ còn hấp dẫn hơn nữa khi công nghệ này ngày càng len lỏi sâu hơn vào cuộc sống của chúng ta. Vì vậy, hãy mong đợi được thấy nhiều hơn nữa về Marcus và một loạt những cái đầu biết nói khác. Và đó không phải là một điều xấu. Thảo luận về những việc cần làm với AI là lành mạnh và cần thiết, ngay cả khi công nghệ phát triển nhanh này có thể phát triển tốt bất chấp mọi biện pháp mà chúng ta áp dụng một cách cẩn thận và muộn màng. Sự phát triển nhanh chóng của ChatGPT thành một công cụ kinh doanh đa năng, thiết bị giải trí và người bạn tâm giao cho thấy rằng, dù đáng sợ hay không, chúng tôi đều muốn thứ này. Giống như mọi tiến bộ công nghệ khổng lồ khác, siêu trí tuệ dường như được định sẵn để mang lại cho chúng ta những lợi ích không thể cưỡng lại, ngay cả khi nó thay đổi nơi làm việc, tiêu dùng văn hóa của chúng ta và chắc chắn là cả chúng ta.
