#SựKiệnNgàyHômNay: Không ai biết công nghệ mới sẽ phát triển và kiểm soát vũ khí thế nào. Tuy nhiên, các chuyên gia quốc phòng Mỹ đã cảnh báo về tính nguy hiểm của việc sử dụng trí tuệ nhân tạo trong các cảm biến, tên lửa và vũ khí mạng. Tổng thống Biden đã áp đặt hạn chế nghiêm trọng vào tháng 10 để ngăn chặn việc bán chip máy tính tiên tiến nhất cho Trung Quốc, nhưng các quan chức Lầu Năm Góc lo ngại rằng việc dừng lại sẽ tạo cơ hội cho đối thủ tiềm năng ở nước ngoài. Các hệ thống AI trong quân đội và an ninh quốc gia có thể tạo ra những rủi ro hoàn toàn mới. Điều đó khiến người ta chỉ có thể lạc quan về những cuộc trò chuyện không chính thức về các quy tắc đảm bảo an toàn cho AI sẽ như thế nào. #AI #quốcphòng #vũkhí #trítuệnhântạo #ChatGPT #thựcitế #nguyhiểm #hoạttộng #hạnchế #TrungQuốc #LầuNămGóc #TổngThốngBiden #cộngđồngquốcphòng #cáchpháttriển #chéđộkiểmsoát #chươngtrìnhnghịsự #đốiquốctế #rủiro #cuộctấncong #tânđới #tínhkhếchướng #quânđội #aninhquốcgiavàoquảntechnology
Khi Tổng thống Biden công bố những hạn chế nghiêm trọng vào tháng 10 đối với việc bán chip máy tính tiên tiến nhất cho Trung Quốc, ông đã bán nó một phần như một cách tạo cơ hội cho ngành công nghiệp Mỹ khôi phục khả năng cạnh tranh.
Nhưng tại Lầu Năm Góc và Hội đồng An ninh Quốc gia, có một chương trình nghị sự thứ hai: kiểm soát vũ khí.
Theo lý thuyết, nếu quân đội Trung Quốc không thể có được chip, họ có thể làm chậm nỗ lực phát triển vũ khí do trí tuệ nhân tạo điều khiển. Điều đó sẽ cho Nhà Trắng và thế giới thời gian để tìm ra một số quy tắc cho việc sử dụng trí tuệ nhân tạo trong các cảm biến, tên lửa và vũ khí mạng, và cuối cùng là để đề phòng một số cơn ác mộng do Hollywood gợi lên – robot giết người tự động và máy tính khóa ra những người tạo ra con người của họ.
Giờ đây, màn sương mù sợ hãi xung quanh chatbot ChatGPT phổ biến và phần mềm AI sáng tạo khác đã khiến hạn chế chip đến Bắc Kinh xem như chỉ là giải pháp tạm thời. Khi ông Biden ghé qua một cuộc họp tại Nhà Trắng vào thứ Năm với các giám đốc điều hành công nghệ đang vật lộn với việc hạn chế rủi ro của công nghệ, nhận xét đầu tiên của ông là “những gì bạn đang làm có tiềm năng to lớn và nguy hiểm to lớn”.
Các trợ lý an ninh quốc gia của ông cho biết, đó là sự phản ánh về các cuộc họp giao ban được phân loại gần đây về tiềm năng của công nghệ mới trong việc thúc đẩy chiến tranh, xung đột mạng và – trong trường hợp cực đoan nhất – ra quyết định sử dụng vũ khí hạt nhân.
Nhưng ngay cả khi ông Biden đưa ra cảnh báo của mình, các quan chức Lầu Năm Góc, phát biểu tại các diễn đàn công nghệ, cho biết họ nghĩ ý tưởng tạm dừng sáu tháng trong việc phát triển các thế hệ tiếp theo của ChatGPT và phần mềm tương tự là một ý tưởng tồi: Người Trung Quốc sẽ không chờ đợi, và người Nga cũng vậy.
“Nếu chúng ta dừng lại, hãy đoán xem ai sẽ không dừng lại: những đối thủ tiềm năng ở nước ngoài,” giám đốc thông tin của Lầu Năm Góc, John Sherman, nói. cho biết vào thứ tư. “Chúng ta phải tiếp tục di chuyển.”
Tuyên bố thẳng thừng của anh ấy nhấn mạnh sự căng thẳng trong cộng đồng quốc phòng ngày nay. Không ai thực sự biết những công nghệ mới này có khả năng gì khi phát triển và kiểm soát vũ khí, và họ không biết loại chế độ kiểm soát vũ khí nào, nếu có, có thể hoạt động.
Những điềm báo mơ hồ, nhưng vô cùng đáng lo ngại. ChatGPT có thể trao quyền cho những kẻ xấu trước đây không dễ dàng tiếp cận với công nghệ phá hoại không? Nó có thể đẩy nhanh các cuộc đối đầu giữa các siêu cường, để lại ít thời gian cho ngoại giao và đàm phán?
Eric Schmidt, cựu chủ tịch Google, người từng là chủ tịch đầu tiên của tổ chức tư vấn cho biết: “Ngành công nghiệp này không hề ngu ngốc và bạn đã thấy những nỗ lực để tự điều chỉnh. Ban đổi mới quốc phòng từ 2016 đến 2020.
Ông Schmidt, người đã viết thư cho cựu ngoại trưởng Henry Kissinger, cho biết: “Vì vậy, hiện có một loạt các cuộc trò chuyện không chính thức đang diễn ra trong ngành — tất cả đều không chính thức — về các quy tắc đảm bảo an toàn cho AI sẽ như thế nào. một loạt các bài báo và sách về tiềm năng của trí tuệ nhân tạo để nâng cao địa chính trị.
Bất kỳ ai đã thử nghiệm các lần lặp lại ban đầu của ChatGPT đều rõ ràng về nỗ lực ban đầu để đưa các rào chắn vào hệ thống. Ví dụ, các bot sẽ không trả lời các câu hỏi về cách làm hại ai đó bằng một loại thuốc, hoặc cách làm nổ tung một con đập hoặc làm tê liệt máy ly tâm hạt nhân, tất cả các hoạt động mà Hoa Kỳ và các quốc gia khác đã tham gia mà không có lợi ích của các công cụ trí tuệ nhân tạo .
Nhưng những danh sách đen hành động đó sẽ chỉ làm chậm việc lạm dụng các hệ thống này; ít người nghĩ rằng họ có thể chấm dứt hoàn toàn những nỗ lực như vậy. Luôn có một mẹo nhỏ để vượt qua các giới hạn an toàn, vì bất kỳ ai đã cố gắng tắt tiếng bíp khẩn cấp trên hệ thống cảnh báo thắt dây an toàn của ô tô đều có thể chứng thực.
Mặc dù phần mềm mới đã phổ biến vấn đề này, nhưng nó hầu như không phải là vấn đề mới đối với Lầu Năm Góc. Các quy tắc đầu tiên về phát triển vũ khí tự trị đã được công bố cách đây một thập kỷ. Trung tâm trí tuệ nhân tạo chung của Lầu Năm Góc được thành lập cách đây 5 năm để khám phá việc sử dụng trí tuệ nhân tạo trong chiến đấu.
Một số vũ khí đã hoạt động ở chế độ lái tự động. Tên lửa Patriot, bắn hạ tên lửa hoặc máy bay đi vào không phận được bảo vệ, từ lâu đã có chế độ “tự động”. Nó cho phép chúng khai hỏa mà không cần sự can thiệp của con người khi bị tràn ngập các mục tiêu đang lao tới nhanh hơn con người có thể phản ứng. Nhưng chúng được cho là được giám sát bởi con người, những người có thể hủy bỏ các cuộc tấn công nếu cần thiết.
Vụ ám sát Mohsen Fakhrizadeh, nhà khoa học hạt nhân hàng đầu của Iran, được thực hiện bởi Mossad của Israel bằng súng máy tự động được hỗ trợ bởi trí tuệ nhân tạo, mặc dù dường như có mức độ điều khiển từ xa cao. Nga cho biết gần đây họ đã bắt đầu sản xuất – nhưng chưa triển khai – ngư lôi hạt nhân Poseidon dưới đáy biển. Nếu đúng như lời quảng cáo của Nga, vũ khí này sẽ có thể tự động di chuyển qua đại dương, tránh được các hệ thống phòng thủ tên lửa hiện có, để mang vũ khí hạt nhân vài ngày sau khi được phóng.
Cho đến nay không có hiệp ước hoặc thỏa thuận quốc tế nào liên quan đến vũ khí tự trị như vậy. Trong một thời đại mà các thỏa thuận kiểm soát vũ khí đang bị hủy bỏ nhanh hơn hơn là họ đang được đàm phán, có rất ít triển vọng của một thỏa thuận như vậy. Nhưng loại thách thức do ChatGPT và những người cùng ngành đưa ra thì khác và theo một số cách thì phức tạp hơn.
Trong quân đội, các hệ thống được truyền AI có thể tăng tốc độ của các quyết định chiến trường đến mức chúng tạo ra những rủi ro hoàn toàn mới về các cuộc tấn công tình cờ hoặc các quyết định được đưa ra do cảnh báo nhầm hoặc cố ý sai về các cuộc tấn công sắp tới.
Ông Schmidt nói: “Một vấn đề cốt lõi với AI trong quân đội và an ninh quốc gia là làm thế nào để bạn chống lại các cuộc tấn công nhanh hơn cả việc ra quyết định của con người và tôi nghĩ vấn đề đó vẫn chưa được giải quyết. “Nói cách khác, tên lửa đang lao tới quá nhanh nên phải có phản ứng tự động. Điều gì xảy ra nếu đó là tín hiệu sai?”
Chiến tranh Lạnh tràn ngập những câu chuyện về cảnh báo sai – một lần vì một đoạn băng huấn luyện, được dùng để thực hành phản ứng hạt nhân, bằng cách nào đó đã được đưa vào sai hệ thống và đưa ra cảnh báo về một cuộc tấn công lớn sắp tới của Liên Xô. (Sự phán đoán đúng đắn khiến mọi người phải lùi bước.) Paul Scharre, thuộc Trung tâm An ninh Mỹ Mới, đã lưu ý trong cuốn sách “Army of none” năm 2018 của ông rằng đã có “ít nhất 13 sự cố hạt nhân cận kề từ năm 1962 đến năm 2002,” trong đó “củng cố quan điểm rằng các sự cố suýt trượt là bình thường, nếu đáng sợ, là điều kiện của vũ khí hạt nhân.”
Vì lý do đó, khi căng thẳng giữa các siêu cường giảm đi rất nhiều so với hiện nay, hàng loạt tổng thống đã cố gắng đàm phán để dành thêm thời gian cho việc ra quyết định hạt nhân của tất cả các bên, để không bên nào lao vào xung đột. Nhưng AI sáng tạo có nguy cơ đẩy các quốc gia đi theo hướng khác, hướng tới việc ra quyết định nhanh hơn.
Tin tốt là các cường quốc có thể sẽ cẩn thận — bởi vì họ biết phản ứng từ kẻ thù sẽ như thế nào. Nhưng cho đến nay không có quy tắc thống nhất.
Anja Manuel, cựu quan chức Bộ Ngoại giao và hiện là hiệu trưởng của nhóm tư vấn Rice, Hadley, Gates và Manuel, gần đây đã viết rằng ngay cả khi Trung Quốc và Nga chưa sẵn sàng cho các cuộc đàm phán kiểm soát vũ khí về AI, các cuộc họp về chủ đề này sẽ dẫn đến các cuộc thảo luận. về những cách sử dụng AI được coi là “vượt xa ánh sáng”.
Tất nhiên, Lầu Năm Góc cũng sẽ lo lắng về việc đồng ý với nhiều giới hạn.
Danny Hillis, một nhà khoa học máy tính, người đi tiên phong trong các máy tính song song được sử dụng cho trí tuệ nhân tạo, cho biết: “Tôi đã đấu tranh rất vất vả để có được một chính sách rằng nếu bạn có các yếu tố vũ khí tự động, bạn cần có cách tắt chúng đi. Ông Hillis, người cũng từng phục vụ trong Ban Đổi mới Quốc phòng, nói rằng các quan chức Lầu Năm Góc đã phản đối, nói rằng: “Nếu chúng ta có thể tắt chúng đi, thì kẻ thù cũng có thể tắt chúng đi”.
Rủi ro lớn hơn có thể đến từ các cá nhân, những kẻ khủng bố, nhóm ransomware hoặc các quốc gia nhỏ hơn có kỹ năng mạng tiên tiến — như Triều Tiên — học cách sao chép một phiên bản ChatGPT nhỏ hơn, ít bị hạn chế hơn. Và họ có thể thấy rằng phần mềm AI tổng quát là hoàn hảo để tăng tốc các cuộc tấn công mạng và nhắm mục tiêu thông tin sai lệch.
Tom Burt, người lãnh đạo các hoạt động tin cậy và an toàn tại Microsoft, tăng tốc với việc sử dụng công nghệ mới để cải tiến các công cụ tìm kiếm của mình, ông đã phát biểu tại một diễn đàn gần đây tại Đại học George Washington rằng ông nghĩ rằng các hệ thống AI sẽ giúp những người bảo vệ phát hiện hành vi bất thường nhanh hơn so với việc chúng giúp những kẻ tấn công. Các chuyên gia khác không đồng ý. Nhưng anh ấy nói rằng anh ấy sợ trí thông minh nhân tạo có thể “thúc đẩy” sự lan truyền của thông tin sai lệch có mục tiêu.
Tất cả những điều này báo trước một kỷ nguyên mới về kiểm soát vũ khí.
Một số chuyên gia nói rằng vì không thể ngăn chặn sự lan rộng của ChatGPT và phần mềm tương tự, nên hy vọng tốt nhất là hạn chế các chip chuyên dụng và sức mạnh tính toán khác cần thiết để phát triển công nghệ. Đó chắc chắn sẽ là một trong nhiều kế hoạch kiểm soát vũ khí khác nhau được đưa ra trong vài năm tới, vào thời điểm mà ít nhất các cường quốc hạt nhân dường như không quan tâm đến việc đàm phán về vũ khí cũ, chứ đừng nói đến những vũ khí mới.
