#RSASanFrancisco #AnNinhMạng #AI #HackĐộcHại
Giám đốc an ninh mạng NSA, Rob Joyce đã cảnh báo về sự phát triển của AI trên toàn cầu và tác động tiềm tàng của nó đối với an ninh mạng tại hội nghị RSA được tổ chức tại San Francisco trong tuần này. Những cuộc nói chuyện và hội thảo trên khắp trung tâm hội nghị Moscone rộng lớn đều tập trung vào công nghệ mới này và khả năng bảo vệ hệ thống khỏi tác động của những kẻ tấn công bằng cách sử dụng nó để tạo ra các tài liệu và thông tin liên lạc phù hợp.
Tuy nhiên, Joyce cũng nhấn mạnh rằng AI có thể được sử dụng để tấn công khiến cho nó trở thành một mối đe dọa đối với an ninh mạng. Nó có khả năng bị thao túng và lạm dụng bởi các kẻ tấn công để phát triển và phát tán phần mềm độc hại, thúc đẩy việc tạo ra thông tin sai lệch và nội dung không chính xác, và mở rộng khả năng của kẻ tấn công để tự động hóa các vụ hack của chúng.
Joyce cho rằng, tuy nhiên, AI toàn diện có thể giúp đỡ trong việc bảo vệ hệ thống bằng cách phân tích dữ liệu lớn một cách tự động. Tuy nhiên, cộng đồng bảo mật cần phải nghiên cứu cách các hệ thống AI tổng quát có thể bị thao túng và khai thác trước khi những công cụ này được sử dụng trong cuộc sống hàng ngày. Joyce cảnh báo rằng thời điểm hiện tại đối với AI và bảo mật là rất khó đoán và u ám, và cộng đồng bảo mật cần phải “thắt dây an toàn” cho những gì có thể xảy ra trong tương lai.
Nguồn: https://www.wired.com/story/nsa-rob-joyce-chatgpt-security/
tại RSA hội nghị an ninh ở San Francisco tuần này, có một cảm giác không thể tránh khỏi trong không khí. Tại các cuộc nói chuyện và hội thảo trên khắp trung tâm hội nghị Moscone rộng lớn, tại mọi gian hàng của nhà cung cấp trên sàn triển lãm và trong các cuộc trò chuyện bình thường trong hội trường, bạn chỉ cần biết rằng ai đó sẽ đưa ra AI tổng quát và tác động tiềm tàng của nó đối với an ninh kỹ thuật số và hack độc hại . Giám đốc an ninh mạng NSA Rob Joyce cũng đã cảm nhận được điều đó.
“Bạn không thể dạo quanh RSA mà không nói về AI và phần mềm độc hại,” anh ấy nói vào chiều thứ Tư trong bài thuyết trình “Tình trạng Hack” hàng năm hiện nay của mình. “Tôi nghĩ tất cả chúng ta đều đã thấy vụ nổ. Tôi sẽ không nói rằng nó đã được chuyển giao, nhưng đây thực sự là một số công nghệ thay đổi cuộc chơi.”
Trong những tháng gần đây, các chatbot được cung cấp bởi các mô hình ngôn ngữ lớn, như OpenAI’s Trò chuyệnGPT, đã làm cho nhiều năm nghiên cứu và phát triển máy học trở nên cụ thể hơn và dễ tiếp cận hơn đối với mọi người trên khắp thế giới. Nhưng có những câu hỏi thực tế về cách những công cụ mới lạ này sẽ hoạt động như thế nào. thao túng và lạm dụng bởi các diễn viên xấu để phát triển và phát tán phần mềm độc hạithúc đẩy việc tạo ra thông tin sai lệch và nội dung không trung thựcvà mở rộng khả năng của kẻ tấn công để tự động hóa các vụ hack của chúng. Đồng thời, cộng đồng bảo mật mong muốn khai thác AI tổng quát để bảo vệ các hệ thống và đạt được lợi thế bảo vệ. Tuy nhiên, trong những ngày đầu này, thật khó để phân tích chính xác điều gì sẽ xảy ra tiếp theo.
Joyce cho biết Cơ quan An ninh Quốc gia hy vọng AI tổng quát sẽ thúc đẩy các trò gian lận hiệu quả như lừa đảo. Các cuộc tấn công như vậy dựa vào nội dung thuyết phục và hấp dẫn để lừa nạn nhân vô tình giúp đỡ những kẻ tấn công, vì vậy, AI tổng quát có những cách sử dụng rõ ràng để nhanh chóng tạo ra các tài liệu và thông tin liên lạc phù hợp.
Joyce nói: “Tên hacker gốc Nga không nói tiếng Anh giỏi đó sẽ không còn tạo ra một email tồi tệ cho nhân viên của bạn nữa. “Nó sẽ là tiếng Anh bản địa, nó sẽ có ý nghĩa, nó sẽ vượt qua bài kiểm tra đánh hơi … Vì vậy, có ngày hôm nay, và chúng ta đang chứng kiến những kẻ thù, cả quốc gia và tội phạm, bắt đầu thử nghiệm với Tạo kiểu ChatGPT để mang đến cho họ cơ hội học tiếng Anh.”
Trong khi đó, mặc dù các chatbot AI có thể không phát triển phần mềm độc hại mới được vũ khí hóa hoàn hảo ngay từ đầu, Joyce lưu ý rằng những kẻ tấn công có thể sử dụng các kỹ năng mã hóa mà nền tảng có để thực hiện những thay đổi nhỏ hơn nhưng có thể có tác động lớn. Ý tưởng sẽ là sửa đổi phần mềm độc hại hiện có bằng AI tổng quát để thay đổi các đặc điểm và hành vi của nó đủ để các công cụ quét như phần mềm chống vi-rút có thể không nhận ra và gắn cờ cho lần lặp lại mới.
Joyce nói: “Nó sẽ giúp viết lại mã và làm cho mã theo cách thay đổi chữ ký và các thuộc tính của nó. “Đó (là) sẽ là một thách thức đối với chúng tôi trong thời gian tới.”
Về mặt phòng thủ, Joyce dường như hy vọng về tiềm năng của AI tổng quát để hỗ trợ phân tích dữ liệu lớn và tự động hóa. Ông đã trích dẫn ba lĩnh vực mà công nghệ này đang “hứa hẹn thực sự” với tư cách là “công cụ tăng tốc phòng thủ”: quét nhật ký kỹ thuật số, tìm các mẫu khai thác lỗ hổng và giúp các tổ chức ưu tiên các vấn đề bảo mật. Tuy nhiên, ông cảnh báo rằng trước khi những người bảo vệ và cộng đồng nói chung phụ thuộc vào những công cụ này trong cuộc sống hàng ngày, trước tiên họ phải nghiên cứu cách các hệ thống AI tổng quát có thể được thao túng và khai thác.
Hầu hết, Joyce nhấn mạnh tính chất u ám và khó đoán của thời điểm hiện tại đối với AI và bảo mật, cảnh báo cộng đồng bảo mật hãy “thắt dây an toàn” cho những gì có thể xảy ra.
Anh ấy nói: “Tôi không mong đợi một số khả năng kỹ thuật kỳ diệu do AI tạo ra sẽ khai thác được tất cả mọi thứ. Nhưng “năm tới, nếu chúng ta ở đây nói về một năm tương tự để xem xét lại, tôi nghĩ chúng ta sẽ có một loạt ví dụ về nơi nó được vũ khí hóa, nơi nó được sử dụng và nơi nó đã thành công.”
