#sựkiệnngày11-12tháng7 #AI #bảo mật #SanFrancisco
Hôm nay, Tenable đã đăng báo cáo mới cho thấy sức mạnh của trí tuệ nhân tạo (AI) tổng quát trong việc nghiên cứu bảo mật. Nghiên cứu tập trung vào các công cụ mới được xây dựng để giúp các nhà nghiên cứu hợp lý hóa kỹ thuật đảo ngược, phân tích lỗ hổng, gỡ lỗi mã và bảo mật ứng dụng web.
Trong báo cáo, Tenable giới thiệu các công cụ như G-3PO và BurpGPT, cho thấy cách LLM có thể đóng một vai trò quan trọng trong việc giảm kiểm tra thủ công cho các nhà phát triển ứng dụng web. Ngoài ra, EscalateGPT được tạo ra để giải quyết vấn đề cấu hình sai chính sách quản lý danh tính và truy cập.
Các công cụ AI tổng quát đang thay đổi cách nghiên cứu bảo mật được tiến hành. Việc tích hợp và tối ưu hóa các khoản đầu tư AI đã trở thành một chủ đề được quan tâm đặc biệt trong cộng đồng giám đốc điều hành hàng đầu. Các giám đốc điều hành hàng đầu sẽ có cơ hội chia sẻ kinh nghiệm của họ tại sự kiện Chuyển đổi 2023 được tổ chức tại San Francisco vào ngày 11-12 tháng 7.
Dù những công cụ này đã đạt được một số thành công, các nhà nghiên cứu cũng cảnh báo về việc phải kiểm tra kỹ đầu ra của chúng để đảm bảo độ tin cậy. Tuy nhiên, đó là một bước tiến trong việc sử dụng AI để giúp các nhân viên bảo mật xác định các lỗ hổng và xử lý mã.
VentureBeat muốn trở thành nơi hội tụ những người ra quyết định kỹ thuật để cùng nhau trao đổi kiến thức về công nghệ doanh nghiệp và quản lý chuyển đổi. Chúng tôi đưa ra Briefings để giúp bạn cập nhật các tin tức mới nhất trong ngành công nghệ.
Tham gia cùng các giám đốc điều hành hàng đầu tại San Francisco vào ngày 11-12 tháng 7, để nghe cách các nhà lãnh đạo đang tích hợp và tối ưu hóa các khoản đầu tư AI để thành công. Tìm hiểu thêm
Hôm nay, quản lý lỗ hổng các nhà cung cấp có thể sử dụng được xuất bản một cái mới báo cáo thể hiện cách nhóm nghiên cứu của họ đang thử nghiệm với mô hình ngôn ngữ lớn (LLM) Và trí tuệ nhân tạo để tăng cường nghiên cứu bảo mật.
Nghiên cứu tập trung vào bốn công cụ mới được thiết kế để giúp các nhà nghiên cứu con người hợp lý hóa kỹ thuật đảo ngược, phân tích lỗ hổng, gỡ lỗi mã và bảo mật ứng dụng web cũng như xác định các cấu hình sai dựa trên đám mây.
Những công cụ này, hiện đã có trên GitHubchứng minh rằng các công cụ AI tổng quát như ChatGPT có vai trò quan trọng trong các trường hợp sử dụng phòng thủ, đặc biệt là khi phân tích mã và chuyển mã thành phần giải thích mà con người có thể đọc được để những người bảo vệ có thể hiểu rõ hơn về cách mã hoạt động và các lỗ hổng tiềm ẩn của mã.
“Tenable đã sử dụng LLM để xây dựng các công cụ mới giúp tăng tốc các quy trình và giúp chúng tôi xác định các lỗ hổng nhanh hơn và hiệu quả hơn,” báo cáo cho biết. “Mặc dù những công cụ này còn lâu mới thay thế được các kỹ sư bảo mật, nhưng chúng có thể hoạt động như một hệ số nhân lực và giảm bớt một số công việc phức tạp và tốn nhiều công sức khi được các nhà nghiên cứu có kinh nghiệm sử dụng.”
Sự kiện
Chuyển đổi 2023
Hãy tham gia cùng chúng tôi tại San Francisco vào ngày 11-12 tháng 7, nơi các giám đốc điều hành hàng đầu sẽ chia sẻ cách họ đã tích hợp và tối ưu hóa các khoản đầu tư vào AI để đạt được thành công và tránh những cạm bẫy phổ biến.
Đăng ký ngay
Tự động hóa kỹ thuật đảo ngược với G-3PO
Một trong những công cụ chính được nêu trong nghiên cứu là G-3POmột kịch bản dịch cho khung kỹ thuật đảo ngược Ghidra. Được phát triển bởi NSAG-3PO là một công cụ phân tách mã và dịch ngược mã thành “thứ gì đó giống với mã nguồn” trong ngôn ngữ lập trình C.
Theo truyền thống, một nhà phân tích con người sẽ cần phân tích điều này dựa trên danh sách lắp ráp ban đầu để xác định cách thức hoạt động của một đoạn mã. G-3PO tự động hóa quy trình bằng cách gửi mã C dịch ngược của Ghidra tới LLM (các mô hình hỗ trợ từ OpenAI và Anthropic) và yêu cầu giải thích chức năng này thực hiện. Kết quả là nhà nghiên cứu có thể hiểu chức năng của mã mà không cần phải phân tích thủ công.
Mặc dù điều này có thể tiết kiệm thời gian nhưng trong một video trên YouTube giải thích cách thức hoạt động của G-3PO, Olivia Fraser, nhà nghiên cứu zero-day của Tenable, cảnh báo rằng các nhà nghiên cứu phải luôn kiểm tra kỹ đầu ra để đảm bảo độ chính xác.
Fraser nói: “Không cần phải nói rằng đầu ra của G-3PO, giống như bất kỳ công cụ tự động nào, nên được lấy bằng một hạt muối và trong trường hợp của công cụ này, có thể bằng vài thìa muối. “Tất nhiên, đầu ra của nó phải luôn được kiểm tra dựa trên mã dịch ngược và chống lại quá trình tháo gỡ, nhưng đây là điều bình thường đối với kỹ sư đảo ngược.”
BurpGPT: Trợ lý AI bảo mật ứng dụng web
Một giải pháp đầy hứa hẹn khác là Ợ GPTmột phần mở rộng cho phần mềm kiểm tra ứng dụng ợ hơi Thượng hạng cho phép người dùng sử dụng GPT để phân tích các yêu cầu và phản hồi HTTP.
BurpGPT chặn lưu lượng HTTP và chuyển tiếp nó tới API OpenAI, tại thời điểm đó, lưu lượng được phân tích để xác định rủi ro và các bản sửa lỗi tiềm năng. Trong báo cáo, Tenable lưu ý rằng BurpGPT đã chứng tỏ thành công trong việc xác định các lỗ hổng cross site scripting (XSS) và các tiêu đề HTTP bị định cấu hình sai.
Do đó, công cụ này cho thấy cách LLM có thể đóng một vai trò trong việc giảm kiểm tra thủ công cho các nhà phát triển ứng dụng web và có thể được sử dụng để tự động hóa một phần quy trình khám phá lỗ hổng.
“EscalateGPT dường như là một công cụ rất hứa hẹn. Các chính sách IAM thường đại diện cho một mạng lưới phân bổ đặc quyền phức tạp. Việc giám sát trong quá trình tạo và duy trì chính sách thường lẻn vào, tạo ra các lỗ hổng không chủ ý mà bọn tội phạm lợi dụng. Avivah Litan, phó chủ tịch phân tích của Gartner cho biết trong một email gửi tới VentureBeat.
EscalateGPT: Xác định các vấn đề về chính sách IAM với AI
Trong nỗ lực xác định cấu hình sai chính sách IAM, nhóm nghiên cứu của Tenable đã phát triển Leo thangGPTmột công cụ Python được thiết kế để xác định các cơ hội leo thang đặc quyền trong IAM của Amazon Web Services.
Về cơ bản, EscalateGPT thu thập các chính sách IAM được liên kết với từng người dùng hoặc nhóm và gửi chúng tới API OpenAI để được xử lý, yêu cầu LLM xác định các cơ hội leo thang đặc quyền và biện pháp giảm thiểu.
Khi điều này được thực hiện, EscalateGPT chia sẻ một đầu ra nêu chi tiết lộ trình leo thang đặc quyền và Tên tài nguyên Amazon (ARN) của chính sách có thể bị khai thác, đồng thời đề xuất các chiến lược giảm thiểu để khắc phục các lỗ hổng.
Nói rộng hơn, trường hợp sử dụng này minh họa cách các LLM như GPT-4 có thể được sử dụng để xác định cấu hình sai trong môi trường dựa trên đám mây. Chẳng hạn, báo cáo lưu ý rằng GPT-4 đã xác định thành công các tình huống leo thang đặc quyền phức tạp dựa trên các chính sách không tầm thường thông qua nhiều tài khoản IAM.
Khi được kết hợp với nhau, các trường hợp sử dụng này làm nổi bật rằng LLM và AI tổng quát có thể hoạt động như một hệ số nhân để các nhóm bảo mật xác định các lỗ hổng và xử lý mã, nhưng đầu ra của chúng vẫn cần được kiểm tra thủ công để đảm bảo độ tin cậy.
Sứ mệnh của VentureBeat là trở thành một quảng trường thành phố kỹ thuật số để những người ra quyết định kỹ thuật có được kiến thức về công nghệ doanh nghiệp chuyển đổi và giao dịch. Khám phá Briefings của chúng tôi.
