#SựKiện 11_12_Tháng7: An ninh mạng và tăng cường AI
Các giám đốc điều hành hàng đầu sẽ cùng nhau tham gia sự kiện tại San Francisco vào ngày 11-12 tháng 7 để thảo luận về cách tích hợp và tối ưu hóa AI trong lĩnh vực an ninh mạng để đạt được thành công. Trong bối cảnh các công cụ AI mới như OpenAI’s Trò chuyện GPT và Dall-E, Midjourney của Microsoft được giới chuyên môn đánh giá cao, công chúng càng quan tâm tới việc AI đã điều chỉnh và tăng tốc cho con người trong lĩnh vực này.
Mặc dù trong ngắn hạn, AI sẽ không thay thế cho con người, nhưng nó đã đóng vai trò tăng cường và tăng tốc cho con người trong các tác vụ cụ thể như số học, mô phỏng số và tìm kiếm tài liệu, giúp cho các tác vụ này được giảm tải và thực hiện hiệu quả hơn. Tuy vậy, tác động lâu dài của AI đối với an ninh mạng sẽ rất lớn và có thể không được đánh giá đúng mức.
Các chatbot AI sáng tạo là một ví dụ thực tế về tác động ngắn hạn của AI đối với an ninh mạng. Một số chatbot này có thể lừa đảo và thu thập thông tin nhạy cảm từ người dùng nhằm gây tổn hại. Tuy nhiên, công nghệ AI mới cũng cho phép kẻ xấu mạo danh con người một cách dễ dàng và chặt chẽ hơn, giúp họ tấn công mục tiêu một cách hiệu quả.
Để giải quyết vấn đề này, các giám đốc điều hành hàng đầu cần thảo luận về cách sử dụng và tối ưu hóa AI để đạt được an ninh mạng bảo mật hơn. Đăng ký ngay để tham gia sự kiện và tìm hiểu thêm về sự giao thoa giữa AI và an ninh mạng trong tương lai.
Nguồn: https://venturebeat.com/ai/cybersecurity-meets-ai-augmenting-and-accelerating-humans/
Tham gia cùng các giám đốc điều hành hàng đầu tại San Francisco vào ngày 11-12 tháng 7, để nghe cách các nhà lãnh đạo đang tích hợp và tối ưu hóa các khoản đầu tư AI để thành công. Tìm hiểu thêm
~“Bạn có thể sống trong thời gian thú vị”~
Có may mắn và cũng có rủi ro khi làm việc trong lĩnh vực an ninh mạng, tôi thường được hỏi về suy nghĩ của mình về cách lĩnh vực này giao thoa với một chủ đề phổ biến khác – trí tuệ nhân tạo (AI). Với những phát triển mới nhất gây chú ý trong các công cụ AI tổng quát, chẳng hạn như OpenAI’s Trò chuyệnGPTSydney của Microsoft và các công cụ tạo hình ảnh như Dall-E và Midjourney, không có gì ngạc nhiên khi AI đã thu hút được sự chú ý của công chúng.
Như thường xảy ra với nhiều công nghệ mới và thú vị, tác động ngắn hạn được nhận thức của những phát triển tạo tin tức mới nhất có thể được đánh giá quá cao. Ít nhất đó là quan điểm của tôi ngay lập tức trong phạm vi hẹp của bảo mật ứng dụng. Ngược lại, tác động lâu dài của AI đối với bảo mật là rất lớn và có lẽ không được đánh giá đúng mức, ngay cả với nhiều người trong chúng ta trong lĩnh vực này.
Thành tích tuyệt vời; thất bại bi thảm
Lùi lại một chút, học máy (ML) có một lịch sử lâu đời và sâu sắc. Nó có thể đã thu hút sự chú ý của công chúng lần đầu tiên với phần mềm chơi cờ cách đây 50 năm, theo thời gian, IBM Watson đã giành được chức vô địch Jeopardy cho đến các chatbot ngày nay gần như vượt qua huyền thoại. phép thử Turing.
Sự kiện
Chuyển đổi 2023
Hãy tham gia cùng chúng tôi tại San Francisco vào ngày 11-12 tháng 7, nơi các giám đốc điều hành hàng đầu sẽ chia sẻ cách họ đã tích hợp và tối ưu hóa các khoản đầu tư vào AI để đạt được thành công và tránh những cạm bẫy phổ biến.
Đăng ký ngay
Điều gây ấn tượng với tôi là mỗi cột mốc này đều là một thành tựu tuyệt vời ở cấp độ này và thất bại thảm hại ở cấp độ khác. Một mặt, các nhà nghiên cứu AI có thể xây dựng các hệ thống gần bằng và thường vượt qua con người giỏi nhất trên thế giới trên một vấn đề cụ thể.
Mặt khác, chính những thành công đó đã cho thấy có bao nhiêu sự khác biệt giữa AI và con người. Thông thường, những câu chuyện thành công về trí tuệ nhân tạo xuất sắc không phải bằng cách suy luận vượt trội hơn con người hay sáng tạo hơn mà bằng cách thực hiện điều gì đó cơ bản hơn theo thứ tự cường độ nhanh hơn hoặc ở quy mô lớn hơn theo cấp số nhân.
Tăng cường và tăng tốc con người
Vì vậy, khi tôi được hỏi, “Bạn nghĩ AI hay ML sẽ ảnh hưởng như thế nào đến an ninh mạng trong tương lai?” câu trả lời của tôi là tác động lớn nhất trong ngắn hạn sẽ không đến từ việc thay thế con người, mà đến từ việc tăng cường và tăng tốc con người.
Máy tính và máy tính là một phép loại suy tốt — không thay thế con người mà thay vào đó, chúng cho phép các tác vụ cụ thể — số học, mô phỏng số, tìm kiếm tài liệu — được giảm tải và thực hiện hiệu quả hơn.
Việc sử dụng các công cụ này đã mang lại một bước nhảy vọt về hiệu suất định lượng, cho phép thực hiện các nhiệm vụ này một cách phổ biến hơn. Điều này cho phép những cách làm việc hoàn toàn mới, chẳng hạn như các chế độ phân tích mới dành cho các bảng tính như VisiCalc và sau này là Excel, vì lợi ích của con người và xã hội nói chung. Một câu chuyện tương tự diễn ra với cờ vua trên máy tính, nơi cờ vua hay nhất thế giới hiện được chơi khi con người và máy tính hợp tácmỗi người đóng góp vào lĩnh vực mà họ giỏi nhất.
Những tác động tức thời nhất của AI đối với an ninh mạng dựa trên các chatbot AI sáng tạo “đứa trẻ mới trong khối” mới nhất đã được nhìn thấy. Một ví dụ có thể dự đoán được, một mô hình thường xảy ra bất cứ khi nào một dịch vụ hợp thời trang tiếp xúc với internet trở nên khả dụng, cho dù là vé ChatGPT hay Taylor Swift, là rất nhiều hàng giả. Trang web ChatGPT được thiết lập bởi bọn tội phạm để lừa đảo thu thập thông tin nhạy cảm từ người tiêu dùng.
Đương nhiên, thế giới doanh nghiệp cũng nhanh chóng nắm lấy những lợi ích. Ví dụ: các kỹ sư phần mềm đang tăng hiệu quả phát triển bằng cách sử dụng các công cụ tăng tốc tạo mã dựa trên AI như Phi công phụ. Tất nhiên, những công cụ tương tự này cũng có thể tăng tốc quá trình phát triển phần mềm cho những kẻ tấn công mạng, giảm lượng thời gian cần thiết từ khi phát hiện ra lỗ hổng cho đến khi có mã khai thác lỗ hổng đó.
Như hầu hết mọi trường hợp, xã hội thường nhanh chóng nắm bắt một công nghệ mới hơn là xem xét các tác động. Tiếp tục với ví dụ Copilot, việc sử dụng các công cụ tạo mã AI mở ra các mối đe dọa mới.
Một mối đe dọa như vậy là rò rỉ dữ liệu — tài sản trí tuệ quan trọng của công ty của nhà phát triển có thể bị tiết lộ khi AI “học” từ mã mà nhà phát triển viết và chia sẻ mã đó với các nhà phát triển khác mà nó hỗ trợ. Trên thực tế, chúng tôi đã có các ví dụ về mật khẩu bị rò rỉ thông qua Copilot.
Một mối đe dọa khác là sự tin tưởng không chính đáng vào mã được tạo mà có thể không có đủ sự giám sát của con người có kinh nghiệm, điều này dẫn đến nguy cơ mã dễ bị tổn thương được triển khai và mở ra nhiều lỗ hổng bảo mật hơn. Trên thực tế, gần đây du học NYU nhận thấy rằng khoảng 40% bộ mã đại diện do Copilot tạo ra có các lỗ hổng phổ biến.
Chatbot tinh vi hơn
Nhìn một chút, mặc dù không quá nhiều, nhưng xa hơn nữa, tôi hy vọng những kẻ xấu sẽ hợp tác với công nghệ AI mới nhất để làm những gì AI đã làm tốt nhất: Cho phép con người, bao gồm cả tội phạm, mở rộng quy mô theo cấp số nhân. Cụ thể, thế hệ chatbot AI mới nhất có khả năng đóng giả con người ở quy mô lớn và chất lượng cao.
Đây là một vận may lớn (từ quan điểm của tội phạm mạng), bởi vì trong quá khứ, chúng buộc phải lựa chọn hoặc là “rộng và nông” hoặc “hẹp và sâu” trong việc lựa chọn mục tiêu của mình. Nghĩa là, họ có thể nhắm mục tiêu vào nhiều nạn nhân tiềm năng, nhưng theo cách chung chung và dễ nhận biết (lừa đảo), hoặc họ có thể thực hiện công việc mạo danh tốt hơn, khó phát hiện hơn nhiều để nhắm mục tiêu chỉ một số ít, hoặc thậm chí chỉ một, nạn nhân tiềm năng (lừa đảo).
Với các chatbot AI mới nhất, kẻ tấn công đơn độc có thể mạo danh con người một cách chặt chẽ và dễ dàng hơn — dù là trong cuộc trò chuyện hay trong email được cá nhân hóa — ở quy mô tấn công đã tăng lên nhiều. Tất nhiên, các biện pháp đối phó bảo vệ sẽ phản ứng với động thái này và phát triển, có khả năng sử dụng các dạng AI khác, chẳng hạn như bộ phân loại học sâu. Trên thực tế, chúng ta đã có các máy dò do AI hỗ trợ hình ảnh giả mạo. Trò chơi mèo vờn chuột đang diễn ra sẽ tiếp tục, chỉ với các công cụ do AI hỗ trợ ở cả hai bên.
AI như một hệ số nhân lực lượng an ninh mạng
Nhìn sâu hơn một chút vào quả cầu pha lê, AI sẽ ngày càng được sử dụng nhiều hơn như một hệ số nhân cho các dịch vụ bảo mật và các chuyên gia sử dụng chúng. Một lần nữa, AI tạo ra những bước nhảy lượng tử về quy mô — nhờ khả năng tăng tốc những gì con người đã làm thường xuyên nhưng chậm chạp.
Tôi kỳ vọng các công cụ do AI hỗ trợ sẽ tăng đáng kể hiệu quả của các giải pháp bảo mật, giống như việc máy tính tăng tốc đáng kể công việc kế toán. Một ví dụ trong thế giới thực đã đưa suy nghĩ này vào thực tế là trong lĩnh vực bảo mật giảm thiểu DDoS. Trong các giải pháp cũ, khi một ứng dụng bị tấn công DDoS, trước tiên, các kỹ sư mạng của con người phải từ chối phần lớn lưu lượng truy cập đến, cả hợp lệ và không hợp lệ, chỉ để ngăn chặn các lỗi xếp tầng ở hạ lưu.
Sau đó, sau một thời gian, con người có thể tham gia vào quá trình phân tích các mẫu lưu lượng truy cập chuyên sâu hơn để xác định các thuộc tính cụ thể của lưu lượng truy cập độc hại để có thể chặn có chọn lọc. Quá trình này sẽ mất vài phút đến hàng giờ, ngay cả với những người giỏi nhất và lành nghề nhất. Tuy nhiên, ngày nay, AI đang được sử dụng để liên tục phân tích lưu lượng truy cập đến, tự động tạo chữ ký của lưu lượng truy cập không hợp lệ và thậm chí tự động áp dụng bộ lọc dựa trên chữ ký nếu sức khỏe của ứng dụng bị đe dọa — tất cả chỉ trong vài giây. Đây cũng là một ví dụ về đề xuất giá trị cốt lõi của AI: Thực hiện các tác vụ thông thường nhanh hơn rất nhiều.
Trí tuệ nhân tạo trong an ninh mạng: Nâng cao khả năng phát hiện gian lận
Mô hình sử dụng AI tương tự này để tăng tốc con người có thể và đang được áp dụng cho các giải pháp an ninh mạng thế hệ tiếp theo khác, chẳng hạn như phát hiện gian lận. Khi cần có phản hồi theo thời gian thực và đặc biệt là trong trường hợp độ tin cậy vào đánh giá của AI cao, AI sẽ được trao quyền để phản ứng ngay lập tức.
Điều đó nói rằng, các hệ thống AI vẫn không hiểu được con người hoặc hiểu được sắc thái hoặc bối cảnh. Trong những trường hợp mà khả năng xảy ra hoặc tác động kinh doanh của thông báo sai là quá lớn, AI vẫn có thể được sử dụng ở chế độ hỗ trợ — gắn cờ và ưu tiên các sự kiện bảo mật mà con người quan tâm nhất.
Kết quả cuối cùng là sự hợp tác giữa con người và AI, mỗi người làm những gì họ giỏi nhất, cải thiện hiệu suất và hiệu quả so với những gì một trong hai có thể làm độc lập, một lần nữa giống với sự tương tự của cờ vua trên máy tính.
Tôi có rất nhiều niềm tin vào sự tiến bộ cho đến nay. Nhìn sâu hơn vào quả cầu pha lê, tôi cảm thấy câu ngạn ngữ “lịch sử hiếm khi lặp lại, nhưng nó thường có vần điệu” là phù hợp. Tác động lâu dài của sự hợp tác giữa con người và AI, tức là kết quả của việc AI trở thành hệ số nhân lực đối với con người, đối với tôi cũng khó dự đoán như việc nhà thiết kế máy tính điện tử có thể dự đoán bảng tính.
Nói chung, tôi tưởng tượng nó sẽ cho phép con người xác định rõ hơn ý định, mức độ ưu tiên và biện pháp bảo vệ cho chính sách bảo mật, với sự hỗ trợ của AI và tự động ánh xạ ý định đó lên cấp độ hành động chi tiết tiếp theo.
Ken Arora là một kỹ sư nổi tiếng tại F5.
Dữ liệuNgười ra quyết định
Chào mừng bạn đến với cộng đồng VentureBeat!
DataDecisionMakers là nơi các chuyên gia, bao gồm cả những người kỹ thuật làm công việc dữ liệu, có thể chia sẻ những hiểu biết và đổi mới liên quan đến dữ liệu.
Nếu bạn muốn đọc về các ý tưởng tiên tiến và thông tin cập nhật, các phương pháp hay nhất cũng như tương lai của dữ liệu và công nghệ dữ liệu, hãy tham gia cùng chúng tôi tại DataDecisionMakers.
Bạn thậm chí có thể xem xét đóng góp một bài viết của riêng bạn!
Đọc thêm từ DataDecisionMakers
