#GoogleIO #AI #Bảo_mật_email
Aparna Pappu, phó chủ tịch kiêm tổng giám đốc của Google Workspace, đã giới thiệu tầm nhìn của Google về cách trí tuệ nhân tạo có thể bảo vệ và tấn công hộp thư đến của người dùng tại sự kiện Google I/O ngày 10/5. Pappu đã chỉ ra cách AI tổng quát có thể giúp người dùng lướt qua hộp thư đến của họ và làm chệch hướng các cuộc tấn công lừa đảo.
Máy học là một phần quan trọng trong việc bảo vệ Gmail của Google và các chuyên gia bảo mật đang tập trung vào sử dụng các kỹ thuật máy học nhằm nỗ lực bảo vệ hộp thư đến của người dùng hơn nữa. Tuy nhiên, các kẻ tấn công vẫn tìm cách phá vỡ các biện pháp bảo vệ và sử dụng AI để cá nhân hóa các nỗ lực lừa đảo theo cách mà người dùng khó phát hiện.
Mặc dù các chi tiết về cách AI bảo vệ và tấn công hộp thư đến của bạn vẫn chưa rõ ràng, nhưng cộng đồng AI đang không ngừng phát triển các biện pháp bảo vệ an ninh tốt hơn và tinh vi hơn để đối phó với các cuộc tấn công.
Nguồn: https://www.wired.com/story/how-ai-protects-inbox-phishing/
Khi Aparna Pappu, phó chủ tịch kiêm tổng giám đốc của Google Workspace, khi phát biểu tại Google I/O vào ngày 10 tháng 5, bà đã đưa ra tầm nhìn về trí tuệ nhân tạo giúp người dùng lướt qua hộp thư đến của họ. Pappu đã chỉ ra cách AI tổng quát có thể thì thầm tóm tắt các chuỗi email dài vào tai bạn, lấy dữ liệu liên quan từ các tệp cục bộ khi bạn salsa cùng nhau thông qua các tin nhắn chưa đọc và hạ thấp bạn xuống đất khi nó gợi ý văn bản có thể chèn. Chào mừng tới hộp thư đến của tương lai.
Mặc dù các chi tiết cụ thể về cách nó sẽ đến vẫn chưa rõ ràng, nhưng AI tổng quát sẵn sàng thay đổi về cơ bản cách mọi người giao tiếp qua email. Một tập hợp con rộng lớn hơn của AI, được gọi là học máy, đã thực hiện một loại điệu nhảy an toàn lâu sau khi bạn đã đăng xuất. “Máy học là một phần quan trọng trong những gì chúng tôi sử dụng để bảo mật Gmail,” Pappu nói với WIRED.
Một số lần nhấp nhầm vào email đáng ngờ có thể tàn phá khả năng bảo mật của bạn, vậy máy học giúp làm chệch hướng các cuộc tấn công lừa đảo như thế nào? Neil Kumaran, trưởng nhóm sản phẩm tại Google, người tập trung vào bảo mật, giải thích rằng công nghệ máy học có thể xem xét cách diễn đạt của các email gửi đến và so sánh nó với các cuộc tấn công trước đây. Nó cũng có thể gắn cờ các mẫu thông báo bất thường và phát hiện ra bất kỳ điều kỳ lạ nào phát ra từ siêu dữ liệu.
Công nghệ máy học có thể làm được nhiều việc hơn là chỉ gắn cờ các thông báo nguy hiểm khi chúng bật lên. Kumaran chỉ ra rằng nó cũng có thể được sử dụng để theo dõi những người chịu trách nhiệm về các cuộc tấn công lừa đảo. Anh ấy nói, “Tại thời điểm tạo tài khoản, chúng tôi thực hiện đánh giá. Chúng tôi cố gắng tìm hiểu xem ‘Có vẻ như tài khoản này sẽ được sử dụng cho mục đích xấu không?’”. Trong trường hợp có một cuộc tấn công lừa đảo thành công vào tài khoản Google của bạn, AI cũng tham gia vào quá trình khôi phục. Công ty sử dụng máy học để giúp quyết định những lần đăng nhập nào là hợp pháp.
“Làm cách nào để chúng tôi ngoại suy thông tin tình báo từ các báo cáo của người dùng để xác định các cuộc tấn công mà chúng tôi có thể không biết hoặc ít nhất là bắt đầu mô hình hóa tác động đối với người dùng của mình?” Kumaran hỏi. Câu trả lời từ Google, giống như câu trả lời cho nhiều câu hỏi vào năm 2023, là nhiều AI hơn. Trường hợp này của AI không phải là một chatbot tán tỉnh trêu chọc bạn bằng những cuộc trao đổi dài đến tận đêm khuya; đó là một người bảo vệ vạm vỡ đuổi những kẻ kích động điên cuồng bằng thuật toán của nó khoanh tay.
Mặt khác, điều gì đang xúi giục các cuộc tấn công lừa đảo nhiều hơn vào hộp thư đến email của bạn? Tôi sẽ cho bạn một đoán. Chữ cái đầu tiên “A”, chữ cái cuối cùng “I.” Trong nhiều năm, các chuyên gia bảo mật đã cảnh báo về khả năng Các cuộc tấn công lừa đảo do AI tạo ra để tràn ngập hộp thư đến của bạn. Patrick Harr, Giám đốc điều hành của dấu gạch chéotiếp theo, một công ty bảo mật tin nhắn. Giống như khi mọi người sử dụng hình ảnh và video do AI tạo ra để tạo deepfakes khá thuyết phụcnhững kẻ tấn công có thể sử dụng văn bản do AI tạo ra để cá nhân hóa các nỗ lực lừa đảo theo cách mà người dùng khó phát hiện.
Nhiều công ty tập trung vào bảo mật email đang làm việc trên các mô hình và sử dụng các kỹ thuật máy học nhằm nỗ lực bảo vệ hộp thư đến của bạn hơn nữa. Hatem Naguib, CEO của mạng cá nhồng, một công ty bảo mật CNTT. Trong học tập có giám sát, ai đó thêm nhãn vào một phần dữ liệu email. Những thư nào có khả năng an toàn? Những cái nào là đáng ngờ? Dữ liệu này được ngoại suy để giúp công ty gắn cờ các cuộc tấn công lừa đảo bằng máy học.
Đó là một khía cạnh có giá trị của việc phát hiện lừa đảo, nhưng những kẻ tấn công vẫn tìm cách phá vỡ các biện pháp bảo vệ. Một lừa đảo dai dẳng về một quà tặng làm mát Yeti trang điểm đã trốn tránh các bộ lọc vào năm ngoái với một loại neo HTML không mong đợi.
Tội phạm mạng sẽ vẫn có ý định hack tài khoản trực tuyến của bạn, đặc biệt là email doanh nghiệp của bạn. Những người sử dụng AI tổng quát có thể dịch tốt hơn các cuộc tấn công lừa đảo của họ thành đa ngôn ngữvà các ứng dụng kiểu chatbot có thể tự động hóa các phần của tin nhắn qua lại với các nạn nhân tiềm năng.
Bất chấp tất cả các cuộc tấn công lừa đảo có thể do AI kích hoạt, Aparna Pappu vẫn lạc quan về sự phát triển không ngừng của các biện pháp bảo vệ an ninh tốt hơn, tinh vi hơn. Cô ấy nói: “Bạn đã hạ thấp chi phí cần thiết để thu hút ai đó. “Tuy nhiên, mặt khác, chúng tôi đã xây dựng được khả năng phát hiện lớn hơn nhờ những công nghệ này.”
[ad_2]
