#SựKiệnHômNay: Nghiên cứu mới tiết lộ tội phạm mạng ngày càng sử dụng AI để tăng cường các cuộc tấn công email. Các nhà lãnh đạo hàng đầu sẽ tìm hiểu cách tối ưu hóa đầu tư AI để đạt được thành công tại sự kiện Chuyển đổi 2023 ở San Francisco vào ngày 11-12/7. Theo nghiên cứu của Abnormal Security, các tác nhân đe dọa khai thác các công cụ GenAI như ChatGPT để tạo ra các cuộc tấn công email chân thực và thuyết phục hơn. AI cũng được sử dụng để tạo ra các cuộc tấn công BEC và VEC, gây ra mối đe dọa đáng kể đối với các nạn nhân. Các nhân viên ngày càng gặp khó khăn trong việc phân biệt giữa tin nhắn xác thực và tin nhắn lừa đảo.
Tham gia cùng các giám đốc điều hành hàng đầu tại San Francisco vào ngày 11-12 tháng 7, để nghe cách các nhà lãnh đạo đang tích hợp và tối ưu hóa các khoản đầu tư AI để thành công. Tìm hiểu thêm
Một nghiên cứu được thực hiện bởi nền tảng bảo mật email Bảo mật bất thường đã tiết lộ việc tội phạm mạng ngày càng sử dụng rộng rãi AI, bao gồm cả ChatGPT, để phát triển các cuộc tấn công email cực kỳ chân thực và thuyết phục.
Công ty gần đây đã thực hiện một phân tích toàn diện để đánh giá xác suất của dựa trên AI sáng tạo các cuộc tấn công email mới bị chặn bởi nền tảng của họ. Cuộc điều tra này cho thấy những kẻ đe dọa hiện đang tận dụng các công cụ GenAI để tạo ra các cuộc tấn công email ngày càng trở nên thực tế và thuyết phục hơn.
Các nhà lãnh đạo bảo mật đã bày tỏ mối lo ngại liên tục về tác động của các cuộc tấn công email do AI tạo ra kể từ khi ChatGPT xuất hiện. Phân tích của An ninh bất thường cho thấy AI hiện đang được sử dụng để tạo ra các phương pháp tấn công mới, bao gồm lừa đảo thông tin xác thực, phiên bản nâng cao của sơ đồ thỏa hiệp email doanh nghiệp truyền thống (BEC) và gian lận của nhà cung cấp.
Theo công ty, người nhận email có truyền thống dựa vào việc xác định lỗi chính tả và lỗi ngữ pháp để phát hiện các cuộc tấn công lừa đảo. Tuy nhiên, AI tổng quát có thể giúp tạo các email được viết hoàn hảo gần giống với giao tiếp hợp pháp. Do đó, nhân viên ngày càng gặp khó khăn trong việc phân biệt giữa tin nhắn xác thực và tin nhắn lừa đảo.
Sự kiện
Chuyển đổi 2023
Hãy tham gia cùng chúng tôi tại San Francisco vào ngày 11-12 tháng 7, nơi các giám đốc điều hành hàng đầu sẽ chia sẻ cách họ đã tích hợp và tối ưu hóa các khoản đầu tư vào AI để đạt được thành công và tránh những cạm bẫy phổ biến.
Đăng ký ngay
Tội phạm mạng viết nội dung độc đáo
Dan Shiebler, người đứng đầu ML tại Abnormal Security, nói với VentureBeat, những kẻ tấn công thỏa hiệp email doanh nghiệp (BEC) thường sử dụng các mẫu để viết và khởi chạy các cuộc tấn công email của họ.
Ông nói: “Vì điều này, nhiều cuộc tấn công BEC truyền thống có nội dung phổ biến hoặc định kỳ có thể được phát hiện bằng công nghệ bảo mật email dựa trên các chính sách được đặt trước. “Nhưng với các công cụ AI tổng quát như Trò chuyệnGPT, tội phạm mạng đang viết nhiều nội dung độc đáo hơn, dựa trên những khác biệt nhỏ trong lời nhắc AI chung của chúng. Điều này làm cho việc phát hiện dựa trên các trận đấu chỉ số tấn công đã biết trở nên khó khăn hơn nhiều đồng thời cho phép họ mở rộng quy mô các cuộc tấn công của mình.”
Nghiên cứu của Abnormal tiết lộ thêm rằng các tác nhân đe dọa vượt xa các cuộc tấn công BEC truyền thống và tận dụng các công cụ tương tự như ChatGPT để mạo danh nhà cung cấp. Các cuộc tấn công thỏa hiệp email của nhà cung cấp (VEC) này khai thác lòng tin hiện có giữa nhà cung cấp và khách hàng, chứng minh các kỹ thuật kỹ thuật xã hội có hiệu quả cao.
Tương tác với các nhà cung cấp thường liên quan đến các cuộc thảo luận liên quan đến hóa đơn và thanh toán, điều này làm tăng thêm mức độ phức tạp trong việc xác định các cuộc tấn công bắt chước các trao đổi này. Việc không có cờ đỏ dễ thấy chẳng hạn như lỗi chính tả càng làm tăng thêm thách thức phát hiện.
“Mặc dù chúng tôi vẫn đang thực hiện phân tích đầy đủ để hiểu mức độ của các cuộc tấn công email do AI tạo ra, nhưng Bất thường đã chứng kiến sự gia tăng rõ rệt về số lượng các cuộc tấn công có chỉ số AI dưới dạng phần trăm của tất cả các cuộc tấn công, đặc biệt là trong vài tuần qua,” Shiebler nói với VentureBeat.
Tạo các cuộc tấn công lừa đảo không thể phát hiện thông qua AI tổng quát
Theo Shiebler, GenAI gây ra mối đe dọa đáng kể trong các cuộc tấn công email vì nó cho phép các tác nhân đe dọa tạo ra nội dung rất tinh vi. Điều này làm tăng khả năng đánh lừa thành công các mục tiêu nhấp vào liên kết độc hại hoặc tuân thủ hướng dẫn của họ. Chẳng hạn, việc tận dụng AI để soạn các cuộc tấn công email sẽ loại bỏ các lỗi đánh máy và ngữ pháp thường liên quan và được sử dụng để xác định các cuộc tấn công BEC truyền thống.
Shiebler giải thích: “Nó cũng có thể được sử dụng để tạo ra khả năng cá nhân hóa cao hơn. “Hãy tưởng tượng nếu các tác nhân đe dọa nhập các đoạn mã lịch sử email hoặc nội dung hồ sơ LinkedIn của nạn nhân vào trang web của họ. Trò chuyệnGPT truy vấn. Các email sẽ bắt đầu hiển thị ngữ cảnh, ngôn ngữ và giọng điệu điển hình mà nạn nhân mong đợi, khiến các email BEC trở nên lừa đảo hơn.”
Công ty lưu ý rằng tội phạm mạng đã tìm nơi ẩn náu trong các miền mới được tạo cách đây một thập kỷ. Tuy nhiên, các công cụ bảo mật đã nhanh chóng phát hiện và ngăn chặn các hoạt động độc hại này. Đáp lại, những kẻ đe dọa đã điều chỉnh chiến thuật của chúng bằng cách sử dụng các tài khoản webmail miễn phí như Gmail và Outlook. Các miền này thường được liên kết với các hoạt động kinh doanh hợp pháp, cho phép chúng trốn tránh các biện pháp bảo mật truyền thống.
Khai thác các nền tảng doanh nghiệp phổ biến
Trí tuệ nhân tạo Sáng tạo đi theo con đường tương tự, vì nhân viên hiện dựa vào các nền tảng như ChatGPT và Google Bard để liên lạc kinh doanh thông thường. Do đó, việc chặn bừa bãi tất cả các email do AI tạo ra trở nên không thực tế.
Một cuộc tấn công như vậy bị chặn bởi Bất thường liên quan đến một email được gửi bởi “Meta for Business”, thông báo cho người nhận rằng Trang Facebook của họ đã vi phạm các tiêu chuẩn cộng đồng và đã bị hủy xuất bản.
Để khắc phục tình trạng này, email đã khuyến khích người nhận nhấp vào liên kết được cung cấp để gửi đơn kháng cáo. Họ không hề hay biết, liên kết này đã hướng họ đến một trang lừa đảo được thiết kế để đánh cắp thông tin đăng nhập Facebook của họ. Đáng chú ý, email hiển thị ngữ pháp hoàn hảo và bắt chước thành công ngôn ngữ thường được liên kết với Meta for Business.
Công ty cũng nhấn mạnh thách thức đáng kể mà những email được tạo thủ công tỉ mỉ này liên quan đến việc phát hiện con người. Abnormal nhận thấy rằng khi đối mặt với những email thiếu lỗi ngữ pháp hoặc lỗi chính tả, các cá nhân dễ trở thành nạn nhân của các cuộc tấn công như vậy.
“Các cuộc tấn công email do AI tạo ra có thể bắt chước các giao tiếp hợp pháp từ cả cá nhân và thương hiệu,” Shiebler nói thêm. “Chúng được viết một cách chuyên nghiệp, với cảm giác trang trọng thường thấy đối với vấn đề kinh doanh và trong một số trường hợp, chúng được ký bởi một người gửi có tên từ một tổ chức hợp pháp.”
Các biện pháp phát hiện văn bản do AI tạo ra
Shiebler ủng hộ việc sử dụng AI như một phương pháp hiệu quả nhất để xác định các email do AI tạo ra.
Nền tảng của Abnormal sử dụng mã nguồn mở mô hình ngôn ngữ lớn (LLMs) để đánh giá xác suất của mỗi từ dựa trên ngữ cảnh của nó. Điều này cho phép phân loại email nhất quán với ngôn ngữ do AI tạo ra. Hai công cụ phát hiện AI bên ngoài, OpenAI Detector và GPTZero, được sử dụng để xác thực những phát hiện này.
Shiebler cho biết: “Chúng tôi sử dụng một công cụ dự đoán chuyên dụng để phân tích khả năng hệ thống AI sẽ chọn từng từ trong email dựa trên ngữ cảnh bên trái của email đó. “Nếu các từ trong email có khả năng liên tục cao (có nghĩa là mỗi từ đều phù hợp cao với những gì mô hình AI sẽ nói, nhiều hơn so với trong văn bản của con người), thì chúng tôi sẽ phân loại email đó có thể được viết bởi AI.”
Tuy nhiên, công ty thừa nhận rằng phương pháp này không phải là hoàn hảo. Một số email không do AI tạo, chẳng hạn như email tiếp thị dựa trên mẫu hoặc tiếp cận bán hàng, có thể chứa các chuỗi từ tương tự như các chuỗi từ do AI tạo. Ngoài ra, các email có các cụm từ phổ biến, chẳng hạn như đoạn trích từ Kinh thánh hoặc Hiến pháp, có thể dẫn đến phân loại AI sai.
“Không phải tất cả các email do AI tạo đều có thể bị chặn, vì có nhiều trường hợp sử dụng hợp pháp trong đó nhân viên thực sự sử dụng AI để tạo nội dung email,” Shiebler nói thêm. “Như vậy, thực tế là một email có các chỉ số AI phải được sử dụng cùng với nhiều tín hiệu khác để chỉ ra mục đích xấu.”
Phân biệt giữa nội dung hợp pháp và độc hại
Để giải quyết vấn đề này, Shiebler khuyên các tổ chức nên áp dụng các giải pháp hiện đại để phát hiện các mối đe dọa đương đại, bao gồm các cuộc tấn công do AI tạo ra rất tinh vi gần giống với các email hợp pháp. Ông nói rằng khi kết hợp, điều quan trọng là phải đảm bảo rằng các giải pháp này có thể phân biệt giữa các email hợp pháp do AI tạo ra và những email có mục đích xấu.
“Thay vì tìm kiếm các dấu hiệu thỏa hiệp đã biết, vốn liên tục thay đổi, các giải pháp sử dụng AI để tạo cơ sở cho hành vi bình thường trong môi trường email — bao gồm các kiểu, kiểu và mối quan hệ giao tiếp cụ thể của người dùng — sau đó sẽ có thể phát hiện các điểm bất thường có thể chỉ ra một một cuộc tấn công tiềm năng, bất kể nó được tạo ra bởi con người hay bởi AI,” ông giải thích.
Ông cũng khuyên các tổ chức duy trì các hoạt động an ninh mạng tốt, bao gồm tiến hành đào tạo nâng cao nhận thức bảo mật liên tục để đảm bảo nhân viên luôn cảnh giác trước các rủi ro BEC.
Hơn nữa, ông cho biết, việc triển khai các chiến lược như quản lý mật khẩu và xác thực đa yếu tố (MFA) sẽ cho phép các tổ chức giảm thiểu thiệt hại tiềm ẩn trong trường hợp tấn công thành công.
Sứ mệnh của VentureBeat là trở thành một quảng trường thành phố kỹ thuật số để những người ra quyết định kỹ thuật có được kiến thức về công nghệ doanh nghiệp chuyển đổi và giao dịch. Khám phá Briefings của chúng tôi.
[ad_2]
