#AIhack: Nguy cơ lạm dụng trí tuệ nhân tạo
Việc sử dụng trí tuệ nhân tạo tổng hợp (AI) bởi tin tặc đã trở thành mối đe dọa mới đối với an ninh mạng. Các mô hình AI sáng tạo cho phép tin tặc tạo dữ liệu giả thực tế và thuyết phục, chẳng hạn như hình ảnh, video và văn bản để lừa đảo trực tuyến và tấn công kỹ thuật xã hội. Tin tặc có thể sử dụng nhiều loại mô hình AI tổng quát khác nhau như mạng đối nghịch chung (GAN), bộ mã hóa tự động biến đổi (VAE) và mạng thần kinh tái phát (RNN) để tạo dữ liệu giả mạo.
Những email giả mạo do AI sáng tạo tạo ra có thể chứa các liên kết hoặc tệp đính kèm độc hại và có thể lây nhiễm vào máy tính của nạn nhân hoặc lấy cắp thông tin nhạy cảm. Để tạo ra dữ liệu giả thuyết phục, tin tặc có thể sử dụng nhiều thuật toán học máy khác nhau và tinh chỉnh các mô hình AI tổng quát hiện có.
Tài liệu nghiên cứu đã khám phá việc sử dụng AI tổng quát trong các cuộc tấn công mạng. Các công cụ và khuôn khổ cho phép tin tặc dễ dàng tạo dữ liệu giả bằng AI tổng quát cũng đã được phát triển. Việc lạm dụng trí tuệ nhân tạo đang tạo điều kiện thuận lợi cho công việc của các diễn viên tội phạm và đe dọa đến an ninh mạng.
#anNinhMạng #AITổngHợp #TấnCôngMạng #TinTặc #MạngĐốiNghịchChung #BộMãHóaTựĐộngBiếnĐổi #MạngThầnKinhTáiPhát #CôngCụTạoVideoGiả #HọcMáy #CácLoạiMôHìnhAI #HọcChuyểnGiao #HọcThuật #PhátTriểnPhầnMềmĐộcHại #KinhNghiệm
Nguồn: https://readwrite.com/generative-ai-posing-risk-of-criminal-abuse/
Việc sử dụng trí tuệ nhân tạo tổng hợp (trí tuệ nhân tạo) bởi tin tặc đã trở thành mối đe dọa mới nổi đối với an ninh mạng. Trí tuệ nhân tạo AI cho phép tin tặc tạo dữ liệu giả thực tế và thuyết phục, chẳng hạn như hình ảnh, video và văn bản mà chúng có thể sử dụng để lừa đảo trực tuyến, tấn công kỹ thuật xã hội và các loại tấn công mạng khác.
Trong bài viết này, chúng tôi sẽ cung cấp phân tích kỹ thuật toàn diện về AI tổng quát được sử dụng bởi tin tặc, bao gồm kiến trúc, hoạt động và triển khai của nó.
Các loại AI sáng tạo khác nhau
AI sáng tạo là một tập hợp con của học máy (ML) liên quan đến các mô hình đào tạo để tạo dữ liệu mới tương tự như dữ liệu đào tạo ban đầu. Tin tặc có thể sử dụng nhiều loại mô hình AI tổng quát khác nhau, chẳng hạn như mạng đối nghịch chung (GAN), bộ mã hóa tự động biến đổi (VAE) và mạng thần kinh tái phát (RNN).
- Mạng đối thủ chung (GAN): GAN bao gồm hai mạng thần kinh: bộ tạo và bộ phân biệt đối xử. Trình tạo tạo dữ liệu giả và bộ phân biệt đối xử phân biệt giữa dữ liệu thật và giả. Trình tạo học cách tạo dữ liệu thực tế bằng cách nhận phản hồi từ bộ phân biệt đối xử. Tin tặc có thể sử dụng GAN để tạo hình ảnh, video và văn bản giả mạo.
- Bộ mã hóa tự động biến đổi (VAE): VAE là một loại mô hình AI tổng quát khác liên quan đến việc mã hóa dữ liệu đầu vào thành không gian có chiều thấp hơn và sau đó giải mã nó để tạo dữ liệu mới. VAE có thể được sử dụng để tạo hình ảnh, video và văn bản mới.
- Mạng thần kinh tái phát (RNN): RNN là một loại mạng thần kinh có thể tạo ra các chuỗi dữ liệu mới, chẳng hạn như văn bản hoặc âm nhạc. Tin tặc có thể sử dụng RNN để tạo văn bản giả mạo, chẳng hạn như email lừa đảo.
AI sáng tạo: Rủi ro
Các mô hình AI sáng tạo hoạt động bằng cách học các mẫu và mối quan hệ trong dữ liệu đào tạo ban đầu, sau đó tạo dữ liệu mới tương tự như dữ liệu gốc.
Tin tặc có thể đào tạo các mô hình này trên các tập dữ liệu lớn gồm dữ liệu thực, chẳng hạn như hình ảnh, video và văn bản, để tạo ra dữ liệu giả thuyết phục. Tin tặc cũng có thể sử dụng phương pháp học chuyển đổi để tinh chỉnh các mô hình AI tổng quát hiện có nhằm tạo ra các loại dữ liệu giả mạo cụ thể, chẳng hạn như hình ảnh của một người cụ thể hoặc email giả mạo nhắm mục tiêu đến một tổ chức cụ thể.
Học chuyển giao liên quan đến việc sử dụng một mô hình AI tổng quát được đào tạo trước và tinh chỉnh nó trên một tập dữ liệu mới nhỏ hơn. Tin tặc có thể sử dụng nhiều thuật toán học máy để tạo dữ liệu giả thuyết phục.
Chi tiết hơn, GAN có thể được sử dụng để tạo hình ảnh và video thực tế bằng cách đào tạo trình tạo trên tập dữ liệu hình ảnh và video thực. VAE có thể được sử dụng để tạo hình ảnh mới bằng cách mã hóa chúng vào không gian có chiều thấp hơn và sau đó giải mã chúng trở lại không gian ban đầu. RNN có thể được sử dụng để tạo văn bản giả mạo, chẳng hạn như email lừa đảo.
Tin tặc có thể đào tạo RNN trên một tập dữ liệu lớn gồm các email hợp pháp, sau đó tinh chỉnh nó để tạo ra các email giả mạo có âm điệu và phong cách tương tự như email gốc. Những email giả mạo này có thể chứa các liên kết hoặc tệp đính kèm độc hại có thể lây nhiễm vào máy tính của nạn nhân hoặc lấy cắp thông tin nhạy cảm.
Nghiên cứu học thuật: AI sáng tạo cho các hoạt động độc hại
Một số tài liệu nghiên cứu đã khám phá việc sử dụng AI tổng quát trong các cuộc tấn công mạng. Ví dụ, một bài báo có tiêu đề “Tạo các ví dụ về đối thủ với các mạng đối thủ” đã khám phá cách GAN có thể được sử dụng để tạo ra các ví dụ bất lợi có thể đánh lừa các mô hình máy học. Các ví dụ bất lợi là đầu vào cho các mô hình máy học đã được thiết kế có chủ ý để khiến mô hình mắc lỗi.
Một bài báo khác có tiêu đề “Tạo các ví dụ về phần mềm độc hại đối nghịch cho các cuộc tấn công hộp đen dựa trên GAN” đã khám phá cách GAN có thể được sử dụng để tạo các ví dụ về phần mềm độc hại đối nghịch có thể trốn tránh sự phát hiện của phần mềm chống vi-rút. Bài báo đã chứng minh rằng GAN có thể được sử dụng để tạo các mẫu phần mềm độc hại có thể vượt qua các phương pháp phát hiện dựa trên chữ ký và cũng tránh các phương pháp phát hiện dựa trên kinh nghiệm.
Ngoài các tài liệu nghiên cứu, còn có các công cụ và khuôn khổ cho phép tin tặc dễ dàng tạo dữ liệu giả bằng AI tổng quát. Ví dụ: DeepFakes là một công cụ cho phép người dùng tạo các video giả như thật bằng cách hoán đổi khuôn mặt của mọi người trong các video hiện có. Công cụ này có thể được sử dụng cho các mục đích xấu, chẳng hạn như tạo video giả để bôi nhọ ai đó hoặc truyền bá thông tin sai lệch.
AI sáng tạo: Tạo điều kiện thuận lợi cho công việc của các diễn viên tội phạm
Ngày nay, tin tặc sử dụng các mô hình AI tổng quát theo nhiều cách khác nhau để thực hiện các cuộc tấn công mạng. Ví dụ: họ có thể sử dụng hình ảnh và video giả để tạo email lừa đảo thuyết phục có vẻ như đến từ các nguồn hợp pháp, chẳng hạn như ngân hàng hoặc tổ chức tài chính khác.
Tội phạm cũng có thể sử dụng văn bản giả do OpenAI hoặc các công cụ tương tự tạo ra để tạo email lừa đảo thuyết phục được cá nhân hóa cho nạn nhân. Những email này có thể sử dụng chiến thuật kỹ thuật xã hội để lừa nạn nhân nhấp vào liên kết độc hại hoặc cung cấp thông tin nhạy cảm.
AI sáng tạo có một số trường hợp sử dụng cho tin tặc, bao gồm:
- Tấn công lừa đảo: Tin tặc có thể sử dụng trí tuệ nhân tạo tổng hợp để tạo dữ liệu giả thuyết phục, chẳng hạn như hình ảnh, video và văn bản, nhằm tạo ra các email lừa đảo có vẻ như đến từ các nguồn hợp pháp. Những email này có thể chứa các liên kết hoặc tệp đính kèm cài đặt phần mềm độc hại trên máy tính của nạn nhân hoặc đánh cắp thông tin đăng nhập của họ.
- Các cuộc tấn công kỹ thuật xã hội: AI sáng tạo có thể được sử dụng để tạo các hồ sơ mạng xã hội giả mạo trông giống như thật. Tin tặc có thể sử dụng các hồ sơ này để lấy lòng tin của mục tiêu và lừa họ cung cấp thông tin nhạy cảm hoặc nhấp vào liên kết độc hại.
- phát triển phần mềm độc hại: Tin tặc có thể sử dụng AI tổng quát để tạo ra các dòng phần mềm độc hại mới được thiết kế để tránh bị phần mềm chống vi-rút truyền thống phát hiện. Bằng cách tạo hàng nghìn biến thể của một mẫu phần mềm độc hại, họ có thể tạo các phiên bản phần mềm độc hại duy nhất khó phát hiện.
- Bẻ khóa mật khẩu: AI sáng tạo có thể được sử dụng để tạo các tổ hợp mật khẩu mới cho các cuộc tấn công vũ phu vào các hệ thống được bảo vệ bằng mật khẩu. Bằng cách đào tạo các mô hình AI về mật khẩu và mẫu hiện có, tin tặc có thể tạo ra các tổ hợp mật khẩu mới có khả năng thành công.
- Hoạt động lừa đảo: Tin tặc có thể sử dụng AI tổng quát để tạo các tài liệu giả mạo, chẳng hạn như hóa đơn và biên lai, có vẻ hợp pháp. Họ có thể sử dụng các tài liệu này để thực hiện các hoạt động gian lận, chẳng hạn như gian lận hóa đơn hoặc gian lận bồi hoàn chi phí.
- Tấn công mạo danh: AI sáng tạo có thể được sử dụng để tạo các bản ghi âm giọng nói hoặc video giả có thể được sử dụng để mạo danh người khác. Điều này có thể được sử dụng để lừa nạn nhân cung cấp thông tin nhạy cảm hoặc thực hiện các hành động trái phép.
Giảm nguy cơ tội phạm mạng lạm dụng trí tuệ nhân tạo
Với việc tội phạm mạng ngày càng sử dụng nhiều trí tuệ nhân tạo để thực hiện các hoạt động độc hại khác nhau, điều quan trọng đối với thế giới là phải thực hiện các bước thích hợp để giảm nguy cơ lạm dụng AI. Sau đây là một số biện pháp có thể được thực hiện để đạt được mục tiêu này:
- Triển khai các biện pháp bảo mật mạnh mẽ: Các tổ chức và cá nhân nên triển khai các biện pháp bảo mật mạnh mẽ để bảo vệ hệ thống và dữ liệu của họ khỏi các mối đe dọa trên mạng. Điều này bao gồm sử dụng xác thực đa yếu tố, mật khẩu mạnh và thường xuyên cập nhật phần mềm và ứng dụng.
- Phát triển Công cụ bảo mật nâng cao: Các nhà nghiên cứu và chuyên gia bảo mật nên tiếp tục phát triển các công cụ bảo mật tiên tiến có thể phát hiện và ngăn chặn các cuộc tấn công mạng sử dụng AI tổng quát. Những công cụ này sẽ có thể xác định và chặn lưu lượng độc hại sử dụng dữ liệu giả do các mô hình AI tạo ra.
- Tăng cường nhận thức và giáo dục: Điều quan trọng là phải tăng cường nhận thức và giáo dục về những rủi ro tiềm ẩn của việc lạm dụng AI tổng quát. Điều này bao gồm đào tạo nhân viên và cá nhân về cách xác định và tránh các cuộc tấn công lừa đảo, chiến thuật kỹ thuật xã hội và các loại mối đe dọa mạng khác.
- Tăng cường các quy định: Chính phủ và các cơ quan quản lý nên tăng cường các quy định xung quanh việc sử dụng AI tổng quát để ngăn chặn việc lạm dụng nó. Điều này bao gồm thiết lập các tiêu chuẩn về quyền riêng tư và bảo mật dữ liệu, cũng như giám sát và thực thi tuân thủ.
Việc giảm nguy cơ lạm dụng trí tuệ nhân tạo của tội phạm mạng đòi hỏi nỗ lực chung của các cá nhân, tổ chức và chính phủ. Bằng cách triển khai các biện pháp bảo mật mạnh mẽ, phát triển các công cụ bảo mật tiên tiến, nâng cao nhận thức và giáo dục cũng như củng cố các quy định, chúng ta có thể tạo ra một thế giới kỹ thuật số an toàn và bảo mật hơn.
Phần kết luận
Tóm lại, AI tổng quát là một công cụ mạnh mẽ có thể được sử dụng cho cả mục đích hợp pháp và mục đích xấu. Mặc dù nó có nhiều ứng dụng tiềm năng trong các lĩnh vực như y học, nghệ thuật và giải trí, nhưng nó cũng đặt ra một mối đe dọa an ninh mạng đáng kể.
Tin tặc có thể sử dụng AI tổng quát để tạo dữ liệu giả thuyết phục có thể được sử dụng để thực hiện các vụ lừa đảo, tấn công kỹ thuật xã hội và các loại tấn công mạng khác. Điều cần thiết đối với các chuyên gia an ninh mạng là luôn cập nhật những tiến bộ mới nhất về AI tổng quát và phát triển các biện pháp đối phó hiệu quả để bảo vệ chống lại các loại tấn công này.
Tín dụng hình ảnh nổi bật: Đồ họa do tác giả cung cấp; Cảm ơn!
Jim Biniyaz
Giám đốc điều hành và đồng sáng lập
Jim là Giám đốc điều hành và Đồng sáng lập của ResilientX Security và là Đối tác chung của Parrot Media Group. Anh ấy đam mê An ninh mạng, đổi mới và phát triển sản phẩm. Trước đây Jim là Đồng sáng lập của DeltaThreat và Next IQ Ltd.
[ad_2]
