#DEFCON31 sẽ đưa ra đánh giá công khai về AI tổng quát tại Làng AI trong khi chính quyền Biden-Harris kêu gọi tiến hành đánh giá công khai về các hệ thống AI tổng quát hiện có. Điều này nhằm giúp bảo vệ trí tuệ nhân tạo và thúc đẩy AI có trách nhiệm. Sự kiện Chuyển đổi 2023 cũng sẽ được tổ chức để chia sẻ cách tích hợp và tối ưu hóa các khoản đầu tư AI để đạt được thành công và tránh những cạm bẫy phổ biến. Thông qua phương pháp tấn công của đối thủ, các nhà nghiên cứu bảo mật chủ động tìm lỗ hổng chưa biết trước đó của ứng dụng, trong một môi trường được kiểm soát. Các công ty hàng đầu như Google, Facebook, Microsoft, Nvidia, và OpenAI sẽ tham gia vào vụ hack Làng AI, với một phần của sứ mệnh để đảm bảo tiến bộ về khả năng của mô hình nền tảng diễn ra cùng với tiến bộ trong đánh giá và an toàn của mô hình.
Nguồn: https://venturebeat.com/ai/its-generative-ai-models-vs-hackers-at-def-cons-ai-village/
Tham gia cùng các giám đốc điều hành hàng đầu tại San Francisco vào ngày 11-12 tháng 7, để nghe cách các nhà lãnh đạo đang tích hợp và tối ưu hóa các khoản đầu tư AI để thành công. Tìm hiểu thêm
Một trong những cách hiệu quả nhất để kiểm tra tính bảo mật của ứng dụng là thông qua việc sử dụng các cuộc tấn công của đối thủ. Trong phương pháp này, các nhà nghiên cứu bảo mật chủ động tấn công công nghệ — trong một môi trường được kiểm soát — để thử và tìm ra các lỗ hổng chưa biết trước đó.
Đó là một cách tiếp cận hiện đang được chính quyền Biden-Harris ủng hộ để giúp bảo vệ trí tuệ nhân tạo tổng hợp (AI). Là một phần của nó Hành động để thúc đẩy AI có trách nhiệm thông báo ngày hôm qua, chính quyền đã kêu gọi tiến hành các đánh giá công khai về các hệ thống AI tổng quát hiện có. Do đó, hội nghị bảo mật DEF CON 31 năm nay, được tổ chức vào ngày 10–13 tháng 8, sẽ đưa ra đánh giá công khai về AI tổng quát tại làng AI.
“Hoạt động độc lập này sẽ cung cấp thông tin quan trọng cho các nhà nghiên cứu và công chúng về tác động của các mô hình này, đồng thời sẽ cho phép các công ty và nhà phát triển AI thực hiện các bước để khắc phục các sự cố phát hiện trong các mô hình đó,” Nhà Trắng tuyên bố trong một tuyên bố. giải phóng.
Một số nhà cung cấp hàng đầu trong không gian AI tổng hợp sẽ tham gia vào vụ hack Làng AI, bao gồm: nhân loạiGoogle, ôm mặt,Microsoft,Nvidia, mởAI Và AI ổn định.
Sự kiện
Chuyển đổi 2023
Hãy tham gia cùng chúng tôi tại San Francisco vào ngày 11-12 tháng 7, nơi các giám đốc điều hành hàng đầu sẽ chia sẻ cách họ đã tích hợp và tối ưu hóa các khoản đầu tư vào AI để đạt được thành công và tránh những cạm bẫy phổ biến.
Đăng ký ngay
Các làng DEF CON có lịch sử nâng cao kiến thức bảo mật
Hội nghị bảo mật DEF CON là một trong những cuộc tụ họp lớn nhất của các nhà nghiên cứu bảo mật trong bất kỳ năm nào và từ lâu đã là nơi phát hiện và tiết lộ các lỗ hổng bảo mật mới.
Đây sẽ không phải là lần đầu tiên một ngôi làng tại DEF CON nhắm đến một công nghệ đang trở thành tiêu đề trên toàn quốc. Trong những năm trước, đặc biệt là sau cuộc bầu cử ở Hoa Kỳ năm 2016 và lo ngại về sự can thiệp bầu cử, Làng bỏ phiếu đã được thành lập tại DEF CON nhằm nỗ lực xem xét tính bảo mật (hoặc thiếu tính bảo mật) trong các công nghệ, cơ sở hạ tầng và quy trình của máy bỏ phiếu.
Với các làng tại DEF CON, những người tham dự có thể thảo luận và thăm dò các công nghệ theo mô hình tiết lộ có trách nhiệm nhằm giúp cải thiện tình trạng bảo mật nói chung. Với AI, có một nhu cầu đặc biệt là kiểm tra rủi ro của công nghệ khi nó được triển khai rộng rãi hơn trong xã hội nói chung.
Cách hack AI tổng hợp sẽ hoạt động
Sven Cattell, người sáng lập Làng AI, đã nhận xét trong một tuyên bố rằng, theo truyền thống, các công ty đã giải quyết vấn đề xác định rủi ro bằng cách sử dụng các đội đỏ chuyên biệt.
Đội đỏ là một loại nhóm an ninh mạng mô phỏng các cuộc tấn công nhằm phát hiện các vấn đề tiềm ẩn. Theo Cattell, thách thức với AI tổng quát là rất nhiều công việc xung quanh AI tổng quát đã diễn ra một cách riêng tư mà không có sự đánh giá của nhóm đỏ.
Cattell cho biết: “Các vấn đề đa dạng với các mô hình này sẽ không được giải quyết cho đến khi có nhiều người biết cách lập đội đỏ và đánh giá chúng.
Về chi tiết cụ thể, mô phỏng tấn công AI tổng quát của Làng AI sẽ bao gồm quyền truy cập tại chỗ vào các mô hình ngôn ngữ lớn (LLM) từ các nhà cung cấp tham gia. Sự kiện này sẽ có cách tiếp cận hệ thống điểm cờ, trong đó những kẻ tấn công giành được điểm để đạt được các mục tiêu nhất định sẽ chứng minh một loạt các hoạt động có khả năng gây hại. Cá nhân có số điểm cao nhất sẽ giành được “GPU Nvidia cao cấp”.
Nền tảng đánh giá mà sự kiện sẽ diễn ra đang được phát triển bởi quy mô AI. “Khi việc sử dụng mô hình nền tảng trở nên phổ biến, điều quan trọng là phải đảm bảo rằng chúng được đánh giá cẩn thận về độ tin cậy và độ chính xác,” Alexandr Wang, người sáng lập và Giám đốc điều hành của Scale, nói với VentureBeat.
Wang lưu ý rằng Scale đã dành hơn bảy năm để xây dựng hệ thống AI từ đầu. Anh ấy tuyên bố rằng công ty của anh ấy cũng không thiên vị và không phụ thuộc vào bất kỳ hệ sinh thái đơn lẻ nào. Do đó, Wang cho biết Scale có thể kiểm tra và đánh giá các hệ thống một cách độc lập để đảm bảo chúng sẵn sàng được triển khai vào sản xuất.
Wang cho biết: “Bằng cách mang kiến thức chuyên môn của mình đến với nhiều đối tượng hơn tại DEF CON, chúng tôi hy vọng sẽ đảm bảo tiến bộ về khả năng của mô hình nền tảng diễn ra cùng với tiến bộ trong đánh giá và an toàn của mô hình”.
Sứ mệnh của VentureBeat là trở thành một quảng trường thành phố kỹ thuật số để những người ra quyết định kỹ thuật có được kiến thức về công nghệ doanh nghiệp chuyển đổi và giao dịch. Khám phá Briefings của chúng tôi.
