Hãy tham gia sự kiện Chuyển đổi 2023 tại San Francisco vào ngày 11-12 tháng 7, để cùng các giám đốc điều hành hàng đầu tìm hiểu cách tích hợp và tối ưu hóa các khoản đầu tư vào Trí tuệ nhân tạo (AI) để đạt được thành công và tránh các cạm bẫy phổ biến. Sự nguy hiểm của AI sáng tạo không chỉ giới hạn trong việc tạo ra các sản phẩm công việc con người và nội dung giả mạo, mà nó còn có khả năng tạo ra hình thức truyền thông hoàn toàn mới, mang tính cá nhân hóa cao và có khả năng thao túng cao hơn bất kỳ hình thức truyền thông mục tiêu nào mà chúng ta nhắm đến. Tương tác phương tiện truyền thông có thể được tạo hoặc sửa đổi trong thời gian thực để tối đa hóa tác động thuyết phục dựa trên dữ liệu cá nhân về người dùng nhận. Đây là mối nguy hiểm cấp bách nhất mà ngành cần tập trung vào. Tuy nhiên, nếu khai thác AI sáng tạo một cách cẩn thận và cùng với các biện pháp đối phó, rủi ro này có thể được giảm xuống. Tham gia sự kiện Chuyển đổi 2023 để tìm hiểu thêm. #Chuyểnđổi2023 #AI #Sựkhácnghẹt #Trítuệnhântạo #Tươngtácphươngtiệntruyềnmạng #Quảngcáotừgradualđếntargeted #Đầubiểudựchoquảngcáo #NguyhiểmcủaAI #Nhàhoạchđịnhchính sách #Dữliệucánhân #Tuỳchỉnhthờigianthực #Tốiđahóaảnhhưởngthuyếtbày.
Nguồn: https://venturebeat.com/ai/why-generative-ai-is-more-dangerous-than-you-think/
Tham gia cùng các giám đốc điều hành hàng đầu tại San Francisco vào ngày 11-12 tháng 7, để nghe cách các nhà lãnh đạo đang tích hợp và tối ưu hóa các khoản đầu tư AI để thành công. Tìm hiểu thêm
Rất nhiều điều đã được viết về sự nguy hiểm của trí tuệ nhân tạo trong những tháng gần đây và tất cả những gì tôi thấy đều gói gọn trong ba lập luận đơn giản, không có lập luận nào phản ánh rủi ro lớn nhất mà tôi thấy đang hướng tới chúng ta. Trước khi tôi đi sâu vào mối nguy tiềm ẩn này của AI sáng tạo, sẽ rất hữu ích nếu tóm tắt những cảnh báo phổ biến đang nổi lên gần đây:
- Rủi ro đối với việc làm: AI sáng tạo hiện có thể tạo ra các sản phẩm công việc ở cấp độ con người, từ tác phẩm nghệ thuật và bài tiểu luận đến báo cáo khoa học. Điều này sẽ rất sự va chạm thị trường việc làm, nhưng tôi tin rằng đó là một rủi ro có thể kiểm soát được khi các định nghĩa về công việc thích ứng với sức mạnh của AI. Nó sẽ gây đau đớn trong một thời gian, nhưng không khác với cách các thế hệ trước thích nghi với hiệu quả tiết kiệm công việc khác.
- Nguy cơ nội dung giả mạo: AI sáng tạo hiện có thể tạo đồ tạo tác chất lượng con người ở quy mô lớn, bao gồm các bài báo, tiểu luận, bài báo và video giả mạo và gây hiểu lầm. Thông tin sai lệch không phải là một vấn đề mới, nhưng AI tổng quát sẽ cho phép nó được sản xuất hàng loạt ở mức độ chưa từng thấy. Đây là một rủi ro lớn, nhưng có thể kiểm soát được. Đó là bởi vì nội dung giả mạo có thể được xác định bằng (a) công nghệ thủy ấn bắt buộc xác định nội dung AI khi tạo hoặc (b) bằng cách triển khai các biện pháp đối phó dựa trên AI được đào tạo để xác định nội dung AI sau khi thực tế.
- Rủi ro của máy có tri giác: Nhiều nhà nghiên cứu lo lắng rằng các hệ thống AI sẽ được mở rộng đến mức mà họ phát triển một “ý chí của riêng họ” và sẽ có những hành động mâu thuẫn với lợi ích con người, thậm chí đe dọa sự tồn tại của con người. Tôi tin rằng đây là một rủi ro dài hạn thực sự. Trong thực tế, tôi đã viết Một “sách ảnh cho người lớn” có tựa đề tâm trí đến một vài năm trước khám phá mối nguy hiểm này một cách đơn giản. Tuy nhiên, tôi không tin rằng các hệ thống AI hiện tại sẽ tự nhiên trở nên có tri giác nếu không có những cải tiến lớn về cấu trúc đối với công nghệ. Vì vậy, mặc dù đây là mối nguy hiểm thực sự mà ngành cần tập trung vào, nhưng đó không phải là rủi ro cấp bách nhất mà tôi thấy trước mắt.
Vì vậy, điều gì làm tôi lo lắng nhất về sự gia tăng của AI sáng tạo?
Theo quan điểm của tôi, điểm mà hầu hết các chuyên gia an toàn mắc sai lầm, bao gồm cả các nhà hoạch định chính sách, là họ xem AI tổng quát chủ yếu như một công cụ để tạo nội dung truyền thống trên quy mô lớn. Mặc dù công nghệ này khá thành thạo trong việc tạo ra các bài báo, hình ảnh và video, nhưng vấn đề quan trọng hơn là trí tuệ nhân tạo AI sẽ tạo ra một hình thức truyền thông hoàn toàn mới mang tính cá nhân hóa cao, tương tác hoàn toàn và có khả năng thao túng hơn bất kỳ hình thức nội dung mục tiêu nào mà chúng ta nhắm đến. đã phải đối mặt cho đến nay.
Chào mừng đến với thời đại của phương tiện truyền thông tương tác
Tính năng nguy hiểm nhất của AI sáng tạo không phải là nó có thể tạo ra các bài báo và video giả mạo trên quy mô lớn, mà là nó có thể tạo ra nội dung tương tác và thích ứng được tùy chỉnh cho từng người dùng để tối đa hóa tác động thuyết phục. Trong ngữ cảnh này, tương tác phương tiện truyền thông tạo có thể được định nghĩa là tài liệu quảng cáo được nhắm mục tiêu được tạo hoặc sửa đổi trong thời gian thực để tối đa hóa các mục tiêu ảnh hưởng dựa trên dữ liệu cá nhân về người dùng nhận.
Điều này sẽ chuyển đổi “các chiến dịch gây ảnh hưởng có mục tiêu” từ tấn công dồn dập nhằm vào các nhóm nhân khẩu học rộng lớn thành các tên lửa tầm nhiệt có thể tập trung vào từng cá nhân để đạt hiệu quả tối ưu. Và như được mô tả bên dưới, hình thức truyền thông mới này có thể có hai hương vị mạnh mẽ, “quảng cáo tổng quát được nhắm mục tiêu” và “ảnh hưởng đàm thoại được nhắm mục tiêu”.
Sự kiện
Chuyển đổi 2023
Hãy tham gia cùng chúng tôi tại San Francisco vào ngày 11-12 tháng 7, nơi các giám đốc điều hành hàng đầu sẽ chia sẻ cách họ đã tích hợp và tối ưu hóa các khoản đầu tư vào AI để đạt được thành công và tránh những cạm bẫy phổ biến.
Đăng ký ngay
Quảng cáo tổng hợp được nhắm mục tiêu là việc sử dụng hình ảnh, video và các dạng nội dung thông tin khác trông giống như quảng cáo truyền thống nhưng được cá nhân hóa trong thời gian thực cho người dùng cá nhân. Những quảng cáo này sẽ được tạo nhanh chóng bởi các hệ thống AI tổng quát dựa trên mục tiêu ảnh hưởng được cung cấp bởi các nhà tài trợ bên thứ ba kết hợp với dữ liệu cá nhân được truy cập cho người dùng cụ thể được nhắm mục tiêu. Dữ liệu cá nhân có thể bao gồm tuổi, giới tính và trình độ học vấn của người dùng, kết hợp với sở thích, giá trị, sự nhạy cảm thẩm mỹ, xu hướng mua hàng, đảng phái chính trị và thành kiến văn hóa của họ.
Để đáp ứng các mục tiêu ảnh hưởng và dữ liệu nhắm mục tiêu, AI tổng quát sẽ tùy chỉnh bố cục, hình ảnh nổi bật và thông điệp quảng cáo để tối đa hóa hiệu quả đối với người dùng đó. Mọi thứ từ màu sắc, phông chữ và dấu chấm câu đều có thể được cá nhân hóa cùng với độ tuổi, chủng tộc và phong cách quần áo của bất kỳ người nào được hiển thị trong hình ảnh. Bạn sẽ xem những video clip về cảnh thành thị hay cảnh nông thôn? Nó sẽ được thiết lập vào mùa thu hay mùa xuân? Bạn sẽ thấy hình ảnh của những chiếc xe thể thao hay xe tải gia đình? Mọi chi tiết có thể được tùy chỉnh trong thời gian thực bằng trí tuệ nhân tạo tổng quát để tối đa hóa tác động tinh tế đối với cá nhân bạn.
Và bởi vì các nền tảng công nghệ có thể theo dõi mức độ tương tác của người dùng, hệ thống sẽ tìm hiểu chiến thuật nào phù hợp nhất với bạn theo thời gian, khám phá màu tóc và nét mặt thu hút sự chú ý của bạn tốt nhất.
Nếu điều này có vẻ giống như khoa học viễn tưởng, hãy cân nhắc điều này: Cả hai meta Và Google gần đây đã công bố kế hoạch sử dụng AI tổng quát trong việc tạo quảng cáo trực tuyến. Nếu các chiến thuật này tạo ra nhiều nhấp chuột hơn cho các nhà tài trợ, chúng sẽ trở thành thông lệ tiêu chuẩn và một cuộc chạy đua vũ trang sẽ diễn ra, với tất cả các nền tảng chính cạnh tranh để sử dụng AI tổng quát nhằm tùy chỉnh nội dung quảng cáo theo những cách hiệu quả nhất có thể.
Điều này đưa tôi đến nhắm mục tiêu ảnh hưởng đối thoạimột kỹ thuật tạo ra trong đó các mục tiêu ảnh hưởng được chuyển tải thông qua hội thoại tương tác thay vì các tài liệu hoặc video truyền thống.
Các cuộc trò chuyện sẽ diễn ra thông qua chatbot (như ChatGPT và Bard) hoặc thông qua các hệ thống dựa trên giọng nói được cung cấp bởi các công cụ tương tự. mô hình ngôn ngữ lớn (LLM). Người dùng sẽ gặp phải những “đại lý đàm thoại” nhiều lần trong ngày, vì các nhà phát triển bên thứ ba sẽ sử dụng API để tích hợp LLM vào trang web, ứng dụng và trợ lý kỹ thuật số tương tác.
Ví dụ: bạn có thể truy cập một trang web để tìm thông tin dự báo thời tiết mới nhất, tham gia trò chuyện với một đặc vụ AI để yêu cầu thông tin. Trong quá trình này, bạn có thể được nhắm mục tiêu với ảnh hưởng đàm thoại – thông điệp tinh tế được đưa vào hộp thoại với các mục tiêu quảng cáo.
Khi điện toán đàm thoại trở nên phổ biến trong cuộc sống của chúng ta, nguy cơ ảnh hưởng đối thoại sẽ mở rộng đáng kể, vì các nhà tài trợ trả tiền có thể đưa thông điệp vào hộp thoại mà chúng tôi thậm chí có thể không nhận thấy. Và giống như quảng cáo tổng hợp được nhắm mục tiêu, các mục tiêu nhắn tin do nhà tài trợ yêu cầu sẽ được sử dụng kết hợp với dữ liệu cá nhân về người dùng được nhắm mục tiêu để tối ưu hóa tác động.
Dữ liệu có thể bao gồm tuổi, giới tính và trình độ học vấn của người dùng kết hợp với sở thích cá nhân, sở thích, giá trị, v.v., do đó cho phép hộp thoại tạo thời gian thực được thiết kế để thu hút tối ưu người cụ thể đó.
Tại sao sử dụng ảnh hưởng đàm thoại?
Nếu bạn đã từng làm nhân viên bán hàng, bạn có thể biết rằng cách tốt nhất để thuyết phục khách hàng không phải là đưa cho họ một tập tài liệu quảng cáo mà là thu hút họ vào cuộc đối thoại trực tiếp để bạn có thể quảng cáo cho họ về sản phẩm. đặt phòng của họ và điều chỉnh lập luận của bạn khi cần thiết. Đó là một quá trình quảng cáo chiêu hàng và điều chỉnh theo chu kỳ có thể “thuyết phục họ” mua hàng.
Mặc dù trước đây đây hoàn toàn là một kỹ năng của con người, nhưng giờ đây, AI tổng quát có thể thực hiện các bước này, nhưng với kỹ năng cao hơn và kiến thức sâu hơn để rút ra.
Và trong khi một nhân viên bán hàng chỉ có một nhân cách, những tác nhân AI này sẽ là tắc kè hoa kỹ thuật số có thể áp dụng bất kỳ phong cách nói nào, từ mọt sách hay dân dã đến khéo léo hay sành điệu và có thể theo đuổi bất kỳ chiến thuật bán hàng nào, từ kết bạn với khách hàng đến khai thác nỗi sợ bị bỏ lỡ của họ. Và bởi vì những tác nhân AI này sẽ là được trang bị dữ liệu cá nhân, họ có thể đề cập đến các nghệ sĩ âm nhạc hoặc đội thể thao phù hợp để giúp bạn dễ dàng trò chuyện thân thiện.
Ngoài ra, các nền tảng công nghệ có thể ghi lại mức độ hiệu quả của các cuộc trò chuyện trước đó trong việc thuyết phục bạn, tìm hiểu chiến thuật nào hiệu quả nhất đối với cá nhân bạn. Bạn có phản ứng trước những lời kêu gọi hợp lý hay những lập luận đầy cảm tính không? Bạn tìm kiếm món hời lớn nhất hay chất lượng cao nhất? Bạn có bị ảnh hưởng bởi giảm giá áp lực thời gian hoặc tiện ích bổ sung miễn phí không? Các nền tảng sẽ nhanh chóng học cách kéo tất cả các dây của bạn.
Tất nhiên, mối đe dọa lớn đối với xã hội không phải là khả năng tối ưu hóa để bán cho bạn một chiếc quần. Điều nguy hiểm thực sự là các kỹ thuật tương tự sẽ được sử dụng để lái tuyên truyền và thông tin sai lệch, thuyết phục bạn tin vào những niềm tin sai lầm hoặc hệ tư tưởng cực đoan mà lẽ ra bạn có thể bác bỏ. Ví dụ, một tác nhân đàm thoại có thể được hướng dẫn để thuyết phục bạn rằng một loại thuốc hoàn toàn an toàn là một âm mưu nguy hiểm chống lại xã hội. Và bởi vì các đặc vụ AI sẽ có quyền truy cập vào mạng internet chứa đầy thông tin, họ có thể chọn ra bằng chứng theo những cách có thể áp đảo ngay cả con người hiểu biết nhất.
Điều này tạo ra sự cân bằng quyền lực bất đối xứng thường được gọi là Vấn đề thao túng AI trong đó con người chúng ta đang ở thế cực kỳ bất lợi, khi trò chuyện với các tác nhân nhân tạo có kỹ năng cao trong việc thu hút chúng ta, trong khi chúng ta không có khả năng “đọc” ý định thực sự của các thực thể mà chúng ta đang nói chuyện.
Trừ khi được quy định, quảng cáo tổng hợp được nhắm mục tiêu Và ảnh hưởng đàm thoại được nhắm mục tiêu sẽ là những hình thức thuyết phục mạnh mẽ, trong đó người dùng bị áp đảo bởi một con tắc kè hoa kỹ thuật số không rõ ràng, không cung cấp thông tin chi tiết nào về quá trình suy nghĩ của nó nhưng được trang bị dữ liệu phong phú về sở thích, mong muốn và xu hướng cá nhân của chúng ta, đồng thời có quyền truy cập vào thông tin không giới hạn để thúc đẩy các lập luận của nó .
Vì những lý do này, tôi kêu gọi các cơ quan quản lý, hoạch định chính sách và lãnh đạo ngành tập trung vào AI tổng quát như một hình thức truyền thông mới có tính tương tác, thích ứng, cá nhân hóa và có thể triển khai trên quy mô lớn. Nếu không có các biện pháp bảo vệ có ý nghĩa, người tiêu dùng có thể phải đối mặt với các hành vi săn mồi, từ ép buộc tinh vi đến thao túng hoàn toàn.
Louis RosenbergBằng tiến sĩ., là người tiên phong trong các lĩnh vực VR, AR và AI, đồng thời là người sáng lập Immersion Corporation (IMMR: Nasdaq), Microscribe 3D, Outland Research và Unanimous AI.
Dữ liệuNgười ra quyết định
Chào mừng bạn đến với cộng đồng VentureBeat!
DataDecisionMakers là nơi các chuyên gia, bao gồm cả những người kỹ thuật làm công việc dữ liệu, có thể chia sẻ những hiểu biết và đổi mới liên quan đến dữ liệu.
Nếu bạn muốn đọc về các ý tưởng tiên tiến và thông tin cập nhật, các phương pháp hay nhất cũng như tương lai của dữ liệu và công nghệ dữ liệu, hãy tham gia cùng chúng tôi tại DataDecisionMakers.
Bạn thậm chí có thể xem xét đóng góp một bài viết của riêng bạn!
Đọc thêm từ DataDecisionMakers
