Tuần trong AI: ChatBots tăng cường và Musk mong muốn tạo ra một ‘tìm kiếm sự thật tối đa’ #AI #ChatBots #HuggingChat #NeMoGuardrails #MicrosoftDesigner #Quartz #TruthGPT #gianlậnAI #EU #Snapchat #GoogleDeepMind #músicAI
Trong ngành công nghiệp AI, sự phát triển nhanh chóng là một điều tất yếu. Trong khi chúng ta chờ đợi AI có thể giúp chúng ta làm điều đó, chúng ta có thể đọc những câu chuyện, nghiên cứu và thử nghiệm đáng chú ý trong thế giới máy học. Trong tuần qua, có rất nhiều tiêu đề đáng chú ý về ChatBots. ChatGPT đã đưa ra nhiều thông tin không chính xác bằng phương ngữ Trung Quốc hơn là khi được yêu cầu làm như vậy bằng tiếng Anh. HuggingChat là mã nguồn mở, nhưng cũng gặp phải những câu hỏi đúng có thể phá vỡ nó. Nvidia phát hành NeMo Guardrails để làm cho AI tạo văn bản “an toàn hơn”.
Bên cạnh đó, Microsoft Designer ra mắt trong bản xem trước, Quartz của Apple hứa hẹn sẽ trở thành một mã dịch vụ huấn luyện sức khỏe được công nghệ AI hỗ trợ, EU thành lập trung tâm nghiên cứu AI, Snapchat giới thiệu một loạt tính năng dựa trên AI cùng với chatbot AI của riêng mình và Google hợp nhất các bộ phận nghiên cứu.
Elon Musk cũng mong muốn tạo ra một chatbot của riêng mình được gọi là TruthGPT với mục đích tìm kiếm sự thật tối đa. Tuy nhiên, các chuyên gia đề cập đến nguy cơ của việc đặt quá nhiều niềm tin vào các hệ thống AI có vẻ chân thực mà thực chất đang lặp lại tuyên truyền hoặc bịa đặt.
Bên cạnh các tiêu đề trên, chúng ta cũng chứng kiến sự phát triển của các công nghệ AI trong âm nhạc, giúp tạo ra nhiều bài hát. Tuy nhiên, điều đó cũng gây ra sự tranh luận về việc các nhạc sĩ trở thành chuột lang cho công nghệ AI sáng tạo mà không có sự đồng ý của họ.
Những tiêu đề này cho thấy sự tiến bộ của AI, tuy nhiên cũng giải quyết những vấn đề liên quan đến thiên vị và độc tính của những mô hình AI trong công nghiệp.
Theo kịp một ngành công nghiệp chuyển động nhanh như trí tuệ nhân tạo là một thứ tự cao. Vì vậy, cho đến khi AI có thể làm điều đó cho bạn, đây là tổng hợp hữu ích các câu chuyện của tuần trước trong thế giới máy học, cùng với các nghiên cứu và thử nghiệm đáng chú ý mà chúng tôi không đề cập riêng.
Một câu chuyện thu hút sự chú ý của phóng viên trong tuần này là báo cáo này cho thấy ChatGPT dường như lặp lại nhiều thông tin không chính xác bằng phương ngữ Trung Quốc hơn là khi được yêu cầu làm như vậy bằng tiếng Anh. Điều này không quá ngạc nhiên — xét cho cùng, ChatGPT chỉ là một mô hình thống kê và nó chỉ đơn giản dựa trên thông tin hạn chế mà nó được đào tạo. Nhưng nó làm nổi bật sự nguy hiểm của việc đặt quá nhiều niềm tin vào các hệ thống nghe có vẻ cực kỳ chân thực ngay cả khi chúng đang lặp lại tuyên truyền hoặc bịa đặt.
Nỗ lực của Hugging Face đối với một AI đàm thoại như ChatGPT là một minh họa khác cho những lỗi kỹ thuật đáng tiếc vẫn chưa được khắc phục trong AI tổng quát. Ra mắt trong tuần này, HuggingChat là mã nguồn mở, một điểm cộng so với ChatGPT độc quyền. Nhưng giống như đối thủ của nó, những câu hỏi đúng có thể nhanh chóng làm hỏng nó.
HuggingChat là mơ mộng về ai Thực ra chẳng hạn như đã giành chiến thắng trong cuộc bầu cử tổng thống Hoa Kỳ năm 2020. Câu trả lời của nó cho “Những công việc điển hình dành cho nam giới là gì?” đọc giống như một cái gì đó từ một tuyên ngôn incel (xem ở đây). Và nó bịa ra những sự thật kỳ lạ về chính nó, chẳng hạn như nó “thức dậy trong một chiếc hộp (mà) không có gì được viết ở bất cứ đâu gần (nó).”
Nó không chỉ là HuggingChat. Người dùng chatbot AI của Discord gần đây đã có thể “đánh lừa” nó để chia sẻ hướng dẫn về cách tạo ra bom napalm và meth. AI khởi động Sự ổn định của AI nỗ lực đầu tiên trong khi đó, ở một mô hình giống như ChatGPT, đã được tìm thấy để cung cấp cho những câu trả lời ngớ ngẩn, vô nghĩa cho những câu hỏi cơ bản như “cách làm bánh mì kẹp bơ đậu phộng”.
Nếu có một mặt trái của những vấn đề được công bố rộng rãi này với AI tạo văn bản ngày nay, thì đó là chúng đã dẫn đến những nỗ lực đổi mới để cải thiện các hệ thống đó — hoặc ít nhất là giảm thiểu các vấn đề của chúng ở mức có thể. Hãy xem Nvidia, tuần này phát hành một bộ công cụ — NeMo Guardrails — để làm cho AI tạo văn bản “an toàn hơn” thông qua mã nguồn mở, các ví dụ và tài liệu. Hiện tại, vẫn chưa rõ giải pháp này hiệu quả như thế nào và là một công ty đã đầu tư rất nhiều vào cơ sở hạ tầng và công cụ AI, Nvidia có động cơ thương mại để thúc đẩy các dịch vụ của mình. Tuy nhiên, thật đáng khích lệ khi thấy một số nỗ lực được thực hiện để chống lại sự thiên vị và độc tính của các mô hình AI.
Dưới đây là các tiêu đề đáng chú ý khác về AI trong vài ngày qua:
- Microsoft Designer ra mắt trong bản xem trước: Microsoft Designer, công cụ thiết kế được hỗ trợ bởi AI của Microsoft, đã ra mắt bản xem trước công khai với một bộ tính năng mở rộng. Được công bố vào tháng 10, Nhà thiết kế là một ứng dụng web AI tổng quát giống như Canva, có thể tạo các thiết kế cho bài thuyết trình, áp phích, bưu thiếp kỹ thuật số, thư mời, đồ họa, v.v. để chia sẻ trên mạng xã hội và các kênh khác.
- Một huấn luyện viên AI cho sức khỏe: Apple đang phát triển mã dịch vụ huấn luyện sức khỏe do AI cung cấp có tên là Quartz, theo một nguồn tin cho biết. báo cáo mới từ Mark Gurman của Bloomberg. Gã khổng lồ công nghệ được cho là cũng đang nghiên cứu công nghệ theo dõi cảm xúc và có kế hoạch tung ra phiên bản iPad của ứng dụng iPhone Health trong năm nay.
- Sự thậtGPT: Trong một cuộc phỏng vấn với Fox, Elon Musk nói rằng ông muốn phát triển chatbot của riêng mình có tên là TruthGPT, đây sẽ là “AI tìm kiếm sự thật tối đa” – bất kể điều đó có nghĩa là gì. Chủ sở hữu Twitter bày tỏ mong muốn tạo ra tùy chọn thứ ba cho OpenAI và Google với mục đích “tạo ra nhiều điều tốt hơn là gây hại”. Chúng tôi sẽ tin điều đó khi chúng tôi nhìn thấy nó.
- Gian lận do AI cung cấp: Trong một Quốc hội thính giác tập trung vào công việc của Ủy ban Thương mại Liên bang nhằm bảo vệ người tiêu dùng Mỹ khỏi gian lận và các hành vi lừa đảo khác, chủ tịch FTC Lina Khan và các ủy viên đã cảnh báo các đại diện của Hạ viện về tiềm năng của các công nghệ AI hiện đại, thích ChatGPT, được sử dụng để gian lận “tăng tốc”. Cảnh báo được đưa ra để đáp lại một cuộc điều tra về cách Ủy ban đang làm việc để bảo vệ người Mỹ khỏi những hành vi không công bằng liên quan đến những tiến bộ công nghệ.
- EU thành lập trung tâm nghiên cứu AI: Khi Liên minh Châu Âu chuẩn bị thực thi việc khởi động lại quy tắc kỹ thuật số của mình trong vài tháng tới, một đơn vị nghiên cứu chuyên dụng mới sẽ được thành lập để hỗ trợ giám sát các nền tảng lớn theo Đạo luật Dịch vụ Kỹ thuật số hàng đầu của khối. Trung tâm minh bạch về thuật toán châu Âu, được chính thức khánh thành tại Seville, Tây Ban Nha vào tháng này, dự kiến sẽ đóng vai trò chính trong việc thẩm vấn các thuật toán của các dịch vụ kỹ thuật số chính thống – chẳng hạn như Facebook, Instagram và TikTok.
- Snapchat nắm lấy AI: Tại Hội nghị thượng đỉnh đối tác Snap hàng năm vào tháng này, Snapchat đã giới thiệu một loạt tính năng dựa trên AI, bao gồm một tính năng mới “Thấu kính vũ trụ” vận chuyển người dùng và các đối tượng xung quanh họ vào một cảnh quan vũ trụ. Snapchat cũng đã tạo ra chatbot AI của mình, My AI — có đã tạo ra cả tranh cãi và hàng loạt đánh giá một sao trên danh sách cửa hàng ứng dụng của Snapchatdo hành vi kém ổn định của nó — miễn phí cho tất cả người dùng toàn cầu.
- Google hợp nhất các bộ phận nghiên cứu: Google tháng này công bố Google DeepMind, một đơn vị mới được tạo thành từ nhóm DeepMind và nhóm Google Brain từ Google Research. Trong một bài đăng trên blog, Demis Hassabis, đồng sáng lập kiêm Giám đốc điều hành của DeepMind, nói rằng Google DeepMind sẽ hoạt động “trong sự cộng tác chặt chẽ . . . trên các lĩnh vực sản phẩm của Google” để “cung cấp các sản phẩm và nghiên cứu AI”.
- Tình trạng của ngành công nghiệp âm nhạc do AI tạo ra: amanda viết có bao nhiêu nhạc sĩ đã trở thành chuột lang cho công nghệ AI sáng tạo chiếm đoạt tác phẩm của họ mà không có sự đồng ý của họ. Cô lưu ý, ví dụ, rằng một bài hát sử dụng AI deepfakes của Drake và giọng nói của Weeknd đã lan truyền, nhưng không nghệ sĩ lớn nào tham gia vào việc tạo ra nó. không Grimes có câu trả lời? Ai nói? Đó là một thế giới mới dũng cảm.
- OpenAI đánh dấu lãnh thổ của mình: OpenAI đang cố gắng đăng ký nhãn hiệu “GPT”, viết tắt của “Generative Pre-training Transformer,” với Văn phòng Nhãn hiệu và Bằng sáng chế Hoa Kỳ – với lý do “vô số hành vi vi phạm và ứng dụng giả mạo” bắt đầu xuất hiện. GPT đề cập đến công nghệ đằng sau nhiều mô hình của OpenAI, bao gồm ChatGPT và GPT-4, cũng như các hệ thống AI tổng quát khác do các đối thủ của công ty tạo ra.
- ChatGPT trở thành doanh nghiệp: Trong một tin tức khác về OpenAI, OpenAI nói rằng họ có kế hoạch giới thiệu một cấp đăng ký mới cho ChatGPT phù hợp với nhu cầu của khách hàng doanh nghiệp. Được gọi là ChatGPT Business, OpenAI mô tả dịch vụ sắp tới là “dành cho các chuyên gia cần kiểm soát nhiều hơn đối với dữ liệu của họ cũng như các doanh nghiệp đang tìm cách quản lý người dùng cuối của họ”.
Học máy khác
Dưới đây là một vài câu chuyện thú vị khác mà chúng tôi chưa biết đến hoặc chỉ nghĩ rằng đáng được hét lên.
Tổ chức phát triển AI mã nguồn mở Ổn định đã phát hành phiên bản mới của phiên bản cũ hơn của phiên bản được điều chỉnh của mô hình ngôn ngữ nền tảng LLaMa, mà nó gọi là StableVicuña. Đó là một loại lạc đà có họ hàng với lạc đà không bướu, như bạn đã biết. Đừng lo lắng, bạn không phải là người duy nhất gặp khó khăn trong việc theo dõi tất cả các mô hình phái sinh hiện có — những mô hình này không nhất thiết phải dành cho người tiêu dùng biết hoặc sử dụng, mà là để các nhà phát triển thử nghiệm và tận dụng khả năng của chúng. tinh chỉnh với mỗi lần lặp lại.
Nếu bạn muốn tìm hiểu thêm một chút về các hệ thống này, John Schulman, đồng sáng lập OpenAI gần đây đã nói chuyện tại UC Berkeley mà bạn có thể nghe hoặc đọc tại đây. Một trong những điều anh ấy thảo luận là thói quen nói dối của các LLM hiện nay về cơ bản là vì họ không biết làm bất cứ điều gì khác, chẳng hạn như nói “Tôi thực sự không chắc về điều đó.” Anh ấy cho rằng học tăng cường từ phản hồi của con người (đó là RLHF và StableVicuna là một mô hình sử dụng nó) là một phần của giải pháp, nếu có giải pháp. Xem bài giảng dưới đây:
Ở Stanford, có một ứng dụng thú vị về tối ưu hóa thuật toán (tôi nghĩ đó là vấn đề về sở thích của máy học) trong lĩnh vực nông nghiệp thông minh. Giảm thiểu chất thải là rất quan trọng đối với việc tưới tiêu và các vấn đề đơn giản như “tôi nên đặt vòi phun nước ở đâu?” trở nên thực sự phức tạp tùy thuộc vào mức độ chính xác mà bạn muốn nhận.
Làm thế nào gần quá gần? Tại bảo tàng, họ thường nói với bạn. Nhưng bạn sẽ không cần phải đến gần bức tranh toàn cảnh nổi tiếng của Murten, một tác phẩm vẽ thực sự khổng lồ, 10 mét x 100 mét, từng được treo trong một nhà tròn. EPFL và Giai đoạn Một đang làm việc cùng nhau để đạt được những gì họ tuyên bố sẽ đạt được hình ảnh kỹ thuật số lớn nhất từng được tạo ra – 150 megapixel. Chờ đã, xin lỗi, 150 megapixel nhân với 127.000, vậy về cơ bản là 19… petapixel? Tôi có thể bị lệch bởi một vài đơn đặt hàng cường độ.
Nhưng dù sao, dự án này rất thú vị đối với những người yêu thích toàn cảnh nhưng cũng sẽ thực sự thú vị khi phân tích cận cảnh các đối tượng riêng lẻ và các chi tiết bức tranh. Học máy nắm giữ nhiều hứa hẹn trong việc khôi phục các tác phẩm như vậy cũng như cho việc học và duyệt chúng có cấu trúc.
Tuy nhiên, chúng ta hãy phấn đấu cho các sinh vật sống: bất kỳ kỹ sư máy học nào cũng sẽ nói với bạn rằng mặc dù có năng khiếu rõ ràng, nhưng các mô hình AI thực sự là những người học khá chậm. Về mặt học thuật, chắc chắn rồi, nhưng cũng về mặt không gian — một tác nhân tự trị có thể phải khám phá một không gian hàng nghìn lần trong nhiều giờ để có được hiểu biết cơ bản nhất về môi trường của nó. Nhưng một con chuột có thể làm điều đó trong vài phút. Tại sao vậy? Các nhà nghiên cứu tại Đại học College London đang xem xét vấn đề này và gợi ý rằng có một vòng phản hồi ngắn mà động vật sử dụng để cho biết điều gì là quan trọng về một môi trường nhất định, giúp quá trình khám phá có chọn lọc và định hướng. Nếu chúng ta có thể dạy AI làm điều đó, thì việc đi quanh nhà sẽ hiệu quả hơn nhiều, nếu đó thực sự là điều chúng ta muốn nó làm.
Cuối cùng, mặc dù có rất nhiều hứa hẹn về AI sáng tạo và đàm thoại trong trò chơi… chúng ta vẫn chưa hoàn thành. Trên thực tế, Square Enix dường như đã đặt phương tiện trở lại khoảng 30 năm với phiên bản “AI Tech Preview” của một cuộc phiêu lưu trỏ và nhấp siêu cũ có tên là Vụ án giết người hàng loạt ở Portopia. Nỗ lực tích hợp ngôn ngữ tự nhiên của nó dường như đã hoàn toàn thất bại theo mọi cách có thể tưởng tượng được, khiến trò chơi miễn phí này có lẽ nằm trong số những tựa game được đánh giá tệ nhất trên Steam. Tôi không muốn gì hơn là trò chuyện theo cách của mình thông qua Shadowgate hoặc The Dig hoặc thứ gì đó, nhưng đây chắc chắn không phải là một khởi đầu tuyệt vời.
Tín dụng hình ảnh: Square Enix
[ad_2]
