#GoogleAI #CoreML #CơSởHạTầngML #TriểnKhaiTríTuệNhânTạo
Nhà lãnh đạo Google cho biết cơ sở hạ tầng ML là ‘ống dẫn’ cho thành công AI của công ty. Hôm nay, tại sự kiện được tổ chức tại San Francisco với sự góp mặt của các giám đốc điều hành hàng đầu, chúng ta sẽ cùng tìm hiểu cách các nhà lãnh đạo đang tích hợp và tối ưu hóa các khoản đầu tư AI để đạt được sự thành công.
Hai năm trước, Google đã thành lập một nhóm mới, tập trung vào cơ sở hạ tầng máy học, do phó giám đốc kỹ thuật từ bộ phận nghiên cứu trí tuệ nhân tạo dẫn đầu. Mục tiêu của nhóm này là tạo ra lợi nhuận đáng kể trong lĩnh vực AI. Năm nay, I/O của Google đã chứng kiến sự thành công của nhóm Core ML, nhóm này được phát triển để đóng vai trò trung tâm trong việc áp dụng ML cho các sản phẩm của Google.
Nadav Eiron, người đã xây dựng và lãnh đạo nhóm 1.200 thành viên này, đã chia sẻ rằng ông tự hào khi thấy dấu vân tay của nhóm trên mọi thứ diễn ra trên sân khấu. Trong cuộc phỏng vấn độc quyền với VentureBeat, Eiron đã bàn về vai trò quan trọng của Core ML trong việc triển khai AI trong các sản phẩm của Google, đặc biệt là cách cơ sở hạ tầng ML đóng vai trò là đường dẫn giữa các nhóm nghiên cứu tại Google DeepMind và các nhóm sản phẩm của công ty.
Theo Eiron, đây là một cuộc đua triển khai trí tuệ nhân tạo gần đây của Google và Core ML đóng vai trò cực kỳ quan trọng trong việc kết nối và tối ưu hóa quy trình làm việc giữa các nhóm nghiên cứu và phát triển sản phẩm.
Hãy theo dõi liên tục của VentureBeat để nắm bắt thông tin mới nhất về trí tuệ nhân tạo và đừng bỏ lỡ số đặc biệt của chúng tôi với chủ đề “Xây dựng nền tảng cho chất lượng dữ liệu khách hàng”.
Tham gia cùng các giám đốc điều hành hàng đầu tại San Francisco vào ngày 11-12 tháng 7, để nghe cách các nhà lãnh đạo đang tích hợp và tối ưu hóa các khoản đầu tư AI để thành công. Tìm hiểu thêm
Hai năm trước, Google tách ra một nhóm mới tập trung vào cơ sở hạ tầng máy học, do phó giám đốc kỹ thuật từ bộ phận nghiên cứu trí tuệ nhân tạo dẫn đầu — một phần trong nỗ lực tạo ra “lợi nhuận đáng kể” trong AI. Vào năm nay I/O của Googlerõ ràng là nhóm Core ML này, được phát triển để đóng vai trò là “trung tâm trọng lực” trong việc áp dụng ML cho các sản phẩm của Google, chắc chắn đã thành công trong sứ mệnh của mình.
Nadav Eiron, người đã xây dựng và lãnh đạo nhóm 1.200 thành viên, nói với VentureBeat: “Tôi có thể thấy dấu vân tay của nhóm trên mọi thứ diễn ra trên sân khấu. “Đó là một khoảnh khắc vô cùng tự hào đối với tôi.”
Trong một cuộc phỏng vấn độc quyền, Eiron đã thảo luận về vai trò thiết yếu của Core ML trong cuộc đua triển khai gần đây của Google trí tuệ nhân tạo trong các sản phẩm của mình — đặc biệt là cách cơ sở hạ tầng ML đóng vai trò là “đường dẫn” giữa các nhóm nghiên cứu tại Google DeepMind và các nhóm sản phẩm của công ty. (Ghi chú của biên tập viên: Cuộc phỏng vấn này đã được chỉnh sửa để đảm bảo độ dài và rõ ràng.)
>>Theo dõi liên tục của VentureBeat trí tuệ nhân tạo bảo hiểm <<
Sự kiện
Chuyển đổi 2023
Hãy tham gia cùng chúng tôi tại San Francisco vào ngày 11-12 tháng 7, nơi các giám đốc điều hành hàng đầu sẽ chia sẻ cách họ đã tích hợp và tối ưu hóa các khoản đầu tư vào AI để đạt được thành công và tránh những cạm bẫy phổ biến.
Đăng ký ngay
VentureBeat: Bạn mô tả sứ mệnh của nhóm Core ML tại Google như thế nào?
Nadav Eiron: Chúng tôi mong muốn nhóm Core ML có thể biến đổi mới thành sản phẩm thực tế. Tôi luôn nói với nhóm của mình rằng chúng ta cần xem xét toàn bộ hành trình từ điểm nhà nghiên cứu có ý tưởng tuyệt vời hoặc sản phẩm có nhu cầu và tìm nhà nghiên cứu để giải quyết vấn đề đó — cho đến khi cuộc sống của một tỷ người đã được thay đổi bởi ý tưởng đó. Hành trình đó đặc biệt thú vị trong những ngày này bởi vì máy học đang trải qua một hành trình tăng tốc để trở thành một ngành công nghiệp, trong khi cho đến hai hoặc ba năm trước, nó chỉ là chủ đề của nghiên cứu học thuật.
VB: Nhóm của bạn ngồi trong tổ chức Google như thế nào?
Eiron: Chúng tôi nằm trong một tổ chức cơ sở hạ tầng và mục tiêu của chúng tôi là cung cấp dịch vụ cho tất cả các sản phẩm của Google cũng như bên ngoài, những thứ như toàn bộ hệ sinh thái TensorFlow, mã nguồn mở các dự án mà nhóm của tôi sở hữu và phát triển.
Hành trình từ một ý tưởng tuyệt vời đến một sản phẩm tuyệt vời là rất dài và phức tạp. Nó đặc biệt phức tạp và tốn kém khi nó không phải là một sản phẩm mà là 25 sản phẩm, hoặc tuy nhiên nhiều sản phẩm đã được công bố rằng Google I/O. Và với sự phức tạp đi kèm với việc thực hiện tất cả những điều đó theo cách có thể mở rộng, có trách nhiệm, bền vững và có thể bảo trì.
Một mặt, chúng tôi xây dựng mối quan hệ đối tác với Google DeepMind để giúp họ, ngay từ đầu, suy nghĩ về cách ý tưởng của họ có thể ảnh hưởng đến sản phẩm và ý nghĩa của việc xây dựng những ý tưởng đó theo cách mà họ dễ kết hợp vào các sản phẩm sau này. Nhưng cũng có mối quan hệ hợp tác chặt chẽ với những người xây dựng sản phẩm — cung cấp cho họ các công cụ, dịch vụ, công nghệ mà họ có thể tích hợp vào sản phẩm của mình.
Khi chúng ta xem xét những gì đang diễn ra trong vài tháng qua, lĩnh vực này đã thực sự tăng tốc vì việc xây dựng trải nghiệm AI tổng quát rất phức tạp. Đó là phần mềm hơn nhiều so với việc chỉ có thể cung cấp đầu vào cho một mô hình và sau đó lấy đầu ra từ mô hình đó. Còn nhiều điều nữa liên quan đến điều đó, bao gồm cả việc sở hữu mô hình một khi nó không còn là một thứ nghiên cứu nữa mà thực sự trở thành một phần của cơ sở hạ tầng.
VB: Điều này cho tôi một cái nhìn hoàn toàn khác về những gì Google đang làm. Theo quan điểm của bạn, nhóm của bạn đang làm gì mà bạn nghĩ rằng mọi người không thực sự biết về Google?
Eiron: Vì vậy, đó là về Google, nhưng tôi nghĩ đó là một xu hướng rộng lớn hơn về cách ML chuyển từ mục đích theo đuổi học thuật thành một ngành công nghiệp. Nếu bạn nghĩ về rất nhiều thay đổi lớn trong xã hội, Internet bắt đầu như một dự án nghiên cứu lớn, 20 năm sau nó trở thành một ngành công nghiệp và mọi người biến nó thành một doanh nghiệp. Tôi nghĩ rằng ML đang trên đà làm điều tương tự. Nếu bạn tạo ra sự thay đổi này một cách có chủ ý, bạn có thể làm cho quá trình diễn ra nhanh hơn và có kết quả tốt hơn.
Có những điều bạn làm khác với một ngành so với trong nghiên cứu. Tôi xem nó như một công ty xây dựng cơ sở hạ tầng. Chúng tôi thực sự muốn đảm bảo rằng có các tiêu chuẩn ngành. Tôi đã đưa ra ví dụ này cho nhóm của mình vào một ngày khác: Nếu bạn muốn tối ưu hóa việc vận chuyển, bạn có thể tranh luận về việc container vận chuyển cần phải dài 35 hay 40 hay 45 feet. Nhưng một khi bạn quyết định vận chuyển container là con đường để đi, thì việc mọi người đồng ý về kích thước quan trọng hơn nhiều so với kích thước đó.
Đó chỉ là một ví dụ về loại nội dung mà bạn tối ưu hóa khi nghiên cứu và bạn không muốn lo lắng về chúng khi xây dựng một ngành. Vì vậy, đây là lý do tại sao, chẳng hạn, chúng tôi đã tạo OpenXLA (một hệ sinh thái trình biên dịch ML nguồn mở do các nhà lãnh đạo ngành AI/ML đồng phát triển để biên dịch và tối ưu hóa các mô hình từ tất cả các khung ML hàng đầu) bởi vì giao diện vào trình biên dịch ở giữa là một cái gì đó sẽ có lợi cho tất cả mọi người nếu nó được hàng hóa hóa và tiêu chuẩn hóa.
VB: Bạn sẽ mô tả cách một dự án đi từ bài báo nghiên cứu Google DeepMind đến một sản phẩm của Google như thế nào?
Eiron: ML từng là về việc lấy một loạt dữ liệu, tìm ra kiến trúc ML, đào tạo một mô hình từ đầu, đánh giá nó, rửa sạch và lặp lại. Những gì chúng ta thấy ngày nay là ML hóa ra giống phần mềm hơn rất nhiều. Bạn đào tạo một mô hình nền tảng và sau đó bạn cần tinh chỉnh nó, sau đó mô hình nền tảng thay đổi và sau đó có thể dữ liệu tinh chỉnh của bạn thay đổi và sau đó có thể bạn muốn sử dụng nó cho một nhiệm vụ khác. Vì vậy, nó tạo ra một quy trình làm việc. Điều đó có nghĩa là bạn cần các công cụ khác nhau và những thứ quan trọng khác nhau. Bạn muốn những mô hình này có tuổi thọ cao và liên tục.
Vì vậy, chúng tôi tự đặt ra những câu hỏi như: “Làm cách nào bạn có thể cập nhật mô hình mà không làm mọi người khó chịu?” Đó là một vấn đề lớn khi bạn xây dựng phần mềm vì bạn sẽ có nhiều người xây dựng lời nhắc và bạn muốn có thể cập nhật mô hình cơ sở mà không cần trả lại 20 sản phẩm. Bạn có thể nói rằng những vấn đề độc đáo này đến từ quy mô. Bạn cũng có thể nói chúng xuất phát từ nhu cầu cung cấp tính liên tục cho người dùng cuối hoặc từ việc tập trung vào việc thực sự mang lại trải nghiệm sản phẩm. Có một khoảng cách lớn giữa “Chúng tôi có một mô hình tuyệt vời” và “Chúng tôi có trải nghiệm AI sáng tạo tuyệt vời”.
VB: Công việc hàng ngày của bạn như thế nào?
Eiron: Rất nhiều trong số đó đang tạo ra các kết nối giữa các bộ phận khác nhau của tổ chức có suy nghĩ khác nhau về mọi thứ. Ví dụ, chúng tôi đã nói về những cách khác nhau mà mọi người nghĩ về sản phẩm về các vấn đề so với các nhà nghiên cứu. Bởi vì chúng tôi làm việc với tất cả những người này, chúng tôi có thể đại diện cho họ với nhau. Chúng tôi tìm thấy chính mình trong các diễn đàn nghiên cứu đại diện cho lợi ích chung của tất cả các sản phẩm. Chúng tôi tham gia các diễn đàn về sản phẩm, giúp họ hiểu nghiên cứu đến từ đâu và chúng tôi có thể giúp họ như thế nào. Và rõ ràng, rất nhiều thời gian dành cho những người ủng hộ sản phẩm — AI có trách nhiệm chuyên gia, chuyên gia chính sách, khám phá, những gì có thể và những gì mong muốn.
Về cơ bản, nhóm mở rộng toàn bộ ngăn xếp — từ thiết kế mã phần cứng và phần mềm cấp thấp cho đến AI ứng dụng — làm việc với các sản phẩm, tư vấn cho họ về những mô hình nên sử dụng, giúp họ xây dựng các công cụ và trở thành đối tác đầy đủ trong buổi ra mắt.
VB: Có sản phẩm nào được công bố tại Google I/O mà bạn thực sự cảm thấy mạnh mẽ về tất cả công việc mà nhóm của bạn đã thực hiện không?
Eiron: Tôi đặc biệt thích sự cộng tác của chúng ta với Google Workspace vì nhiều lý do. Thứ nhất, tôi tin rằng Workspace có một cơ hội duy nhất trong không gian AI tổng quát vì AI tổng quát liên quan đến việc tạo nội dung và các công cụ của Workspace liên quan nhiều đến việc tạo nội dung. Và tôi cảm thấy muốn có AI đồng hành cùng bạn trong công cụ, về cơ bản là có một thiên thần nhỏ ngồi trên vai bạn khi bạn làm công việc của mình là một điều cực kỳ mạnh mẽ.
Tôi cũng đặc biệt tự hào về điều đó vì tôi nghĩ rằng nhóm Workspace đã tham gia vào cuộc cách mạng AI sáng tạo này với ít chuyên môn và ít liên hệ với các nhóm nghiên cứu của chúng tôi hơn so với một số nhóm khác. Ví dụ: Tìm kiếm có truyền thống lâu đời về việc sử dụng công nghệ ML tiên tiến nhất. Nhưng Workspace cần nhóm của tôi trợ giúp nhiều hơn, vì nhóm tập trung có các chuyên gia và có các công cụ mà họ có thể lấy ra khỏi giá và sử dụng.
VB: Tôi biết bạn đã làm việc tại Google hơn 17 năm, nhưng tôi thực sự tò mò không biết sáu tháng qua đã như thế nào. Có một áp lực rất lớn bây giờ?
Eiron: Điều đã thay đổi là sự tăng tốc của việc sử dụng AI tổng quát trong các sản phẩm. Tốc độ làm việc chắc chắn đã tăng lên. Thật điên rồ. Tôi đã không có một kỳ nghỉ thực sự quá lâu.
Nhưng cũng có rất nhiều năng lượng đến từ đó. Một lần nữa, từ quan điểm của một người xây dựng cơ sở hạ tầng và quan tâm đến quá trình chuyển đổi này từ nghiên cứu sang công nghiệp thành sản phẩm, nó tạo ra áp lực để đẩy nhanh quá trình chuyển đổi đó.
Ví dụ: chúng tôi có thể chỉ ra rằng một mô hình nền tảng duy nhất có thể được sử dụng trên các sản phẩm khác nhau, điều này đã thúc đẩy sự phát triển của các sản phẩm sử dụng công nghệ này và cho phép chúng tôi có vị trí hàng đầu để xem cách mọi người thực sự sử dụng công nghệ để xây dựng sản phẩm .
Tôi tin tưởng mạnh mẽ rằng cơ sở hạ tầng tốt nhất đến từ kinh nghiệm cố gắng làm điều gì đó mà không có cơ sở hạ tầng. Do áp lực về thời gian và số lượng người làm việc với nó, những người giỏi nhất và thông minh nhất, chúng tôi có thể thấy: Đây là sản phẩm mà mọi người làm khi họ phải khởi chạy trải nghiệm AI tổng quát và đây là nơi chúng tôi có thể cung cấp cho họ với tư cách là nhà cung cấp cơ sở hạ tầng các công cụ, dịch vụ và khối xây dựng tốt hơn để có thể thực hiện nhanh hơn vào lần sau.
VB: Bạn có thể nói về cách tổ chức nhóm Core ML không?
Eiron: Trong nhiêu tâng lơp. Có những người tập trung vào phần cứng, phần mềm, thiết kế mã và tối ưu hóa trên trình biên dịch, các lớp thấp hơn của ngăn xếp. Những người ở giữa xây dựng các khối xây dựng cho ML — vì vậy họ sẽ xây dựng dịch vụ đào tạo, dịch vụ quản lý dữ liệu và dịch vụ suy luận. Họ cũng xây dựng các khung — vì vậy họ chịu trách nhiệm về Jax, TensorFlow và các khung khác.
Và sau đó, ở cấp cao nhất, chúng tôi có những người tập trung vào trải nghiệm ML được áp dụng cho những người xây dựng sản phẩm — vì vậy họ đang kề vai sát cánh với những người làm sản phẩm và mang lại kiến thức này về những gì cần thiết để thực sự xây dựng một sản phẩm cũng như cơ sở hạ tầng. Đó thực sự là điểm vượt trội trong đó một mặt chúng ta tương tác với các sản phẩm và mặt khác là nghiên cứu.
Chúng ta là một phần nhỏ của công nghệ di chuyển trong không gian. Nhưng chúng tôi sở hữu rất nhiều cơ sở hạ tầng này. Ví dụ: chúng tôi nói về việc xây dựng nhóm dịch vụ hoàn toàn mới này để tạo ra trải nghiệm AI tổng quát. Giống như, làm thế nào để bạn quản lý RLHF? Làm thế nào để bạn quản lý lọc? Làm thế nào để bạn quản lý gỡ xuống? Bạn quản lý việc quản lý dữ liệu để tinh chỉnh các sản phẩm này như thế nào? Tất cả đều là những thành phần mà chúng tôi sở hữu lâu dài. Nó không chỉ là “Đây là thứ bạn cần,” mà còn hơn thế nữa “Tôi nhận thấy đây là thứ mà rất nhiều người cần hiện nay, vì vậy tôi xây dựng nó và tôi cung cấp nó.”
VBe: Có bất cứ điều gì bạn đang làm hoặc thấy sắp tới để cải thiện cơ sở hạ tầng không?
Eiron: Một trong những điều tôi rất hào hứng là cung cấp quyền truy cập API cho các mô hình này. Bạn thực sự thấy không chỉ cộng đồng nguồn mở mà cả các nhà cung cấp phần mềm độc lập đang xây dựng sản phẩm dựa trên những trải nghiệm AI sáng tạo này. Tôi nghĩ rằng chúng ta còn rất sớm trong hành trình phát triển trí tuệ nhân tạo này, chúng ta sẽ thấy rất nhiều sản phẩm được tung ra thị trường. Tôi hy vọng nhiều ý tưởng trong số đó sẽ đến từ Google, nhưng tôi biết nhiều ý tưởng, nhiều ý tưởng hay sẽ xảy ra ở những nơi khác. Và tôi nghĩ việc thực sự tạo ra một môi trường mở nơi mọi người có thể đổi mới dựa trên những phần công nghệ tuyệt vời này là điều thực sự thú vị đối với tôi. Tôi nghĩ rằng chúng ta sẽ thấy rất nhiều điều thú vị xảy ra trong vài năm tới.
>>Đừng bỏ lỡ số đặc biệt của chúng tôi: Xây dựng nền tảng cho chất lượng dữ liệu khách hàng.<<
Sứ mệnh của VentureBeat là trở thành một quảng trường thành phố kỹ thuật số để những người ra quyết định kỹ thuật có được kiến thức về công nghệ doanh nghiệp chuyển đổi và giao dịch. Khám phá Briefings của chúng tôi.
[ad_2]