Lightning AI hướng đến việc đơn giản hóa việc quản lý trí tuệ nhân tạo
Trí tuệ nhân tạo có lẽ là điều “hot” nhất kể từ khi có bánh mì cắt lát. Nhưng điều đó không có nghĩa là nó đang dễ dàng hơn để phát triển và vận hành. Theo một cuộc khảo sát gần đây của Boston Consulting Group, 74% tổ chức đang gặp khó khăn trong việc thu được giá trị từ đầu tư trí tuệ nhân tạo của họ.
William Falcon, người sáng lập PyTorch Lightning, một framework trí tuệ nhân tạo mã nguồn mở phổ biến, cho biết một trong những sai lầm lớn nhất mà các doanh nghiệp thường mắc phải là đánh giá thấp công việc chuẩn bị cho việc triển khai trí tuệ nhân tạo. “Xây dựng nền tảng trí tuệ nhân tạo riêng của bạn ngày nay giống như xây dựng Slack riêng của bạn – phức tạp, tốn kém và không phải là lõi của doanh nghiệp của bạn,” ông nói với TechCrunch. “Giá trị của các doanh nghiệp nằm ở dữ liệu, kiến thức lĩnh vực và mô hình duy nhất của họ – không phải là việc duy trì cơ sở hạ tầng trí tuệ nhân tạo.”
Falcon, một cựu Nhóm Seal Hải quân và thực tập sinh nghiên cứu trí tuệ nhân tạo tại Facebook, bắt đầu phát triển PyTorch Lightning khi là sinh viên đại học tại Columbia. Framework này cung cấp một giao diện cấp cao cho thư viện trí tuệ nhân tạo PyTorch, trừu tượng hóa mã để thiết lập và duy trì hệ thống trí tuệ nhân tạo.
Sau khi rời khỏi chương trình tiến sĩ tại NYU, Falcon quyết định hợp tác với Luis Capelo, người từng là người đứng đầu sản phẩm dữ liệu của Forbes, để thương mại hóa PyTorch Lighting. Dự án của họ, Lightning AI, mang framework mã nguồn mở và lớp dịch vụ và công cụ tập trung vào doanh nghiệp.
“Chúng tôi có hàng nghìn nhà phát triển đơn lẻ huấn luyện và triển khai mô hình (với Lightning AI) ở quy mô mà trước đây cần đội ngũ nhà phát triển,” Falcon chia sẻ.
Lightning AI xử lý các công việc thường gặp khó khăn như phân phối công việc trí tuệ nhân tạo trên máy chủ và cung cấp cơ sở hạ tầng cần thiết để đánh giá và huấn luyện trí tuệ nhân tạo. Sản phẩm cốt lõi của công ty, AI Studios, cho phép khách hàng điều chỉnh và chạy mô hình trí tuệ nhân tạo trong môi trường đám mây mà họ ưa thích.
Công ty có thể sử dụng Lightning AI để lưu trữ các ứng dụng được trang bị trí tuệ nhân tạo chạy trên cơ sở hạ tầng đám mây riêng hoặc trung tâm dữ liệu trên chỗ của họ. Giá cả là trả theo dùng, với một gói miễn phí bao gồm 22 “giờ GPU” mỗi tháng.
Falcon cho biết rằng mục tiêu của Lightning AI là làm cho phát triển trí tuệ nhân tạo “dễ hiểu như sử dụng iPhone”. Nền tảng này đã giúp Cisco giảm thời gian thiết lập cơ sở hạ tầng xuống còn hai ngày, ông tuyên bố, và giúp các nhà nghiên cứu tại trường đại học cũ của mình, Columbia, hoàn thành hàng trăm thí nghiệm trong 12 giờ.
“Đa số mọi người không biết rằng nhiều sản phẩm trí tuệ nhân tạo hàng đầu thế giới đã được huấn luyện hoặc xây dựng trên Lightning,” Falcon nói. “Ví dụ, bộ mô hình của Nvidia, NeMo, đã được xây dựng bằng công cụ Lightning – Stable Diffusion của Stability AI là một ví dụ khác.”
Chắc chắn, Lightning AI đang có đà phát triển. Hơn 230.000 nhà phát triển trí tuệ nhân tạo và 3.200 tổ chức sử dụng nền tảng này ngày hôm nay, và công ty gần đây đã huy động được 50 triệu đô la trong một vòng đầu tư.
Tuy nhiên, cũng có sự cạnh tranh. Comet, Galileo, FedML, Arize, Deepset, Diveplane, Weights & Biases và InfuseAI cung cấp các dịch vụ quản lý trí tuệ nhân tạo trả phí và miễn phí tương tự.
Falcon tin rằng thị trường giải pháp trí tuệ nhân tạo quản lý đủ lớn để hỗ trợ nhiều người chơi. Và có lẽ ông không sai. Theo Fortune Business Insights, ngành công nghiệp vận hành học máy – ngành học máy mà Lightning AI hoạt động – có thể đạt được giá trị khoảng 13 tỷ đô la vào năm 2030.
Với khoản đầu tư gần đây là 50 triệu đô la, được dẫn dắt bởi Cisco với sự tham gia của J.P. Morgan và Nvidia, tổng nguồn vốn chiến tranh của Lightning AI đạt 103 triệu đô la. Công ty dựa tại New York, với 50 nhân viên, dự định sử dụng số tiền này để thu hút khách hàng mới, bao gồm khách hàng chính phủ, và mở rộng nền tảng Lightning sang các thị trường mới.
“Với đội ngũ nhỏ gọn, hiệu suất cao và sản phẩm có biên lợi nhuận gộp trên 90%,” Falcon nói, “chúng tôi đang trên đúng lịch trình để đạt doanh thu tái phát hàng năm từ 10 đến 20 triệu đô la vào cuối năm sau và đạt lợi nhuận sau một thời gian ngắn.” #LightningAI #QuảnLýTríTuệNhânTạo #PhátTriểnAI
Nguồn: https://techcrunch.com/2024/11/21/lightning-ai-looks-to-make-managing-ai-a-piece-of-cake/
AI may be the hottest thing since sliced bread. But that doesn’t mean it’s getting easier to develop and run. According to a recent Boston Consulting Group poll, 74% of organizations are struggling to derive value from their AI investments.
William Falcon, the creator of PyTorch Lightning, a popular open source AI framework, says that one of the biggest mistakes businesses make is underestimating the amount of legwork involved in AI orchestration. “Building your own AI platform today is like building your own Slack — it’s complex, costly, and not core to your business,” he told TechCrunch. “The value for enterprises lies in their data, domain knowledge, and unique models — not in maintaining AI infrastructure.”
Falcon, a former Navy Seal and Facebook AI Research intern, started developing PyTorch Lightning while an undergraduate at Columbia. The framework provides a high-level interface for the AI library PyTorch, abstracting away the code to set up and maintain AI systems.
After dropping out his NYU Ph.D. program, Falcon decided to team up with Luis Capelo, Forbes’ former data products lead, to commercialize PyTorch Lighting. Their venture, Lightning AI, takes the open source framework and layers enterprise-focused services and tools on top.
“We have thousands of developers single-handedly training and deploying models (with Lightning AI) at a scale that would have required teams of developers without Lightning,” said Falcon.
Lightning AI handles normally cumbersome tasks like distributing AI workloads across servers and provisioning the infrastructure needed to evaluate and train AI. The company’s flagship product, AI Studios, allows customers to fine-tune and run AI models in the cloud environments that they prefer.
Companies can even use Lightning AI to host AI-powered apps that run on private cloud infrastructure or their on-premises data centers. Pricing is pay-as-you-go, with a free tier that includes 22 “GPU hours” per month.
Falcon says that the goal of Lightning AI is to make AI dev “as intuitive as using the iPhone.” The platform has helped Cisco cut infrastructure setup time to two days, he claims, and enabled researchers at his alma mater, Columbia, finish hundreds of experiments in 12 hours.
“Most people don’t know this, but many of the world’s leading AI products have been trained or built on Lightning,” Falcon said. “For example, Nvidia’s suite of models, NeMo, was built using Lightning tools — Stable Diffusion by Stability AI is another.”
Certainly, Lightning AI has momentum. More than 230,000 AI developers and 3,200 organizations use the platform today, and the company recently raised $50 million in a funding round.
There’s competition, though. Comet, Galileo, FedML, Arize, Deepset, Diveplane, Weights & Biases, and InfuseAI offer comparable mixes of paid and free AI orchestration services.
Falcon, for his part, believes the market for managed AI solutions is big enough to support many players. And he’s likely not wrong. Per Fortune Business Insights, the machine learning operations industry vertical — Lightning AI’s vertical — could be worth roughly $13 billion by 2030.
With the recent $50 million investment, which was led by Cisco with participation from J.P. Morgan and Nvidia, Lightning AI’s total war chest stands at $103 million. The New York-based, 50-person company plans to spend the proceeds on recruiting new customers, including government customers, and expanding the Lightning platform to new markets.
“With a lean, high-performance team and a 90%+ gross margin product,” Falcon said, “we are on track to reach $10 million to $20 million in annual recurring revenue by the end of next year and achieve profitability shortly after.”
