SiFive giới thiệu thiết kế chip RISC-V cho các tải công việc trí tuệ nhân tạo hiệu suất cao tham gia bản tin hàng ngày và hàng tuần của chúng tôi để cập nhật thông tin mới nhất và nội dung độc quyền về cảnh báo AI. Tìm hiểu thêm SiFive, một nhà thiết kế chip dựa trên nền tảng tính toán RISC-V, đã công bố một loạt chip AI mới dành cho các tải công việc trí tuệ nhân tạo hiệu suất cao. Dòng SiFive Intelligence XM Series được thiết kế để tăng tốc các tải công việc trí tuệ nhân tạo hiệu suất cao. Đây là sở hữu trí tuệ đầu tiên từ SiFive bao gồm một bộ máy tính ma trận AI có khả năng mở rộng cao, giúp rút ngắn thời gian ra thị trường cho các công ty bán dẫn xây dựng giải pháp hệ thống trên chip cho các thiết bị vi điều khiển IoT, thiết bị người tiêu dùng, xe hạng điện tử và/hoặc tự hành thế hệ tiếp theo, trung tâm dữ liệu, và xa hơn nữa. Là một phần của kế hoạch hỗ trợ khách hàng và cộng đồng RISC-V rộng lớn hơn, SiFive cũng thông báo ý định mã nguồn mở một bản thực thi tham khảo của Thư viện Nhân hạt SiFive (SKL). Thông báo được thực hiện tại sự kiện báo chí của SiFive, vào thứ Ba, tại Santa Clara, nơi các điều hành đã thảo luận vai trò lãnh đạo mà kiến trúc RISC-V đang đóng đối với các giải pháp trí tuệ nhân tạo trên một loạt các nhà lãnh đạo thị trường đa dạng, và cung cấp cập nhật về chiến lược, lộ trình và động lực kinh doanh của SiFive. Giải pháp mở Patrick Little, CEO của SiFive.Patrick Little, Giám đốc điều hành của SiFive, cho biết trong một cuộc phỏng vấn với VentureBeat rằng khách hàng trong ngành bán dẫn, hệ thống và thị trường tiêu dùng đã đánh giá cao chiến lược phần mềm đằng sau SiFive và RISC-V. Ông lưu ý rằng có hơn 10 tỷ lõi SiFive đã được vận chuyển đến nay. Và Little lưu ý rằng SiFive đã đầu tư hơn 500 triệu đô la vào nghiên cứu và phát triển và đang bán cho các nhà lãnh đạo bán dẫn hàng đầu và hyperscaler. Công ty có hơn 400 chiến thắng thiết kế. Kiến trúc RISC-V có một phần mềm là một giao diện tiêu chuẩn mã nguồn mở, có nghĩa là bất kỳ loại lõi nào kết nối với nó. Điều đó có nghĩa là khách hàng sử dụng các thiết kế SiFive có thể lựa chọn bộ tăng tốc của riêng họ cho AI và các ứng dụng khác mà không cần lo lắng về việc phá vỡ sự tương thích phần mềm, Little cho biết. Trong khi các nhà lãnh đạo lớn trong AI như Nvidia có thể sử dụng kiến trúc đơn vị xử lý đồ họa (GPU) riêng của mình, các công ty nhỏ hơn sử dụng một loại bộ tăng tốc riêng của mình, ông nói. Nhưng các lập trình viên phần mềm không muốn học một ngôn ngữ mới mỗi khi một bộ tăng tốc mới xuất hiện, Little nói. Do đó, các hyperscaler và công ty chip muốn sử dụng các giải pháp RISC-V như SiFive để họ không phải tiếp tục viết lại phần mềm của họ, ông nói. Giao diện phần mềm tiêu chuẩn mã nguồn mở RISC-V cho phép sự tiến hoá mạnh mẽ của chuẩn RISC-V theo thời gian và giảm rủi ro hơn một nhà cung cấp độc quyền duy nhất. SiFive đã liên tục tiến lên một chuỗi thức ăn, bắt đầu vào những năm 1990 với các lõi nhúng và thêm lõi xử lý vector đầu tiên vào năm 2021. Và bây giờ họ đang thêm các giải pháp trí tuệ nhân tạo. Khách hàng có thể sử dụng nó như một bộ xử lý luồng dữ liệu ở phần trước của bộ xử lý để đi kèm với các bộ tăng tốc AI phần sau đang thay đổi của họ. “Họ không muốn tiếp tục viết cho phần mềm AI. Vì vậy chúng tôi đã đặt một bộ xử lý vector RISC-V ở phía trước. Các bộ xử lý AI tiếp tục thay đổi nhanh chóng. Những mô hình tiếp tục thay đổi. Những người viết phần mềm muốn viết cho một cái gì đó sẽ tồn tại trong 15 năm,” ông nói. “Chúng tôi là một trong số ít công ty có thể lấp đầy khoảng cách đó. Và hôm nay chúng tôi đã công bố bộ tăng tốc của chính mình, hoặc động cơ nhân ma trận, và chúng tôi đang thực hiện dòng sản phẩm XM để bổ sung cho những gì chúng tôi đã làm trong xử lý vector. Đó là một động cơ nhân ma trận.” Lập trình của SiFive.Khách hàng muốn một lựa chọn thay thế cho Nvidia có thể quay lại một nguồn khác, nhưng họ không muốn đối thủ đó là một giải pháp riêng. Thay vào đó, họ thích RISC-V vì nó có nhiều công ty cạnh tranh đứng sau. “Chúng tôi tin rằng giải pháp của chúng tôi có thể tiến hóa đến hiệu suất cấp độ của Nvidia,” ông nói. “Nhiều công ty đang thấy được lợi ích của một tiêu chuẩn bộ xử lý mã nguồn mở trong khi họ đua nhau để đuổi kịp với tốc độ thay đổi nhanh chóng với AI. AI chơi vào những điểm mạnh của SiFive với hiệu suất mỗi watt và khả năng độc đáo của chúng tôi để giúp khách hàng tùy chỉnh giải pháp của họ,” ông Little nói. “Chúng tôi đã cung cấp các giải pháp RISC-V của mình cho năm trong số 7 công ty Magnificent, và khi các công ty quay sang chiến lược thiết kế “phần mềm trước hết” chúng tôi đang làm việc trên các giải pháp AI mới với một loạt các công ty từ ô tô đến trung tâm dữ liệu và cạnh thông minh và IoT.” Dòng sản phẩm XM Series mới của SiFive cung cấp một bộ động cơ tính toán AI cực kỳ mở rộng và hiệu quả. Bằng cách tích hợp các động cơ scalar, vector và ma trận, khách hàng XM Series có thể tận dụng băng thông bộ nhớ rất hiệu quả. Dòng XM Series cũng tiếp tục truyền thống của SiFive với hiệu suất cực cao mỗi watt cho các ứng dụng tính toán cần nhiều công suất. “RISC-V ban đầu được phát triển để hỗ trợ một cách hiệu quả các động cơ tính toán chuyên dụng bao gồm các hoạt động kết hợp chất lượng,” Krste Asanovic, kiến trúc sư trưởng của SiFive, nói trong một tuyên bố. “Điều này, cộng với việc bao gồm các lệnh vector hiệu quả và hỗ trợ của các tiện ích AI chuyên biệt, là những lý do tại sao nhiều nhà cung cấp trung tâm dữ liệu lớn đã chấp nhận các bộ tăng tốc AI RISC-V.” Xu hướng RISC-V.Là một phần của bài thuyết trình của mình, Asnovic giới thiệu thêm chi tiết về dòng sản phẩm XM Series mới mở rộng gia đình Sản phẩm Thông minh của mình. Dòng XM Series cũng tiếp tục truyền thống của SiFive với hiệu suất cực cao mỗi watt cho các ứng dụng tính toán cần nhiều công suất. Với bốn lõi X-Cores mỗi nhóm, mỗi nhóm có thể cung cấp 16 TOPS (INT8) hoặc 8 TFLOPS (BF16) mỗi GHz. Chip có 1TB/s của băng thông bộ nhớ ổn định mỗi nhóm XM Series, với các nhóm có thể truy cập bộ nhớ qua cổng băng thông cao hoặc qua một cổng CHI cho truy cập bộ nhớ chặt chẽ. SiFive mường tưởng việc tạo ra các hệ thống bao gồm không có CPU chủ hoặc dựa trên RISC-V, x86 hoặc Arm. Công ty hiện đang cung cấp mẫu giải pháp của mình. SiFive sẽ tham gia Hội nghị RISC-V Bắc Mỹ, diễn ra vào ngày 22-23 tháng 10 năm 2024 tại Santa Clara, California. Công ty hiện có 500 người. “Chúng tôi đã trở thành tiêu chuẩn vàng của RISC-V,” Little nói. VB Hàng ngày Hãy ở trong tầm hiểu biết! Nhận tin tức mới nhất trong hộp thư của bạn hàng ngày Bằng cách đăng ký, bạn đồng ý với Điều khoản Dịch vụ của VentureBeat. Cảm ơn bạn đã đăng ký. Xem thêm các bản tin VB ở đây. Một lỗi đã xảy ra.
Nguồn: https://venturebeat.com/ai/sifive-unveils-risc-v-chip-design-for-high-performance-ai-workloads/
Join our daily and weekly newsletters for the latest updates and exclusive content on industry-leading AI coverage. Learn More
SiFive, a designer of chips based on the RISC-V computing platform, announced a series of new AI chips for high-performance AI workloads.
The SiFive Intelligence XM Series is designed for accelerating high performance AI workloads. This is the first intellectual property from SiFive to include a highly scalable AI matrix engine, which accelerates time to market for semiconductor companies building system on chip solutions for edge IoT, consumer devices, next generation electric and/or autonomous vehicles, data centers, and beyond.
As part of SiFive’s plan to support customers and the broader RISC-V ecosystem, SiFive also announced its intention to open source a reference implementation of its SiFive Kernel Library (SKL).
The announcement was made at a SiFive press event, Tuesday, in Santa Clara, where executives discussed the leadership role the RISC-V architecture is playing at the core of AI solutions across a diverse range of market leaders, and provided an update on SiFive’s strategy, roadmap and business momentum.
The open solution
Patrick Little is CEO of SiFive.
Patrick Little, CEO of SiFive, said in an interview with VentureBeat that customers in the semiconductor, systems and consumer markets have come to appreciate the software strategy behind SiFive and RISC-V.
He noted that products with more than 10 billion SiFive cores have shipped to date. And Little noted that SiFive has invested more than $500 million in R&D and it is selling to the top semiconductor leaders and hyperscalers. The company has more than 400 design wins.
The RISC-V architecture has a software that is an open standard interface, meaning any kinds of cores that connect to it. That means customers who use SiFive designs can choose their own accelerators for AI and other applications without having to worry about breaking software compatibility, Little said.
While big leaders in AI like Nvidia can use their own proprietary graphics processing unit (GPU) architectures, smaller companies use their own breed of accelerators, he said. But software programmers don’t want to learn a new language every time a new accelerator comes along, Little said. So the hyperscalars and chip companies want to use RISC-V solutions like SiFive so they don’t have to keep rewriting their software, he said.
The RISC-V open standard software interface allows for the graceful evolution of the RISC-V standard over time and it de-risks the solution beyond a single proprietary vendor.
SiFive has been steadily moving up a food chain, starting in the 1990s with embedded cores and adding its first vector processor in 2021. And now it is adding AI solutions. Customers can use it as a data flow processor as the front end to their processor to go with their changing backend AI accelerators.
“They don’t want to keep writing to the AI software. So we put a RISC-V vector processor in front of that. The AI processors keep changing fast. The models keep changing. Software writers want to write to something that will be around in 15 years,” he said. “We are one of the few companies that can fill that gap. And today we announced own accelerator, or matrix multiplication engine, and we are doing the XM product line to completement what we did in vector processing. It’s a matrix multiplication engine.”
SiFive’s pitch.
Customers who want an alternative to Nvidia can turn to another source, but they don’t want that rival to be another proprietary solution. Rather, they like RISC-V as it offers many rival companies behind it, Little said.
“We believe our solution can scale to Nvidia level performance,” he said.
“Many companies are seeing the benefits of an open processor standard while they race to keep up with the rapid pace of change with AI. AI plays to SiFive’s strengths with performance per watt and our unique ability to help customers customize their solutions,” said Little. “We’re already supplying our RISC-V solutions to five of the Magnificent 7 companies, and as companies pivot to a ‘software first’ design strategy we are working on new AI solutions with a wide variety of companies from automotive to datacenter and the intelligent edge and IoT.”
SiFive’s new XM Series offers an extremely scalable and efficient AI compute engine. By integrating scalar, vector, and matrix engines, XM Series customers can take advantage of very efficient memory bandwidth. The XM Series also continues SiFive’s legacy of offering extremely high performance per watt for compute-intensive applications.
“RISC-V was originally developed to efficiently support specialized computing engines including mixed-precision operations,” said Krste Asanovic, SiFive chief architect, in a statement. “This, coupled with the inclusion of efficient vector instructions and the support of specialized AI extensions, are the reasons why many of the largest datacenter companies have already adopted RISC-V AI accelerators.”
The RISC-V trend.
As part of his presentation, Asnovic introduced more details on the new XM Series which broadens its Intelligence Product family. The XM Series also continues SiFive’s legacy of offering extremely high performance per watt for compute-intensive applications.
Featuring four X-Cores per cluster, a cluster can deliver 16 TOPS (INT8) or 8 TFLOPS (BF16) per GHz. The chip has 1TB/s of sustained memory bandwidth per XM Series cluster, with the clusters being able to access memory via a high bandwidth port or via a CHI port for coherent memory access. SiFive envisions the creation of systems incorporating no host CPU or ones based on RISC-V, x86 or Arm. The company is sampling its solutions now.
SiFive will be at the RISC-V Summit North America, taking place Oct. 22-23, 2024 in Santa Clara, California. The company has 500 people.
“We’ve become the gold standard of RISC-V,” Little said.
VB Daily
Stay in the know! Get the latest news in your inbox daily