Apple thông báo rằng họ không sử dụng GPU của Nvidia để huấn luyện các mô hình AI mới của mình. Apple đã dựa vào các chip được thiết kế bởi Google của Alphabet thay vì lãnh đạo ngành Nvidia để xây dựng cơ sở hạ tầng phần mềm trí tuệ nhân tạo mới của mình sẽ cung cấp cho bộ công cụ và tính năng AI sắp tới của mình, theo một bài báo nghiên cứu của Apple được công bố vào thứ Hai.
Quyết định của Apple dựa vào cơ sở hạ tầng đám mây của Google là đáng chú ý vì Nvidia sản xuất các bộ xử lý AI được tìm kiếm nhất. Bao gồm các chip được làm bởi Google, Amazon.com và các công ty máy chủ đám mây khác, Nvidia chiếm khoảng 80% thị trường.
Trong bài nghiên cứu, Apple không nói rõ rằng họ không sử dụng chip của Nvidia, nhưng mô tả về cơ sở hạ tầng phần cứng và phần mềm của các công cụ và tính năng AI của mình không đề cập đến phần cứng của Nvidia.
Theo bài nghiên cứu, Apple nói rằng để huấn luyện các mô hình AI của mình, họ đã sử dụng hai “flavours” của Google’s tensor processing unit (TPU) được tổ chức trong các cụm lớn của chip. Để xây dựng mô hình AI hoạt động trên iPhone và các thiết bị khác, Apple đã sử dụng 2.048 chip TPUv5p. Để mô hình AI máy chủ của mình, Apple triển khai 8.192 bộ xử lý TPUv4.
Nvidia không thiết kế các TPU mà thay vào đó tập trung vào những gì gọi là GPU (bộ xử lý đồ hoạ) được sử dụng rộng rãi cho các công việc AI.
#Apple #ArtificialIntelligence #Google #Nvidia #TPU #AIProcessing #AIModels #ChipDesign #CloudInfrastructure #GPU #TechnologyNews #TechTrends #TimCook #DevelopersConference
Apple relied on chips designed by Alphabet’s Google rather than industry leader Nvidia to build its new artificial-intelligence software infrastructure that will power its forthcoming suite of AI tools and features, according to an Apple research paper it published on Monday.
Apple’s decision to rely on Google’s cloud infrastructure is notable because Nvidia produces the most sought-after AI processors. Including the chips made by Google, Amazon.com and other cloud computing companies, Nvidia commands roughly 80 per cent of the market.
In the research paper, Apple did not explicitly say that it uses no Nvidia chips, but its description of the hardware and software infrastructure of its AI tools and features lacked any mention of Nvidia hardware.
Apple could not immediately be reached for comment on Monday.
Apple said in the research paper that to train its AI models, it used two flavours of Google’s tensor processing unit (TPU) that are organised in large clusters of chips. To build the AI model that will operate on iPhones and other devices, Apple used 2,048 of the TPUv5p chips. For its server AI model, Apple deployed 8,192 TPUv4 processors.
Nvidia does not design TPUs but rather focuses its efforts on so-called graphics processing units (GPUs) that are widely used for AI efforts.
Unlike Nvidia, which sells its chips and systems as stand-alone products, Google sells access to the TPUs through its Google Cloud Platform. Customers interested in buying access must build software through Google’s cloud platform to use the chips.
Apple is rolling out portions Apple Intelligence to its beta users this week.
Reuters reported the use of the TPU chips in June but Apple did not disclose the full extent of its reliance on Google hardware until Monday’s research paper.
Google did not return a request for comment, and Nvidia declined to comment.
Apple’s engineers said in the paper it would be possible to make even larger, more sophisticated models with Google’s chips, than the two models it discussed in the paper.
Apple unveiled a slew of new AI features at its June developer conference, including integrating OpenAI’s ChatGPT technology into its software.
