Blog
AI時代的新浪潮：從GPU到NPU，智慧手機硬體的革命
AI時代的新浪潮：從GPU到NPU，智慧手機硬體的革命
November 25, 2023
重點摘要：
- AI在智慧手機應用中的普及：AI技術已被廣泛應用於智慧手機的多種應用程式中，從計算攝影到語言模型，但這些應用需要大量計算資源。
- GPU和NPU在AI中的角色：GPU原本用於快速處理圖像和動畫，後來被用於運行AI的複雜數學模型。隨著AI模型變得更加龐大和複雜，業界開始轉向專門的AI硬體，如神經處理單元（NPU）。
- NPU的智慧手機應用：NPU專門用於神經網路機器學習，與GPU和CPU相比，它們專注於神經網路任務。近年來，主要智慧手機製造商如蘋果、華為、高通、聯發科和三星都在其最新產品中集成了NPU。
新聞內文：
如果你讀過我們的「Google Pixel 8」評論，你會意識到多年來人工智慧（AI）的應用已經取得了多大的進展。從計算攝影到設備上的語言模型，AI現在基本上用於智慧手機上大多數應用程式，即使它不完全驅動它們。
但從計算資源的角度來看，AI的成本相當高，因為它需要同時執行大量計算。而這不是CPU最擅長的。這就是為什麼行業轉向了GPU（更近期的是NPU）。下面我們將看看GPU在AI和機器學習中的角色，尤其是在智慧手機中，以及它們如何逐漸將權力交給「NPU」。
GPU作為AI處理器
在AI變得主流之前，GPU的設計是為了迅速操縱和改變內部儲存，以在智慧手機螢幕上顯示圖像和動畫。然後，當AI應用程式變得更加普遍時，GPU找到了新的用途，「它們可以應用其同時處理的能力來運行AI所需的複雜數學模型」。
無論是臉部辨識、攝影中的物體檢測，還是語音助手中的語音識別，GPU在智慧手機中支持了最新的AI功能。當然，它們沒有完全取代CPU在這些功能中的作用，但它們一起顯著減少了處理時間。
專門的AI硬體需求
然而，當涉及到AI性能時，GPU存在一些限制。隨著神經網路和其他機器學習模型變得越來越龐大和複雜，GPU跟不上。當然，它們在並行運行數學計算方面表現出色，但它們仍然不是專門為AI而設計的。
而且，隨著網路規模的增大，天真的GPU並行性損害了性能。再加上智慧手機功耗的限制，很明顯需要專門的硬體。
進入NPU
超越GPU需要專門的AI硬體。出現的解決方案是神經處理單元或NPU，一種專門用於神經網路機器學習的微處理器。簡而言之，NPU的特長是為機器學習模型計算數字。
在網路規模不斷增大的情況下，天真的GPU並行性損害了性能。再加上智慧手機功耗的限制，很明顯需要專門的硬體。
NPU與GPU和CPU有什麼區別？
這三者之間存在重大區別，但總體而言，NPU與GPU更接近，因為它們都專為並行處理而設計。只是NPUs更加專業，專注於神經網路任務，而GPUs更加通用，可以處理更廣泛範圍的並行計算任務。
就核心數量而言，具體的數量可以根據具體型號和製造商而有很大差異。然而，一般趨勢是，CPU擁有較少但更強大的核心，GPU擁有為並行任務優化的許多核心（通常在數千個以上），而NPU擁有專為AI計算而設計的核心。
智慧手機中的NPU採用
幾年前首次亮相後，NPU矽片迅速改進，並被幾乎所有主要廠商集成到智慧手機中。
蘋果在2017年的A11移動晶片和更高端的iPhone型號中首次引入了神經引擎「NPU」。同樣地，華為在2018年的「麒麟970晶片」上推出了一個NPU；高通，主導Android移動平台的供應商，也推出了集成在其高端800系列晶片中的AI引擎。最近，高通專注於由「Snapdragon 8 Gen 3」上的NPU支持的設備上生成AI。聯發科和三星也紛紛在其最新產品中集成了NPU。
新聞原址： https://indianexpress.com/article/technology/tech-news-technology/gpu-npu-role-ai-smartphones-9040864/?ref=futurepedia