Blog
MLCommons成立MLPerf Client工作組，為消費者提供選擇性能卓越的筆記型電腦
MLCommons成立MLPerf Client工作組，為消費者提供選擇性能卓越的筆記型電腦
January 25, 2024
重點摘要：
- MLCommons成立了名為「MLPerf Client」的新工作組，旨在建立人工智慧基準，專注於桌面、筆記型電腦和工作站，以幫助消費者選擇性能卓越的裝置。
- 第一個MLPerf Client基準將集中於生成文本模型，特別是Meta的Llama 2，以確保AI應用程式運行效能高效。
- 雖然MLPerf Client工作組的成員包括AMD、Arm、微軟等，但蘋果並不是成員之一，這意味著未來的AI基準可能不會在蘋果設備上進行測試。
新聞內文：
隨著人工智慧越來越多地從雲端移至設備端，人們如何確定一款新的筆記型電腦是否能比競爭對手的現成筆記型電腦更快地運行生成式人工智慧應用程式？知道這一點可能意味著等待圖像生成需要幾秒鐘，而不是幾分鐘，正如人們所說，時間就是金錢。「MLCommons」是一個涉及多個與人工智慧相關的硬體基準的行業組織，它希望透過推出針對「客戶系統」的性能基準來使「比較購物」變得更加容易，即「消費者個人電腦」。
今天，MLCommons宣布成立了一個新的工作組，名為「MLPerf Client」，其目標是為運行Windows、Linux和其他操作系統的桌面、筆記型電腦和工作站建立人工智慧基準。MLCommons承諾，這些基準將「基於情景」，侧重於真實的最終使用者用例，並「以社區的反饋為基礎」。
為此，MLPerf Client的第一個基準將聚焦於生成文本模型，具體而言是Meta的Llama 2，MLCommons執行主任David Kanter指出，這已經被納入MLCommons的其他用於數據中心硬體基準的套件中。此外，Meta還與高通和微軟一起針對Windows對Llama 2進行了大量優化工作，這對於運行Windows的設備大有益處。
Kanter在新聞稿中說道：「現在是將MLPerf引入客戶系統的時候，因為人工智慧正變得越來越多地成為計算的預期部分」。「我們期待著與我們的成員合作，將MLPerf的卓越之處帶入客戶系統，並為整個社區帶來新的功能」。
MLPerf Client工作組的成員包括AMD、Arm、華碩、戴爾、英特爾、聯想、微軟、英伟達和高通，但值得注意的是不包括蘋果。
蘋果也不是MLCommons的成員，而且MLPerf Client組的聯合主席是微軟的工程總監（Yannis Minadakis），這使得蘋果公司的缺席在某種程度上並不令人意外。然而，令人失望的是，無論MLPerf Client制定出什麼樣的AI基準，都不會在蘋果設備上進行測試，至少在已知未來內不會。
儘管如此，筆者對MLPerf Client所推出的基準和工具感到好奇，無論是否支持macOS。假設生成式人工智慧（GenAI）已經存在（目前沒有跡象表明泡沫即將破裂）筆者不會感到驚訝，如果這類型的性能指標在設備購買決策中發揮越來越大的作用。
在筆者最理想的情況下，MLPerf Client的基準將類似於網上的許多PC構建比較工具，可以顯示人們可以從特定機器期望的人工智慧性能。或許它們將來會擴展到涵蓋手機和平板電腦，鑑於高通和Arm的參與（它們都在移動設備生態系統中有著重要投入）。這顯然還處於早期階段，但希望如此。
新聞原址： https://techcrunch.com/2024/01/24/mlcommons-wants-to-create-ai-benchmarks-for-laptops-desktops-and-workstations/