Blog
微軟推出Windows AI Studio，開創在地與雲端AI開發新紀元
微軟推出Windows AI Studio，開創在地與雲端AI開發新紀元
November 17, 2023
重點摘要：
新聞內文：
微軟正將生成式AI體驗從雲端推廣到Windows裝置。或者至少這是它希望透過新的Windows AI Studio實現的目標。
Windows AI Studio今天在微軟的Ignite 2023大會上首次亮相，預計將在未來幾週內推出預覽版，它在某種程度上是對已不再支援的Windows開發人員AI平台的繼任者。Windows AI Studio匯集了AI工具和一個生成式AI模型的目錄，開發人員可以對其進行微調、自定義並部署到其Windows應用程序中以供本地離線使用。
但是Windows AI Studio並不強迫開發人員將模型部署到離線，或者部署到雲端。相反地，它為他們提供了在在地運行模型的選項，或者在需要時在遠程數據中心運行，或者以本地和雲端混合配置的方式運行。
微軟Windows和設備組的傑出工程師Logal Lyer在接受TechCrunch的電子郵件訪談中表示：「鑒於AI的發展速度，我們希望幫助開發人員透過提供所需的工具和資源，快速啟動在Windows上的AI開發」。「我們的首要任務是在這些工具可用時立即提供給開發人員」。
Windows AI Studio的模型目錄來自微軟以及Hugging Face等第三方儲存庫的模型。使用新的工具，開發人員可以選擇、配置、微調和測試其應用程式或專案的模型，使用自己的數據集，在決定在何處運行這些模型之前。
Lyera表示：「我們正在匯集尖端工具和一個模型目錄，其中包括我們測試過並且在某些情況下針對Windows進行了優化的模型，以便開發人員可以在Windows上快速啟動AI開發」。「今天，開發人員缺乏一個逐步引導界面來微調其模型的功能——這是在部署生成式AI功能到其應用程式中更快的阻礙。Windows AI Studio將提供這種引導界面，以便開發人員可以專注於編碼，而我們則負責繁重的工作，並支持他們部署生成AI功能到其應用程式中」。
不久，Windows AI Studio將升級為一個名為「prompt flow」的功能，該功能將允許開發人員在需要時自動在在地機器上運行較小、更快的模型，切換到更強大的雲端模型。此外，在支持的硬體上，即具有專用AI加速器芯片或GPU的硬體上，Windows AI Studio將獲得更強大的在地模型，包括Meta的文本生成工具Llama 2（由於最近擴展的與Meta的合作夥伴關係）和Stability AI的文本到圖像模型Stable Diffusion XL。
微軟還計劃將Windows AI Studio作為VS Code的擴展，這是其開源代碼編輯器。
Lyer表示：「『目標是給』開發人員更多選擇，不是在雲端上運行他們的模型，就是在Windows在地運行以滿足他們的需求」。
鑒於當今在規模上運行AI模型所需的雲端資源方面存在的挑戰，任何使部署模型在本地變得更簡單的工具都將受到開發人員的歡迎。問題只是「Windows AI Studio」是否能輕鬆實現在在地運行高性能模型。在缺乏實際操作演示的情況下，我們將不得不等到公開預覽版才能了解。
新聞原址： https://techcrunch.com/2023/11/15/microsofts-new-toolkit-makes-running-generative-ai-locally-on-windows-easier/
- 微軟在Ignite 2023大會上首次亮相「Windows AI Studio」，旨在將生成式AI體驗從雲端推廣到Windows裝置。
- Windows AI Studio提供AI工具和生成式AI模型目錄，讓開發人員可以自定義並部署到Windows應用程式中，支持在地離線使用。
- Windows AI Studio不限制模型僅在離線或雲端運行，提供在地、雲端或混合配置的運行選項，並計劃將其作為VS Code的擴展。
新聞內文：
微軟正將生成式AI體驗從雲端推廣到Windows裝置。或者至少這是它希望透過新的Windows AI Studio實現的目標。
Windows AI Studio今天在微軟的Ignite 2023大會上首次亮相，預計將在未來幾週內推出預覽版，它在某種程度上是對已不再支援的Windows開發人員AI平台的繼任者。Windows AI Studio匯集了AI工具和一個生成式AI模型的目錄，開發人員可以對其進行微調、自定義並部署到其Windows應用程序中以供本地離線使用。
但是Windows AI Studio並不強迫開發人員將模型部署到離線，或者部署到雲端。相反地，它為他們提供了在在地運行模型的選項，或者在需要時在遠程數據中心運行，或者以本地和雲端混合配置的方式運行。
微軟Windows和設備組的傑出工程師Logal Lyer在接受TechCrunch的電子郵件訪談中表示：「鑒於AI的發展速度，我們希望幫助開發人員透過提供所需的工具和資源，快速啟動在Windows上的AI開發」。「我們的首要任務是在這些工具可用時立即提供給開發人員」。
Windows AI Studio的模型目錄來自微軟以及Hugging Face等第三方儲存庫的模型。使用新的工具，開發人員可以選擇、配置、微調和測試其應用程式或專案的模型，使用自己的數據集，在決定在何處運行這些模型之前。
Lyera表示：「我們正在匯集尖端工具和一個模型目錄，其中包括我們測試過並且在某些情況下針對Windows進行了優化的模型，以便開發人員可以在Windows上快速啟動AI開發」。「今天，開發人員缺乏一個逐步引導界面來微調其模型的功能——這是在部署生成式AI功能到其應用程式中更快的阻礙。Windows AI Studio將提供這種引導界面，以便開發人員可以專注於編碼，而我們則負責繁重的工作，並支持他們部署生成AI功能到其應用程式中」。
不久，Windows AI Studio將升級為一個名為「prompt flow」的功能，該功能將允許開發人員在需要時自動在在地機器上運行較小、更快的模型，切換到更強大的雲端模型。此外，在支持的硬體上，即具有專用AI加速器芯片或GPU的硬體上，Windows AI Studio將獲得更強大的在地模型，包括Meta的文本生成工具Llama 2（由於最近擴展的與Meta的合作夥伴關係）和Stability AI的文本到圖像模型Stable Diffusion XL。
微軟還計劃將Windows AI Studio作為VS Code的擴展，這是其開源代碼編輯器。
Lyer表示：「『目標是給』開發人員更多選擇，不是在雲端上運行他們的模型，就是在Windows在地運行以滿足他們的需求」。
鑒於當今在規模上運行AI模型所需的雲端資源方面存在的挑戰，任何使部署模型在本地變得更簡單的工具都將受到開發人員的歡迎。問題只是「Windows AI Studio」是否能輕鬆實現在在地運行高性能模型。在缺乏實際操作演示的情況下，我們將不得不等到公開預覽版才能了解。
新聞原址： https://techcrunch.com/2023/11/15/microsofts-new-toolkit-makes-running-generative-ai-locally-on-windows-easier/