微软推出Windows AI Studio简化Windows本地端AI应用开发

微软推出Windows AI Studio简化Windows本地端AI应用开发

微软在Windows上推出一款称为Windows AI Studio的人工智慧开发工具,供企业和开发人员可以便捷地在Windows上,开始本地端的人工智慧开发和部署。由於Windows AI Studio结合了来自Azure AI Studio的工具和模型,方便开发者在Windows选择并运用小语言模型,进而高效地开发和最佳化人工智慧应用程式。

微软表示,现在有许多人工智慧开发工具、框架和开源模型,但是开发者很难选出适合的工具集测试、微调和最佳化模型,况且要针对不同业务需求,选择适合的模型本身也是困难的工作。Windows AI Studio汇集了来自Azure AI Studio、Hugging Face等平台工具和模型,可以简化生成式人工智慧应用程式开发,使开发人员能够简单地微调、自订和部署小语言模型,供Windows应用程式在本地端使用。

Windows AI Studio提供了一个全面的端到端指引工作环境,包括模型配置使用者介面和开发指南,可在开发者完成小语言模型微调後,利用整合的Prompt Flow和Gradio模板快速测试模型。微软推出Windows AI Studio的用意,在於促进混合循环开发模型,赋予开发者根据不同情境,在Azure云端和本地的Windows装置间自由选择并执行模型的能力,实现高效且灵活的人工智慧开发流程。

微软还强调Windows AI Studio未来将提供专门针对Windows GPU和NPU最佳化的新模型,诸如 Llama 2-7B、Mistral-7B、Falcon-7B和Stable Diffusion XL。被微软视为Windows AI入口的高效能推论引擎ONNX Runtime,以及Windows本地端机器学习的API DirectML,在本地端人工智慧开发扮演重要角色,两者结合以提供开发者简单且高效的人工智慧开发体验。

除此之外,开发者也可以使用Olive(ONNX Live)模型最佳化工具,来进一步提高於Windows执行模型的效能。Olive原本是针对在云端和边缘装置上运作模型所设计,其整合了模型压缩、最佳化和编译技术,能够根据模型和目标硬体,采用最适合的技术最佳化模型。因此Olive与ONNX Runtime成为一个端到端推论最佳化解决方案,而且Olive也与DirectML紧密整合,藉以在整个Windows生态系实现模型硬体加速。

在数周内,开发者就可以在VS Code的扩充套件开始使用Windows AI Studio,在熟悉的介面中进行本地端人工智慧应用开发。

币安怎么在手机上注册

0 0 投票数
Article Rating
订阅评论
提醒
guest
0 Comments
内联反馈
查看所有评论
0
希望看到您的想法,请您发表评论x