AI Dev Gallery：给 Windows 应用开发者的本地 AI 工具箱

当 Windows 开发者遇上 AI

想象一下这个场景：你是一个 Windows 桌面应用开发者，手头的 WPF/WinUI 项目需要集成一个文本摘要功能。以前你只能调用 OpenAI API，把用户数据送到云端——但现在，你可以在本地运行一个 7B 参数的 Phi-3 模型，数据完全不离开用户的电脑。这就是 AI Dev Gallery（简称 ADG）想要解决的核心问题。

ADG 是微软出品的一个开源 WinUI 3 桌面应用，目前处于公开预览阶段。它的定位非常明确：帮助 Windows 开发者快速上手 AI 能力集成。作为一个.gallery（画廊）式的应用，它预置了超过 25 个交互式 AI 样本，覆盖文本生成、图像生成、语音转写、多模态推理等多个维度，开发者可以直接在应用中浏览、下载模型、运行样本，并一键导出为独立的 Visual Studio 项目。

图1：AI Dev Gallery 主界面，支持模型浏览与交互式 AI 样本体验

背景：为什么微软要做这个项目

Windows 桌面应用生态在 AI 集成方面长期存在一个门槛问题。相比 Web 开发者有丰富的 SDK 和云服务，Win32/WinUI 开发者缺乏系统级的本地 AI 能力接入方案。微软的答案是：通过 ONNX Runtime GenAI 和 WinML，让 Windows 原生应用直接调用本地运行的 AI 模型。

ADG 项目整合了微软自家多条技术线：

• ONNX Runtime GenAI：推理引擎，支持 Phi-3、Mistral 等主流开源模型
• WinML（Windows Machine Learning）：系统级 AI 加速，通过 DirectML 利用 GPU/NPU
• Semantic Kernel：微软的 AI 应用编排框架，用于构建复杂 AI 工作流
• Ollama：也支持通过 OllamaSharp 连接 Ollama 服务

Topics 列表中涵盖了 Phi-3、Mistral、Stable Diffusion、Whisper、ONNX Runtime、DirectML 等关键词，说明这是一个高度整合多条微软技术栈的项目，也是观察微软 AI 战略在端侧落地的一个窗口。

核心功能：从模型到代码的全链路支持

ADG 的功能设计围绕一个核心循环：体验 → 理解 → 导出 → 开发。

模型管理是其重要基础。ADG 内置了模型浏览和下载功能，支持从 Hugging Face 和 GitHub 下载模型。支持的模型类型非常广泛：

类别	代表模型	典型用途
语言模型	Phi-3-mini、Mistral-7B	文本生成、摘要、聊天
图像模型	Stable Diffusion XL	文生图、图像编辑
Whisper	Whisper Base/Small	语音转文字
多模态	Phi-3.5-vision	图文理解
Embeddings	all-MiniLM-L6-v2	语义搜索

开发者不需要了解模型下载和管理的细节，只需要选择需要的场景，ADG 自动处理模型下载和初始化。

交互式样本是 ADG 的核心体验。每个样本都是一个完整的 AI 功能演示，例如：

• Generate Text：本地语言模型生成文本
• Chat：带上下文的本地聊天
• Semantic Kernel Chat：通过 Semantic Kernel 实现的多轮对话
• Translate Text：支持自动检测源语言的翻译
• Grammar Check / Paraphrase：文本润色和改写
• Image Generation：Stable Diffusion 文生图
• Whisper Transcription：本地语音转文字

这些样本覆盖了 Windows 开发者最常见的 AI 集成需求。值得注意的是，ADG 还包含了 WCR APIs（Windows Copilot Runtime APIs）相关样本，这是微软在 Windows 11 中推进的端侧 AI 能力标准接口。

图2：ADG 内置的交互式 AI 样本，支持实时体验和参数调节

代码导出：从示例到生产的最短路径

ADG 最实用的功能之一是一键导出独立 Visual Studio 项目。开发者在样本界面中点击"Export to VS Project"，ADG 会根据当前样本的代码，自动生成一个完整的 Visual Studio 项目模板，包含所有必要的 NuGet 包引用、代码文件和配置。

这个功能的价值在于：传统 AI 集成的学习路径是"读文档→配环境→写代码→调试"，而 ADG 把这条路压缩成了"运行样本→点导出→开始开发"。对于想快速验证某个 AI 能力是否适合自己的业务场景的开发者，这个功能能节省大量前期探索成本。

导出的项目基于 WinUI 3 + Windows App SDK，使用 .NET 9，目标框架是 net9.0-windows10.0.26100.0，体现了微软推动 Windows 应用现代化的战略方向。

技术架构：多引擎协同的 AI 推理层

从代码结构来看，ADG 的技术架构分为几个层次：

UI 层（WinUI 3）：主窗口使用 WinUI 3 的 XAML 框架，配合 CommunityToolkit.Mvvm 实现 MVVM 模式。Pages 目录存放各个样本页面，ViewModels 目录存放对应的视图模型，Models 存放数据模型。

AI 推理层：ADG 支持多种推理后端并行：

• ONNX Runtime GenAI Managed/WinML：核心推理引擎，通过 Microsoft.ML.OnnxRuntimeGenAI 包实现
• OllamaSharp：通过 Ollama 服务调用本地模型
• Semantic Kernel Core：AI 编排和工具调用框架
• Microsoft.Extensions.AI：统一的 AI 抽象层
• Microsoft.ML.Tokenizers：高效的 Tokenizer 实现

ProjectGenerator 模块：负责生成 Visual Studio 项目模板，这是 ADG 实现"代码导出"功能的核心组件。

ExternalModelUtils：处理外部模型下载和管理的工具模块。

AIDevGallery.Utils 和 AIDevGallery.Fuzz：辅助工具和模糊测试模块，体现了微软对代码质量的重视。

代码质量方面，项目使用 .editorconfig 进行代码风格统一，大量使用 CommunityToolkit.Mvvm（现代 .NET 推荐的 MVVM 工具包），Nullable 启用、LangVersion preview，体现了较高的 C# 工程化水准。

图3：ADG 的 ProjectGenerator 模块支持一键导出独立 VS 项目

部署体验：硬件要求与上手路径

ADG 对硬件有明确要求：最低 Windows 10 version 1809（Build 17763），推荐 16GB RAM，8GB VRAM GPU，20GB 可用磁盘空间。ARM64 架构也支持（尤其是 Copilot+ PC 上的 NPU 加速场景）。

上手路径有三条：

1. Microsoft Store 一键安装：最简单，适合只想体验不想编译的用户
2. 手动安装预编译版本：通过 GitHub Release 下载安装
3. 源码编译：需要 Visual Studio 2022 + Windows application development 工作负载，克隆仓库后用 VS 打开 .sln，F5 运行

源码编译的门槛主要在 Visual Studio 配置和环境依赖上，不适合 Linux/macOS 用户。这是一个纯 Windows 平台项目，在跨平台趋势下显得专注但也有局限性。

局限与挑战

ADG 当前处于公开预览阶段，存在一些需要关注的局限：

平台锁定：完全没有 Linux/macOS 支持，对于习惯跨平台开发的团队不友好。

Windows 版本依赖：最低支持 Windows 10 Build 17763，但部分 AI 加速功能（如 NPU 加速的 Phi Silica）需要较新的 Windows 11 版本。

硬件门槛：8GB VRAM 推荐配置意味着并非所有 Windows 设备都能流畅运行所有样本，集成显卡设备体验受限。

预览阶段稳定性：微软明确标注为预览版，生产环境使用需评估稳定性风险。

生态锁定：虽然支持 Ollama 扩展，但核心推理层深度绑定微软技术栈（ONNX Runtime GenAI、WinML、Semantic Kernel），切换到其他推理框架成本较高。

行业意义：微软端侧 AI 战略的一面镜子

ADG 不仅仅是一个示例项目，更是观察微软端侧 AI 战略的窗口。通过这个项目可以看出几个重要信号：

ONNX Runtime GenAI 是微软端侧 AI 的核心。相比之前的 WinML（已逐步被 ONNX Runtime GenAI 取代），新的推理栈更注重对开源大语言模型的原生支持，如 Phi-3、Mistral 等。

Windows App SDK（WinUI 3）正在成为 Windows 原生 AI 应用的标准框架。ADG 是用 WinUI 3 构建的，相比 WPF 有更好的现代 UI 能力和 AI 集成接口。

本地模型推理在 Windows 生态正在走向成熟。ADG 整合了从模型下载、推理加速到代码生成的全流程，说明微软正在将原本只有云端才能提供的 AI 开发体验，逐步迁移到 Windows 本地。

该项目_stars 1465、forks 217 的数据表明，开发者对 Windows 本地 AI 能力的需求是真实存在的。对于需要将 AI 能力深度集成到 Windows 桌面产品中的团队，ADG 是一个值得关注的技术参考。