Uncensored-Local-AI-Multiplatform

打破枷锁：把「无限制 AI」装进口袋

一款移动优先的本地大模型应用，让 AI 完全跑在你的设备上

---

想象这样一个场景：你在飞机上，飞行模式已开启，周围是漫长的十小时航程。想让 AI 帮你规划行程、研究一份技术文档，或者只是聊聊天打发时间——但网断了，ChatGPT 用不了，云端 AI 全都哑火。

Uncensored Local AI 正是为这个场景而生。它是一个 Flutter 跨平台应用，能够在手机、平板上直接运行开源大语言模型（GGUF 格式），完全离线、零审查、零费用。你的对话永远不会离开设备——没有服务器，没有 API，没有审查。

这就是 AI 领域长期缺失的那块拼图：真正的隐私，真正的自由。

---

项目背景：为何需要「无审查 AI」？

大型语言模型的能力已经足够强大，但主流商业产品都内置了内容过滤器。这些过滤器会拒绝回答许多合法问题——无论用户的意图是否正当。更深层的问题是：你的每一次对话都在云端留存，隐私无法得到保障。

2024 年，开源社区推出了「ablation」技术，可以将模型中的安全层移除，生产出「无审查」版本。这类模型配合 GGUF 量化格式，可以在消费级硬件上运行。然而，这些模型长期缺乏一个用户友好的移动端入口——直到 Uncensored Local AI 的出现。

该项目由独立开发者 techjarves 创建，定位为「隐私优先的本地 AI 平台」，通过 Flutter 框架实现了 Android、iOS、Windows、macOS、Linux 五端统一。目前项目已获得 700+ GitHub Stars，增长趋势得分高达 89.03（满分 100），是近半年上升最快的开源 AI 应用之一。

---

核心技术架构

Flutter 跨平台框架

项目采用 Flutter 3.11.4 构建，使用 Dart 语言开发。选择 Flutter 的核心理由是：它能以单一代码库同时输出 Android APK、iOS IPA 和桌面端可执行文件，极大降低了多平台维护成本。Flutter 的声明式 UI 和热重载特性也让开发迭代速度大幅提升。

核心依赖包括：

• llamadart 0.6.10：Dart 语言的 LLM 推理引擎，通过 FFI 调用 native 后端
• GetX 4.7.2：轻量级状态管理 + 路由框架
• Hive Flutter 1.1.0：高性能本地键值存储，存储聊天历史和模型元数据
• flutter_markdown 0.7.6：Markdown 格式渲染 AI 回复
• flutter_foreground_task 9.2.2：前台服务，保证模型下载和推理不被系统杀后台

llamadart 推理引擎

项目采用 llamadart 作为核心推理引擎，通过 FFI 调用底层 native 后端，支持多后端自动切换：

• Android ARM64: CPU / Vulkan / OpenCL 三选一自动检测最优后端
• Linux/Windows x64: Vulkan（需要独立显卡）
• Apple Silicon: Metal 加速

hooks:
  user_defines:
    llamadart:
      llamadart_native_backends:
        platforms:
          linux-x64: [vulkan]
          windows-x64: [vulkan]
          android-arm64: [cpu, vulkan, opencl]

模块化服务架构

项目代码结构清晰，分为 6 大模块：

模块	核心文件	职责
Controllers	chat_controller.dart, model_controller.dart	聊天逻辑与模型生命周期管理
Services	llm_service.dart, model_manager.dart	LLM 推理、模型下载与缓存管理
Screens	home_screen.dart, model_library_screen.dart	主界面、模型库、API 端点等 UI
Models	chat_model.dart, message_model.dart, ai_model_info.dart	数据模型定义
Services	local_api_server_service.dart	内嵌 OpenAI 兼容 HTTP 服务器
Widgets	chat_bubble.dart, model_card.dart	可复用 UI 组件

本地 OpenAI API 服务器

项目内置了一个轻量级 HTTP 服务器（local_api_server_service.dart），对外暴露 OpenAI Chat Completions API 兼容接口。这意味着用户可以使用任何支持 OpenAI API 的客户端（如 Continue.dev、Open Interpreter）连接本地模型，将手机或平板变成一台私人 AI 服务器。

---

部署体验：从下载到对话不超过 5 分钟

Android 用户（最简单）

项目在 GitHub Releases 发布了现成的 release APK：

APK 架构	适用场景	包大小
app-arm64-v8a-release.apk	绝大多数现代手机（2018+）	~65 MB
app-armeabi-v7a-release.apk	老旧/低配手机	~18 MB
app-x86_64-release.apk	模拟器 / ChromeOS	~58 MB

下载 → 安装 → 打开应用 → 在模型库中下载喜欢的 GGUF 模型（内置模型目录）→ 开始聊天。全程无需联网（模型下载后）。

iOS 用户

iOS IPA 以 pre-release 形式发布，需要从 GitHub 下载 zip 文件，解压后通过 AltStore 或 Sideloadly 签名安装。由于苹果的限制，这个流程比 Android 稍复杂，但总体可行。

桌面端（Windows/macOS/Linux）

需要本地安装 Flutter SDK，通过 flutter run -d <platform> 构建并运行。桌面端的 Vulkan 支持需要独立显卡，否则需要降级到 CPU 后端（速度较慢）。

---

争议与局限

这个项目并非没有争议。首先，无审查 AI 的核心用途之一是绕过安全限制，这在道德和法律层面存在灰色地带。虽然技术本身是中立的，但开发者需要明确声明：不鼓励、不支持任何有害用途。

其次，从技术角度，手机端运行大模型的体验仍有局限。GGUF 量化模型虽然压缩了体积，但 4-bit 量化相比全精度模型仍有明显的质量损失。在 4GB 内存的手机上运行 Q4_K_M 量化的 7B 模型，生成速度通常只有 5-15 tokens/秒，远不如云端模型流畅。

第三，隐私保护也有边界。虽然对话数据存储在本地，但如果模型文件被恶意替换为植入后门的版本，用户仍然可能受到攻击。模型文件的来源验证目前尚未纳入项目流程。

---

行业意义：端侧 AI 的民主化进程

Uncensored Local AI 代表了 AI 部署领域的一个关键趋势：从云端集中式向端侧分布式的迁移。随着手机芯片算力的提升（Apple A17/M3、骁龙 8 Gen 3），在移动设备上运行量化大模型已经从不可能变成了「勉强能用」。

这个项目让普通用户无需懂技术、无需付费订阅，就能接触到开源大模型的能力。对于以下场景特别有价值：

• 隐私敏感场景：用户不希望任何对话数据经过第三方服务器
• 离线场景：偏远地区、飞机、医院（禁用电子设备联网）等环境
• 探索开源模型：低成本测试不同 GGUF 模型的能力

随着 GGUF 生态的持续成熟和量化技术的进步，未来在手机上流畅运行 GPT-3.5 级别的模型并非遥不可及。Uncensored Local AI 正在这个方向上铺路。

---

快速上手指南

第一步：从 GitHub Releases 下载对应架构的 Android APK，安装到手机。

第二步：首次打开应用后，进入「Model Library」，选择一个 GGUF 模型下载。推荐从 Q4_K_M 量化的 7B 模型开始（平衡速度与质量）。

第三步：模型下载完成后，直接在主界面开始对话。点击侧边栏可切换模型、查看聊天历史。

第四步（进阶）：在设置中启用「Local API Server」，然后在其他设备上使用 OpenAI 兼容客户端连接 http://<手机IP>:<端口>，将手机作为 AI 服务器使用。

---

本报告基于 GitHub 仓库 techjarves/Uncensored-Local-AI-Multiplatform v2.0.0 版本源码及文档生成。