零基础搭建本地AI助手：Ollama+Open WebUI手把手教程

想拥有一个完全离线、无需付费、数据不外传的ChatGPT替代品吗？这篇教程将带你用两台命令（真的只要两条）完成本地AI助手搭建。全程无需编程基础，只要有一台8GB内存以上的电脑（Windows/Mac/Linux均可）。

第一步：安装Ollama

Ollama是目前最流行的本地大模型运行框架。访问 https://ollama.com 下载对应系统的安装包，双击安装。安装完成后，打开终端（Windows用户打开PowerShell），执行以下命令拉取DeepSeek-R1蒸馏版模型——这个版本仅1.5B参数，在普通电脑上运行流畅，但已经具备不错的推理能力：

ollama pull deepseek-r1:1.5b

下载约需5-10分钟（取决于网速），看到”success”提示即可。此时你已经可以在命令行中与模型对话了——输入 `ollama run deepseek-r1:1.5b` 试试效果。

第二步：安装Open WebUI

命令行聊天终究不够友好。Open WebUI提供了一套与ChatGPT几乎一模一样的Web界面。安装同样简单——先安装Docker（从 docker.com 下载），然后执行一行：

docker run -d -p 3000:8080 --name open-webui -v open-webui:/app/backend/data ghcr.io/open-webui/open-webui:main

等待镜像拉取完成（首次约3分钟），打开浏览器访问 http://localhost:3000，注册一个管理员账号（数据存储在你的本地，无需联网），进入设置 → 模型，选择 `deepseek-r1:1.5b`，点击”使用”——恭喜，你的个人AI助手已经就绪了！

如果你想要更好的中文体验，可以额外拉取一个更适合中文的模型。阿里通义千问的Qwen2.5系列对中文支持非常出色：

ollama pull qwen2.5:7b

7B参数版本需要约4.7GB显存，如果显存不够可以用3B版本（`qwen2.5:3b`，仅需2GB）。在设置中将模型切换为qwen2.5，你会发现中文对话的自然度有明显提升。

进阶建议

– 显存足够（8GB+）：可以拉取更大的模型如 `qwen2.5:7b` 或 `llama3.1:8b`，效果会有显著提升。

– Mac用户：Ollama对Apple Silicon有原生优化，M1/M2芯片运行7B模型毫无压力。

– 隐私场景：全程无需联网，适合处理内部文档、个人日记等敏感内容。

第三步：实际体验——让它帮你干活

搭建完成后，不妨试试这些场景感受一下本地AI的能力：

– 文档总结：粘贴一篇长文，让它用300字总结要点

– 代码解释：复制一段看不懂的代码，让它逐行解释

– 写作助手：给它一个主题大纲，让它生成初稿

– 翻译对比：粘贴一段英文，要求翻译成中文并保留术语原名

与云端服务最明显的区别是：响应速度完全取决于你的硬件。1.5B模型在普通笔记本上约0.5-1秒出第一个字，7B模型可能需要2-4秒。耐心是一种美德——想想它在你的电脑上跑这件事本身就已经很酷了。

另外，Open WebUI的功能远不止聊天。它还内置了RAG（检索增强生成）功能：你可以上传PDF、文档或网页链接到”知识库”，让模型基于这些资料回答问题。这在企业内部文档查询、教材辅助学习等场景非常实用。所有数据都存储在你本地，不像ChatGPT那样需要把文档上传到云端——对于重视数据隐私的用户来说，这是无价的。

这套方案的硬件成本为零（使用现有电脑），月度电费增加不超过15元。相比ChatGPT Plus每月20美元的订阅费，性价比惊人。对于想探索AI但担心隐私和成本的用户来说，这是目前最优的入门路径。

— END —
LC 智趣厅 · 科技与生活的交点
ihygg.cn