1 背景

最近大模型应用越来越普及，但很多人担心云端调用的数据隐私问题和积分消耗。其实，在本地电脑上部署大模型并没有想象中那么复杂——Ollama 就是目前最简单易用的本地大模型运行工具。

Ollama 让你只需通过简单指令，就能在 Windows、macOS、Linux 环境中快速下载并运行各类开源大语言模型，如 Gemma、Qwen、Llama、DeepSeek 等。本文将手把手教你如何在 Windows 系统上成功安装 Ollama，并跑通第一个本地模型。

2 Ollama 是什么？

Ollama 是一个轻量级的本地大模型运行框架，它的核心价值在于将复杂的模型部署流程简化到极致。

3 为什么要在本地部署？

相比云端模型服务，本地部署具备以下优势：

数据隐私：敏感数据无需上传至第三方服务器，完全留在本地

零积分消耗：无需按 Token 付费，长期使用成本可控

离线可用：无网络环境下仍可正常使用

响应稳定：本地推理没有网络延迟，速度更稳定

4 操作系统要求

Windows 10 22H2 或更新版本（家庭版或专业版均可）

硬件建议

5 GPU 加速要求（可选）

如果有 NVIDIA 显卡，需要安装 452.39 或更新版本的驱动程序。AMD 显卡需要支持 ROCm 或 Vulkan 的驱动。

6 详细安装步骤

步骤 1：下载安装包

文章结尾有安装包获取方式。

步骤 2：运行安装程序

点击Install

安装完毕。

步骤 3：验证安装

打开cmd命令行窗口，输入：ollama --version，正确显示版本号，说明安装成功。

7 配置模型存储路径

这一步非常关键——模型文件通常很大，一个 7B 参数的模型就可能占用 4-8GB 空间。如果不提前配置，模型会默认下载到 C:\Users\<用户名>\.ollama\models，很容易把 C 盘塞满。

推荐在第一次下载模型之前，就设置好模型存储位置。

配置方法：

在 Windows 搜索框输入“环境变量”，选择“编辑系统环境变量”

点击“环境变量(N)...”

在“用户变量”部分，点击“新建”

变量名填写：OLLAMA_MODELS

变量值填写目标路径，例如：D:\LLM\Models

设置完成后，务必重启终端，并在系统托盘右键退出 Ollama 后重新启动。

8 下载并运行第一个模型

以通义千问 3（qwen3）为例，在命令行运行：

ollama pull qwen3:4b

中文用户首选 qwen3 系列，中文理解能力最强。

9 运行模型

拉取完成后，运行以下命令测试：

ollama run qwen3:4b "你好，介绍一下你自己"

看到模型正常回复，说明一切就绪！✅ 赶快试试吧！如果在安装过程中遇到问题，欢迎在评论区留言交流～

【温馨提示】

点赞+关注，私信回复「112」，即可免费获取【OllamaSetup.exe】这份资料哦。

有任何建议或意见，欢迎评论区留言或私信飞哥，100%人工回复，感谢支持！

予人玫瑰，手有余香，感谢观看！！！