-
安装olama
-
拉取R1模型（科学上网）
ollama pull deepseek-r1:14b模型存储目录在
~/.ollama/models
| 模型规模 | 显存需求（FP16） | CPU RAM 需求 | 推荐 GPU 类型 | 适用场景 |
|---|---|---|---|---|
| 1.5B | ~3 GB | 8 GB | 集成显卡/低端独显（如 MX450） | 轻量级任务（文本生成、简单问答） |
| 7B | ~14 GB | 16 GB | RTX 3090/4090, A10 | 通用任务（对话、代码生成） |
| 14B | ~28 GB | 32 GB | A100 40GB, 双 RTX 3090 | 复杂推理、多轮对话 |
| 32B | ~64 GB | 64 GB | 多卡 A100/H100 集群 | 企业级部署、高精度需求 |
| 70B | ~140 GB | 128 GB | 多卡 H100/A100 80GB | 研究级任务、超大规模生成 |
-
运行模型
ollama run deepseek-r1:14b -
客户端配置
-
R1越狱 突破审查和政治倾向。
ollama pull ollama run huihui_ai/deepseek-r1-abliterated:14b -
常用指令
ollama -h -
Docker部署
docker run -d -v /Users/Colin/.ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama docker exec -it ollama ollama run deepseek-r1:14bmacOS 上的 Docker 运行在虚拟化环境（Apple Hypervisor）中，目前 Docker Desktop 还不支持直接访问 macOS 的 Metal API 进行 GPU 加速。
M1/M2/M3 的 GPU 不能像 NVIDIA CUDA 一样，通过 Docker 进行 GPU 直通。
Ollama 在 macOS 上的 本机运行 是支持 Apple (Silicon) GPU 加速的，因为其底层是使用 llama.cpp，可以利用 Metal 进行推理优化。
