望牛墩东莞网站建设时事新闻最新

---

一、DeepSeek相关网站

官方网站：DeepSeek

开源模型：https://huggingface.co/deepseek-ai

GitHub地址：https://github.com/deepseek-ai

接口文档：首次调用 API | DeepSeek API 文档

二、DeepSeek-R1硬件要求

以下是 DeepSeek-R1 系列模型在不同规模下的硬件需求（以 Q4_K_M 量化 为例）。这些需求是估算值，实际需求可能因实现方式和上下文长度而有所不同：

模型规模	显存需求 (Q4_K_M)	硬件需求说明
1.5B	~1.5 GB	轻量级，适合大多数消费级 GPU（如 GTX 1060 以上）
7B	4.7 GB	示例数据（Q4_K_M 量化），需要中端 GPU（如 RTX 3060）
8B	~5.4 GB	略高于 7B，适合 RTX 3060/3070
14B	~9.4 GB	需要高端消费级 GPU（如 RTX 3080/3090）
32B	~21.5 GB	需要专业级 GPU（如 A100 或 3090 24GB）
70B	~47 GB	通常需要多 GPU 或 云服务器（如 A100 40GB）
671B	~450 GB	仅适合分布式系统或超大规模集群

说明：

1. 量化方式：假设使用 4-bit 量化（Q4_K_M），显存需求较低。如果使用 FP16/32，显存需求会大幅增加（如 7B FP16 需要约 14 GB）。

2. 硬件建议：
   1.5B-14B：适合消费级 GPU，如 RTX 3060/3080。
   32B-70B：需要专业级 GPU 或多 GPU 并行。
   671B：仅适合超大规模集群或分布式系统。

3. 上下文长度：长上下文会进一步增加显存需求，建议根据实际场景调整硬件配置。

如果需要更高精度（如 FP16/32）的显存需求，可以按比例估算（FP16 约为 Q4_K_M 的 4 倍）

三、本地部署DeepSeek-R1

1. 安装Ollama

https://ollama.com/download

根据你的操作系统选择安装方式：

1.1 Windows

1. 访问 https://ollama.com/download/windows 下载Windows安装程序。
2. 双击安装，完成后在命令行输入 ollama 验证。

1.2 Linux

curl -fsSL https://ollama.ai/install.sh | sh

1.3 macOS

方式1：直接下载安装，访问 https://ollama.com/download/mac 下载macOS安装包，双击安装。

方式2：Homebrew 安装

brew install ollama

2. 下载和运行DeepSeek模型

访问 ollama 网站 deepseek-r1 各个版本：https://ollama.com/library/deepseek-r1

选择电脑符合条件的模型规模，复制命令。

• 方式一：直接运行

以使用70b为例，打开命令行粘贴或输入：

ollama run deepseek-r1:70b

当我们没有该模型时会自动下载并运行，如果已经下载完成，运行该命令则直接启动。

运行后出现以下提示表示成功：

>>> Send a message (/? for help)

• 方式二：下载并部署

拉取的过程后面可能会很慢，对于 linux 和 mac 使用挂在后台拉取：

nohup ollama pull deepseek-r1:70b &

3. 列出本地已下载的模型

ollama list

四、Ollama命令大全

命令	描述	示例
ollama run [model-name]	启动模型并与之交互	ollama run deepseek-r1:7b
ollama list	列出本地已下载的模型	ollama list
ollama pull [model-name]	从模型库中下载一个模型	ollama pull deepseek-r1:7b
ollama rm [model-name]	删除本地的一个模型	ollama rm deepseek-r1:7b
ollama show [model-name]	查看某个模型的详细信息	ollama show deepseek-r1:7b
ollama serve	启动 Ollama 服务	ollama serve
ollama stop	停止 Ollama 服务	ollama stop
ollama logs	查看 Ollama 的日志信息	ollama logs
ollama create [model-name] -f [config-file]	使用自定义的模型配置文件创建模型	ollama create deepseek-r1:7b -f ./my-model-config.yaml
ollama export [model-name] [output-file]	导出模型为文件	ollama export deepseek-r1:7b ./llama2-model.tar
ollama import [input-file]	从文件导入模型	ollama import ./llama2-model.tar
ollama version	查看 Ollama 的版本信息	ollama version
ollama --help	查看所有可用的命令及其说明	ollama --help

五、常见问题解决

• 模型不存在？
  确认模型名称正确，或访问DeepSeek官网获取最新模型名称。
• 网络问题
  配置代理（Linux/macOS）：
  export HTTP_PROXY=http://127.0.0.1:7890
  export HTTPS_PROXY=http://127.0.0.1:7890

附：DeepSeek模型资源

• DeepSeek-R1：https://github.com/deepseek-ai/DeepSeek-R1
• 官方模型库：https://huggingface.co/deepseek-ai
• Ollama文档：https://github.com/ollama/ollama