单页网站内链接,北京商场人气排名,wordpress产品页路径在哪儿,网站开发实用技术第2版答案个人主页#xff1a;chian-ocean
前言#xff1a; 随着人工智能技术的迅速发展#xff0c;大语言模型在各个行业中得到了广泛应用。DeepSeek 作为一个新兴的 AI 公司#xff0c;凭借其高效的 AI 模型和开源的优势#xff0c;吸引了越来越多的开发者和企业关注。为了更好地…个人主页chian-ocean
前言 随着人工智能技术的迅速发展大语言模型在各个行业中得到了广泛应用。DeepSeek 作为一个新兴的 AI 公司凭借其高效的 AI 模型和开源的优势吸引了越来越多的开发者和企业关注。为了更好地满足用户的需求尤其是在数据隐私和计算资源方面越来越多的组织开始考虑将 DeepSeek 的 AI 模型进行 本地部署。 Ollama安装安装在D盘
官网下载Ollama
点进去官网 系统的选择这里面以windows为例子 更改路径
下载之后如果点击直接安装(install)默认会安装在C盘. 在这里面打开终端窗口执行这个是更改路径
OllamaSetup.exe /DIRD:\Ollama解释
OllamaSetup.exe: 这是一个安装程序的执行文件通常用于安装 Ollama 软件。/DIRD:\Ollama: 这是命令行参数告诉安装程序将 Ollama 安装到 D 盘的 Ollama 文件夹中。如果指定的目录不存在安装程序通常会创建该文件夹。
安装程序的执行文件(OllamaSetup.exe) /DIRpath(path是一个路径)这里面在安装的时候我们发现正在安装在D盘 更改模型安装路径
在不更改默认路径下模型安装默认也是C盘小默认都在5G大模型几十G。 修改Windows系统环境变量
进入Windows系统的环境变量。 添加环境变量
变量名 OLLAMA_MODELS
变量值 D:\OllamaImagers(安装智能体的路径)将第一个文件剪切到自己想要安装的目录下 刷新环境变量 重启简单粗暴 手动刷新环境变量无重启 打开 任务管理器 (Ctrl Shift Esc)。 在任务管理器中找到 Windows 资源管理器Explorer.exe右键点击并选择 重新启动。 这样会刷新 Windows 资源管理器的环境变量使得新设置的环境变量生效。
模型下载和卸载
按步骤操作 模型比较
模型版本参数数量文件大小适用场景优点缺点1.5B1.5B1.1GB资源有限的环境文件较小易于下载和部署性能较低适用于较简单的任务7B7B4.7GB需要较高性能的任务平衡了性能和文件大小适用范围广泛相比小模型仍需要较强的硬件支持8B8B4.9GB中等性能需求的任务性能好适合大部分NLP任务文件大小较大部署时需要较大存储空间14B14B9.0GB高性能应用复杂任务适用于复杂推理和大规模任务需要较强的计算资源和存储支持32B32B20GB大规模高负载任务高度优化能够处理复杂任务对硬件要求极高计算资源消耗大70B70B43GB超高性能任务科研应用极高的计算能力和性能适用于尖端研究对硬件和存储要求非常苛刻下载和运行困难671B671B404GB超大规模高复杂度任务性能最强适用于最复杂的应用和任务极高的硬件需求几乎只适用于大型数据中心
本地部署 DeepSeek 模型选择简要总结
小型模型 (1.5B, 7B) 适用场景硬件资源有限、简单任务如基础对话、文本分类。优点文件小、资源占用少易于部署。缺点性能较低无法处理复杂任务。 中型模型 (8B, 14B) 适用场景中等性能需求适用于中型任务如情感分析、机器翻译。优点较强性能适应广泛应用。缺点需要中等硬件支持文件和存储要求增加。 大型模型 (32B, 70B) 适用场景高性能需求复杂任务如大规模推理、科研。优点性能强适合复杂应用。缺点对硬件要求极高需要高端 GPU 和大存储空间。 超大型模型 (671B) 适用场景超大规模、科研级任务。优点最强性能适合最复杂的任务。缺点资源消耗巨大几乎只能在大型数据中心部署。
模型下载 复制路径
ollama run deepseek-r1:8b打开 终端win r输入 cmd
复制到终端回车Enter 如果下载速度慢Ctrl C终止进程再次进行安装。 安装成功
安装成功success 模型卸载
终端输入ollama rm 模型名称
ollama rm deepseek-r1:8b模型应用
查看手册
ollama #就是查看手册查看模型
ollama list #查看模型运行deepseek
ollama run deepseek-r1:8b #后面是模型名称构建可视化工具
下载Chatbox AI
根据自己的系统选择版本。 设置API接口
这里面选择自己的API接口或本地模型。 这里面的API域名是正确的。 选择模型deepseek-r1:b8 构建可视化工具完成。
