网站添加验证码,镇江网站建设网站,深圳龙华属于宝安区吗,兼职网站编辑DeepSeek本地部署详细指南
DeepSeek作为一款开源且性能强大的大语言模型#xff0c;提供了灵活的本地部署方案#xff0c;让用户能够在本地环境中高效运行模型#xff0c;同时保护数据隐私#xff0c;这里记录自己DeepSeek本地部署流程。
主机环境
cpu:amd 7500Fgpu:406…DeepSeek本地部署详细指南
DeepSeek作为一款开源且性能强大的大语言模型提供了灵活的本地部署方案让用户能够在本地环境中高效运行模型同时保护数据隐私这里记录自己DeepSeek本地部署流程。
主机环境
cpu:amd 7500Fgpu:4060 8Gsystem:win11memory: 32G
步骤 下载安装Ollama 去官网https://ollama.com/download/windows下载ollama根据自己需求下载对应版本我这里下载的是windows版。 安装成功标志桌面左下角展示ollama图标 设置大语言模型下载目录 这里修改下存储目录不是必须设置不设置的话会默认将所有内容下载到C盘下面。 高级系统设置-环境变量-新建系统变量 下载大语言模型 在刚才的官网搜索deepseek选择合适的模型若显存8GB选择7/8b若显存为12GB可选择14b。 若选择了8b可使用下面命令进行安装
ollama run deepseek-r1:8b随后打开任务管理器记得用管理员然后输入命令进行部署本地会下载对应的模型。 安装成功标志