当前位置: 首页 > news >正文

网站 信息内容建设 存在问题综合搜索引擎

网站 信息内容建设 存在问题,综合搜索引擎,河源今日头条新闻视频,企业门户网站功能描述本文分享在自己的本地电脑部署 DeepSeek,而且轻松简易,快速上手。 这里借助Ollama工具,在Windows系统中进行大模型部署~ 1、安装Ollama 来到官网地址:Download Ollama on macOS 点击“Download for Windows”下载安装包&#x…

本文分享在自己的本地电脑部署 DeepSeek,而且轻松简易,快速上手。

这里借助Ollama工具,在Windows系统中进行大模型部署~

1、安装Ollama

来到官网地址:Download Ollama on macOS

点击“Download for Windows”下载安装包,下载完成后能看到 OllamaSetup.exe

然后运行OllamaSetup.exe,进行Ollama安装,默认配置安装就好啦

安装完成后,能看到弹出小窗口,恭喜Ollama安装成功啦~

在应用列表也能看到的

2、加载和使用DeepSeek-R1

打开Windows“命令终端”,输入ollama,能看到相关信息:

然后来到Ollama的模型库 Ollama

找到deepseek-r1,点击进入

能看到deepseek-r1有不同大小的版本:1.5b、7b、8b、14b、32b、70b、671b

作者开源 DeepSeek-R1-Zero 和 DeepSeek-R1 两个 660B 模型的同时,

通过 DeepSeek-R1 的输出,蒸馏了 6 个小模型开源给社区,其中 32B 和 70B 模型在多项能力上实现了对标 OpenAI o1-mini 的效果。

大家根据显卡情况,选择模型大小

模型

参数 (B)

VRAM 要求 (GB)

推荐 GPU

DeepSeek - R1 - Zero

671B

~1,342 GB

多 GPU 配置(例如,NVIDIA A100 80GB x16)

DeepSeek - R1

671B

~1,342 GB

多 GPU 配置(例如,NVIDIA A100 80GB x16)

DeepSeek - R1 - Distill - Qwen 1.5B

1.5B

~0.75 GB

NVIDIA RTX 3060 12GB 或更高

DeepSeek - R1 - Distill - Qwen 7B

7B

~3.5 GB

NVIDIA RTX 3060 12GB 或更高

DeepSeek - R1 - Distill - Llama 8B

8B

~4 GB

NVIDIA RTX 3060 12GB 或更高

DeepSeek - R1 - Distill - Qwen 14B

14B

~7 GB

NVIDIA RTX 3060 12GB 或更高

DeepSeek - R1 - Distill - Qwen 32B

32B

~16 GB

NVIDIA RTX 4090 24GB

DeepSeek - R1 - Distill - Llama 70B

70B

~35 GB

多 GPU 配置(例如,NVIDIA RTX 4090 x2)

这里可以先选择小的试一试,比如8b,

输入命令:ollama run deepseek-r1:8b

这里建议能科学上网,不然可能需要等待很久很久~

3、安装chatbox,改善聊天界面

如果使用命令进行聊天,感觉不太舒服,而且代码也不方便表示

这时我们使用chatbox工具,然后加载DeepSeek-R1模型,这样可以用一个漂亮的可视化界面聊天啦

chatbox官网地址:Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载

然后点击Chatbox-1.9.7-Setup.exe,进行安装

建议安装路径放到D盘中,其他配置默认安装就好啦~

然后打开Chatbox,进行编辑配置

选择“OLLAMA API”,然后选择模型“deepseek-r1:8b”,其他配置默认就好啦

开启聊天啦

4、尝试不同版本的DeepSeek-R1

上面是DeepSeek-R1 8b的版本,用起来很流畅,于是尝试更大参数量的版本(32b)

输入命令:ollama run deepseek-r1:32b

成功啦~

使用olloma list,查询本地有那些模型

致敬:作者将DeepSeek-R1训练技术全部公开,以期促进技术社区的充分交流与创新协作。

论文链接: DeepSeek-R1/DeepSeek_R1.pdf at main · deepseek-ai/DeepSeek-R1 · GitHub

HuggingFace 链接: https://huggingface.co/deepseek-ai

 

分享完成~

http://www.hkea.cn/news/716811/

相关文章:

  • 深圳南山做网站的公司百度投诉中心
  • 辽宁建设工程信息网业绩认定武汉网站优化公司
  • 莱芜都市人才网上海网站seo公司
  • 广州做鞋的网站怎么让某个关键词排名上去
  • 温州平阳县网站建设兼职东莞网络推广哪家公司奿
  • 做单页网站价格微信朋友圈广告在哪里做
  • 濮阳家电网站建设一般开车用什么导航最好
  • html5 图片展示网站大作设计网站
  • 河北正规网站建设比较百度一下你就知道官页
  • 企业网站建设哪家服务好福州网站关键词推广
  • 惠州悦商做网站软件开发一般需要多少钱
  • 做衣服外单网站优化大师官方正版下载
  • 专门做酒店的网站百度排行
  • 上海做手机网站建设盐城网站优化
  • html论坛模板东营seo整站优化
  • 天津网站建设582345网址导航桌面版
  • 东莞纸箱厂东莞网站建设经典模板网站建设
  • 贺州同城购物网站建设中国网站排名100
  • 黄骅港旅游景点爱站网seo工具包
  • 网站 图文混编提高网站搜索排名
  • 北京怀柔网站制作教育机构
  • 网站建设费 大创友链交换平台
  • o2o商城网站系统开发微信群拉人的营销方法
  • 帝国cms做淘宝客网站网页设计用什么软件
  • 营销型网站建设的优缺点视频优化软件
  • 珠海响应式网站建设推广公司网络营销发展方案策划书
  • 中国人自己的空间站每日英语新闻
  • 教师可以做网站吗seo常用工具包括
  • 武山建设局网站什么是seo
  • 做文案需要用到的网站全网模板建站系统