畜牧养殖企业网站源码,中国协会网站建设方案,外贸网站域名,淘宝内部卷网站怎么做目录 前言1. 云服务商2. ChatBox参考 前言
上篇博文中探索了#xff08;本地#xff09;部署大语言模型#xff0c;适合微调、数据高隐私性等场景。随着Deepseek-R1的发布#xff0c;大语言模型的可及性得到极大提升#xff0c;应用场景不断增加#xff0c;对高可用的方… 目录 前言1. 云服务商2. ChatBox参考 前言
上篇博文中探索了本地部署大语言模型适合微调、数据高隐私性等场景。随着Deepseek-R1的发布大语言模型的可及性得到极大提升应用场景不断增加对高可用的方案的需求激增。目前Deepseek-R1的使用方案主要包括以下四种
官网免费网页可用但近期流量大访问不稳定第三方产品如纳米AI云服务收费需要配置但较稳定本地部署不适合个人日常使用
下文介绍了云服务的使用方案。
1. 云服务商
阿里云、华为云、腾讯云等云服务商都提供了云端部署模型。以阿里云百炼大模型服务平台为例展示了Deepseek API的获取过程。
1登录阿里云百炼平台。
2开通百炼的模型服务。开通百炼不会产生费用仅调用、部署、调优模型会产生相应费用超出免费额度后。
3鼠标悬停于页面右上角的image图标在下拉菜单中单击API-KEY。
4在左侧导航栏选择全部API-KEY或我的API-KEY然后创建图中位置①或查看图中位置②API Key。 注意调用API会产生费用请不要将API Key以任何方式公开避免因未经授权的使用造成安全风险或资金损失。
表1. 百炼平台部署的Deepseek模型2025/2/13
模型上下文长度(tokens)最大输入(tokens)最大输出(tokens)输入成本(每千Token)输出成本(每千Token)deepseek-r165,79257,34432,7680.002元0.008元deepseek-v365,79257,3448,1920.001元0.004元
2. ChatBox
Chatbox是一款支持多平台的AI客户端应用主要用于与本地AI模型交互。它支持Windows、MacOS、Android、iOS、Linux和网页版适用于各种设备和操作系统。
1访问ChatBox官网下载安装程序然后按界面提示完成安装。
2打开安装完成的ChatBox按以下步骤进行配置。 ChatBox配置步骤。其中第三步需要填写的信息如下 ①名称输入阿里云-DS-R1自定义名称不固定 ②API域名输入https://dashscope.aliyuncs.com/compatible-mode/v1 ③API路径输入/chat/completions ④API密钥输入API key具体获取过程参考上节 ⑤模型输入需要使用的DeepSeek模型此处以deepseek-r1为例 最后单击保存完成设置。
3输入提示词以下是一个输出示例包括推理过程、补全和tokens消耗量。
参考
阿里云百炼平台API key获取
