公司网站开源源码,网站建设续费是什么费用,中国企业信息网查询系统官网,我想在百度发布信息大模型-使用OllamaDify在本地搭建一个专属于自己的知识库 1、本地安装Dify2、本地安装Ollama并解决跨越问题3、使用Dify搭建聊天助手4、使用Dify搭建本地知识库 1、本地安装Dify
参考往期博客#xff1a;https://guoqingru.blog.csdn.net/article/details/144683767
2、本地… 大模型-使用OllamaDify在本地搭建一个专属于自己的知识库 1、本地安装Dify2、本地安装Ollama并解决跨越问题3、使用Dify搭建聊天助手4、使用Dify搭建本地知识库 1、本地安装Dify
参考往期博客https://guoqingru.blog.csdn.net/article/details/144683767
2、本地安装Ollama并解决跨越问题
参考往期博文https://guoqingru.blog.csdn.net/article/details/144708318
安装完毕后执行指令
ollama run internlm/internlm2.5:20b-chat我拉取的是书生浦语的20B的大模型大约需要39G显存结合自身情况而定。 查看如下所示 ollama list测试接口 python API访问 from ollama import Client
client Client(hosthttp://192.168.4.21:11434,headers{Content-Type: application/json})
response client.chat(modelinternlm/internlm2.5:20b-chat, messages[{role: user,content: 天为什么是蓝色的,},
])print(response[message][content])print(---------------------------------------------------------)import requests,jsonurl http://192.168.4.21:11434/api/generateheaders {Content-Type: application/json
}
data {prompt: 做一个自我介绍吧,model: internlm/internlm2.5:20b-chat,stream: False
}response requests.post(url, headersheaders, datajson.dumps(data))
print(response.text) 3、使用Dify搭建聊天助手
在步骤1安装完毕Dify后浏览器输入http://localhost/install即可访问Dify页面 进项如下设置 保存完毕后回到如下页面
依次点击工作室 →创建空白应用 按照上述设置后聊天助手边创建完毕如下所示
4、使用Dify搭建本地知识库
首先拉取嵌入模型
ollama pull bge-m3打开Dify
