负面信息搜索引擎 网站,商务门户网站怎么做,重庆专业微网站建设,如何在建设银行网站预约纪念币1、Ollama#xff1a;是一个开源的大型语言模型 (LLM)服务工具#xff0c;旨在简化在本地运行大语言模型的过程#xff0c;降低使用大语言模型的门槛。 2、AnythingLLM#xff1a;是由Mintplex Labs Inc. 开发的一款全栈应用程序#xff0c;旨在构建一个高效、可定制、…1、Ollama是一个开源的大型语言模型 (LLM)服务工具旨在简化在本地运行大语言模型的过程降低使用大语言模型的门槛。 2、AnythingLLM是由Mintplex Labs Inc. 开发的一款全栈应用程序旨在构建一个高效、可定制、开源的企业级文档聊天机器人解决方案。AnythingLLM支持几乎所有的主流大模型和多种文档类型能够通过将文档、资源或内容片段转化为大语言模型LLM在聊天中可以利用的相关上下文从而构建一个专属的AI知识库。 3、Deepseek r1是由深度求索 DeepSeek研发的一款大语言模型属于幻方量化 旗下的AI公司。DeepSeek-R1在自然语言处理、科学推理和编程任务等方面表现出色。
4、安装( 如果下载不了可以将文件的链接地址放到迅雷里下载。)
安装之前一定要查看是否有足够的硬盘空间。
1下载Ollama
Download Ollama on macOS 简单测试 当然也可以下载qwen2.5:7b 常用命令
ollama list显示模型列表。ollama show显示模型的信息ollama pull拉取模型ollama push推送模型ollama cp拷贝一个模型ollama rm删除一个模型ollama run运行一个模型
2下载AnythingLLM
https://anythingllm.com/desktop 3安装 双击OllamaSetup.exe这个是在windows下安装的.
只要默认安装即可。安装成功后会弹出一个命令行提示成功。 然后双击AnythingLLMDesktop.exe安装默认安装即可。
下面是设置
下载Deepseek r11.5B 作为LLM 有一步要输入email的可以点下面的按钮跳过。
输入工作区名称比如 myworkspace-1 选择deepseekr1:1.5b 点击【设置】扳手图标 当然也可以安装其它的比如Qwen 最后安装了二个大模型 4提问 比如上面是我问的冒泡排序的几种语言的不同实现。
5设置及训练大模型 点击【上传】按钮就可以上传文本pdf、word、txt等等格式只要是文本就可以了。右侧的【设置】按钮是设置当前工作区的。 这里做个文档然后上传到工作区中测试下效果 保存如果报错documents failed add则要进行设置
ollama pull nomic-embed-text 本地库的相关设置 聊天模式改为【查询】。以下是文档中查询的效果 测试了几次有的时候本地的查询在转圈出不来重新新建以后再次查询才出来以上的效果。
