银行网站维护是做哪些,永久有效的代理ip,网站建设有名的公司,今年刚做电商网站慧有生意吗什么是 RAG
RAG#xff0c;即检索增强生成#xff08;Retrieval-Augmented Generation#xff09;#xff0c;是一种先进的自然语言处理技术架构#xff0c;它旨在克服传统大型语言模型#xff08;LLMs#xff09;在处理开放域问题时的信息容量限制和时效性不足。RAG的…什么是 RAG
RAG即检索增强生成Retrieval-Augmented Generation是一种先进的自然语言处理技术架构它旨在克服传统大型语言模型LLMs在处理开放域问题时的信息容量限制和时效性不足。RAG的核心机制融合了信息检索系统的精确性和语言模型的强大生成能力为基于自然语言的任务提供了更为灵活和精准的解决方案。 RAG与LLM的关系
RAG不是对LLM的替代而是对其能力的扩展与升级。传统LLM受限于训练数据的边界对于未见信息或快速变化的知识难以有效处理。RAG通过动态接入外部资源使LLM得以即时访问和利用广泛且不断更新的知识库进而提升模型在问答、对话、文本生成等任务中的表现。此外RAG框架强调了模型的灵活性和适应性允许开发者针对不同应用场景定制知识库从而满足特定领域的需求。
下图是 RAG 的一个大致流程 RAG就像是为大型语言模型LLM配备了一个即时查询的“超级知识库”。这个“外挂”不仅扩大了模型的知识覆盖范围还提高了其回答特定领域问题的准确性和时效性。
想象一下传统的LLM像是一个博学多才但记忆力有限的学者它依赖于训练时吸收的信息来回答问题。而RAG则是这位学者随时可以连线的庞大图书馆和实时资讯网络。当面临复杂或最新的查询时RAG能让模型即时搜索并引用这些外部资源就像学者翻阅最新的研究资料或在线数据库一样从而提供更加精准、全面和最新的答案。这种设计尤其适用于需要高度专业化或快速更新信息的场景比如医学咨询、法律意见、新闻摘要等。
基于此RAG 技术特别适合用来做个人或企业的本地知识库应用利用现有知识库资料结合 LLM 的能力针对特定领域知识的问题能够提供自然语言对话交互且答案比单纯用 LLM 准确性要高得多。
实践
现成方案
现成的方案有很多
本文将采用 Ollama Qwen2.5 AnythingLLM 来实现本地知识库
Ollama 大法
Ollama 与 LLM 的关系可以这样理解Ollama 本身不是 LLM而是一个服务于 LLM 的工具。它提供了一个平台和环境使得开发者和研究人员能够在本地机器上轻松地运行、测试和部署各种大型语言模型
github:github.com/ollama/olla…
下载安装 Ollama 和大模型
下载地址www.ollama.com/download 支持 Windows、Mac、Linux。
当然你也可能用 Docker 安装镜像官方镜像 hub.docker.com/r/ollama/ol…更多细节请参考 github 的 Readme:github.com/ollama/olla…
当你运行 ollama --version 命令成功查询到版本时表示 Ollama 的安装已经顺利完成。 接下来便可以用 pull 命令从在线模型库下载模型比如
bash
复制代码
ollama pull llama2还有更简单的方法直接使用 run 命令它会在 运行之前自动检查模型是否下载如果没有会自动下载
bash
复制代码
ollama run llama3但是我想搭建的是本地知识库当然是以中文为主所以需要对中文支持最好的模型但是
Ollama官方提供的模型对中文支持好的不多比较好的有
Llama2-Chinese基于Llama2微调。搜“Chinese”关键词就能找到。Qwen 1.5阿里的通义千问。一共有6个尺寸默认是4b。所有尺寸的模型都支持32K的上下文长度。多语言支持。
本想用 智谱的 GLM huggingface.co/THUDM/chatg… 奈何不兼容 Ollama也没有 GGUF 格式文件于是作罢。巧的是阿里的 通义Qwen2模型刚刚开源正好可以试一下。 阿里开源了通义Qwen2模型可以说是现阶段这个规模最强的开源模型。发布后直接在 Huggingface LLM 开源模型榜单获得第一名超过了刚发布的 Llama3 和一众开源模型。Qwen2在代表推理能力的代码和数学以及长文本表现尤其突出。推理相关测试及大海捞针测试都取得了很好的成绩。 模型概览Qwen 2 模型组成包括 Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B和Qwen2-72B。其中Qwen2-57B-A14B为 MoE 模型。 模型在中文、英文语料基础上训练数据中增加了27种语言相关的高质量数据增大了上下文长度支持最高达到128K tokensQwen2-72B-Instruct。多个评测基准上的领先表现代码和数学能力显著提升。 顺序介绍一下中文大模型可能通过这个仓库了解github.com/HqWu-HITCS/…
安装并运行 Qwen2 模型注意这里由于我笔记本配置问题所以选用的是 7B 参数的模型
bash
复制代码
ollama run qwen2:7b模型下载的默认路径是/Users/${home}/.ollama/models
以下是我机器的配置mac intel芯片 安装完成后就可以对话了: open web UI
通过命令行交互的方式不算太友好所以我们需要一个好看好用的 UI 界面来与模型进行交互。
Open Web UI 就是这样一个软件 github.com/open-webui/… 它通过Docker 可以非常容易的进行部署 部署完成后这样使用是不是就友好多了
但由于我们是要搭建一个个人本地知识库需要对知识库有更多的掌控Open Web UI 有些不满足需要所以我们要用另一个软件。
AnythingLLM
我们先下载安装 AnythingLLM :useanything.com/download
完成安装后大概长这个样子 然后我们就要开始选择模型了 这里注意我们要用服务器模式启动 OllamaOllama其实有两种模式
聊天模式服务器模式
所谓服务器模式你可以简单理解为Ollama在后端运行大模型然后开放一个端口给到别的软件让那些软件可以调用大模型的能力。要开启服务器模式非常简单。在终端里输入ollama serve
用服务器模式启动 Ollama 后
在AnythingLLM界面中选择 Ollama然后在 Base URL中填http://127.0.0.1:11434模型选择之前下载的 Qwen2.5 7bToken context window 可以先用默认的 4096
完成以上设置后来到下一步 搭建一个知识库会涉及到另外两个关键
Embedding Model嵌入模型。它负责把高维度的数据转化为低维度的嵌入空间。这个数据处理过程在RAG中非常重要。Vector Store向量数据库专门用来高效处理大规模向量数据。
上图中就是默认的嵌入模型以及向量数据库我们先使用默认的。
然后往下走下一步是填写个人信息这步我就省略了。再下一步是给你的 workspace 起名我也省略
接着你就可以在建好的 workspace 中上传你的个人知识库的内容了 你可以上传文件支持多种格式 pdf word…甚至是一个外部的网站链接不太好的是它不能上传一个文件夹如果你的文件夹是包含多级目录的那么它无法识别你需要把所有文件平铺放在同一级目录中再全选上传。 数据源也可以是其他知识网站 你可以根据项目来创建Workspace一个项目建一个。然后把关于这个项目的所有文档、所有网页都导入Workspace。 聊天模式还有两种可以设置
对话模式大模型会根据你给的文档以及它本来就有的知识储备综合起来回答。查询模式大模型只是简单地针对文档进行回答。 比如我随便上传了一个 《劳动合同法》 的 pdf 文件用查询模式进行对话 虽然不太对但内容是从我上传的文件里找到的还可以点击查看源文件。
我将笔记本中的很多计算机相关的 markdown 文件作为“知识” 上传后进行问答 至此我的本地个人知识库就搭建完成了
如何系统的去学习大模型LLM
作为一名热心肠的互联网老兵我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑所以在工作繁忙的情况下还是坚持各种整理和分享。
但苦于知识传播途径有限很多互联网行业朋友无法获得正确的资料得到学习提升故此将并将重要的 AI大模型资料 包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
所有资料 ⚡️ 朋友们如果有需要全套 《LLM大模型入门进阶学习资源包》扫码获取~ CSDN大礼包全网最全《LLM大模型入门进阶学习资源包》免费分享安全链接放心点击
一、全套AGI大模型学习路线
AI大模型时代的学习之旅从基础到前沿掌握人工智能的核心技能 二、640套AI大模型报告合集
这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示。 三、AI大模型经典PDF籍
随着人工智能技术的飞速发展AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型如GPT-3、BERT、XLNet等以其强大的语言理解和生成能力正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。 四、AI大模型商业化落地方案 阶段1AI大模型时代的基础理解
目标了解AI大模型的基本概念、发展历程和核心原理。内容 L1.1 人工智能简述与大模型起源L1.2 大模型与通用人工智能L1.3 GPT模型的发展历程L1.4 模型工程 - L1.4.1 知识大模型 - L1.4.2 生产大模型 - L1.4.3 模型工程方法论 - L1.4.4 模型工程实践L1.5 GPT应用案例
阶段2AI大模型API应用开发工程
目标掌握AI大模型API的使用和开发以及相关的编程技能。内容 L2.1 API接口 - L2.1.1 OpenAI API接口 - L2.1.2 Python接口接入 - L2.1.3 BOT工具类框架 - L2.1.4 代码示例L2.2 Prompt框架 - L2.2.1 什么是Prompt - L2.2.2 Prompt框架应用现状 - L2.2.3 基于GPTAS的Prompt框架 - L2.2.4 Prompt框架与Thought - L2.2.5 Prompt框架与提示词L2.3 流水线工程 - L2.3.1 流水线工程的概念 - L2.3.2 流水线工程的优点 - L2.3.3 流水线工程的应用L2.4 总结与展望
阶段3AI大模型应用架构实践
目标深入理解AI大模型的应用架构并能够进行私有化部署。内容 L3.1 Agent模型框架 - L3.1.1 Agent模型框架的设计理念 - L3.1.2 Agent模型框架的核心组件 - L3.1.3 Agent模型框架的实现细节L3.2 MetaGPT - L3.2.1 MetaGPT的基本概念 - L3.2.2 MetaGPT的工作原理 - L3.2.3 MetaGPT的应用场景L3.3 ChatGLM - L3.3.1 ChatGLM的特点 - L3.3.2 ChatGLM的开发环境 - L3.3.3 ChatGLM的使用示例L3.4 LLAMA - L3.4.1 LLAMA的特点 - L3.4.2 LLAMA的开发环境 - L3.4.3 LLAMA的使用示例L3.5 其他大模型介绍
阶段4AI大模型私有化部署
目标掌握多种AI大模型的私有化部署包括多模态和特定领域模型。内容 L4.1 模型私有化部署概述L4.2 模型私有化部署的关键技术L4.3 模型私有化部署的实施步骤L4.4 模型私有化部署的应用场景
学习计划
阶段11-2个月建立AI大模型的基础知识体系。阶段22-3个月专注于API应用开发能力的提升。阶段33-4个月深入实践AI大模型的应用架构和私有化部署。阶段44-5个月专注于高级模型的应用和部署。
这份完整版的所有 ⚡️ 大模型 LLM 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
全套 《LLM大模型入门进阶学习资源包》↓↓↓ 获取~ CSDN大礼包全网最全《LLM大模型入门进阶学习资源包》免费分享安全链接放心点击
