知名的wordpress网站,做期货浏览哪些网站,网上学编程的有哪些比较好的网站,网站优化软件方案基础任务
在 InternStudio 中利用 Internlm2-7b 搭建标准版茴香豆知识助手#xff0c;并使用 Gradio 界面完成 2 轮问答#xff08;问题不可与教程重复#xff0c;作业截图需包括 gradio 界面问题和茴香豆回答#xff09;。知识库可根据根据自己工作、学习或感兴趣的内容调…基础任务
在 InternStudio 中利用 Internlm2-7b 搭建标准版茴香豆知识助手并使用 Gradio 界面完成 2 轮问答问题不可与教程重复作业截图需包括 gradio 界面问题和茴香豆回答。知识库可根据根据自己工作、学习或感兴趣的内容调整如金融、医疗、法律、音乐、动漫等优秀学员必做。
茴香豆本地标准版搭建
在第一部分中我们利用 Web 版茴香豆实现了零代码开发部署一款 RAG 知识助手在接下来的部分我们要动手尝试将茴香豆从源码部署到本地服务器以 InternlmStudio 为例并开发一款简单的知识助手 Demo。
配置服务器
首先登录 InternStudio 选择创建开发机
镜像选择 Cuda11.7-conda 资源类型选择 30% A\*100。输入开发机名称 huixiangdou, 点击立即创建。
在 开发机 页面选择刚刚创建的个人开发机 huixiangdou单击 启动
等服务器准备好开发机资源后点击 进入开发机继续进行开发环境的搭建。 搭建茴香豆虚拟环境
命令行中输入一下命令创建茴香豆专用 conda 环境
studio-conda -o internlm-base -t huixiangdou 创建成功用下面的命令激活环境
conda activate huixiangdou 环境激活成功后命令行前的括号内会显示正在使用的环境请确保所有茴香豆操作指令在 huixiangdou 环境下运行。
安装茴香豆
下面开始茴香豆本地标准版的安装。 下载茴香豆
先从茴香豆仓库拉取代码到服务器
cd /root
# 克隆代码仓库
git clone https://github.com/internlm/huixiangdou cd huixiangdou
git checkout 79fa810 拉取完成后进入茴香豆文件夹开始安装。
安装茴香豆所需依赖
首先安装茴香豆所需依赖
conda activate huixiangdou
# parsing word format requirements
apt update
apt install python-dev libxml2-dev libxslt1-dev antiword unrtf poppler-utils pstotext tesseract-ocr flac ffmpeg lame libmad0 libsox-fmt-mp3 sox libjpeg-dev swig libpulse-dev
# python requirements
pip install BCEmbedding0.15 cmake3.30.2 lit18.1.8 sentencepiece0.2.0 protobuf5.27.3 accelerate0.33.0
pip install -r requirements.txt
# python3.8 安装 faiss-gpu 而不是 faiss
下载模型文件
茴香豆默认会根据配置文件自动下载对应的模型文件为了节省时间本次教程所需的模型已经提前下载到服务器中我们只需要为本次教程所需的模型建立软连接然后在配置文件中设置相应路径就可以
# 创建模型文件夹
cd /root mkdir models# 复制BCE模型
ln -s /root/share/new_models/maidalun1020/bce-embedding-base_v1 /root/models/bce-embedding-base_v1
ln -s /root/share/new_models/maidalun1020/bce-reranker-base_v1 /root/models/bce-reranker-base_v1# 复制大模型参数下面的模型根据作业进度和任务进行**选择一个**就行
ln -s /root/share/new_models/Shanghai_AI_Laboratory/internlm2-chat-7b /root/models/internlm2-chat-7b
完成后可以在相应目录下看到所需模型文件。
更改配置文件
茴香豆的所有功能开启和模型切换都可以通过 config.ini 文件进行修改默认参数如下 执行下面的命令更改配置文件让茴香豆使用本地模型
sed -i 9s#.*#embedding_model_path /root/models/bce-embedding-base_v1# /root/huixiangdou/config.ini
sed -i 15s#.*#reranker_model_path /root/models/bce-reranker-base_v1# /root/huixiangdou/config.ini
sed -i 43s#.*#local_llm_path /root/models/internlm2-chat-7b# /root/huixiangdou/config.ini
也可以用编辑器手动修改文件位置为 /root/huixiangdou/config.ini。
修改后的配置文件如下
知识库创建 修改完配置文件后就可以进行知识库的搭建本次教程选用的是茴香豆和 MMPose 的文档利用茴香豆搭建一个茴香豆和 MMPose 的知识问答助手。
conda activate huixiangdoucd /root/huixiangdou mkdir repodirgit clone https://github.com/internlm/huixiangdou --depth1 repodir/huixiangdou
git clone https://github.com/open-mmlab/mmpose --depth1 repodir/mmpose# Save the features of repodir to workdir, and update the positive and negative example thresholds into config.ini
mkdir workdir
python3 -m huixiangdou.service.feature_store
在 huixiangdou 文件加下创建 repodir 文件夹用来储存知识库原始文档。再创建一个文件夹 workdir 用来存放原始文档特征提取到的向量知识库。
知识库创建成功后会有一系列小测试检验问题拒答和响应效果如图所示关于“mmpose 安装”的问题测试结果可以很好的反馈相应答案和对应的参考文件但关于“stdvector 使用”的问题因为属于 C 范畴不再在知识库范围内测试结果显示拒答说明我们的知识助手工作正常。
和 Web 版一样本地版也可以通过编辑正反例来调整茴香豆的拒答和响应正例位于 /root/huixiangdou/resource/good_questions.json 文件夹中反例位于/root/huixiangdou/resource/bad_questions.json。
需要注意的是每次更新原始知识文档和正反例都需要重新运行 python3 -m huixiangdou.service.feature_store 命令进行向量知识库的重新创建和应答阈值的更新。
配置中可见在运行过一次特征提取后茴香豆的阈值从 -1.0 更新到了 0.33。 配置文件中的 work_dir 参数指定了特征提取后向量知识库存放的位置。如果有多个知识库快速切换的需求可以通过更改该参数实现。
测试知识助手
命令行运行
运行下面的命令可以用命令行对现有知识库问答助手进行测试
conda activate huixiangdou
cd /root/huixiangdou
python3 -m huixiangdou.main --standalone 通过命令行的方式可以看到对话的结果以及中间的过程便于我们确认知识库是否覆盖需求正反例是否合理。
Gradio UI 界面测试
茴香豆也用 gradio 搭建了一个 Web UI 的测试界面用来测试本地茴香豆助手的效果。
本节课程中茴香豆助手搭建在远程服务器上因此需要先建立本地和服务器之间的透传透传默认的端口为 7860在本地机器命令行中运行如下命令
ssh -CNg -L 7860:127.0.0.1:7860 rootssh.intern-ai.org.cn -p 你的ssh端口号
在运行茴香豆助手的服务器端输入下面的命令启动茴香豆 Web UI
conda activate huixiangdou
cd /root/huixiangdou
python3 -m huixiangdou.gradio
