建网站合同,王磊网络网站建设,凡科的模板做网站,网站空间购买费用【参考#xff1a;tutorial/xtuner/README.md at main InternLM/tutorial】 【参考#xff1a;(4)XTuner 大模型单卡低成本微调实战_哔哩哔哩_bilibili-【OpenMMLab】】 总结
学到了
linux系统中 tmux 的使用
了解了
XTuner 大模型微调框架的使用 pth格式参数转Hugging …【参考tutorial/xtuner/README.md at main · InternLM/tutorial】 【参考(4)XTuner 大模型单卡低成本微调实战_哔哩哔哩_bilibili-【OpenMMLab】】 总结
学到了
linux系统中 tmux 的使用
了解了
XTuner 大模型微调框架的使用 pth格式参数转Hugging Face格式 Merge模型参数
学习记录
tmux
apt update -y # 更新源apt install tmux -y # 安装tmux new -s finetune # 新建一个名称为finetune的session现在进入了finetune的session按ctrlb 然后放开按键再按d离开tmux attach -t finetune # 回到finetune输入
xtuner train ./internlm_chat_7b_qlora_oasst1_e3_copy.py --deepspeed deepspeed_zero2
作业
【参考tutorial/xtuner/self.md at main · InternLM/tutorial】
在本地终端输入以下指令. 6006是在服务器中打开的端口而35144是根据开发机的端口进行更改。
ssh -CNg -L 6006:127.0.0.1:6006 rootssh.intern-ai.org.cn -p 35144 数据2000条2个epoch感觉不太行 数据10000条3个epoch
