城市建设和房屋管理部门网站,购物网站开发的意义和目的,表白时刻网站,网站seo是什么今天来介绍下伯克利大学3.15日新发的一篇paper，RAFT: Adapting Language Model to Domain Specific RAG
主要研究了如何构造训练数据来微调你的LLM，从而在LLM在垂直领域的RAG中表现更好。并且开源了代码：GitHub - ShishirPatil/gorilla: Gorilla: An API store for LLMs 主…今天来介绍下伯克利大学3.15日新发的一篇paper，RAFT: Adapting Language Model to Domain Specific RAG
主要研究了如何构造训练数据来微调你的LLM，从而在LLM在垂直领域的RAG中表现更好。并且开源了代码：GitHub - ShishirPatil/gorilla: Gorilla: An API store for LLMs 主要工作： 1、Retrieval Augmented Fine Tuning (RAFT)：RAFT是一种训练方法，旨在通过微调来适应特定领域的开卷考试设置，即领域特定的RAG。 2、区分文档类型：在训练数据中，区分“oracle”文档（包含问题答案的文档）和“distractor”文档（不包含答案相关信息的文档）。 3、链式思维风格答案：RAFT训练模型生成包含链式思维的答案，这些答案引用了上下文中的原始文档，并详细解释了如何基于引用得出结论。 4、处理干扰文档：在训练过程中，模型被训练以在存在干扰文档的情况下回答问题，这有助于提高模型在测试时对检索结果的鲁棒性。 训练数据是如何构造的？
其实作者在论文中没有明说，只是给了一个示例。笔者看代码搞清楚了这一过程。现在阐述如下。 1.对于一个pdf，先把pdf切分成chunk，也就是产生多个doc。
2.利用chatgpt4为每一个doc，生成多个query。
def generate_instructions_gen(chunk: Any, x: int = 5) - list[str]:"""Generates `x` questions / use cases for `chunk`. Used when the input document is of general types `pdf`, `json`, or `txt`."""response = cli
