商业网站导航怎么做,WordPress mip 评论框,网页制作图片教程,wordpress自带企业主题Embedding 是什么#xff1f;
Embedding 是将自然语言词汇#xff0c;映射为 固定长度 的词向量 的技术 说到这里#xff0c;需要介绍一下 One-Hot 编码 是什么。 One-Hot 编码 使用了众多 5000 长度的1维矩阵#xff0c;每个矩阵代表一个词语。 这有坏处#xff0c…Embedding 是什么
Embedding 是将自然语言词汇映射为 固定长度 的词向量 的技术 · 说到这里需要介绍一下 One-Hot 编码 是什么。
· One-Hot 编码 使用了众多 5000 长度的1维矩阵每个矩阵代表一个词语。
· 这有坏处它不仅计算量更大而且它是 不可移植的因为每个词汇表中每个 One-Hot 矩阵对应的 prompt 都不同。
· Embedding 能够将 One-Hot 编码的高维稀疏向量矩阵 转化为 低维连续的向量矩阵请看下面的例子 来看看降维算法能够将这些被 Embedding 转化了的向量在 2维 坐标系上展现成什么样
很明显意思越是不相同的词语他们的向量距离在二维平面上也相距越远
越是意思相近的词语cat猫kitten小猫它们的向量在二维平面上的距离越近 而且有语义关联的一些词语它们的向量也是有特殊的数学关系的 Embedding 将 text → vector 的具体过程
1.首先对句子进行处理将句子切成单独的词语
2.被切的词语以 One-Hot 的编码格式存储 3.让代表你的词语的 One-Hot 编码的矩阵 和 嵌入矩阵图中的矩阵E 相乘得到这句话的嵌入向量。
请注意“嵌入矩阵”是提前被训练好的也就是 Embedding 处理器 的本体。
在相乘之后我们的自然语言句子的向量就从 4x5000的矩阵 → 4x128的矩阵
也就是从 高维稀疏矩阵 → 低维稠密矩阵
这就是 Embedding 的作用机制
