明明没搜到相同的关键词,AI 为什么还能找到你想要的答案?🤔 其实,这背后可能有一个重要技术:Embedding(嵌入)。 那么Embedding 到底是什… · @xiongzixin1218 · TwKit
@xiongzixin1218
明明没搜到相同的关键词,AI 为什么还能找到你想要的答案?🤔 其实,这背后可能有一个重要技术:Embedding(嵌入)。 那么Embedding 到底是什么? 它解决的是一个很重要的问题: 计算机怎么用数字表示文字,并利用这些数字处理内容之间的关系? 比如,你看到「苹果」和「香蕉」,会觉得它们都是水果。 但计算机不能只靠认识这几个汉字,就自动明白它们之间的关系。 这时候就需要 Embedding。 简单来说,Embedding 可以把文字等信息转换成一组数字,叫作向量,让模型能够用这些数字进行计算。 举个例子: 🍎 苹果 → 一组数字 🍌 香蕉 → 另一组数字 🚗 汽车 → 又一组数字 这些数字不是随便乱编的,而是经过模型的训练和设计形成的表示。 在合适的情况下,意思相近的内容,其向量可能也比较接近。 这有什么用? 假设你搜索「怎么缓解考试压力」,系统却找到了《大学生考前心理调节指南》。 明明标题里没有完全相同的关键词,为什么还能找到? 因为一些语义搜索系统会利用 Embedding 表示文本,再计算不同内容之间的相似程度。 它不只是在找相同的字,还可以帮助寻找意思相关的内容。 当然,Embedding 不是读心术,也不能保证每次都找对。毕竟AI 偶尔会胡言乱语不知天地为何物,咱也不是第一天认识它了。🤡 顺便区分一下两个容易混淆的概念: 📦 Token:把文本切分成模型处理的基本单位之一。 🔢 Embedding:把文本等信息转换成数字向量表示。 一个关注怎么切分,一个关注怎么表示,别再把它们炖成一锅粥啦~🤫
曝光 17 · 评论 0 · 点赞 0 · 书签 0
查看原帖