要比较两段文本的相似程度，使用tf-idf结合余弦相似度是一种常见且有效的方法。tf-idf用于评估词语在文档中的重要性，由词频（tf）和逆文档频率（idf）组成；余弦相似度通过计算向量夹角的余弦值衡量相似性，值越接近1表示越相似。实现流程为：1. 使用jieba进行中文分词；2. 利用tfidfvectorizer将文本转为tf-idf向量；3. 通过cosine_similarity函数计算相似度。注意事项包括：分词工具影响结果准确性、需处理停用词、文本长度差异可通过预处理解决。此外，批量比较多个文本时可一次性计算所有组合的相似度。该方法虽非最先进，但实现简单且效果良好。
要比较两段文本的相似程度，TF-IDF结合余弦相似度是一个常见且有效的方法。它能将文本转化为向量，并通过数学方式衡量它们之间的“距离”或“相似性”。
什么是TF-IDF和余弦相似度？
TF-IDF（Term Frequency-Inverse Document Frequency） 是一种统计方法，用于评估一个词在文档中的重要程度。简单来说：
- TF（词频）：某个词在文档中出现的次数。
- IDF（逆文档频率）：衡量这个词在整个语料库中的普遍重要性，越少见的词IDF越高。
余弦相似度（Cosine Similarity） 则是通过计算两个向量夹角的余弦值来判断它们的相似程度。值越接近1，表示越相似。
立即学习“Python免费学习笔记（深入）”；
所以整个流程大致是：文本 → TF-IDF向量化 → 余弦相似度计算。
怎么用Python实现？
Python有很多现成的库可以完成这项任务，比如 scikit-learn 和 jieba（中文分词）。下面是一个基本流程：
1. 安装必要库
pip install scikit-learn jieba
2. 分词处理（中文）
对于英文可以直接按空格分割，中文需要使用像 jieba 这样的分词工具：
import jieba text1 = "我喜欢机器学习" text2 = "我热爱人工智能" words1 = " ".join(jieba.cut(text1)) words2 = " ".join(jieba.cut(text2))
3. 使用 TfidfVectorizer 转换为向量
from sklearn.feature_extraction.text import TfidfVectorizer corpus = [words1, words2] vectorizer = TfidfVectorizer() tfidf_matrix = vectorizer.fit_transform(corpus)
4. 计算余弦相似度
from sklearn.metrics.pairwise import cosine_similarity
similarity = cosine_similarity(tfidf_matrix[0], tfidf_matrix[1])
print(f"相似度：{similarity[0][0]:.4f}")常见问题与注意事项
分词对结果影响大
- 中文必须先分词，否则直接当作一个个字处理会严重影响效果。
- 不同的分词工具（如jieba、HanLP）可能会有不同的切分结果，影响最终相似度。
停用词处理
一些无意义的词（如“的”、“了”、“是”）应该被过滤掉。可以用停用词表提升准确性：
vectorizer = TfidfVectorizer(stop_words=your_stopword_list)
文本长度差异太大怎么办？
如果两段文本长度相差悬殊，可能会影响TF-IDF的分布。可以考虑先做预处理，比如截断或分块比较。
小技巧：批量比较多个文本
如果你有多个文本需要比较，可以把所有文本都转换成TF-IDF向量，然后一次性计算所有组合的余弦相似度：
from sklearn.metrics.pairwise import cosine_similarity all_texts = [text1, text2, text3] # 更多文本 corpus = [" ".join(jieba.cut(t)) for t in all_texts] tfidf_matrix = vectorizer.fit_transform(corpus) similarities = cosine_similarity(tfidf_matrix) # similarities[i][j] 就是第i篇和第j篇的相似度
基本上就这些。TF-IDF + 余弦相似度虽然不是最先进的方法，但在很多实际场景下已经够用了，而且实现起来不难。只要注意分词和停用词这些细节，就能得到不错的匹配结果。
