温馨提示×

Pandas中怎么使用TF-IDF提取文本特征

小亿
81
2024-05-13 11:01:54
栏目: 编程语言

在Pandas中使用TF-IDF提取文本特征可以通过以下步骤实现:

  1. 导入所需的库:
from sklearn.feature_extraction.text import TfidfVectorizer
import pandas as pd
  1. 创建一个包含文本数据的DataFrame:
data = {'text': ['This is a sample text for TF-IDF example', 
                 'TF-IDF is a technique used in text mining', 
                 'It calculates the importance of each word in a document']}
df = pd.DataFrame(data)
  1. 初始化TfidfVectorizer对象,并将文本数据转换为TF-IDF特征向量:
tfidf = TfidfVectorizer()
tfidf_matrix = tfidf.fit_transform(df['text'])
  1. 将TF-IDF特征向量转换为DataFrame:
tfidf_df = pd.DataFrame(tfidf_matrix.toarray(), columns=tfidf.get_feature_names_out())

现在,tfidf_df中包含了每个文档中每个单词的TF-IDF值作为特征。您可以将这些特征用于机器学习模型中进行文本分类、聚类等任务。

0