文档词频权重统计工具用于批量分析文本文件的词频分布,页面支持词频统计、TF-IDF、BM25 和关键词密度等结果。你可以导入文本文件、粘贴单篇文本或载入示例数据,再设置分词、权重、过滤和排序参数。
主要功能
- 多种文本输入:支持 TXT、TEXT、MD、CSV、SRT、LOG 文件,也可以切换到“粘贴文本”按单文档语料分析。
- 中文分词设置:提供“自动组合词(推荐)”“连续中文短语”“单字与组合词”等切词方式,可设置词长下限和中文组合词长度。
- 多种权重算法:词频统计查看总次数和文档覆盖数,TF-IDF 评估词在语料中的区分度,BM25 加入文档长度校正,关键词密度输出词频占比和覆盖率。
- 过滤与排序:可以设置展示结果数量、默认排序、停用词过滤、数字保留和英文大小写区分。
- 自定义词库与报告:自定义保留词、停用词均按每行一个词填写,并可选择输出单文档报告。
使用前准备
- 准备需要分析的 TXT、TEXT、MD、CSV、SRT 或 LOG 文本文件;也可以不准备文件,直接使用“粘贴文本”或“示例数据”。
- 先确认需要分析的语料范围,再决定是否启用 TF-IDF、BM25、关键词密度和停用词过滤。
- 页面提示文件内容会在浏览器中读取和分析;本教程只说明界面操作,不上传文件、不填写测试数据。
操作步骤
1. 选择文本来源并添加内容
在“1 选择文本”页先选择“TXT 文件”“粘贴文本”或“示例数据”。使用文件时,在“添加文本文件”区域点击“选择文件”,或按页面提示拖拽文件到添加区域。确认文档数和估算大小后,点击“下一步:设置参数”。
2. 设置分词、权重和过滤参数
在“2 设置参数”页,先配置中文切词方式、词长下限和组合词长度,再勾选需要的权重算法。BM25 可填写 K1 饱和参数和 B 长度归一参数;在“过滤与排序”中设置结果数量、默认排序、停用词、数字、英文大小写和单文档报告。需要固定行业词时,在自定义保留词或停用词文本框中每行填写一个词。
3. 确认任务并开始分析
进入“3 开始分析”页后,先查看“确认任务”区域和处理进度区域。页面会在准备好文本后提供“开始分析并下一步”按钮,开始后可根据进度提示等待页面进入结果步骤。本教程保留真实的“待开始分析”和 0% 状态,没有执行分析操作。
4. 查看结果并保留设置
分析完成后进入“4 下载结果”页,结果区域会替换当前的提示文本并提供页面实际的查看或下载入口。当前截图显示的是尚未分析时的真实提示“还没有分析结果”,因此不要把它当作已生成的结果。需要重新处理另一组文本时,使用“继续分析新文本”;需要保留当前参数时,使用“保存设置”。
主要参数说明
| 参数 | 作用 | 页面选项与建议 |
|---|---|---|
| 中文切词方式 | 决定中文文本如何拆分为词语。 | 自动组合词适合一般语料;也可按页面提供的连续短语或单字与组合词方式选择。 |
| 词长下限 | 限制参与统计的最短词长度。 | 页面默认值为 2,可结合语料中的短词数量调整。 |
| 中文组合词长度 | 控制中文组合词的长度范围。 | 页面提供 2 字、2-3 字、2-4 字和 2-5 字选项。 |
| 词频统计 | 统计词汇出现总次数和文档覆盖数。 | 该项为基础统计并默认启用。 |
| TF-IDF | 评估词在当前语料中的区分度。 | 适合关注能够区分不同文档的词语时启用。 |
| BM25 | 加入文档长度校正的权重得分。 | K1 常用取值约 1.2-2.0,B 常用取值约 0.75;页面提示数值会影响得分排序。 |
| 展示结果数量与默认排序 | 控制结果显示条数和初始排序字段。 | 默认结果数量为 200,排序可选词频、TF-IDF、BM25 或文档覆盖。 |
| 过滤停用词、保留数字、英文区分大小写 | 控制低信息词、数字和英文大小写是否参与分析。 | 按语料特点逐项启用;专有名词较多时可考虑英文区分大小写。 |
| 自定义保留词与停用词 | 补充需要保留或过滤的词语。 | 每行填写一个词,不要把多个词写在同一行。 |
结果查看与保存
页面说明分析完成后会进入结果步骤。结果表可用于搜索关键词并查看词频、权重、覆盖率等数据,还可下载当前 CSV 结果;批量文件可下载 ZIP,单文档报告会按原文件名导出,重名文件会自动添加数字区分。具体入口以结果页实际显示的按钮为准。
“保存设置”用于保留常用的分词、算法和过滤参数;“继续分析新文本”用于回到输入流程并处理新的文本内容。教程截图没有伪造结果,也没有点击会触发处理或下载的按钮。
常见问题与使用建议
支持哪些输入格式?
页面支持 TXT、TEXT、MD、CSV、SRT 和 LOG 文件,也支持粘贴文本与示例数据。
TF-IDF 和 BM25 应该如何选择?
TF-IDF 用于评估词在语料中的区分度;BM25 会加入文档长度校正。可根据关注的指标选择一种或同时启用,具体结果以页面完成分析后显示的数据为准。
中文组合词长度怎么设置?
页面提供 2 字、2-3 字、2-4 字和 2-5 字选项。应根据希望统计的中文短语长度选择对应范围。
为什么要过滤停用词?
停用词过滤用于减少常见虚词和低信息词对统计结果的干扰;如果需要保留某些词,可把它们写入自定义保留词。
没有分析结果时下载页显示什么?
页面会显示“还没有分析结果。请先完成前面的步骤并开始分析。”这表示尚未产生结果,不代表分析已经完成。