文本工具
去除重复词工具
从文本中提取词项并移除重复词,默认忽略英文大小写并保留第一次出现的顺序。
适合清理标签草稿、短关键词集合、测试词表和从表格中复制出的词项列表,快速得到不重复的词项输出。
浏览器本地处理
去除重复词工具
使用方法
三步完成处理
- 01
粘贴由空格、标点或换行分隔的词项文本。
- 02
选择默认去重或区分大小写去重,查看保留和移除数量。
- 03
确认词项顺序和大小写符合预期后复制结果。
词去重和行去重的区别
行去重把每一整行当作一个项目,适合 URL、关键词清单或日志列表。词去重会从文本中提取词项,适合标签、短关键词和测试词表。
为什么默认忽略大小写?
很多词表清理场景中,Apple、apple 和 APPLE 代表同一个词。默认忽略大小写可以减少重复项;如果大小写本身有意义,可以选择区分大小写去重。
适合和不适合的文本
工具适合用在由空格、标点或换行分隔的词项上。不适合替代自然语言分词、语义合并或专业术语规范化,也不会判断两个近义词是否等价。
常见问题
关于这个工具
去重后会保留原始标点吗?
不会。工具会提取词项并用空格连接输出,适合清理词表。如果需要保留整行结构,请使用去除重复行工具。
中文词语会自动分词吗?
不会。中文连续字符会按连续词项处理,工具不做自然语言分词或语义判断。
大小写不同会被认为重复吗?
默认会按同一个词处理,并保留第一次出现的写法。选择区分大小写去重时,大小写不同的词会分别保留。
会上传文本吗?
不会。去重在浏览器本地完成,但敏感词表或客户资料仍建议只在可信本地环境中处理。
继续探索
相关工具
最后更新: