🧹 文本去重
按行去重 · 多种选项
按行去重 · 多种选项
默认保留首次出现的行,删除后续重复行。如需保留最后一次出现,可先反转文本再去重再反转。
可以。将Excel数据列粘贴到文本框(每行一个),选择"忽略前后空格"和"忽略空行",点击去重后复制结果粘贴回Excel。
不会。忽略大小写只对英文字母有效,比如"Apple"和"apple"会被当成同一行;中文汉字没有大小写,去重结果不受影响。
"去前后空格"是把每行首尾的空格去掉再比较和输出,比如" 张三 "和"张三"会被识别成重复;"忽略空行"是直接跳过空行不参与去重。两个通常一起勾选效果最好。
默认不改变,保留每行第一次出现的顺序。除非你勾选了"去重后排序",那才会按字母顺序重排。
大多是"去前后空格"没勾选,导致" 你好"和"你好"被当成两行;或"忽略大小写"没勾选,"Test"和"test"被当成两行。勾上这两个选项,去重才彻底。
本工具按行去重。如果想去重一段话里的重复词句,建议先把文本拆成行(每行一个词/一句)再操作。
去重的本质是"哈希去重":工具把每一行当做一个"键",用一个集合(Set)记录已经出现过的键,第一次遇到就保留,之后再遇到相同键就跳过。
所以"什么是重复"取决于你拿什么当键。本工具让你自定义比较规则:是否去空格、是否忽略大小写,这两个开关直接决定"同一性"的判定。
| 输入两行 | 默认 | 去空格 | 忽略大小写 | 两者都开 |
|---|---|---|---|---|
| " 张三 " / "张三" | 不同 | 相同 | 不同 | 相同 |
| "Hello" / "hello" | 不同 | 不同 | 相同 | 相同 |
| " " / "" | 不同 | 忽略 | 不同 | 忽略 |
| "苹果" / "苹果" | 相同 | 相同 | 相同 | 相同 |
几乎每个和数据打交道的人,都逃不过"去重"这一步,工具在手能省不少事。
去重只负责"删重复",不负责"排顺序"。但实际使用中,去完重你往往还想按字母顺序排一下,方便人眼核对、也方便后续处理。
所以本工具把"去重后排序"做成一个可选开关,勾上就一步到位,不勾则保持原始顺序,把选择权交给你。
默认保留首次出现的行,因为通常第一回出现的那条格式最规范。
如果你想要"保留最后一次",有个技巧:先做一次"文本倒序",再去重,再倒序回来,就等价于保留末次了。
| 数据类型 | 建议选项 | 备注 |
|---|---|---|
| 姓名/名单 | 去空格+忽略空行 | 注意同名不同人 |
| 邮箱/网址 | 忽略大小写 | 域名不区分大小写 |
| 订单号/ID | 去空格 | ID一般精确匹配 |
| 关键词/标签 | 去空格+排序 | 生成干净词库 |
| URL列表 | 去空格 | 可能需额外去参数 |
1. 粘贴文本到输入框。
2. 勾选去重选项。
3. 点击"开始去重"。
4. 复制结果。