源码网商城,靠谱的源码在线交易网站 我的订单 购物车 帮助

源码网商城

shell两个文件去重的多种姿势

  • 时间:2022-04-12 10:00 编辑: 来源: 阅读:
  • 扫一扫,手机访问
摘要:shell两个文件去重的多种姿势
[b]前言[/b] 大家都知道shell在文本处理上确有极大优势,比如多文本合并、去重等,但是最近遇到了一个难搞的问题,即两个大数据量文件去重。下面来看看详细的介绍吧。 [b]要求 [/b] 有txt文件A.txt和B.txt。 其中A为关键词和搜索量,以逗号分隔,约90万行。 B为关键词,约400万行。 需要从A中找出与B重复的关键词。 我试了N种姿势,但结果都不尽人意,最奇怪的是有些方法对小数据量的测试文件有用,一旦用在A与B上就会失败,真叫人百思不得其解。 [b]姿势一:[/b]
awk -F, '{print $1}' A >keywords.txt
cat keywords.txt B.txt | sort | uniq -d
 
#先从A.txt种取出关键词,然后与B.txt一起打开,用sort排序,uniq -d 取出重复的行
[b]姿势二:[/b]
awk -F, '{print $1}' A >keywords.txt
#照例先取出关键词
 
comm -1 -2 keywords.txt B.txt
#利用comm命令,显示两个文件都存在的行
[b]姿势三:[/b]
awk -F, '{print $1}' A >keywords.txt
for i in `cat keywords.txt`
do
  A=`egrep -c "^$i$" B.txt`
  if [ $A != 0 ]
  then
    echo $i >>重复关键词.txt
  fi
done
 
#这种姿势就稍微复杂点
#首先取出关键词,然后利用for循环逐个去B.txt里面匹配(注意正则写法^$i$),如果匹配到的结果数不为0,说明这个关键词是重复的,然后输出
#这种方法的优点是稳妥,缺点是效率太TM低了,90万个词逐一与400万词匹配,shell默认又没有多线程,耗时太长。
[b]姿势四:[/b]
awk -F, '{print $1}' A >keywords.txt
cat keywords.txt B.txt | awk '!a[$1]++'
 
#这个方法的原理其实我不太懂,awk命令实在太强大太高深了,但是这种方法又简洁又快速
其实还有一种[code]grep -v[/code] 、[code]grep -f [/code]的方法,但是我没有试过,所以不在这里列出了。 [b]总结[/b] 以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流。
  • 全部评论(0)
联系客服
客服电话:
400-000-3129
微信版

扫一扫进微信版
返回顶部