java - hadoop数据查找
阿神
阿神 2017-04-18 10:48:19
0
1
628

使用hadoop查找文件中是否含有某些字符串,也就是要查找出set(string)中每个string对应的那一行,每条数据都不重复,请问怎么可以快速的找到呢?我写了简单的

# map.sh
awk -F "\03" '$3==xxx{print $0}' -

结果慢的要死,一直动不都不懂,请问有快点的办法吗?最好是可以一次性找出集合中所有的

阿神
阿神

闭关修行中......

모든 응답(1)
左手右手慢动作

이 문제를 해결하려면 MR을 작성하고 데이터를 Hive로 가져와서 SQL을 사용하여 해결하세요.

최신 다운로드
더>
웹 효과
웹사이트 소스 코드
웹사이트 자료
프론트엔드 템플릿