Programming/Python

[Python] gzip.open, zcat & pipeline 성능비교

쌍쌍바나나 2018. 10. 20. 12:26
반응형

파이썬에서 gzip파일을 읽는 방법 2가지 성능 비교

gzip 파일 확인

gzip의 파일을 읽으려면 shell에서는 zcat을 이용하면 쉽게 데이터를 확인이 가능하다.

$ zcat * | head -100 $ zcat * | wc -l

아래 소스코드는 zcat과 pipeline을 이용해 읽는 방식과, gzip.open을 이용해 gzip의 파일을 읽는 속도를 비교한 코드이다.

코드

[참고] * https://codebright.wordpress.com/2011/03/25/139/

반응형