Programming/Python

[파이썬] gzip.open, zcat & pipeline 성능비교

쌍쌍바나나 2017. 12. 31. 12:46
반응형

파이썬에서 gzip파일을 읽는 방법 2가지 성능 비교

gzip 파일 확인

gzip의 파일을 읽으려면 shell에서는 zcat을 이용하면 쉽게 데이터를 확인이 가능하다.

$ zcat * | head -100 $ zcat * | wc -l

아래 소스코드는 zcat과 pipeline을 이용해 읽는 방식과, gzip.open을 이용해 gzip의 파일을 읽는 속도를 비교한 코드이다.

코드

[참고] * https://codebright.wordpress.com/2011/03/25/139/

반응형