如何用python解决按行读取内存不够的问题

627次阅读
没有评论
如何用python解决按行读取内存不够的问题

当我们需要读取一个较大的文件,但是电脑的内存比较小怎么办?要是小文件又该怎么办?今天就为大家带来几个按行读取文件在Python如何巧妙解决的办法。

第一种:readline()

file = open(“sample.txt”) while 1:    line = file.readline()    if not line:        break    pass # do somethingfile.close()

</pre>
一行行得从文件读数据,这样是比较慢的,但是节约内存;

测试读10M的sample.txt文件,每秒大约读32000行;

第二种:fileinput

import fileinput for line in fileinput.input(“sample.txt”):    pass
<pre class="brush:js;toolbar:false">

写法稍微简单,不过测试以后发现每秒只能读13000行数据,效率上比上一种方法慢了两倍多;

第三种:readlines()

file = open(“sample.txt”) while 1:    lines = file.readlines(100000)    if not lines:        break    for line in lines:        pass # do something file.close()

</pre>
用同样的数据测试,它每秒可以读96900行数据。效率是第一种方法的3倍,第二种方法的7倍。

第四种:文件迭代器

每次只读取和显示一行,读取大文件时如下:

file = open(“sample.txt”) for line in file:    pass # do something file.close()
<pre class="brush:js;toolbar:false">

以上就是Python中按行读取目录下文件名的一些方法,需要的小伙伴可以参考下。

神龙|纯净稳定代理IP免费测试>>>>>>>>天启|企业级代理IP免费测试>>>>>>>>IPIPGO|全球住宅代理IP免费测试

相关文章:

版权声明:wuyou2021-06-09发表,共计691字。
新手QQ群:570568346,欢迎进群讨论 Python51学习