如何逐行阅读大型文本文件,而不将其加载到内存中?

How can I read large text files line by line, without loading it into memory?(如何逐行阅读大型文本文件,而不将其加载到内存中?)
本文介绍了如何逐行阅读大型文本文件,而不将其加载到内存中?的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!

问题描述

我需要逐行读取一个大文件。假设该文件超过5 GB,我需要读取每一行,但显然我不想使用readlines(),因为它将在内存中创建一个非常大的列表。 下面的代码在这种情况下将如何工作?xreadlines本身是否逐个读取到内存中?是否需要生成器表达式?

f = (line for line in open("log.txt").xreadlines())  # how much is loaded in memory?

f.next()  

另外,我如何才能像Linuxtail命令那样以相反的顺序阅读此内容?

我发现:

http://code.google.com/p/pytailer/

"python head, tail and backward read by lines of a text file"

两者都运行得很好!

推荐答案

我之所以提供这个答案,是因为Keith的答案虽然简洁,但没有显式关闭文件

with open("log.txt") as infile:
    for line in infile:
        do_something_with(line)

这篇关于如何逐行阅读大型文本文件,而不将其加载到内存中?的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持编程学习网!

本站部分内容来源互联网,如果有图片或者内容侵犯您的权益请联系我们删除!

相关文档推荐

Leetcode 234: Palindrome LinkedList(Leetcode 234:回文链接列表)
How do I read an Excel file directly from Dropbox#39;s API using pandas.read_excel()?(如何使用PANDAS.READ_EXCEL()直接从Dropbox的API读取Excel文件?)
subprocess.Popen tries to write to nonexistent pipe(子进程。打开尝试写入不存在的管道)
I want to realize Popen-code from Windows to Linux:(我想实现从Windows到Linux的POpen-code:)
Reading stdout from a subprocess in real time(实时读取子进程中的标准输出)
How to call type safely on a random file in Python?(如何在Python中安全地调用随机文件上的类型?)