将非常大的CSV文件拆分成较小的文件

Splitting very large csv files into smaller files(将非常大的CSV文件拆分成较小的文件)
本文介绍了将非常大的CSV文件拆分成较小的文件的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!

问题描述

DASK是否适合并行读取大型CSV文件并将其拆分为多个较小的文件?

推荐答案

可以,dASK可以读取大型csv文件。它会将它们分割成块

df = dd.read_csv("/path/to/myfile.csv")

然后,在保存时,DASK始终将CSV数据保存到多个文件

df.to_csv("/output/path/*.csv")
有关这方面的详细信息,请参阅READ_CSV和TO_CSV文档字符串。

  • dd.read_csv
  • dd.DataFrame.to_csv

这篇关于将非常大的CSV文件拆分成较小的文件的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持编程学习网!

本站部分内容来源互联网,如果有图片或者内容侵犯您的权益请联系我们删除!

相关文档推荐

Leetcode 234: Palindrome LinkedList(Leetcode 234:回文链接列表)
How do I read an Excel file directly from Dropbox#39;s API using pandas.read_excel()?(如何使用PANDAS.READ_EXCEL()直接从Dropbox的API读取Excel文件?)
subprocess.Popen tries to write to nonexistent pipe(子进程。打开尝试写入不存在的管道)
I want to realize Popen-code from Windows to Linux:(我想实现从Windows到Linux的POpen-code:)
Reading stdout from a subprocess in real time(实时读取子进程中的标准输出)
How to call type safely on a random file in Python?(如何在Python中安全地调用随机文件上的类型?)