如何将 pandas DF转换为稀疏DF

How to convert panda df to sparse df(如何将 pandas DF转换为稀疏DF)
本文介绍了如何将 pandas DF转换为稀疏DF的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!

问题描述

我在DataFrame中有一个巨大的稀疏数据集,并且一直在使用df.to_parse,但它很快就会被弃用,所以我想切换到pd.Series(pd.SparseArray()),但不确定如何对整个DataFrame执行此操作?

我的最终df是100K行和49K列,因此需要一种自动方式。

推荐答案

您可以尝试如下操作:

dtype = {key: pd.SparseDtype(df.dtypes[key].type, fill_value=df[key].value_counts().argmax()) for key in df.dtypes.keys()}

df = df.astype(dtype)

,然后使用df.sparse.density检查密度。

这将为每列创建稀疏数据,并将最频繁的值作为填充值。

(但不确定这是否是最佳方法)

这篇关于如何将 pandas DF转换为稀疏DF的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持编程学习网!

本站部分内容来源互联网,如果有图片或者内容侵犯您的权益请联系我们删除!

相关文档推荐

Leetcode 234: Palindrome LinkedList(Leetcode 234:回文链接列表)
How do I read an Excel file directly from Dropbox#39;s API using pandas.read_excel()?(如何使用PANDAS.READ_EXCEL()直接从Dropbox的API读取Excel文件?)
subprocess.Popen tries to write to nonexistent pipe(子进程。打开尝试写入不存在的管道)
I want to realize Popen-code from Windows to Linux:(我想实现从Windows到Linux的POpen-code:)
Reading stdout from a subprocess in real time(实时读取子进程中的标准输出)
How to call type safely on a random file in Python?(如何在Python中安全地调用随机文件上的类型?)