如何解决Python中numpy大矩阵运算内存不足的问题?
- 内容介绍
- 文章标签
- 相关推荐
本文共计386个文字,预计阅读时间需要2分钟。
程序运行,产生如下结果,然后进程终止,导致这一结果的原因很可能是因为内存爆炸。
当两个较大的(例如,10000 x 10000 维)ndarray 进行加法或乘法运算时,很容易出现这样的结果。
程序运行,产生如下结果,然后进程终止,导致这一结果的原因很有可能是内存爆炸。
当两个较大的 (e.g., 10000*10000 维)ndarray 做运算(加法,or 乘法)时,很容易出现这样的结果.
解决办法:
- 大多数情况下,这种大矩阵都是稀疏的。尽可能地利用稀疏计算的方式,例如稀疏矩阵,或者只计算非 0 位置的值。
- 如果都是整数运算,可以设置 dtype=int,而非 dtype=float, 可以省下不少空间。
linux 系统下,使用 top 命令,可以很容易地看到内存(%MEM) 的使用情况。
本文共计386个文字,预计阅读时间需要2分钟。
程序运行,产生如下结果,然后进程终止,导致这一结果的原因很可能是因为内存爆炸。
当两个较大的(例如,10000 x 10000 维)ndarray 进行加法或乘法运算时,很容易出现这样的结果。
程序运行,产生如下结果,然后进程终止,导致这一结果的原因很有可能是内存爆炸。
当两个较大的 (e.g., 10000*10000 维)ndarray 做运算(加法,or 乘法)时,很容易出现这样的结果.
解决办法:
- 大多数情况下,这种大矩阵都是稀疏的。尽可能地利用稀疏计算的方式,例如稀疏矩阵,或者只计算非 0 位置的值。
- 如果都是整数运算,可以设置 dtype=int,而非 dtype=float, 可以省下不少空间。
linux 系统下,使用 top 命令,可以很容易地看到内存(%MEM) 的使用情况。

