首页 > 系统相关 >Python追踪内存占用

Python追踪内存占用

时间:2023-12-26 16:34:30浏览次数:47  
标签:current MB Python tracemalloc 内存 memory usage 追踪


Python追踪内存占用_python

本文介绍了一个工具tracemalloc,可以在Python代码的执行过程中对每一步的内存占用进行记录。

技术背景

当我们需要对python代码所占用的内存进行管理时,首先就需要有一个工具可以对当前的内存占用情况进行一个追踪。虽然在Top界面或者一些异步的工具中也能够看到实时的内存变化,还有一些工具可以统计代码中每一步的内存占用。但如果只是要查看单步操作之后的内存变化,tracemalloc的简单易用,让它成为了一个绝佳的选择。本文主要介绍用tracemalloc来追踪代码的内存占用变化。

tracemalloc的使用

tracemalloc的操作逻辑非常简单,在开始统计时使用一个start函数,结束统计的时候使用一个stop函数,中间过程就像拍照片一样不断的使用get_traced_memory函数即可。

import numpy as np
import tracemalloc

a = np.random.random((1000000,))
tracemalloc.start()
current, peak = tracemalloc.get_traced_memory()
print(f"Current memory usage is {current / 10**6}MB; Peak was {peak / 10**6}MB")
b = np.random.random((1000000,))
current, peak = tracemalloc.get_traced_memory()
print(f"Current memory usage is {current / 10**6}MB; Peak was {peak / 10**6}MB")
b = b.astype(np.float32)
current, peak = tracemalloc.get_traced_memory()
print(f"Current memory usage is {current / 10**6}MB; Peak was {peak / 10**6}MB")
del a
current, peak = tracemalloc.get_traced_memory()
print(f"Current memory usage is {current / 10**6}MB; Peak was {peak / 10**6}MB")
del b
current, peak = tracemalloc.get_traced_memory()
print(f"Current memory usage is {current / 10**6}MB; Peak was {peak / 10**6}MB")
tracemalloc.stop()

在上面这个案例中,我们在统计内存占用前也分配了一个numpy数组,但是我们发现这个内存分配被自动忽略了。也就是说,我们只统计start函数开始之后的每一步的操作导致的内存变化。我们在start之后定义了一个numpy数组b,这里还是一个numpy.float64的数组,占用了8MB的内存。在将其转化为numpy.float32的数组之后,内存一下子缩小了一半,为4MB。但是我们发现,此时的峰值内存占用是12MB,也就是说,这个astype的操作,其实相当于定义了一个新的数组,然后把原数组拷贝到新的数组中,再将原数组释放掉这样的一个流程。在测试案例的最后,我们使用python的del删除了这个数组对象,此时内存就被清空了。具体运行结果如下所示:

Current memory usage is 0.0MB; Peak was 0.0MB
Current memory usage is 8.000096MB; Peak was 8.000312MB
Current memory usage is 4.000152MB; Peak was 12.000248MB
Current memory usage is 4.000152MB; Peak was 12.000248MB
Current memory usage is 5.6e-05MB; Peak was 12.000248MB

版权声明

作者ID:DechinPhy


参考链接

  1. https://zhuanlan.zhihu.com/p/151637281


标签:current,MB,Python,tracemalloc,内存,memory,usage,追踪
From: https://blog.51cto.com/u_15561675/8984755

相关文章

  • Python定位错误:段错误 (核心已转储)
    解决Python编程中可能出现的“段错误(核心已转储)”,并没有其他任何提示信息的问题。技术背景在各种编程语言中都有可能会遇到这样一个报错:“段错误(核心已转储)”。显然是编写代码的过程中有哪里出现了问题,但是这个报错除了这几个字以外没有任何的信息,我们甚至不知道......
  • 基于Python-Windows环境的Excel页面截图并邮件正文发送
    截图模块#截图模块defget_snapshot():#定义变量#excel文件的绝对位置excel_file=r'E:\L.xlsx'#输出图片的绝对位置output_png_path=r'E:\L.png'#excel的sheet名称excel_tb='每日销售'#注意要装excel软件,否则会报错excel=win......
  • python合成语音
      https://pythonjishu.com/tzzjavbepoesojm/下面是另一个示例:pipinstallpyttsx3pipinstallgtts将一个变量中的中文文本转换为语音,并使用pyaudio播放出来。因为pyaudio库在Windows环境下可能会有问题,所以建议在Linux或Mac环境下测试。importpyt......
  • 如何用 python 做个简单服务器
    在Python中,你可以使用内置的http.server模块创建一个简单的HTTP服务器。这个模块提供了一个轻量级的Web服务器,非常适合用于测试和学习目的。以下是创建一个简单服务器的步骤:1.导入必要的模块:首先,你需要导入http.server模块,该模块包含了用于创建HTTP服务器的类。importhttp.server......
  • Python为什么空字符串的逻辑值是True
    在Python中,空字符串(即'')的逻辑值被定义为True。这是因为Python中的逻辑值是基于所谓的"真值测试"规则进行判断的。根据这个规则,除了一些特定的值被认为是False之外,其他所有的值都被认为是True。在Python中,以下值被认为是False:-None-False-0(包括0.0和其他表示零的数值)-空的容器对象(......
  • 为什么python总是读取不到文件
    在Python中,当你尝试读取文件但却无法成功时,可能有几个常见的原因。下面将探讨一些可能导致Python无法读取文件的问题,并提供相应的解决方案。1.文件路径错误:当你提供给Python的文件路径不正确时,它将无法找到该文件。确保你提供的文件路径是准确的,包括文件名和文件所在的文件夹路径。......
  • Python 项目多维列表如何实现
    在Python中,可以使用多维列表来表示和处理具有多个维度的数据。多维列表实际上是一个列表的列表,其中每个内部列表代表一个维度。本文将介绍如何创建、访问和操作多维列表。创建多维列表要创建一个多维列表,可以使用嵌套的列表结构。每个内部列表代表一个维度,可以包含任意数量的元素。......
  • Redis哨兵内存碎片化故障处理
    背景介绍近期研发同学反馈业务响应波动厉害,怀疑是Redis操作key比较慢的缘故。由于该环境是我一手安装部署的,我将进行问题排查。Redis环境以及业务环境都已经使用Prometheus进行了监控。环境说明我们有两套一样的环境来服务不同的客户,另外一套环境中业务一直平稳运行,Redis并没......
  • 【python爬虫课程设计】掌上高考——高校数据爬取+数据可视化
    一、选题的背景选择此选题是因为掌上高考是一个提供本科院校信息的网站,通过爬取该网站的数据,可以获取到各个本科院校的相关信息,如学校名称、所在地、专业设置等。通过对这些数据进行分析和可视化,可以帮助学生更好地了解各个本科院校的情况,为他们的升学选择提供参考。预期目标是通......
  • 【Python微信机器人】第六七篇: 封装32位和64位Python hook框架实战打印微信日志
    目录修整目前的系列目录(后面会根据实际情况变动):在windows11上编译python将python注入到其他进程并运行注入Python并使用ctypes主动调用进程内的函数和读取内存结构体调用汇编引擎实战发送文本和图片消息(支持32位和64位微信)允许Python加载运行py脚本且支持热加载利用......