首页 > 编程语言 >Python垃圾回收机制

Python垃圾回收机制

时间:2023-05-15 09:55:18浏览次数:33  
标签:Python 回收 列表 计数 l2 垃圾 l1 引用

什么是垃圾回收机制:垃圾回收机制(简称GC)是Python解释器自带一种机制,专门用来回收不可用的变量值所占用的内存空间
为什么要用垃圾回收机制:程序运行过程中会申请大量的内存空间,而对于一些无用的内存空间如果不及时清理的话会导致内存使用殆尽(内存溢出),导致程序崩溃,因此管理内存是一件重要且繁杂的事情,而python解释器自带的垃圾回收机制把程序员从繁杂的内存管理中解放出来。

一、理解GC原理需要储备的知识

1. 堆区与栈区

在定义变量时,变量名与变量值都是需要存储的,分别对应内存中的两块区域:堆区与栈区。
1、变量名与值内存地址的关联关系存放于栈区
2、变量值存放于堆区,内存管理回收的则是堆区的内容,
定义了两个变量x = 10、y = 20
插图:栈区与堆区
堆栈.png
当我们执行x=y时,内存中的栈区与堆区变化如下
插图:栈区与堆区变化
堆栈变化.png

2.直接引用与间接引用

直接引用指的是从栈区出发直接引用到的内存地址。
间接引用指的是从栈区出发引用到堆区后,再通过进一步引用才能到达的内存地址。

l2 = [20, 30] # 列表本身被变量名l2直接引用,包含的元素被列表间接引用 
x = 10  	  # 值10被变量名x直接引用
l1 = [x, l2]  # 列表本身被变量名l1直接引用,包含的元素被列表间接引用

插图:直接引用与间接引用
堆栈2.png

二、垃圾回收机制原理分析

Python的GC模块主要运用了“引用计数”(reference counting)来跟踪和回收垃圾。在引用计数的基础上,还可以通过“标记-清除”(mark and sweep)解决容器对象可能产生的循环引用的问题,并且通过“分代回收”(generation collection)以空间换取时间的方式来进一步提高垃圾回收的效率。
引用计数引用计数就是:变量值被变量名关联的次数
如:age=18
变量值18被关联了一个变量名age,称之为引用计数为1
插图:引用计数
引用计数.png
引用计数增加:
age=18 (此时,变量值18的引用计数为1)
m=age (把age的内存地址给了m,此时,m,age都关联了18,所以变量值18的引用计数为2)
插图:引用计数增加
引用计数2.png
引用计数减少:
age=10(名字age先与值18解除关联,再与3建立了关联,变量值18的引用计数为1)
del m(del的意思是解除变量名x与变量值18的关联关系,此时,变量18的引用计数为0)
插图:引用计数减少
引用计数3.png
值18的引用计数一旦变为0,其占用的内存地址就应该被解释器的垃圾回收机制回收

1. 引用计数的问题与解决方案

问题:循环引用引用计数机制存在着一个致命的弱点,即循环引用(也称交叉引用)

# 如下我们定义了两个列表,简称列表1与列表2,变量名l1指向列表1,变量名l2指向列表2 
>>> l1=['xxx']  # 列表1被引用一次,列表1的引用计数变为1    
>>> l2=['yyy']  # 列表2被引用一次,列表2的引用计数变为1   
>>> l1.append(l2)             # 把列表2追加到l1中作为第二个元素,列表2的引用计数变为2 
>>> l2.append(l1)             # 把列表1追加到l2中作为第二个元素,列表1的引用计数变为2

# 1. l1与l2之间有相互引用 
# 2. l1 = ['xxx'的内存地址,列表2的内存地址] 
# 3. l2 = ['yyy'的内存地址,列表1的内存地址] 

>>> l1 
['xxx', ['yyy', [...]]] 
>>> l2 
['yyy', ['xxx', [...]]]
>>> l1[1][1][0] 
'xxx'

插图:循环引用
循环引用.png
循环引用会导致:值不再被任何名字关联,但是值的引用计数并不会为0,应该被回收但不能被回收,什么意思呢?试想一下,请看如下操作

del l1 # 列表1的引用计数减1,列表1的引用计数变为1 
del l2 # 列表2的引用计数减1,列表2的引用计数变为1

此时,只剩下列表1与列表2之间的相互引用
删除.png
但此时两个列表的引用计数均不为0,但两个列表不再被任何其他对象关联,没有任何人可以再引用到它们,所以它俩占用内存空间应该被回收,但由于相互引用的存在,每一个对象的引用计数都不为0,因此这些对象所占用的内存永远不会被释放,所以循环引用是致命的,这与手动进行内存管理所产生的内存泄露毫无区别。
所以Python引入了“标记-清除” 与“分代回收”来分别解决引用计数的循环引用与效率低的问题
解决方案:标记-清除容器对象(比如:list,set,dict,class,instance)都可以包含对其他对象的引用,所以都可能产生循环引用。而“标记-清除”计数就是为了解决循环引用的问题。
标记/清除算法的做法是当应用程序可用的内存空间被耗尽的时,就会停止整个程序,然后进行两项工作,第一项则是标记,第二项则是清除
1、标记
通俗地讲就是:
栈区相当于“根”,凡是从根出发可以访达(直接或间接引用)的,都称之为“有根之人”,有根之人当活,无根之人当死。

具体地:标记的过程其实就是,遍历所有的GC Roots对象(栈区中的所有内容或者线程都可以作为GC Roots对象),然后将所有GC Roots的对象可以直接或间接访问到的对象标记为存活的对象,其余的均为非存活对象,应该被清除。

2、清除
清除的过程将遍历堆中所有的对象,将没有标记的对象全部清除掉。
基于上例的循环引用,当我们同时删除l1与l2时,会清理到栈区中l1与l2的内容以及直接引用关系
插图:标记清除
清除.png
这样在启用标记清除算法时,从栈区出发,没有任何一条直接或间接引用可以访达l1与l2,即l1与l2成了“无根之人”,于是l1与l2都没有被标记为存活,二者会被清理掉,这样就解决了循环引用带来的内存泄漏问题。

2. 问题二:效率问题

基于引用计数的回收机制,每次回收内存,都需要把所有对象的引用计数都遍历一遍,这是非常消耗时间的,于是引入了分代回收来提高回收效率,分代回收采用的是用“空间换时间”的策略。
解决方案:分代回收分代:
分代回收的核心思想是:在历经多次扫描的情况下,都没有被回收的变量,gc机制就会认为,该变量是常用变量,gc对其扫描的频率会降低,具体实现原理如下:

分代指的是根据存活时间来为变量划分不同等级(也就是不同的代) 
新定义的变量,放到新生代这个等级中,假设每隔1分钟扫描新生代一次,如果发现变量依然被引用,那么该对象的权重(权重本质就是个整数)加一,当变量的权重大于某个设定得值(假设为3),会将它移动到更高一级的青春代,青春代的gc扫描的频率低于新生代(扫描时间间隔更长),假设5分钟扫描青春代一次,这样每次gc需要扫描的变量的总个数就变少了,节省了扫描的总时间,接下来,青春代中的对象,也会以同样的方式被移动到老年代中。也就是等级(代)越高,被垃圾回收机制扫描的频率越低

回收:
回收依然是使用引用计数作为回收的依据
插图:分代回收
分代回收.png
虽然分代回收可以起到提升效率的效果,但也存在一定的缺点:

#例如一个变量刚刚从新生代移入青春代,该变量的绑定关系就解除了,该变量应该被回收,但青春代的扫描频率低于新生代,这就到导致了应该被回收的垃圾没有得到及时地清理。 

没有十全十美的方案: 毫无疑问,如果没有分代回收,即引用计数机制一直不停地对所有变量进行全体扫描,可以更及时地清理掉垃圾占用的内存,但这种一直不停地对所有变量进行全体扫描的方式效率极低,所以我们只能将二者中和。

垃圾回收机制是在清理垃圾&释放内存的大背景下,允许分代回收以极小部分垃圾不会被及时释放为代价,以此换取引用计数整体扫描频率的降低,从而提升其性能,这是一种以空间换时间的解决方案

垃圾回收机制的总结****1、引用计数
内存中变量值身上有几个变量名绑定,引用计数就是几,只要不为0就不是垃圾
2、标记清除
当内存即将占满的时候,python会自动暂停程序的执行,从头到尾将内存中数据进行扫描;并打上标记,之后一次性清除掉标记的数据
3、分代回收
会将数据的监管分为三个层次,随着层级的下降监督频率降低
具体如下:
image.png
例如老师检查作业,刚开始每个学生的作业都做检查,检查一段时间之后将学生分为差等生、中等生以及优等生。之后差等生作业检查频率为一天一次,中等生为两天一次,优等生为三天一次。这样的顺序进行循环。

标签:Python,回收,列表,计数,l2,垃圾,l1,引用
From: https://www.cnblogs.com/wangxianyun/p/17400965.html

相关文章

  • Python3网络爬虫浓缩系列
    本文参考与Jack-Cui 的python3网络爬虫入门系列 领悟:python的灵活性远远超过了我的想象我们没有必要写一样的代码,但是我们可以学习不同的思路!!!!Python3网络爬虫(一):利用urllib进行简单的网页抓取#-*-coding:UTF-8-*-fromurllibimportrequestimportchardetif__name__......
  • <Python全景系列-1> Hello World,1分钟配置好你的python环境
    《从此开始:1分钟配置好你的python环境》欢迎来到我们的系列博客《Python360全景》!在这个系列中,我们将带领你从Python的基础知识开始,一步步深入到高级话题,帮助你掌握这门强大而灵活的编程语法。无论你是编程新手,还是有一定基础的开发者,这个系列都将提供你需要的知识和技能。这是......
  • 如何优雅地删除 Linux 中的垃圾文件
    本文正在参与“性能优化实战记录”话题征文活动不知道大家是否也跟我一样,是一只要把的自己电脑文件安排的条理有序,把没用的文件会及时删掉的程序猿呢?如果是的话,那么我们可以愉快地探讨下文章的内容。如果不是的话,你也可以留下来凑凑热闹嘛(>-<)。下面要介绍的是今天的主角——tm......
  • Python学习之十一_Windows获取硬件信息
    Python学习之十一_Windows获取硬件信息简介网上找了一些方法简单整理了下,可以快速获取部分信息包含机器名称等.以及序列号相关部分学习来源:https://blog.51cto.com/u_15354476/5339864源码importpsutilimportwmiimportplatform#系统的内存利用率free=st......
  • Python - Enum
    官方文档:https://docs.python.org/zh-cn/3.11/library/enum.html#functional-api枚举的字面含义是指列出有穷集合中的所有元素,即一一列举的意思。可视为一种数据类型作用:具有数据保护功能,使常量不可更改。能避免数据重复创建枚举有两种方式:#classsyntaxclassColor(Enu......
  • Python 语言程序设计结课总结报告
            一整学期的python课程已经结束了,时间过的非常快,令人意犹未尽,也有许多课堂收获。        Python是一种代表简单主义思想的语言。阅读一个Python程序就像是在读英语一样。它使你能够专注于解决问题而不是去搞明白语言本身。Python语言简单易学,语法规......
  • R和Python的对应:outer()
    相信大家做模拟时一定碰到过变量之间的这种相关结构:\[\mathbf{\rho}=\left(\rho_{ij}\right)_{n\timesn}=0.5^{|i-j|}\]在模拟这个相关矩阵时,R中常用的函数便是outer()函数:outer(X=1:3,Y=1:3,FUN=function(x,y){0.5^abs(x-y)})那python中对应的操作是啥?关键就是要找到对应的......
  • 深入理解计算机网络:使用Python和Socket编程实现TCP_IP协议族
    本文将介绍如何使用Python和Socket编程实现TCP/IP协议族。TCP/IP协议族是互联网上使用最广泛的协议族之一,TCP协议和IP协议是其最核心的两个协议。在本文中,我们将分别介绍TCP协议和IP协议的基本原理,并使用Python和Socket编程实现它们。TCP协议TCP协议是一种面向连接的、可靠的传输协......
  • Python学习之十_paramiko的简单学习
    Python学习之十_paramiko的简单学习简介pywinrm是python用于连接访问windows的工具paramiko是python用于连接访问linux的工具ansible等工具很多也是基于类似的组件进行的处理连接不同的系统进行命令行的操作.paramiko的简介paramiko是用python语言写的一个模块,遵循......
  • python -- excel文件被重命名修改后缀为.csv后,使用pandas来读取时,仍会被识别为一个exc
     新建数据文件如c_data.xlsx(后缀为.xlsx),右键重命名,直接将文件后缀名一并修改,修改为“c_data.csv”读取文件里的数据data=pd.read_csv('E:/python_workspace/data_space/c_data.csv')发现报错信息如下:Traceback(mostrecentcalllast):File"E:/python_workspace/......