前言
在口袋助理看到了其他部门的同事针对Python2内存占用做的一点优化工作，自己比较感兴趣，遂记录下。
Linux fork简介
fork是Linux提供的创建子进程的系统调用。为了优化创建进程速度，Linux内核使用了Copy-on-Write的方式去创建进程，所谓Copy-on-Write是指执行fork之后，
内核并不立即给子进程分配物理内存空间，而是让子进程的虚内存映射到父进程的物理内存。仅仅当子进程向地址空间中执行写入操作时，才给它分配一段物理内存。
通过这种方式既优化了进程创建的时间，又减少了子进程的内存占用。
Copy-On-Write策略增加Python多进程内存占用的原因
Python GC采用引用技术的方式去管理对每个对象的引用，每一个被GC跟踪的对象会由一个PyGC_Head的结构体去表示。
如下所示，其中gc_refs就是每个对象的引用计数值，当我们在子进程中读取父进程创建的对象的时候，就会导致子进程的虚地址空间中的gc_refs加1，
从而触发了内核的缺页中断，这是内核就会给子进程创建新的物理内存。仅仅是简单的读取操作就会导致新的内存空间产生。
/* GC information is stored BEFORE the object structure. */
typedef union _gc_head
{
struct {
union _gc_head *gc_next;
union _gc_head *gc_prev;
Py_ssize_t gc_refs;
} gc;
long double dummy; /* force worst-case alignment */
} PyGC_Head;
解决办法
python3的解决方法
针对这个问题，Python3.7增加了三组API（有instagram团体提交的）[1]。
freeze用于将GC追踪的所有对象都移动到永生代（permanent generation），之后垃圾回收会忽略这些被设置为永生代的对象。
实际使用中，我们可以在父进程中执行freeze函数，然后子进程中使用和父进程共享的对象，这样对象的引用技术就不会增加，从而避免了COW的发生。
python2的解决方法
(1) 针对Python2，我们可以简单的把Python3的相关函数移植过来
(2) 使用multiprocessing.Array去共享数据。Array会从共享内存中取一段取存储数据，并不会增加引用技术值，从而触发COW。
实现方面，Array使用Posix共享内存 + mmap去实现。[3]
#!/usr/bin/env python
coding=utf-8
from multiprocessing import Array
import os
import sys
def foo():
shared_cache = Array('i', range(0, 100), lock=False)
pid = os.fork()
if pid > 0:
print("parent:", sys.getrefcount(shared_cache))
elif pid == 0:
print("child:", sys.getrefcount(shared_cache))
foo()
参考
- https://instagram-engineering.com/copy-on-write-friendly-python-garbage-collection-ad6ed5233ddf
- https://llvllatrix.wordpress.com/2016/02/19/python-vs-copy-on-write/
- https://github.com/python/cpython/blob/main/Lib/multiprocessing/shared_memory.py
Original: https://www.cnblogs.com/dennis-wong/p/15782824.html
Author: 成蹊0xc000
Title: Python垃圾回收和Linux Copy-on-Write机制
原创文章受到原创版权保护。转载请注明出处：https://www.johngo689.com/582778/
转载文章受原作者版权保护。转载请注明原作者出处！