【问题标题】:Get python application memory usage获取python应用程序内存使用情况
【发布时间】:2013-07-19 05:40:19
【问题描述】:

我的主要目标是了解我的 python 应用程序在执行期间占用了多少内存。

我在 Windows-32 和 Windows-64 上使用 python 2.7.5。

我找到了一种方法来获取有关我的流程的一些信息:http://code.activestate.com/recipes/578513-get-memory-usage-of-windows-processes-using-getpro/

为了方便,把代码放在这里:

"""Functions for getting memory usage of Windows processes."""

__all__ = ['get_current_process', 'get_memory_info', 'get_memory_usage']

import ctypes
from ctypes import wintypes

GetCurrentProcess = ctypes.windll.kernel32.GetCurrentProcess
GetCurrentProcess.argtypes = []
GetCurrentProcess.restype = wintypes.HANDLE

SIZE_T = ctypes.c_size_t

class PROCESS_MEMORY_COUNTERS_EX(ctypes.Structure):
    _fields_ = [
        ('cb', wintypes.DWORD),
        ('PageFaultCount', wintypes.DWORD),
        ('PeakWorkingSetSize', SIZE_T),
        ('WorkingSetSize', SIZE_T),
        ('QuotaPeakPagedPoolUsage', SIZE_T),
        ('QuotaPagedPoolUsage', SIZE_T),
        ('QuotaPeakNonPagedPoolUsage', SIZE_T),
        ('QuotaNonPagedPoolUsage', SIZE_T),
        ('PagefileUsage', SIZE_T),
        ('PeakPagefileUsage', SIZE_T),
        ('PrivateUsage', SIZE_T),
    ]

GetProcessMemoryInfo = ctypes.windll.psapi.GetProcessMemoryInfo
GetProcessMemoryInfo.argtypes = [
    wintypes.HANDLE,
    ctypes.POINTER(PROCESS_MEMORY_COUNTERS_EX),
    wintypes.DWORD,
]
GetProcessMemoryInfo.restype = wintypes.BOOL

def get_current_process():
    """Return handle to current process."""
    return GetCurrentProcess()

def get_memory_info(process=None):
    """Return Win32 process memory counters structure as a dict."""
    if process is None:
        process = get_current_process()
    counters = PROCESS_MEMORY_COUNTERS_EX()
    ret = GetProcessMemoryInfo(process, ctypes.byref(counters),
                               ctypes.sizeof(counters))
    if not ret:
        raise ctypes.WinError()
    info = dict((name, getattr(counters, name))
                for name, _ in counters._fields_)
    return info

def get_memory_usage(process=None):
    """Return this process's memory usage in bytes."""
    info = get_memory_info(process=process)
    return info['PrivateUsage']

if __name__ == '__main__':
    import pprint
    pprint.pprint(get_memory_info())

结果如下:

{'PageFaultCount': 1942L,
 'PagefileUsage': 4624384L,
 'PeakPagefileUsage': 4624384L,
 'PeakWorkingSetSize': 7544832L,
 'PrivateUsage': 4624384L,
 'QuotaNonPagedPoolUsage': 8520L,
 'QuotaPagedPoolUsage': 117848L,
 'QuotaPeakNonPagedPoolUsage': 8776L,
 'QuotaPeakPagedPoolUsage': 117984L,
 'WorkingSetSize': 7544832L,
 'cb': 44L}

但这并不能让我满意。这些结果为我提供了整个 Python 进程信息,而我只需要在 Python 框架之上运行的特定应用程序。

我在互联网上和 Stack Overflow 上看到了几个内存分析器,但它们对我来说太大了。我需要的唯一信息是我的应用程序本身消耗了多少内存 - 不考虑所有 Python 框架。

我怎样才能做到这一点?

【问题讨论】:

  • memory_profiler 可以逐行跟踪python程序的内存使用情况
  • 我试过了,执行后才给出结果。但是我的应用程序应该运行几天甚至几周,所以我不能用它来检查。
  • 另外,我的应用程序包含 tkinter 的 GUI 和几个线程,所以它似乎对我来说根本不起作用。
  • 好的,psutil 怎么样?获取父进程的PID,然后使用psutil.Process(mypid).get_memory_info()

标签: python windows memory-leaks profiling


【解决方案1】:

这是一种基于 (os, psutil) 模块的简单易用的 Python 方式。感谢(Dataman)和(RichieHindle)的回答。

import os
import psutil


## - Get Process Id of This Running Script -
proc_id = os.getpid()

print '\nProcess ID: ', proc_id


#--------------------------------------------------
## - Get More Info Using the Process Id

ObjInf = psutil.Process(proc_id)

print '\nProcess %s Info:' % proc_id, ObjInf

#--------------------------------------------------
## - Proccess Name of this program 

name = ObjInf.name()

print '\nThis Program Process name:', name

#--------------------------------------------------
## - Print CPU Percentage

CpuPerc = ObjInf.cpu_percent()

print '\nCpu Percentage:', CpuPerc


#---------------------------------------------------
## - Print Memory Usage

memory_inf = ObjInf.memory_full_info()

print '\nMemory Info:', memory_inf, '\n'



## Print available commands you can do with the psutil obj

for c in dir(ObjInf):
    print c 

如果你的脚本是用 python 编写的,那么你的脚本就是 python 本身,所以没有它就无法运行,因此你还必须考虑 python 内存使用情况,如果你想看看 python 自己消耗了多少内存只需运行一个空的 python 脚本,您将从那里推断,您的脚本将是主要的资源使用者,这恰好是在 python 中制作的,因此是 python。

现在,如果您想检查线程的内存使用情况,那么这个问题可能会有所帮助 -> Why does python thread consume so much memory?

【讨论】:

    【解决方案2】:

    这是我用来查找在执行另一个脚本期间使用的最大资源量的脚本。我正在使用psutil来实现这一点。您可以调整脚本以使其适合您的目的。

    import psutil, sys
    import numpy as np
    from time import sleep
    pid = int(sys.argv[1])
    delay = int(sys.argv[2])
    p = psutil.Process(pid)
    max_resources_used = -1
    while p.is_running():
        ## p.memory_info()[0] returns 'rss' in Unix
        r = int(p.memory_info()[0] / 1048576.0)  ## resources used in Mega Bytes
        max_resources_used = r if r > max_resources_used else max_resources_used
        sleep(delay)
    print("Maximum resources used: %s MB." %np.max(max_resources_used))
    

    用法:

    python script.py pid delay_in_seconds
    

    例如:

    python script.py  55356  2 
    

    解释:

    您需要找出进程 ID 并将其作为参数传递给脚本以及检查资源使用情况的时间间隔(以秒为单位)(即脚本每隔多少秒检查一次已使用资源的数量)。该脚本会跟踪内存使用情况,直到进程运行。最后它返回以 MB 为单位的最大内存使用量。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2012-04-03
      • 2018-01-24
      • 2011-01-02
      • 2011-03-09
      • 2023-03-12
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多