【发布时间】:2015-12-09 22:21:32
【问题描述】:
这个函数传递了大约 70k 个对象来处理。加载数组没有问题,并且在失败之前它完成了大约一半的迭代。内存限制为ini_set('memory_limit','465M');(云服务)。它总是在$googleFunction:/app/vendor/googleads/googleads-php-lib/src/Google/Api/Ads/Common/Lib/AdsSoapClient.php 中失败。
我已经尝试将数组作为引用传递,从array_chunk 切换到一次使用array_slice,通过引用$googleFunction 传递$chunk,取消设置$chunk结束,并在每次迭代后调用gc_collect_cycles()。
它怎么还会失败?某处肯定存在内存泄漏,但除了$chunk 和$result 之外没有大的分配,并且在每次迭代期间调用的每个函数都超出范围,因此它可能分配的任何内容都应该被垃圾回收。我觉得这可能与函数引用有关。在大约四分之一的迭代之后,它使用了 240M。它每次迭代增长约 10M。
function googleJob($job = null, &$list, $googleFunction, $before = null) {
// initialize $total, $gaw, $processed
for ($chunkIndex = 0; $chunkIndex < count($list); $chunkIndex += 2000) {
echo '3:'.memory_get_usage().' ';
$chunk = array_slice($list, $chunkIndex, 2000); # limit of 2000/request
echo '4:'.memory_get_usage().' ';
if ($before) {
foreach ($chunk as $item) {
$before($item); # function reference
}
}
echo '5:'.memory_get_usage().' ';
$i = 0; // try harder to make Google work
$result = null;
do {
try {
$result = $gaw->$googleFunction($chunk);
echo '6:'.memory_get_usage().' ';
} catch (\SoapFault $e) { # try to remove the bad items and try again
// no errors generated
}
} while ($result == null && $chunk); // Retry the request if not empty
array_walk($chunk, function($item) { $item->save(); });
echo '7:'.memory_get_usage().' ';
$processed += count($chunk);
if ($job) {
$job->progress = round($processed / $total * 100);
$job->save() or Yii::error($job->getErrors());
}
echo '8:'.memory_get_usage().' ';
unset($chunk);
unset($result);
echo '9:'.memory_get_usage().'... ';
gc_collect_cycles();
echo memory_get_usage().PHP_EOL;
}
}
内存“分析”输出:
3:110267832 4:110372112 5:111920328 6:123908368 7:129432080 8:129432080 9:121662520... 121662520
3:121662520 4:121766800 5:123281704 6:138001000 7:143493888 8:143493888 9:135745264... 135745264
【问题讨论】:
-
可能与这里无关,但this blog 详细描述了垃圾收集的作用。我从来没有尝试过告诉 PHP 如何管理内存。它并不是真正设计的那样。
-
您可能需要考虑使用队列来处理这些作业
-
传递
$list作为参考是没有意义的,因为您永远不会修改该数组。 -
$item->save()是做什么的?这看起来像是函数中唯一会使用大量内存的部分,因为它将每个输入项都保存在某个地方。 -
另外,
$gaw->$googleFunction是否将$chunk保存在任何地方?
标签: php memory-management memory-leaks out-of-memory