下载多个网址的最快方法

Question

我有一个门户网站，需要下载许多单独的 json 文件并以某种表单视图显示它们的内容。很多我的意思是至少 32 个单独的文件。

我已经尝试使用蛮力迭代的 cUrl，它需要大约 12.5 秒。

我已经尝试了 curl_multi_exec ，如http://www.php.net/manual/en/function.curl-multi-init.php 所示，使用下面的函数，它需要大约 9 秒。稍微好一点，但仍然非常缓慢。

function multiple_threads_request($nodes){
    $mh = curl_multi_init();
    $curl_array = array();
    foreach($nodes as $i => $url)
    {
        $curl_array[$i] = curl_init($url);
        curl_setopt($curl_array[$i], CURLOPT_RETURNTRANSFER, true);
        curl_multi_add_handle($mh, $curl_array[$i]);
    }
    $running = NULL;
    do {
        curl_multi_exec($mh,$running);
    } while($running > 0);

    $res = array();
    foreach($nodes as $i => $url)
    {
        $res[$url] = curl_multi_getcontent($curl_array[$i]);
    }

    foreach($nodes as $i => $url){
        curl_multi_remove_handle($mh, $curl_array[$i]);
    }
    curl_multi_close($mh);
    return $res;
}

我意识到这是一项固有的昂贵操作，但有人知道其他可能更快的替代方案吗？

编辑：最后，我的系统限制了 curl_multi_exec 并将代码移动到生产机器上看到了显着的改进

Answer 1

您绝对应该考虑对您的 cURL 进行基准测试，以查看哪个 cURL 速度变慢，但这对于评论来说太长了，所以请告诉我它是否有帮助：

// revert to "cURLing with brute force iteration" as you described it :)

$curl_timer = array();

foreach($curlsite as $row)
{
    $start = microtime(true);

    /**
     * curl code
     */

    $curl_timer[] = (microtime(true)-$start);
}

echo '<pre>'.print_r($curl_timer, true).'</pre>';