一，KeepAlive的概念：

参见 http://en.wikipedia.org/wiki/HTTP_persistent_connection

二，KeepAlive的客户端实现：

使用了PHP支持的 pfsockopen 来实现，参见：http://cn.php.net/pfsockopen

KeepAlive必要的Header有：

Connection: Keep-Alive
Content-Length: xxx

三，性能对比测试：

几种对比实现方式：

1，使用fsockopen来实现，读取body内容后，关闭连接，参见测试程序中的ohttp_get实现。
2，使用pfsockopen来实现，读取body内容后，不关闭连接，参见测试程序中的phttp_get实现。
3，php实现的file_get_contents
4，第三方测试工具ab

前三种测试在测试程序中都包含了。

测试用例 一：

前三种php实现的客户端单进程单线程请求lighttpd服务器一个16字节的静态文件。顺序请求10000次。
客户端与服务器部署在不同服务器，通过内网请求。

测试结果：

第一次：

[root@localhost ~]# /opt/bin/php tp.php
phttp_get: 5.3641529083252
ohttp_get: 8.1628580093384
file_get_contents: 12.217950105667

第二次：

[root@localhost ~]# /opt/bin/php tp.php
phttp_get: 5.033059835434
ohttp_get: 9.589075088501
file_get_contents: 12.775387048721

第三次：

[root@localhost ~]# /opt/bin/php tp.php
phttp_get: 5.0181269645691
ohttp_get: 8.2286441326141
file_get_contents: 11.089616060257

测试用例 二：

使用第三方工具ab来进行测试，-k参数开打开keepalive支持，不做并发测试，顺序请求10000次。
客户端与服务器部署在不同服务器，通过内网请求。

以下测试结果部分省略：

未打开keepalive：

[root@localhost ~]# ab -n 10000 -c 1 “http://10.69.2.206:8080/sms/ns2/save_msg.txt”

Finished 10000 requests

Concurrency Level: 1
Time taken for tests: 10.410467 seconds
Complete requests: 10000
Failed requests: 0
Write errors: 0
Total transferred: 2480000 bytes
HTML transferred: 160000 bytes
Requests per second: 960.57 [#/sec] (mean)
Time per request: 1.041 [ms] (mean)
Time per request: 1.041 [ms] (mean, across all concurrent requests)
Transfer rate: 232.55 [Kbytes/sec] received

Connection Times (ms)
min mean[+/-sd] median max
Connect: 0 0 30.0 0 3002
Processing: 0 0 0.4 0 9
Waiting: 0 0 0.3 0 9
Total: 0 0 30.0 0 3003

打开keepalive：

[root@localhost ~]# ab -k -n 10000 -c 1 “http://10.69.2.206:8080/sms/ns2/save_msg.txt”

Finished 10000 requests

Concurrency Level: 1
Time taken for tests: 4.148619 seconds
Complete requests: 10000
Failed requests: 0
Write errors: 0
Keep-Alive requests: 9412
Total transferred: 2527060 bytes
HTML transferred: 160000 bytes
Requests per second: 2410.44 [#/sec] (mean)
Time per request: 0.415 [ms] (mean)
Time per request: 0.415 [ms] (mean, across all concurrent requests)
Transfer rate: 594.66 [Kbytes/sec] received

Connection Times (ms)
min mean[+/-sd] median max
Connect: 0 0 0.1 0 5
Processing: 0 0 2.1 0 203
Waiting: 0 0 2.1 0 203
Total: 0 0 2.1 0 203

四，在实际中的应用

以上实现的phttp_get和mysql memcache的 中的“保持连接”概念类似，这种技术一般来说，只适用于fastcgi模式的web服务器。
对于本机之间的http通信，在测试过程中发现phttp_get的优势有限，基本合乎逻辑。
对于本身处理时间比较长的服务，phttp_get的优势也不明显。
综上，phttp_get适用于fastcgi模式的web应用调用远程http服务，且此http服务器响应时间比较短的情况。

五，服务端需要注意的事项

1，http服务器必须支持HTTP/1.1协议
2，php应用必须返回Content-Length:的header，具体实现参见：

http://cn.php.net/manual/en/function.ob-get-length.php

需要在代码中加入：

ob_start();
$size=ob_get_length();
header(”Content-Length: $size”);
ob_end_flush();

最后附上测试代码：

<?php

//$url=http://10.69.2.206:8080/sms/ns2/save_msg.txt

function ohttp_get($host,$port,$query,&$body)
{
$fp=pfsockopen($host,$port,$errno,$errstr,1);
if(!$fp)
{
var_dump($errno,$errstr);
return -1;
}
$out = “GET ${query} HTTP/1.1\r\n”;
$out.= “Host: ${host}\r\n”;
$out.= “Connection: close\r\n”;
$out.= “\r\n”;
fwrite($fp,$out);
$line=trim(fgets($fp));
$header.=$line;
list($proto,$rcode,$result)=explode(” “,$line);
$len=-1;
while( ($line=trim(fgets($fp))) != “” )
{
$header.=$line;
if(strstr($line,”Content-Length:”))
{
list($cl,$len)=explode(” “,$line);
}
if(strstr($line,”Connection: close”))
{
$close=true;
}
}
if($len < 0)
{
echo “ohttp_get must cope with Content-Length header!\n”;
return -1;
}
$body=fread($fp,$len);
if($close)
fclose($fp);
return $rcode;
}
function phttp_get($host,$port,$query,&$body)
{
$fp=pfsockopen($host,$port,$errno,$errstr,1);
if(!$fp)
{
var_dump($errno,$errstr);
return -1;
}
$out = “GET ${query} HTTP/1.1\r\n”;
$out.= “Host: ${host}\r\n”;
$out.= “Connection: Keep-Alive\r\n”;
$out.= “\r\n”;
fwrite($fp,$out);
$line=trim(fgets($fp));
$header.=$line;
list($proto,$rcode,$result)=explode(” “,$line);
$len=-1;
while( ($line=trim(fgets($fp))) != “” )
{
$header.=$line;
if(strstr($line,”Content-Length:”))
{
list($cl,$len)=explode(” “,$line);
}
if(strstr($line,”Connection: close”))
{
$close=true;
}
}
if($len < 0)
{
echo “phttp_get must cope with Content-Length header!\n”;
return -1;
}
$body=fread($fp,$len);
if($close)
fclose($fp);
return $rcode;
}

$time1=microtime(true);
for($i=0;$i<10000;$i++)
{
$host=”10.69.2.206″;
$port=8080;
$query=”/sms/ns2/save_msg.txt”;
$body=””;
$r=ohttp_get($host,$port,$query,$body);
if($r != 200)
{
echo “return code : $r\n”;
}
}
$time2=microtime(true);
for($i=0;$i<10000;$i++)
{
$url=”http://10.69.2.206:8080/sms/ns2/save_msg.txt”;
$host=”10.69.2.206″;
$port=8080;
$query=”/sms/ns2/save_msg.txt”;
$body=””;
$r=phttp_get($host,$port,$query,$body);
if($r != 200)
{
echo “return code : $r\n”;
}
}
$time3=microtime(true);
for($i=0;$i array( ‘timeout’ => 1 )
)
);
$body=file_get_contents($url, 0, $ctx);
$r=200;
if($r != 200)
{
echo “return code : $r\n”;
}
}
$time4=microtime(true);

echo “phttp_get: “.($time3-$time2).”\n”;
echo “ohttp_get: “.($time2-$time1).”\n”;
echo “file_get_contents: “.($time4-$time3).”\n”;

?>

相关文章

• 2009年02月10号 -- 谈谈Apache的优化
• 2009年01月6号 -- Apache 中KeepAlive 配置的合理使用(优化)
• 2009年01月5号 -- 关于keepalive的解释

服务器资源

那么服务器的资源包括哪些？对于网站来说主要是CPU、TCP连接数这两者。 CPU表现在任务数上，在Linux下使用平均负载(loadavg)来衡量。可通过以下命令来查看（参考这篇文章）：

cat /proc/loadavg

对于单CPU的服务器，loadavg高于1，表明任务队列出现了等待，CPU忙不过来了。超过2以上就会明显感到性能降低了。

TCP连接数可通过以下命令查看：
netstat -ant | grep :80 | wc -l

如果要实时监控服务器资源，可参考OpenNMS项目。

注1：内存不算，低廉的价格使得网站服务器很少有因为内存不够而down掉的。
注2：CPU%是瞬时的CPU使用率，通常无法反映出整体负载。

Apache配置命令

Apache在资源方面的配置命令主要有以下几条。

KeepAlive

前三个KeepAlive相关的指令用来设置持续连接。通常都是每个HTTP请求对应一个TCP连接，但对于一个包含许多图片的网页来说，客户端会在瞬间发出多个HTTP请求，此时多次建立TCP连接会大大降低响应速度。此时通过持续连接，可以允许用户在一个TCP连接中发出多个HTTP请求，减少TCP连接建立次数，提高响应速度。

这种情况下，应当通过access_log统计出连续HTTP请求出现的次数、间隔时间、访问量，以确定 MaxKeepAliveRequests 和 KeepAliveTimeout 的值。 KeepAliveTimeout 太小发挥不了持续连接的作用；太大了，持续连接迟迟不断，浪费TCP连接数不说，更糟糕的是系统中的 httpd 进程数目会因此不断增加，使得系统负载升高，甚至会导致服务器失去响应。

但是在处理动态网页请求时，由于用户很少会瞬间请求多个动态网页（一般都是打开页面之后阅读好半天才点下一页），此时打开KeepAlive无异于浪费TCP连接数。

结论就是，放动态网页的就 KeepAlive Off 以提高吞吐量，放静态内容如图片、js代码等就 KeepAlive On 以减少TCP连接建立次数。

但一个Apache只能有一种 KeepAlive 设置，怎么办？很简单，弄两台服务器，一个专门放脚本，一个专门放图片。

服务器进程数

再说说下面的 StartServers、MinSpareServers、MaxSpareServers。 StartServers基本不用修改，因为Apache会自动调节子进程数。 MinSpareServers和MaxSpareServers是空闲子进程数目，何为空闲子进程？假设某一时刻系统中共有30个httpd进程，其中一个是父进程，20个在处理请求，那么空闲子进程数就是9个。

空闲进程少了，大量的突发请求会使服务器疲于进程创建，降低效率；而太多反而会增加系统进程数，增大系统负载。

实际上，默认值已足够处理一般的突发请求，所以除非是流量特别特别巨大的网站，否则不要修改这些设置。

就算流量特别特别大，也是通过负载平衡系统来降低每台服务器的访问量，不会修改这几个值。

MaxRequestsPerChild

这个值设置子进程在处理多少个请求之后自动结束。这个选项是用来防止进程由于内存泄漏等使用内存过多。一般默认值即可。

总结

说来说去其实最重要的还是 KeepAlive 的设置，而性能调节也就是调整 KeepAlive、KeepAliveTimeout 值。

相关文章

• 2009年04月1号 -- 关于HTTP 协议中的 KeepAlive
• 2009年01月6号 -- Apache 中KeepAlive 配置的合理使用(优化)
• 2009年01月5号 -- 关于keepalive的解释
• 2008年12月27号 -- apache的配置优化

KeepAlive 配置指令决定当处理完用户发起的 HTTP 请求后是否立即关闭 TCP 连接，如果 KeepAlive 设置为 On，那么用户完成一次访问后，不会立即断开连接，如果还有请求，那么会继续在这一次 TCP 连接中完成，而不用重复建立新的 TCP 连接和关闭 TCP 连接，可以提高用户访问速度。

那么我们考虑3种情况：

1。用户浏览一个网页时，除了网页本身外，还引用了多个 javascript. 文件，多个 css 文件，多个图片文件，并且这些文件都在同一个 HTTP 服务器上。
2。用户浏览一个网页时，除了网页本身外，还引用一个 javascript. 文件，一个图片文件。
3。用户浏览的是一个动态网页，由程序即时生成内容，并且不引用其他内容。

对于上面3中情况，我认为：1 最适合打开 KeepAlive ，2 随意，3 最适合关闭 KeepAlive

下面我来分析一下原因。

在 Apache 中，打开和关闭 KeepAlive 功能，服务器端会有什么异同呢？

先看看理论分析。

打开 KeepAlive 后，意味着每次用户完成全部访问后，都要保持一定时间后才关闭会关闭 TCP 连接，那么在关闭连接之前，必然会有一个 Apache 进程对应于该用户而不能处理其他用户，假设 KeepAlive 的超时时间为 10 秒种，服务器每秒处理 50 个独立用户访问，那么系统中 Apache 的总进程数就是 10 * 50 ＝ 500 个，如果一个进程占用 4M 内存，那么总共会消耗 2G 内存，所以可以看出，在这种配置中，相当消耗内存，但好处是系统只处理了 50次 TCP 的握手和关闭操作。

如果关闭 KeepAlive，如果还是每秒50个用户访问，如果用户每次连续的请求数为3个，那么 Apache 的总进程数就是 50 * 3 = 150 个，如果还是每个进程占用 4M 内存，那么总的内存消耗为 600M，这种配置能节省大量内存，但是，系统处理了 150 次 TCP 的握手和关闭的操作，因此又会多消耗一些 CPU 资源。

在看看实践的观察。

我在一组大量处理动态网页内容的服务器中，起初打开 KeepAlive 功能，经常观察到用户访问量大时Apache进程数也非常多，系统频繁使用交换内存，系统不稳定，有时负载会出现较大波动。关闭了 KeepAlive 功能后，看到明显的变化是： Apache 的进程数减少了，空闲内存增加了，用于文件系统Cache的内存也增加了，CPU 的开销增加了，但是服务更稳定了，系统负载也比较稳定，很少有负载大范围波动的情况，负载有一定程度的降低；变化不明显的是：访问量较少的时候，系统平均负载没有明显变化。
 
总结一下：

在内存非常充足的服务器上，不管是否关闭 KeepAlive 功能，服务器性能不会有明显变化；
如果服务器内存较少，或者服务器有非常大量的文件系统访问时，或者主要处理动态网页服务，
 关闭 KeepAlive 后可以节省很多内存，而节省出来的内存用于文件系统Cache，可以提高文件系统访问的性能，并且系统会更加稳定。
 
补充：

关于是否应该关闭 KeepAlive 选项，我觉得可以基于下面的一个公式来判断。
在理想的网络连接状况下，系统的 Apache 进程数和内存使用可以用如下公式表达：
HttpdProcessNumber = KeepAliveTimeout * TotalRequestPerSecond / Average(KeepAliveRequests)
HttpdUsedMemory = HttpdProcessNumber * MemoryPerHttpdProcess
换成中文：
总Apache进程数 = KeepAliveTimeout * 每秒种HTTP请求数 / 平均KeepAlive请求
Apache占用内存 = 总Apache进程数 * 平均每进程占用内存数

需要特别说明的是：

[平均KeepAlive请求] 数，是指每个用户连接上服务器后，持续发出的 HTTP 请求数。当 KeepAliveTimeout 等 0 或者 KeepAlive 关闭时，KeepAliveTimeout 不参与乘的运算从上面的公式看，如果 [每秒用户请求] 多，[KeepAliveTimeout] 的值大，[平均KeepAlive请求] 的值小，都会造成 [Apache进程数] 多和 [内存] 多，但是当 [平均KeepAlive请求] 的值越大时，[Apache进程数] 和 [内存] 都是趋向于减少的。

基于上面的公式，我们就可以推算出当 平均KeepAlive请求 <= KeepAliveTimeout 时，关闭 KeepAlive 选项是划算的，否则就可以考虑打开。

相关文章

• 2009年04月1号 -- 关于HTTP 协议中的 KeepAlive
• 2009年02月10号 -- 谈谈Apache的优化
• 2009年01月5号 -- 关于keepalive的解释

Apache配置文件中有三个关于KeepAlive的配置指令：
KeepAlive On
MaxKeepAliveRequests 100
KeepAliveTimeout 15

一般来讲，http请求是一次请求完毕就关闭连接的，但是有些时候，一个apache只有少数的固定的几个或几十个机器频繁的访问，这时，每次访问都重新建立tcp连接，感觉有些无聊，这时就用到KeepAlive的相关设置了：
当KeepAlive 为 On，如果http请求头明确说明：Connection:keep-alive ;则一次请求结束后，如果该连接使用的次数没有超过MaxKeepAliveRequests ，服务器并不立即主动断开连接，而是等待KeepAliveTimeout 指定的时间,这时，如果客户端没有再发起http请求，则关闭连接；如果在KeepAliveTimeout时间内，客户端又使用该连接做http请求，则省去了重新建立tcp连接的消耗了。

就上面的设置而言：

———————————-

如果客户端发送http请求头：

…
Connection:keep-alive
…

则服务器端相应的http头为：

…
Keep-Alive: timeout=15, max=100
Connection: Keep-Alive
…

————————————

如果客户端发送http请求头:

…
Connection:close
…

则服务器端响应的http头为：

…
Connection:close
…

并且服务器端主动关闭连接

================================================

如果服务器端设置为：KeepAlive Off

则不管客户端的http请求头如何设置，服务器端总是每次连接只处理一个请求，并立即主动关闭，响应的http头为：

…
Connection:close
…

———————————————-

下面附一段代码：

<?php
main();
function main() {
    $host = “ljj.com”;
    $port = 80;
    $url = “/”;
    $fp = fsockopen($host, $port ,$errno, $errstr, 10);
    if($fp === false) {
        die($errstr);
    }
    $str = “GET / HTTP/1.1nHost: ljj.cnnConnection:keep-alivenn”;
    $i = 0;
    while($i++ < 3) {
        $len = fputs($fp,$str);
        if($len === false) { // 这里这么判断是没有用的，因为如果服务器端单向关闭，该连接没有完全断开，则还是可以写数据的，只是没有响应而已
            die(“fp errorn”);
        }
        $out = fread($fp,2048);
        echo “$i:$outn”;
    }
    fclose($fp);
}

?>

这段代码说明了多次请求可以使用同一条连接（在服务器端KeepAlive On的情况下）

相关文章

• 2009年04月1号 -- 关于HTTP 协议中的 KeepAlive
• 2009年02月10号 -- 谈谈Apache的优化
• 2009年01月6号 -- Apache 中KeepAlive 配置的合理使用(优化)