线上使用自己开发的url monitor工具进行应用层面的监控，主要的原理使用nagios驱动pycurl做url的检测，url的检测属性（ip,port,url,httpcode等）是放在数据库里面的。对于http code的监控，当获取的http code和期望的http code不一致时，产生报警邮件。

最近发现在报警邮件中，有显示current http code是200，但是nagios的状态却是critical的情况。

报警邮件：

通过nagios的页面查看，确实看到了监控报错的情况：

nagios页面：


分析nagio的报判断的几种状态：

soft：监控项处于retry_check检测周期内的非正常状态
hard：监控项达到max_check_attempts最大次数后的非正常状态常态：soft和hard之外的状态
线上关于这个service的配置： check_interval 3
retry_interval 1
max_check_attempts 3

即检测间隔为3分钟，检测间隔为1分钟，最大重试3次。当第一次失败后，进入soft1，间隔1分钟后继续检测，失败进入soft2，当第3次同样失败时，进入hard状态。进入hard状态后，就会每间隔3分钟检测。（注：进入soft状态后， 按retry_interval的时间检测，不按check_interval的时间检测，直到恢复常态或hard ）
从nagios的结果可以看出，是由于service check超时导致，nagios的service check和pycurl都是有超时设置的，产生这种问题的原因就是在nagios的超时时间内，pycurl没有正常返回值，导致nagios任务检测失败。但是pycurl的超时时间比较长，最终返回了正确的值update到了数据库，但是nagios确认为检测失败了。。

在pycurl中控制超时的设置是CONNECTTIMEOUT（默认300s），TIMEOUT(永不超时)

而nagios的模式设置service_check_timeout模式时60s.


解决方法：对pycurl的超时参数做设置，小于nagios的超时时间即可。

具体的pycurl的代码：

def check_server_url(proxy,url,location): buf_header = cStringIO.StringIO() c = pycurl.Curl() c.setopt(c.URL,url) c.setopt(c.CONNECTTIMEOUT,20) c.setopt(c.TIMEOUT,40) if location == 0: c.setopt(c.FOLLOWLOCATION,0) else: c.setopt(c.FOLLOWLOCATION,1) c.setopt(c.PROXY,proxy) c.setopt(c.HEADERFUNCTION,buf_header.write) c.setopt(c.NOBODY,True) try: c.perform() http_code = c.getinfo(c.HTTP_CODE) print http_code http_hearder = buf_header.getvalue() except pycurl.error: http_code = "-1" c.close() buf_header.close() return http_code


其实最根本的rc还是业务响应慢导致(最终定位为db的响应慢)。