本文实例讲述了Python爬虫DNS解析缓存方法。分享给大家供大家参考，具体如下： [b]前言：[/b] 这是Python爬虫中DNS解析缓存模块中的核心代码，是去年的代码了，现在放出来 有兴趣的可以看一下。 一般一个域名的DNS解析时间在10~60毫秒之间，这看起来是微不足道，但是对于大型一点的爬虫而言这就不容忽视了。例如我们要爬新浪微博，同个域名下的请求有1千万（这已经不算多的了），那么耗时在10~60万秒之间，一天才86400秒。也就是说单DNS解析这一项就用了好几天时间，此时加上DNS解析缓存，效果就明显了。 下面直接放代码，说明在后面。 [b]代码：[/b] [b]说明：[/b] 其实也没什么难度，就是将socket里面的缓存保存下来，避免重复获取。 可以将上面的代码放在一个dns_cache.py文件里，爬虫框架里调用一下这个[code]_setDNSCache()[/code]方法就行了。 需要说明一下的是，如果你使用了gevent协程，并且用上了[code]monkey.patch_all()[/code]，要注意此时爬虫已经改用gevent里面的socket了，DNS解析缓存模块也应该要用gevent的socket才行。 更多关于Python相关内容可查看本站专题：《[url=http://www.1sucai.cn/Special/648.htm]Python Socket编程技巧总结[/url]》、《[url=http://www.1sucai.cn/Special/663.htm]Python数据结构与算法教程[/url]》、《[url=http://www.1sucai.cn/Special/642.htm]Python函数使用技巧总结[/url]》、《[url=http://www.1sucai.cn/Special/636.htm]Python字符串操作技巧汇总[/url]》、《[url=http://www.1sucai.cn/Special/520.htm]Python入门与进阶经典教程[/url]》及《[url=http://www.1sucai.cn/Special/516.htm]Python文件与目录操作技巧汇总[/url]》 希望本文所述对大家Python程序设计有所帮助。