[b]一、项目需求[/b] 前言：BBS上每个id对应一个用户，他们注册时候会填写性别（男、女、保密三选一）。 经过检查，BBS注册用户的id对应1-300000，大概是30万的用户 笔者想用Python统计BBS上有多少注册用户，以及这些用户的性别分布 顺带可以统计最近活动用户是多少，其中男、女、保密各占多少 活动用户的限定为“上次活动时间”为 2015年 [b]二、最终结果[/b] 性别信息保存在文本里，一行表示一个用户的信息，各列分别表示 【行数，id（涂掉了），性别，最后活跃时间】 [img]http://files.jb51.net/file_images/article/201512/20151231141452188.jpg?2015113114151[/img] [img]http://files.jb51.net/file_images/article/201512/20151231141510996.jpg?20151131141525[/img] [img]http://files.jb51.net/file_images/article/201512/20151231141533545.jpg?20151131141541[/img] [b]三、实现思路[/b] 用户性别信息在哪个页面? 得到下面个人主页 [img]http://files.jb51.net/file_images/article/201512/20151231141615661.jpg?20151131141624[/img] 把后面的uid=256730数字改成其他数字，就可以得到其他人的主页。 另外，如果上面的链接无法得到性别，可以再通过这个链接，也是修改uid可以访问其他人主页。 http://rs.xidian.edu.cn/home.php?mod=space&uid=256730&do=profile [img]http://files.jb51.net/file_images/article/201512/20151231141713448.jpg?20151131141720[/img] [b]四、数据如何存储?[/b] 用数据库还是其他方案？ 为了阅读方便，我们考虑用文本文件存储。 30万的用户存储在一个文本里会导致文本过大。如果程序被意外终止，30 万的用户数据需要重新爬取。 我们我们考虑一个文本里存放1000条记录，理论上可以用30个文本来存放30万条数据。 文本名称为correct1-1001.txt correct47001-48001.txt，注意：1-1001是[1,1001)，包含1，不包含1001 [b]1、使用正则匹配找出性别[/b] 查看网页源代码 [img]http://files.jb51.net/file_images/article/201512/20151231141811699.jpg?20151131141819[/img] 我们可以利用re模块来进行正则匹配 因为中文的原因，需要Unicode 转换 中文工具，可以用站长工具 Unicode 转换 ASCII，ASCII 转换 Unicode，比如下面这个链接：[b] http://tool.chinaz.com/Tools/Unicode.aspx[/b] [list] [*][b]性别的Unicode 是 \u6027\u522b [/b][/*] [*][b]上次活动时间 \u4e0a\u6b21\u6d3b\u52a8\u65f6\u95f4 [/b][/*] [*][b]抱歉，您指定的用户空间不存在 [/b][/*] [*][b]\u62b1\u6b49\uff0c\u60a8\u6307\u5b9a\u7684\u7528\u6237\u7a7a\u95f4\u4e0d\u5b58\u5728[/b][/*] [/list] 这儿是简单获取性别的源代码，通过urllib2对链接myurl发送一个get请求，将得到的html保存下来。注意编码问题unicode(html, 'utf-8')，然后对html正则匹配seWord。 如果该用户有性别信息，返回对应的性别；否则，返回None [b]五、错误处理[/b] [b]1、断网情况（热修复方案）[/b] [list] [*][b]总共爬虫需要几天时间，用的校园网，中间可能有断网的可能。 [/b][/*] [*][b]如果发现断网，我们可以重新连上互联网，这中间有些用户的性别没有获取到。 [/b][/*] [*][b]程序运行时间较长，断一次网就重新从id=1开始跑是不科学的。而且你也不能保证这次就网一直是好的。 [/b][/*] [*][b]为了不让程序重头开始跑，所以我们是记录下断网中漏掉的用户id。 [/b][/*] [*][b]等一次程序跑完了（这需要几天的时间），我们再跑记录下来的id重新跑一次。[/b][/*] [/list] [b]2、无法获取性别[/b] [list] [*][b]这种有两种情况: [/b][/*] [*][b]一是真的没有性别（用户没有填写） [/b][/*] [*][b]二是服务器抽了，咱们请求网页失败了。 [/b][/*] [*][b]这种咱们也是和上面类似，记录下失败的id，后面再重新跑。 [/b][/*] [/list] [b]知识点小结[/b] 对于这种错误，SyntaxError: Non-ASCII character '\xe5' in file 需要在文件开头加上# -*- coding: UTF-8 -*- 因为 python 的默认编码文件是用的 ANSCII 码 [b]<meta http-equiv="Content-Type" content="text/html; charset=utf-8" /> [/b]BBS网页源代码使用utf-8进行编码的。 本项目设计到中文字符，自然会遇到编码问题。 输出[b] ascii [/b]从上面的代码可以看出 sys.defaultencoding 是 ANSCII，ANSCII是无法对中文字符进行编码的。UTF-8是Unicode的实现方式之一，可以对中文字符进行编码。遇到中文字符，我们需要加上这行代码 更改 sys.defaultencoding 为'utf-8' 后期整理的时候发现了自己一个小问题，因为正则表达式当时用unicode来表示的，所以需要把html进行unicode转换进行查找。 后来发现可以直接用汉字对原来的html进行查找。 输出 输出  输出 以上就是python实现爬虫统计学校BBS男女比例的前期准备和方案分析，希望对大家的学习有所帮助。