[b]前言[/b]
大家在做数据抓取的时候,经常遇到由于网络问题导致的程序保存,先前只是记录了错误内容,并对错误内容进行后期处理。
[b]原先的流程:[/b]
def crawl_page(url):
pass
def log_error(url):
pass
url = ""
try:
crawl_page(url)
except:
log_error(url)
[b]改进后的流程:[/b]
attempts = 0
success = False
while attempts < 3 and not success:
try:
crawl_page(url)
success = True
except:
attempts += 1
if attempts == 3:
break
[b]最近发现的新的解决方案:retrying[/b]
retrying是一个 Python的重试包,可以用来自动重试一些可能运行失败的程序段。[code]retrying[/code]提供一个装饰器函数[code]retry[/code],被装饰的函数就会在运行失败的条件下重新执行,默认只要一直报错就会不断重试。
import random
from retrying import retry
@retry
def do_something_unreliable():
if random.randint(0, 10) > 1:
raise IOError("Broken sauce, everything is hosed!!!111one")
else:
return "Awesome sauce!"
print do_something_unreliable()
如果我们运行[code]have_a_try[/code]函数,那么直到[code]random.randint[/code]返回5,它才会执行结束,否则会一直重新执行。
[b]retry还可以接受一些参数,这个从源码中Retrying类的初始化函数可以看到可选的参数:[/b]
[list]
[*][code]stop_max_attempt_number[/code]:用来设定最大的尝试次数,超过该次数就停止重试[/*]
[*] [code]stop_max_delay[/code]:比如设置成10000,那么从被装饰的函数开始执行的时间点开始,到函数成功运行结束或者失败报错中止的时间点,只要这段时间超过10秒,函数就不会再执行了[/*]
[*][code]wait_fixed[/code]:设置在两次[code]retrying[/code]之间的停留时间[/*]
[*][code]wait_random_min和wait_random_max[/code]:用随机的方式产生两次[code]retrying[/code]之间的停留时间[/*]
[*][code]wait_exponential_multiplier和wait_exponential_max[/code]:以指数的形式产生两次[code]retrying[/code]之间的停留时间,产生的值为[code]2^previous_attempt_number * wait_exponential_multiplier[/code],[code]previous_attempt_number[/code]是前面已经[code]retry[/code]的次数,如果产生的这个值超过了[code]wait_exponential_max[/code]的大小,那么之后两个retrying之间的停留值都为[code]wait_exponential_max[/code]。这个设计迎合了[code]exponential backoff[/code]算法,可以减轻阻塞的情况。[/*]
[*]我们可以指定要在出现哪些异常的时候再去retry,这个要用[code]retry_on_exception[/code]传入一个函数对象:[/*]
[/list]
def retry_if_io_error(exception):
return isinstance(exception, IOError)
@retry(retry_on_exception=retry_if_io_error)
def read_a_file():
with open("file", "r") as f:
return f.read()
在执行[code]read_a_file[/code]函数的过程中,如果报出异常,那么这个异常会以形参[code]exception[/code]传入[code]retry_if_io_error[/code]函数中,如果[code]exception[/code]是[code]IOError[/code]那么就进行[code]retry[/code],如果不是就停止运行并抛出异常。
我们还可以指定要在得到哪些结果的时候去[code]retry[/code],这个要用[code]retry_on_result[/code]传入一个函数对象:
def retry_if_result_none(result):
return result is None
@retry(retry_on_result=retry_if_result_none)
def get_result():
return None
在执行[code]get_result[/code]成功后,会将函数的返回值通过形参[code]result[/code]的形式传入[code]retry_if_result_none[/code]函数中,如果返回值是[code]None[/code]那么就进行[code]retry[/code],否则就结束并返回函数值。
[b]总结[/b]
以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流,谢谢大家对编程素材网的支持。