成都创新互联网站制作重庆分公司

关于Python3ThreadPoolExecutor的队列大小

【背景】

成都创新互联凭借专业的设计团队扎实的技术支持、优质高效的服务意识和丰厚的资源优势,提供专业的网站策划、网站设计、网站制作、网站优化、软件开发、网站改版等服务,在成都10余年的网站建设设计经验,为成都1000多家中小型企业策划设计了网站。

    截至 Python 3.6.6,concurrent.futures.ThreadPoolExecutor 中用的都是无·界队列,在生产速度大于消费速度时,可能会耗光系统资源,希望找到一种方式避免这种情况。

【方案一】

  • 继承 ThreadPoolExecutor,直接修改 _work_queue 为有界队列。

  • 优点:简单粗暴直接。

  • 缺点:修改了私有属性。

  • 示例:https://stackoverflow.com/a/48327162

【方案二】

  • 将任务分组,每组完成后再提交下一组。

  • 优点:无需继承,不改变私有属性;能切实有效的避免资源耗费。

  • 缺点:组之间的任务是同步的,未充分利用线程,即使有剩余任务也有空闲线程存在。

  • 示例:https://stackoverflow.com/a/49622149

【方案三】

  • 创建工具类委托给 ThreadPoolExecutor 实例。

  • 优点:无需继承,不改变私有属性;充分利用了线程,有剩余任务时不会有空闲线程存在。

  • 缺点:实现较为复杂。

  • 示例:https://www.bettercodebytes.com/theadpoolexecutor-with-a-bounded-queue-in-python/

【相关阅读】

  • Python3并发检验代理池地址

*** walker ***


网站栏目:关于Python3ThreadPoolExecutor的队列大小
网页路径:http://cxhlcq.com/article/jeiigo.html

其他资讯

在线咨询

微信咨询

电话咨询

028-86922220(工作日)

18980820575(7×24)

提交需求

返回顶部