pytorch多进程如何优化-创新互联

这篇文章将为大家详细讲解有关pytorch多进程如何优化，小编觉得挺实用的，因此分享给大家做个参考，希望大家阅读完这篇文章后可以有所收获。

创新互联公司服务项目包括邵阳网站建设、邵阳网站制作、邵阳网页制作以及邵阳网络营销策划等。多年来，我们专注于互联网行业，利用自身积累的技术优势、行业经验、深度合作伙伴关系等，向广大中小型企业、政府机构等提供互联网行业的解决方案，邵阳网站推广取得了明显的社会效益与经济效益。目前，我们服务的客户以成都为中心已经辐射到邵阳省份的部分城市，未来相信会继续扩大服务区域并继续获得客户的支持与信任！

目标：优化代码，利用多进程，进行近实时预处理、网络预测及后处理：

尝试了pytorch的multiprocessing，进行多进程同步处理以上任务。

from torch.multiprocessing import Pool,Manager

为了进行各进程间的通信，使用Queue，作为数据传输载体。

  manager = Manager()
  input_queue = manager.Queue()
  output_queue = manager.Queue()

  show_queue = manager.Queue()

即将预处理进程处理后的图像放进 input_queue，而网络预测进程实时获取 input_queue队列中的数据，一旦放入，就从中取出，输入网络：

while 1：

  input = input_queue.get()

同理，将网络输出放入output_queue，再由后处理进程实时获取并进行后处理，处理后，放入show_queue

从而实现了多进程同步进行预处理、网络预测及后处理，加速了网络实时预测的表现。

问题及解决方案：

1. pytorch cuda报错，re-initialization报错问题：

习惯了在一开始将模型先加载进来放入gpu中，所以模型在主线程就完成了初始化，但是调用网络是在网络预测子进程进行的，就会导致跨进程重复初始化失败。

解决方案：

直接在子进程开始时初始化，其他进程可以设置个延时，等网络初始化好后再开始运行。

同理，数据输入网络也是同样的在子进程进行。

2. python3多进程编程，子进程不报错问题：

一开始总是代码运行起来什么都不出现，就开始各种debug，但因为python3中子进程不报错，出错了就卡在那里，就每次自己找bug很麻烦，所以就急需子进程的报错信息。

解决方案：

用try except组合，来打印子进程中某段程序错误，如下：

  try:
        out = forward(input_img,model,1)
      except Exception as error:
        print(error)

3.进程完全不运行时，考虑是否是输入设置的问题，即当单变量输入时，后面要加都好，如：

pool.apply_async(load_frame,args=(input_queue,))

如果是pool.apply_async(load_frame,args=(input_queue))则该进程不会启动运行。

4. 一开始想优化cv2.resize，想用gpu下的tensor的resize_代替，但发现这种方式和numpy.resize一脉相承啊，根本不是我们想要的resize，如果是变大的话，这种resize会直接按顺序填，然后剩下的就填0，实在是太草率了。。。

解决方案：还没有很好的替代方案，只找了一下，cuda::resize，但是好像貌似没有python接口，要是混合编程好像有点小题大做，得不偿失了。

关于“pytorch多进程如何优化”这篇文章就分享到这里了，希望以上内容可以对大家有一定的帮助，使各位可以学到更多知识，如果觉得文章不错，请把它分享出去让更多的人看到。

文章题目：pytorch多进程如何优化-创新互联
网站链接：http://cxhlcq.com/article/dcihci.html