python多进程数据输出问题

import requests,json
from multiprocessing import Pool
info_list=[]#空list
url_list=[......]#多个url
def get_info(url):
    json_data=requests.get(url).json()
    info_list.append(json_data)
if __name__=="__main__":
    with Pool() as p:
        p.map(get_info,url_list)

我知道这样最终info_list中还是空的,因为多进程每个进程各自持有一份数据,默认无法共享数据,我尝试了Manager,Queue,但是不知道为什么还是不行,最后list中还是没有数据,大佬能给一段代码吗?
我的目的就是多进程运行,每个进程向list中添加数据,最后得到这个list值.

阅读 7.2k
2 个回答
  1. 你这个list不是进程安全, 会有bug

你自己debug看看是json_data没有,还是说其他的问题, 光靠这个代码真的看不出来哦

首先list不是线程安全的,所以多线程不要同时对list进行操作

pool.map() 返回一个列表

import requests,json
from multiprocessing import Pool

url_list=['http://www.baidu.com' for i in range(10)]

def get_info(url):
    response = requests.get(url)
    return response

if __name__=="__main__":
    info_list = []
    with Pool() as p:
        info_list = p.map(get_info,url_list)

    for i in info_list:
        print(i.status_code)
撰写回答
你尚未登录,登录后可以
  • 和开发者交流问题的细节
  • 关注并接收问题和回答的更新提醒
  • 参与内容的编辑和改进,让解决方法与时俱进
推荐问题