你可以先评估一下自己的爬虫是io密集还是cpu密集。 io密集:程序大部分时间花在了io等待上,比如网络io,即http请求等,磁盘io,即文件读写等。 cpu密集: 程序大部分时间花在了cpu计
scrapy 有系统的方法