我抓一个妹子图。 最大带宽只能跑到 3M。
感觉并发还是有点少。 能不能加到 50 个并发。
不是异步的么？
推荐学习书目
› Learn Python the Hard Way
Python Sites
› PyPI - Python Package Index
› http://diveintopython.org/toc/index.html
› Pocoo
值得关注的项目
› PyPy
› Celery
› Jinja2
› Read the Docs
› gevent
› pyenv
› virtualenv
› Stackless Python
› Beautiful Soup
› 结巴中文分词
› Green Unicorn
› Sentry
› Shovel
› Pyflakes
› pytest
Python 编程
› pep8 Checker
Styles
› PEP 8
› Google Python Style Guide
› Code Style from The Hitchhiker's Guide
This topic created in 3299 days ago, the information mentioned may be changed or developed.
 |
1
dsg001 May 21, 2017
```python
# Configure maximum concurrent requests performed by Scrapy (default: 16) # CONCURRENT_REQUESTS = 32 ``` 可以修改配置，但采集的瓶颈从来都不是并发，如果图片下载建议采集网址，之后调用 wget 下载，速度更好 |
 |
2
chendajun May 21, 2017  1
个人建议：先把 Scrapy 吃透再说性能问题
|
 |
3
xiaoyu9527 OP |
Select Language