推荐学习书目
› Learn Python the Hard Way
Python Sites
› PyPI - Python Package Index
› http://diveintopython.org/toc/index.html
› Pocoo
值得关注的项目
› PyPy
› Celery
› Jinja2
› Read the Docs
› gevent
› pyenv
› virtualenv
› Stackless Python
› Beautiful Soup
› 结巴中文分词
› Green Unicorn
› Sentry
› Shovel
› Pyflakes
› pytest
Python 编程
› pep8 Checker
Styles
› PEP 8
› Google Python Style Guide
› Code Style from The Hitchhiker's Guide
requests 在并发太高的情况下 报错
SpiderXiantang · xiantang · 2018-08-03 14:25:40 +08:00 · 3540 次点击这是一个创建于 2303 天前的主题，其中的信息可能已经有所发展或是发生改变。
也就开了 32 个线程这样，爬一会就疯狂报错 然后把并发改为 10 之后就可以正常爬了
requests.exceptions.SSLError: EOF occurred in violation of protocol (_ssl.c:645)
还有个问题：爬虫插入 mysql 的策略是什么？ 一定数量批量插 还是一条一条插 感觉一条条插在高并发的情况下十分不稳定
 |
1
xxxy 2018-08-03 15:30:14 +08:00
貌似是 openssl 的限制？
|
 |
2
lhy360121 2018-08-03 15:36:59 +08:00
批量插
|
 |
3
lllllllllllllll 2018-08-03 16:07:31 +08:00
pip install 'requests[security]'
|
 |
4
nu11001 2018-08-03 16:19:43 +08:00
试试异步 aiohttp
|
 |
5
SpiderXiantang OP @xxxy 后来我发现 我开并发为 10 的情况下也会报错
|
|
6
SpiderXiantang OP @lllllllllllllll 我试试
|
 |
7
luguhu 2018-08-03 21:30:57 +08:00 via Android
@SpiderXiantang 你好，我也遇到这个问题。请问解决了吗？
|
|
8
SpiderXiantang OP @luguhu 安装 requets[security]
|
Select Language