我一直在Internet上搜索解决方案,但找不到任何解决方案。我正在使用验证码解决方案api来解决scrapy-splash中的验证码,但是当验证码页面出现时,scrapy在尝试抓取下一页时向api发送请求。这是由于并发发生的。我尝试了CONCURRENT_REQUESTS = 1,但结果相同。我曾尝试设置等待和暂停引擎,但在大多数情况下,两个或多个线程恰好在同一行到达,因此在第一个线程暂停引擎时,两个或多个线程也会暂停引擎并尝试解决验证码。任何人都可以提出任何解决此问题的建议。
对不起,如果您听不懂,请评论您有任何问题,我会在几秒钟内回复
答案 0 :(得分:0)
使用阻塞的HTTP客户端库(例如请求)进行API调用。