网页抓取代理

大规模采集公开数据,不被封锁,也不被限速。

网站会限速并封锁请求过多的地址。把爬虫分散到轮换的住宅 IP 上,定位到你需要的国家,只为实际使用的流量付费。

出口覆盖 233 个国家和地区
适合此任务的代理登录名
定位和会话都写在用户名里。
YOUR_USER-country-us:YOUR_PASS@prem.crawlproxies.com:3621
  • YOUR_USER控制台中的代理登录名
  • -country-us出口国家:美国
  • ↻不带会话 ID:每个请求换一个新 IP

没有代理会遇到什么阻碍。

网站会按 IP 地址限制、封锁和本地化流量。只用一个连接时,最先碰到的就是这些障碍。

单个 IP 有请求上限

大多数网站会限制单个地址的请求数。超过之后就会遇到报错、验证码或空白页面。

机房 IP 段容易被标记

反爬系统知道哪些 IP 段属于托管服务商,会优先对它们发起验证。

内容因国家而异

价格、语言和库存取决于访客所在的位置,只用一个地点只能看到部分情况。

大约一分钟完成连接。

把任何 HTTP 或 SOCKS5 客户端指向网关,并将 YOUR_USER 和 YOUR_PASS 替换为控制台中的登录信息。

1注册账户
2充值 $1 起
3复制凭据
curl -x http://YOUR_USER-country-us:YOUR_PASS@prem.crawlproxies.com:3621 \
  "https://example.com/products?page=1"

-country-us 让每个请求都通过一个新的美国住宅 IP 发出。去掉它即可使用任意国家。

获得更干净的结果。

广度靠轮换,流程靠会话

列表页每个请求用一个新 IP。当任务需要用同一 IP 发出多个请求时(比如翻页),加上会话 ID。

控制请求节奏

对每个网站保持合理的并发;遇到 429 和 503 响应时降速,并换新 IP 重试,而不是反复请求同一个。

模拟真实浏览器

发送逼真的请求头,并按会话保存 Cookie。干净的 IP 配上机器人般的指纹,照样会被封。

常见问题。

还有其他问题?联系真人客服,在线聊天随时回复。

先从轮换住宅代理开始:它适用于大多数网站。对速度和价格更重要的简单目标用机房代理,对仍然封锁住宅流量的网站用移动代理。

大约一分钟发出第一个请求。

注册账户,用加密货币充值 $1 起,只为实际用量付费。余额永不过期。