爬虫识别

爬虫识别支持 IPv6 地址访问 了解详情

CCBotCCBot 概况

None

CCBot

CCBot status 活动

CCBot 说明

CCBot 是一个基于 Nutch 的网络爬虫,它利用了 Apache Hadoop 项目。CCBot 使用 Map-Reduce 从爬网数据库中处理和提取目标候选者。该候选列表按主机(域名)排序,然后分发到一组蜘蛛(bot)服务器。

CCBot/2.0
爬虫类别
首次出现时间
最后一次出现时间
是否遵守 robots.txt 协议
遵守
说明:

CCBot 是一个基于 Nutch 的网络爬虫,将抓取的数据致力于免费向互联网研究人员、公司和个人提供互联网副本,以进行研究和分析。

当前的 User-Agent 为:CCBot/2.0 (http://commoncrawl.org/faq/)

IP 地址总数
128
爬虫 IP 地址列表
# IP 地址 Hostname 国家代码 旗帜
1 54.80.224.93 ec2-54-80-224-93.compute-1.amazonaws.com US US flag
2 54.198.241.211 ec2-54-198-241-211.compute-1.amazonaws.com US US flag
3 23.20.161.125 ec2-23-20-161-125.compute-1.amazonaws.com US US flag
4 54.80.217.80 ec2-54-80-217-80.compute-1.amazonaws.com US US flag
5 54.159.30.26 ec2-54-159-30-26.compute-1.amazonaws.com US US flag
6 54.167.29.208 ec2-54-167-29-208.compute-1.amazonaws.com US US flag
7 54.90.227.221 ec2-54-90-227-221.compute-1.amazonaws.com US US flag
8 54.234.90.191 ec2-54-234-90-191.compute-1.amazonaws.com US US flag
9 54.234.190.237 ec2-54-234-190-237.compute-1.amazonaws.com US US flag
10 54.90.217.44 ec2-54-90-217-44.compute-1.amazonaws.com US US flag
注:最多只显示10个 IP 地址
CCBot/2.0
爬虫类别
首次出现时间
最后一次出现时间
是否遵守 robots.txt 协议
遵守
说明:

CCBot 是一个基于 Nutch 的网络爬虫,将抓取的数据致力于免费向互联网研究人员、公司和个人提供互联网副本,以进行研究和分析。

当前的 User-Agent 为:CCBot/2.0 (https://commoncrawl.org/faq/)

IP 地址总数
317
爬虫 IP 地址列表
# IP 地址 Hostname 国家代码 旗帜
1 3.215.186.30 ec2-3-215-186-30.compute-1.amazonaws.com US US flag
2 44.211.117.197 ec2-44-211-117-197.compute-1.amazonaws.com US US flag
3 3.238.235.248 ec2-3-238-235-248.compute-1.amazonaws.com US US flag
4 3.238.117.130 ec2-3-238-117-130.compute-1.amazonaws.com US US flag
5 44.201.97.224 ec2-44-201-97-224.compute-1.amazonaws.com US US flag
6 3.236.223.106 ec2-3-236-223-106.compute-1.amazonaws.com US US flag
7 44.192.15.251 ec2-44-192-15-251.compute-1.amazonaws.com US US flag
8 100.26.196.222 ec2-100-26-196-222.compute-1.amazonaws.com US US flag
9 44.220.249.141 ec2-44-220-249-141.compute-1.amazonaws.com US US flag
10 44.192.79.149 ec2-44-192-79-149.compute-1.amazonaws.com US US flag
注:最多只显示10个 IP 地址
返回顶部