爬虫识别

是否应该让 GPTBot/1.2 抓取网站 了解详情

peer39 crawler

爬虫识别 - 资源 > 营销 > peer39 crawler
peer39 crawlerpeer39 crawler 概况

P39 Tech LLC

peer39 crawler

peer39 crawler status 活动

peer39 crawler 说明

peer39 crawler 是由美国公司 Peer39(现为 P39 Tech LLC)开发的网页爬虫,其主要功能是分析网页内容,以支持广告技术(AdTech)领域的上下文广告投放和品牌安全服务。

peer39_crawler/1.0
User-Agent
爬虫类别
首次出现时间
最后一次出现时间
是否遵守 robots.txt 协议
遵守
说明:

Peer39_crawler 的主要任务是抓取网页内容,以便 Peer39 提供的广告技术服务能够分析网页的上下文信息。这有助于广告主确保其广告出现在合适的内容环境中,从而提高广告的相关性和效果。

Peer39 官方表示,允许其爬虫访问网站可以帮助广告主更好地了解网页内容的适配性,从而提升用户体验和广告收益 。

Peer39_crawler 会在抓取网站前查找并遵循网站根目录下的 robots.txt 文件中的规则。

如果需要屏蔽 peer39_crawler/1.0 爬虫程序,写法如下:

User-agent: peer39_crawler
Disallow: /
IP 地址总数
26
爬虫 IP 地址列表
# IP 地址 Hostname 国家代码 旗帜
1 204.15.208.32 US US flag
2 204.15.208.23 US US flag
3 204.15.208.45 US US flag
4 204.15.208.44 US US flag
5 204.15.208.31 US US flag
6 204.15.208.21 US US flag
7 204.15.208.34 US US flag
8 204.15.208.38 US US flag
9 204.15.208.43 US US flag
10 204.15.208.37 US US flag
注:最多只显示10个 IP 地址
返回顶部