是否应该让 GPTBot/1.2 抓取网站 了解详情
peer39 crawler 是由美国公司 Peer39(现为 P39 Tech LLC)开发的网页爬虫,其主要功能是分析网页内容,以支持广告技术(AdTech)领域的上下文广告投放和品牌安全服务。
Peer39_crawler 的主要任务是抓取网页内容,以便 Peer39 提供的广告技术服务能够分析网页的上下文信息。这有助于广告主确保其广告出现在合适的内容环境中,从而提高广告的相关性和效果。
Peer39 官方表示,允许其爬虫访问网站可以帮助广告主更好地了解网页内容的适配性,从而提升用户体验和广告收益 。
Peer39_crawler 会在抓取网站前查找并遵循网站根目录下的 robots.txt 文件中的规则。
如果需要屏蔽 peer39_crawler/1.0 爬虫程序,写法如下:
User-agent: peer39_crawler
Disallow: /
| # | IP 地址 | Hostname | 国家代码 | 旗帜 |
|---|---|---|---|---|
| 1 | 204.15.208.32 | US |
|
|
| 2 | 204.15.208.23 | US |
|
|
| 3 | 204.15.208.45 | US |
|
|
| 4 | 204.15.208.44 | US |
|
|
| 5 | 204.15.208.31 | US |
|
|
| 6 | 204.15.208.21 | US |
|
|
| 7 | 204.15.208.34 | US |
|
|
| 8 | 204.15.208.38 | US |
|
|
| 9 | 204.15.208.43 | US |
|
|
| 10 | 204.15.208.37 | US |
|