向阳乔木 0 关注者 关注 4小时前 主流AI爬虫User-Agent大盘点! 朋友说OpenAI的 GPTBot抓的太凶。 为了GEO效果,又不得不开放各种AI的爬虫。 当然,应该也有伪装这些爬虫UA采集页面。 常见的 AI Bot如下 OpenAI GPTBot 用于模型训练 Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko); compatible; GPTBot/1 #AI爬虫 #User-Agent #GPTBot #OpenAI #Bytespider 前往原网页查看