Google抓取页面遭拒,可能时什么导致的?

这样的,。我们客户的一个网站,所有的产品详情页有部分页面,大概有十几个左右,google回应说是页面禁止被他们抓取,让我们检查页面,于是有了以下做法:

页面不允许搜索引擎抓取我了解到有两种情况:
1:网站根目录设置了robots.txt
2:具体页面里有<meta name="googlebot" content="noarchive">这个meta信息。
但是我刚刚看了一下你发给我的页面,代码里并没有第二中情况,也就是没有meta信息出现,我想是不是第一种情况

刚刚seo回应我robots.txt并没有禁止这个产品页,那么我想问下还有其他的什么办法可以检测是什么原因导致的吗?

阅读 2.3k
撰写回答
你尚未登录,登录后可以
  • 和开发者交流问题的细节
  • 关注并接收问题和回答的更新提醒
  • 参与内容的编辑和改进,让解决方法与时俱进