经典案例
  • ArtsRouge
  • 香港·维西·创意设计机构
  • 阳春冠军联盟
  • Mango Design
  • 上海春芝堂
  • 东莞市有方文化传播机构
  • 阳春市人民医院
  • 爱艺术咖啡会所
  • 龍大品牌设计有限公司

什么是robots.txt?

发布于:2019-03-28 20:44来源:www.qhwhcm.cn 作者:无锡网站建设 点击:
        这是一个文本文件,是搜索引擎爬行网页要查看的第一个文件,你可以告诉搜索引擎哪些文件可以被查看,哪些禁止。当搜索机器人(也叫搜索蜘蛛)访问一个站点时,它首先会检查根目录是否存在robots.txt,如果有就确定抓取范围,没有就按链接顺序抓取。
 
 
 
tag标签:
------分隔线----------------------------
------分隔线----------------------------