百度爬虫爬到的是你在浏览器上右键鼠标,点击源代码看到的内容,ajax动态写入的内容抓不到。爬虫是很古老的技术了,那时还没有ajax这种概念。
代码:User-agent: BaiduspiderDisallow: /操作方法:第一步骤:登陆网站后台第二步骤:找到根目录里的robots.txt文件并打开第三步骤:把上面的代码复制黏贴到robots.txt文件里第四步骤:保存及更新代码的意思是:禁止百度蜘蛛抓取的意思,禁止百度蜘蛛抓取网站信息的意思