Baiduspider - 百度蜘蛛

<p>Baiduspider - 百度蜘蛛:<br /> <br /> 百度是如何收录到那么多网页的呢?这个百度用以抓取互联网上数以亿计的网页的程序,就叫做Baiduspider - 百度蜘蛛。<br /> <br /> 它是一个程序,夜以继日得在互联网上找寻新的URL,接着抓取URL上的内容,返回到百度的网页暂存数据库。<br /> <br /> 百度用来抓取网页内容的程序,叫做Baiduspider,抓取其他内容的蜘蛛,则是新的名字:<br /> <br /> 产品名称 对应user-agent<br /> <br /> 网页搜索 Baiduspider<br /> 无线搜索 Baiduspider-mobile<br /> 图片搜索 Baiduspider-image<br /> 视频搜索 Baiduspider-video<br /> 新闻搜索 Baiduspider-news<br /> 百度搜藏 Baiduspider-favo<br /> 百度联盟 Baiduspider-cpro<br /> <br /> 不少朋友会在自己的网站日志里看到这个蜘蛛Baiduspider-cpro,现在我们明白它是百度联盟蜘蛛,用以百度联盟程序匹配相应的广告。</p>
RangeTime:0.008329s
RangeMem:204.57 KB
返回顶部 留言