什么是百度蜘蛛？
百度蜘蛛，英文名是“baiduspider”是百度搜索引擎用以抓取互联网上数以亿计的网页的自动程序。
百度蜘蛛的作用是访问互联网上的html网页，建立索引数据库，使用户能在百度搜索引擎中搜索到您网站的网页。
百度蜘蛛是一个程序，夜以继日得在互联网上找寻新的url，接着抓取url上的内容，返回到百度的网页暂存数据库。
百度用来抓取网页内容的程序，叫做baiduspider，抓取其他内容的蜘蛛，则是新的名字：
产品名称 对应user-agent
网页搜索baiduspider
无线搜索 baiduspider-mobile
图片搜索baiduspider-image
视频搜索 baiduspider-video
新闻搜索 baiduspider-news
百度搜藏 baiduspider-favo
百度联盟 baiduspider-cpro