搜索引擎蜘蛛簡稱網絡爬蟲(webcrawler)，網絡爬蟲(又被稱為網頁蜘蛛，網絡機器人，在FOAF社區(qū)中間，更經常的稱為網頁追逐者)，是一種按照一定的規(guī)則，自動地抓取萬維網信息的…