學過SEO的同學們都知道蜘蛛有兩種爬行方式：深度和廣度，又叫橫向抓取和縱向抓取，那么這個蜘蛛到底是怎么運作的呢？是爬完一個頁面再去爬二個頁面嗎？那二個頁面又是從哪里找到的呢？
如果真的想要了解這方面的東西，就須要了解程序，做為一個合格的SEO，程序設計是你必修的一門課程。即然涉及到程序，必然少不了數據庫，編程語言。以PHP為例，其中有一個函數叫作file_get_contents，這個函數的作用就是獲取URL里面的內容，并以文本的方式返回結果，當然也可以用CURL。
然后，就可以利用程序里面的正則表達式，對A鏈接的數據進行提取、合并、去重等復雜操作，并將數據存入數據庫。數據庫有很多，比如：索引庫、收錄庫等等。為什么索引和收錄數量不一致？當然是因為不在同一個庫里嘛。
當抓取數據完成上面操作后，自然也就得到了數據庫里面不存在的鏈接，接著，程序會發出另一個指令，抓取這些庫里面沒存的URL。直致頁面全部完成抓取。當然更有可能的是抓取完成后，不再抓取。
在百度站長平臺會有抓取頻次及抓取時間的數據，你應該可以見到，每個蜘蛛抓取是毫無規律可言，但你通過日常觀察可以發現，頁面深度越深，被抓取到的概率越低。原因很簡單，蜘蛛并不會一直圍繞著你的站點爬到所有網站，而是有間隔性的、隨機性的來抓取。
也就是說，搜索引擎的蜘蛛抓取是有隨機性和時效性的，而我們SEO的目的是盡快的完成頁面及內容的呈現，尤其是我們認為最有價值的內容。所以就會演變成，如何在有限數量的蜘蛛抓取中展現更多的內容呢？當然就是盡可能的降低頁面深度，增加頁面寬度，在《SEO實戰密碼》中有關于頁面深度方面的優化方法，所以在此不再做過多的描述。有需要的可以搜索一下電子書，當然更建議人手一本。
蜘蛛雖然有隨機性和時效性，但也還是有許多規律可尋，比如流量對于蜘蛛有非常直接的正向作用，所以日常的操作當中你也會發現，一旦有流量進入到站點，蜘蛛也會隨著增多，這種蜘蛛表現尤其是在一些違規操作里面表現的更為明顯，比如百度刷排名！
除了時效性和隨機性以外，蜘蛛還有一個特性就是喜新厭舊，一個時刻變化的站點，是非常受蜘蛛喜愛的，哪怕他沒有任何的意義！當然，這也算是搜索引擎的一個BUG，只是這種BUG沒辦法處理，或者說很難處理。所以就有許多人利用BUG開發一系列的軟件，比如蜘蛛池，蜘蛛池頁面每次打開都內容不一樣，利用文字段落隨機組合進行內容構造，對蜘蛛進行欺騙。然后再輔以大量的域名（一般幾百個）形成一個新內容庫，圈住蜘蛛。當然圈住蜘蛛肯定不是目的，圈蜘蛛的目的是為了放蜘蛛，那怎么來放呢？成幾百萬、幾千萬的頁面，每個頁面嵌入一個外連，蜘蛛自然隨著外鏈就可以引導到你想讓他去的站點。這樣就達到了頁面的高頻蜘蛛訪問。
當一個頁面蜘蛛去的多了，收錄自然不再會是問題。那蜘蛛對收錄有正向幫助，對于排名有幫助嗎？通過我們的研究發展，百度蜘蛛、百度排名、自然流量這三者的關系非常的微秒，每一項的變動都會涉及到其它兩項的變動。只不過有的變化大，有的變化小。