首頁 專題 SEO 蜘蛛陷阱是什麼

蜘蛛陷阱是什麼

May 24, 2019 pm 02:11 PM

蜘蛛陷阱是指:阻止蜘蛛程式爬行網站的障礙物,如車站內搜尋、電商產品、flash網站、限制性內容等。蜘蛛陷阱的最大特點是:當蜘蛛抓取某個特定URL時,它便進入了無限循環,只有入口,沒有出口。

蜘蛛陷阱是什麼

在SEO工作中,SEO人員每天都在與內容和連結打交道,從目前來看,他們深知獨立的原創內容,對於未來站點長期發展的重要性,但這一切的開始,都有一個前提,就是避免產生「蜘蛛陷阱」。那什麼是蜘蛛陷阱呢?

「蜘蛛陷阱」是什麼?

「蜘蛛陷阱」是阻止蜘蛛程式爬行網站的障礙物,一些網站設計技術對搜尋引擎說很不友好,不利於蜘蛛爬行和抓取,這些技術被稱為蜘蛛陷阱。最大的特色是當蜘蛛抓取某個特定URL的時候,它便進入了無限循環,只有入口,沒有出口。

常見的「蜘蛛陷阱」有哪些:  

#1、站內搜尋  

這是一個常見且容易造成「蜘蛛陷阱」的地方,當你試圖在站內搜尋某些特定關鍵字的時候,如果類似search.php?q=這樣的URL位址被搜尋引擎抓取與收錄,那麼很可能產生大量無意義的搜尋結果頁面。  

解決:你可以透過Robots.txt這個文件,封鎖動態參數。

2、電商產品  

如果你以往有過操作電商網站的經歷,那麼你會遇到產品SKU的多樣性的問題,同一個主題內容,會根據SKU的不同,產生多個URL,造成大量的內容重複頁面,這也導致嚴重浪費蜘蛛抓取頻率。  

當然,還有一種特殊的「蜘蛛陷阱」與電商產品頁面類似,就是動態的內容插入,這也往往導致蜘蛛陷入溫柔的陷阱。  

解決:確保URL的規範性,你可以試著利用rel=canonical這個標籤來解決類似問題。

3、Flash網站  

為了滿足使用者的視覺體驗,建站公司通常會使用Flash網站,給使用者搭建企業官網,這樣看起來非常美觀,但由於目前搜尋引擎並不能很好的抓取與識別flash內容,往往導致網站排名很難提升。  

解決:不要做整站flash,盡量將flash嵌入網頁內容的一部分。

4、限制性內容  

對於某些站點,出去吸引粉絲的目的,很多內容只有登錄才能查看,特別是一些強制cookie的操作,這誘導與欺騙了蜘蛛,它很難辨識內容,而且不斷的嘗試抓取這個URL。  

解決:針對網站建設,盡量避免採用此策略,吸引使用者。

如何辨識「蜘蛛陷阱」  

對於辨識蜘蛛陷阱的方法,特別容易,你只需要透過以下內容:  

① 網站日誌:利用工具讀取當日蜘蛛抓取URL的內容,如果發現特殊的URL位址,那麼值得進一步關注。  

② 抓取頻率:查看百度搜尋資源平台中抓取頻率,如果某一天數值特別大,那麼很可能陷入蜘蛛陷阱。  

總結:常被討論的蜘蛛陷阱還有網站架構、sessionid、各類跳轉,本文只簡單講述了實際應用中常遇到的蜘蛛陷阱,僅供參考。

以上是蜘蛛陷阱是什麼的詳細內容。更多資訊請關注PHP中文網其他相關文章!

本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

熱AI工具

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Clothoff.io

Clothoff.io

AI脫衣器

Video Face Swap

Video Face Swap

使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱門文章

Rimworld Odyssey如何釣魚
1 個月前 By Jack chen
Kimi K2:最強大的開源代理模型
1 個月前 By Jack chen
我可以有兩個支付帳戶嗎?
1 個月前 By 下次还敢

熱工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

熱門話題

Laravel 教程
1602
29
PHP教程
1506
276
研究發現,REDDIT在Google產品審查搜索結果中過多顯示 研究發現,REDDIT在Google產品審查搜索結果中過多顯示 Jul 15, 2025 am 09:13 AM

Reddit出現在97.5%的Google搜索查詢中,與產品評論有關,並在Google的討論中佔有將近三分之二的位置和論壇在搜索結果頁面上的功能,但根據新的分析。而reddit可以

用於用戶激活,保留和社區的SEO 用於用戶激活,保留和社區的SEO Jul 13, 2025 am 09:19 AM

傳統上,SEO被視為收購渠道,重點是排名網站以產生更多的流量和潛在客戶。但是,SEO的作用遠遠超出了僅僅收購的範圍。本文探討了SEO如何在戰略上影響我們

Google增加了對產品變體的支持並澄清退貨費用 Google增加了對產品變體的支持並澄清退貨費用 Jul 14, 2025 am 09:16 AM

Google引入了新的結構化數據功能,以更好地支持在線零售商的產品變體。此更新包括有關實施新結構化數據的詳細技術指南,以及搜索控制台和RICH R的增強功能

在Google算法更新期間體驗關鍵因素,分析發現 在Google算法更新期間體驗關鍵因素,分析發現 Jul 13, 2025 am 09:21 AM

根據Zyppy SEO的最新相關研究,使用第一人稱代詞,展示了個人體驗並展示cookie同意書的網站更有可能在Google UPD期間體驗積極的可見性改善

搜索營銷歷史上的這一天:2月29日 搜索營銷歷史上的這一天:2月29日 Jul 12, 2025 am 09:36 AM

在Googlein 2012上散佈Santorum Drops,網頁“傳播Santorum”,將“ Santorum”描述為肛交的殘留物,最終從Google上的頂級搜索結果中刪除。

忘記Pagerank:這就是為什麼您應該專注於排名 忘記Pagerank:這就是為什麼您應該專注於排名 Jul 13, 2025 am 09:20 AM

儘管偶爾會有新的趨勢和創新工具竊取眾人矚目的焦點,但許多競爭行業仍在繼續將其SEO努力集中在構建Pagerank-Passing Link Building上。 基本假設是積累M

Google希望您標記商戶中心中使用的AI生成的圖像 Google希望您標記商戶中心中使用的AI生成的圖像 Jul 14, 2025 am 09:14 AM

Google商家中心已經確認,如果您將AI生成的圖像合併到商戶中心供稿中,則必須披露該圖像是使用生成AI的生成的。

Google:不要為我們的搜索成功而懲罰我們 Google:不要為我們的搜索成功而懲罰我們 Jul 12, 2025 am 09:12 AM

由於其超過競爭對手的成功,美國政府被Google指控企圖對公司進行懲罰。這些言論是在審判後的摘要中進行的,該言論被解放並提交給華盛頓特區的聯邦法官,

See all articles