新手站長在網站建設的時候,因為一些操作,導致正常的網站無法被搜索引擎爬蟲訪問,進而使搜索引擎認為該頁面是死鏈接。除了頁面無法打開,一下的幾個點都可以導致網站死鏈的產生。
以下小編就給出一些死鏈的產生情況,本次文章素材來自百度公開課搜索引擎課程,具備相對的權威性。其他搜索引擎同樣可以參考該篇文章來進行設置。
減少死鏈的產生,是從事SEO工作工作者必修課。
HTTP/HTTPS設置不當引起死鏈
問題場景:
1.HTTP可訪問 ,HTTPS不可訪問
2.HTTP不可訪問 ,HTTPS可訪問
建議:
整站行為一致,保證所有的URL正常訪問,另外百度方面不建議HTTP與HTTPS共生。
封禁引起死鏈
問題場景:
1.用戶可以正常訪問,爬蟲不能。(爬蟲抓取的是錯誤的頁面)
一些網站因為特殊性,導致用戶可以正常訪問,但是當爬蟲訪問時,卻返回一個錯誤的頁面。
2.PC端可訪問,搜索引擎APP不能訪問
搜索引擎爬蟲可以訪問PC端頁面,但是不能訪問APP。百度官方的公開課說到這個APP訪問,暗指是支持APP內訪問的一個分析,來作為一個綜合評估參考。所以,不屏蔽百度APP對網站的訪問。
3.DNS封禁
有些特定的DNS服務商會封禁搜索引擎爬蟲來抓取域名的內容。這種在少數,畢竟目前主流域名廠商,已經主流的DNS廠商都沒有做DNS封禁。
4.服務器站點策略封禁
有些服務器自帶的安全策略會屏蔽百度蜘蛛的抓取,這種情況會產生死鏈(網頁URL鏈接,但是無內容)。當這種情況在整個網站出現,會導致搜索引擎判斷網站為一個劣質網站。會被降權。
建議:
合理的使用站長資源工具,來診斷站點是否能正常抓取
識別百度爬蟲(雙向DNS解析認證)解除封禁
對spider不公開內容設置robots協議封禁/設置死鏈,導致返回404
不建議使用額外的技術手段封禁百度爬蟲。
對百度APP可以訪問
DNS變更引起死鏈
問題場景:
站點更新DNS解析,將域名的IP變更,IP1變為IP2,中間有時間差。
當站點的更換域名解析的IP后,因為有些DNS并不能做到立即響應解析(一般為24小時)。我們拿24小時為例,中間有曾時間差,導致搜索引擎蜘蛛無法抓取,會評定為死鏈。
這個時候可以預留4-5天的緩存期,讓爬蟲來更新這個DNS
建議:
更換DNS后,使用站長資源平臺工具來抓取測試,查看網站是否能正常抓取。
不建議頻繁更換DNS的IP,如必須變更請,給爬蟲抓取預留緩沖時間。
來源: A5專欄 作者:五車二 原文鏈接:https://www.admin5.com/article/20220220/1011734.shtml
本文來源:徐州酷優網絡科技有限公司
本文網址:https:///news/hy/1588.html
聲明,本站文章均為酷優網絡原創或轉載,歡迎分享,轉載時請注明文章作者和“來源:徐州網站建設”并附本文鏈接
覆蓋全江蘇省的服務網絡
全國7×24小時客服熱線
病毒殺出率高于99%
網站可用性高于99.9%
最快網站3天內上線