了解搜索引擎的搜索工作原理是學(xué)習seo技術(shù)的一個(gè)非常重要的內容，比如說(shuō)搜索引擎蜘蛛的引擎樣抓抓取機制的了解，只有深入的蜘蛛站頁(yè)了解了這些內容才會(huì )真正的明白關(guān)鍵詞排名的原理，seo優(yōu)化到底是取網(wǎng)做什么的等等一系列問(wèn)題。今天大寶seo博客和朋友們分享一下搜索引擎蜘蛛是面內怎么樣抓取網(wǎng)站頁(yè)面內容的，正文部分轉載自網(wǎng)絡(luò )。搜索
互聯(lián)網(wǎng)信ヽ(′ー｀)ノ息爆發(fā)式增長(cháng)，引擎樣抓如何有效的蜘蛛(?Д?)站頁(yè)獲取并利(li)用這些信息是搜索引擎工作中的首要環(huán)節。數據抓取系統作為整個(gè)搜索系統中的取(//ω//)網(wǎng)上游，主要??負責互聯(lián)網(wǎng)信息的面內搜集、保存、搜索更新環(huán)節，引擎樣抓它像蜘蛛一樣在網(wǎng)絡(luò )間爬來(lái)爬去，蜘蛛站(???)頁(yè)因此通常會(huì )被叫做“spide??r”。取網(wǎng)例如我們常用的面內幾家通用搜索引擎蜘蛛被稱(chēng)為：Baiduspdier、Googlebot、Sogou Web Spider等。
Spi(╯°□°）╯︵ ┻━┻der抓取系統是搜索引擎數據來(lái)源的重要保證，如果把web理解(jie)為一個(gè)有向圖，那么spider的工作過(guò)程可以認ヽ(′▽?zhuān)?ノ為是對這個(gè)有向圖的遍歷。從一些重要的種子 URL開(kāi)始，通過(guò)頁(yè)面上的超鏈接關(guān)系，不斷的發(fā)現新URL并抓取，盡最大可能抓取到更多的有價(jià)值網(wǎng)頁(yè)。對于類(lèi)似百度這樣的大型(xing)spider系統，因為每時(shí) 每刻都存在網(wǎng)頁(yè)被修改、刪除或出現新的超鏈接的(′_｀)可能，因此，還要對spider過(guò)去抓取過(guò)的頁(yè)面保持更新，維護一個(gè)URL庫和頁(yè)面庫。
Baiduspider 主要抓取策略類(lèi)型
上圖看似簡(jiǎn)單，但其實(shí)???Baiduspider在抓取過(guò)程中面對的是一個(gè)(╬?益?)超級復雜的網(wǎng)絡(luò )環(huán)境，為了使系統可以抓取到盡可能多的有價(jià)值資源并保持系統及實(shí)(shi)際環(huán)境中頁(yè)面的一致性同時(shí)不給網(wǎng)站體??驗造成壓力，會(huì )設計(ji)多種復雜的抓取策ヽ(′?｀)ノ略。以下做簡(jiǎn)單介紹：
1、抓取友好性
互聯(lián)網(wǎng)資源龐大的數量級，這就要求抓取系統盡可能的高??效利用帶寬，在有限的硬件和帶寬資源下盡可能多(′；ω；`)的抓取到有價(jià)值資源。這就造成了另一個(gè)問(wèn)題，耗費(fei)被抓網(wǎng)站的帶寬造成訪(fǎng)問(wèn)壓力，如果程度過(guò)大將直接影響被抓網(wǎng)站的正常用戶(hù)訪(fǎng)問(wèn)行為。因此，在抓取過(guò)程中就要進(jìn)行一定的抓取壓力控制，達到既不影響網(wǎng)站的正常(chang)用戶(hù)訪(fǎng)問(wèn)又能盡量多的抓取到(╬?益?)有價(jià)值資源的目的。
通常情況下，最基本的是基于ip的壓力控制。這是因為如果基于域名??，可能存在一個(gè)域名對多個(gè)i(?⊿?)p（很多大網(wǎng)站）或多個(gè)域名對應同一個(gè)i(′ω｀*)p??（小網(wǎng)站共享ip）的問(wèn)題。實(shí)際中，往往根據??ip及域名的多種條件進(jìn)行壓力調配控制。同時(shí)，站長(cháng)平臺也推出了壓力反饋工具，站長(cháng)可以人工調配對自己網(wǎng)站的抓ヽ(′?｀)ノ取壓力，這時(shí)百度spider將優(yōu)先按照站長(cháng)的要求進(jìn)行抓取壓力控制。
對同一個(gè)站點(diǎn)的抓取速度控制一般分為兩類(lèi)：其(qi)一，一段時(shí)間內的抓取頻率；其二，一段時(shí)間內的抓取??流量。同一站點(diǎn)不同的時(shí)間抓取速度也會(huì )不同，例如夜深人靜月黑風(fēng)高時(shí)候抓取的可能就會(huì )快一些，也視具體站點(diǎn)類(lèi)型而( ?° ?? ?°)定，主要思想是錯開(kāi)正常用戶(hù)訪(fǎng)問(wèn)高峰，不斷的調??整。對于不同站點(diǎn)，也需要不同的抓取速度。
2、常用抓取返回碼示意
1）最常見(jiàn)的404代表“NOT FOUN???D”，認為網(wǎng)頁(yè)已經(jīng)失效，通常將在庫中刪除，同時(shí)??短期內如果spider再次???發(fā)現這條url也不會(huì )抓??；
2）503代表“Service Unavailable”，認為網(wǎng)頁(yè)臨時(shí)不可訪(fǎng)問(wèn)，通常網(wǎng)站臨時(shí)關(guān)閉，帶寬有限等會(huì )產(chǎn)生這種情況(kuang)。對于網(wǎng)頁(yè)返回503狀態(tài)碼，百度spider不會(huì )把這條url直接刪除，同時(shí)短期內將會(huì )反復訪(fǎng)問(wèn)幾次，如果網(wǎng)頁(yè)已恢復，則正常抓??；如果繼續返回503，那么這條url仍會(huì )被認為是失效鏈接，從庫中刪除。
4）301代表是“Mo??ved Permanently”，認為(wei)網(wǎng)頁(yè)重定向至新url。當遇到站點(diǎn)遷移、域名更換、站點(diǎn)改版的情況時(shí)，我們推薦使用301返回碼，同時(shí)使用站長(cháng)平臺網(wǎng)站改版工具，以減少改版對網(wǎng)站流(liu)量造成的損失。┐(′д｀)┌
3、多種url重??定向的識別
互聯(lián)網(wǎng)中一(//ω//)部分網(wǎng)頁(yè)??因為各種各樣的原因存在url重定向狀態(tài)，為了對這部分資源正常抓取，就要求spider對url重定向進(jìn)行識別判斷??，同時(shí)防止作弊行為。重定向可分為三類(lèi)：http 30x重(′?｀*)定向ヽ(′▽?zhuān)?ノ、meta refresh重定向和js重定向。另外，??百度也支持Canonical標簽，在效果上可以認為也是一種間接的重定向。
4、抓取優(yōu)先級調配
由于互聯(lián)網(wǎng)資源規模的巨大以及(ji)迅速的變化，??對于搜索引擎來(lái)說(shuō)全部抓取到并合理的更新保持一致性幾乎是不可能的事情，因此這就要求抓取系統設計一套合理的抓取優(yōu)先級調配策略。主要包括：深度優(yōu)先遍歷策略、寬度優(yōu)先遍歷策略、pr優(yōu)先策略、反鏈策略、社會(huì )化分享指(T_T)導策略等等。每個(gè)策略各有優(yōu)劣，在實(shí)際情況中往往是多種策略結合使用以達到最優(yōu)的抓取效果(′_ゝ`)。
5、重復url的過(guò)濾
spider在抓取過(guò)程中需要判斷一個(gè)頁(yè)面是否已經(jīng)抓取過(guò)了，如果還沒(méi)有抓取再進(jìn)行抓取網(wǎng)頁(yè)的行為并放在已抓取網(wǎng)址集合中。判斷是否已經(jīng)抓取其中涉及到最核心的是快速查找并對比，同時(shí)涉及到url歸一化識別，例如一個(gè)u??rl中包含大量無(wú)效參數而實(shí)際是(shi)同一個(gè)頁(yè)面，這將視為同一個(gè)url來(lái)對待。
6、暗網(wǎng)數據的獲取
互聯(lián)網(wǎng)中存在著(zhù)大量的搜索引擎暫時(shí)無(wú)法抓取到的數據，被稱(chēng)為暗網(wǎng)數據。一方面，很多網(wǎng)站的大量數據是存在于網(wǎng)絡(luò )數據庫中，spider難以采用抓取網(wǎng)頁(yè)的方式獲得完整內容；另一方(′▽?zhuān)?)面，由于網(wǎng)絡(luò )環(huán)境、網(wǎng)站本身不符合規范、孤島等等問(wèn)題，也(ye)會(huì )造成搜索引??擎無(wú)法抓取。目前來(lái)說(shuō)，對于暗網(wǎng)數據的獲取主要思路仍然是通過(guò)開(kāi)放平臺采用數據提交的方式來(lái)解決，例如“百度站長(cháng)平臺”“百度開(kāi)放平臺”等等。
7、抓取反作弊
spider在抓取過(guò)程中往往會(huì )遇到所謂抓取黑洞或者面臨大量低質(zhì)量頁(yè)面的困擾，這就要求抓取系統中同樣需要設計一套完善的抓取反作弊系統。例如分析url特征、分析頁(yè)面大小及ヽ(′ー｀)ノ內容、分析站點(diǎn)規模對ヾ(′ω｀)?應抓取規模等等。
Baiduspider抓取過(guò)程中涉及的網(wǎng)絡(luò )協(xié)議
剛才提到百度搜索引擎會(huì )設計復雜的抓取策略，其實(shí)搜索???引擎與資源提供者之間存在相互依賴(lài)的關(guān)系，其中搜索引擎需要站長(cháng)為其提供資源，否則搜索引擎就無(wú)法滿(mǎn)足用戶(hù)檢索需求；而站長(cháng)需要通過(guò)搜索引擎將自己的 內容推廣出去獲取更多的受眾。spider抓取系統直接涉及互聯(lián)網(wǎng)資源提供者的利益，為了使搜素引擎與(T_T)站長(cháng)能夠達到雙贏(yíng)，在抓取過(guò)程中雙方必須遵守一定的 規范，以便于雙方的數據處理及對接。這種過(guò)程中遵守的規范也就是日常中??我們所說(shuō)的一些網(wǎng)絡(luò )協(xié)議。
以下簡(jiǎn)單列舉：
http協(xié)議：超文本傳輸協(xié)議，是互聯(lián)網(wǎng)上應用最為廣泛的一種網(wǎng)絡(luò )協(xié)議，客戶(hù)端和服務(wù)器端請求和應答的標準?？蛻?hù)端一般情況是指終端用戶(hù)，服務(wù)器端即指網(wǎng) 站。終端用戶(hù)通過(guò)瀏覽器(T_T)、蜘蛛等向(xiang)服務(wù)器指定端口發(fā)送http請求。??發(fā)送http請求會(huì )返回對應的httpheader信息，可以看到包括是否成功、服務(wù) 器類(lèi)型、網(wǎng)頁(yè)最近更新時(shí)間等內容。
https協(xié)議：實(shí)際是加密版http，一種更加安全的數據傳輸協(xié)議。
UA屬性：UA即user-agent，是http協(xié)議中的??一個(gè)屬性，代表了終端的身份，向服務(wù)器端表明我是誰(shuí)來(lái)干嘛，進(jìn)而服務(wù)器端可以根據不同的身份來(lái)做出不同的反饋結果。
robots協(xié)議：robots.txt是搜索引擎訪(fǎng)問(wèn)一個(gè)網(wǎng)站時(shí)要訪(fǎng)問(wèn)的第一個(gè)文件，用以來(lái)確定哪些是被允許抓取的??哪些是被禁止抓取的。robots.txt必須放在網(wǎng)站根目錄下，且文件名要(yao)小寫(xiě)。詳細的robots.txt寫(xiě)法可參考 http://ww(′ω｀*)w.robotstxt.org 。百度嚴格按照robots協(xié)議執行，另外，同樣支(′_ゝ`)(zhi)持網(wǎng)頁(yè)內容中添加的名為robots的meta標 簽，index、follow、nofollow等指令。
Baiduspider抓取頻次原則及調整方法
Baiduspider根據上述網(wǎng)站設置的協(xié)議對站點(diǎn)頁(yè)面進(jìn)行抓取，但是不可能做到對所有站點(diǎn)一視同仁，會(huì )綜合考慮站點(diǎn)實(shí)際情況確定一個(gè)??抓取配額，每天定量抓取站點(diǎn)內容，即我們常說(shuō)的抓取頻次。那么百度搜索引擎是根據什么指標來(lái)確定對一個(gè)網(wǎng)站的抓取頻次的呢，主要指標有四個(gè)：(╯°□°)╯
1，網(wǎng)站更新頻率：更新快多來(lái)，更新慢少來(lái)，??直接影響B(tài)aiduspider的來(lái)訪(fǎng)頻率
2，網(wǎng)站更新質(zhì)量：更新頻率提高了，僅僅是吸引了Baiduspier的注意，Baiduspヾ(′?｀)?ider對質(zhì)量是有嚴ヽ(′▽?zhuān)?ノ格要求的，如果網(wǎng)站每天更新出的大量?jì)热荻急籅aiduspider判定為低質(zhì)頁(yè)面，依然沒(méi)有意義。
3，連通度：網(wǎng)站應該安全穩定、??對Baiduspider保持暢通，經(jīng)常給Bヾ(′ω｀)?aiduspider吃閉門(mén)羹可不是好事情
4，站點(diǎn)評價(jià)：百度搜索引擎對每個(gè)站點(diǎn)都會(huì )有一個(gè)評價(jià)，且這個(gè)評(//ω//)價(jià)會(huì )根據站點(diǎn)情況不斷變化，是百度搜索引擎對站點(diǎn)的一個(gè)基礎打分（絕非外界所說(shuō)的百度權重），是百度內部一個(gè)非常機密的數據。站點(diǎn)評級從不獨立使用，會(huì )配合其它因子和閾值一起共同影響對網(wǎng)站的抓取和排序。
抓取頻次間接決定著(zhù)網(wǎng)站有多少頁(yè)面有可能被建庫收錄，如??此重要的數值如果不符合站長(cháng)預期該如何調整呢？百度站長(cháng)平臺提供了抓取頻次工具，并已完成多次升級。該工具(???)除了提供抓取統計數據外，還提供“頻次調整”功能，站長(cháng)根據實(shí)際情況向百度站長(cháng)平臺提出希望Baiduspider增加來(lái)訪(fǎng)或減少??來(lái)訪(fǎng)的請求，工具會(huì )根據站長(cháng)的意愿和實(shí)際情況(kuang)進(jìn)行調整。
造成Baiduspider抓取異常的原因
有一些網(wǎng)頁(yè)，內容優(yōu)質(zhì)，用戶(hù)(╬?益?)也可以正常訪(fǎng)問(wèn)，但是(′▽?zhuān)?Baiduspider卻無(wú)法正常訪(fǎng)問(wèn)并抓取，造成搜索結果覆蓋率缺失，對百度搜??索引擎對站點(diǎn)都是一種損失，百度把這種情況叫“抓取異?！?。對于大量?jì)热轃o(wú)法正常抓取的網(wǎng)站，百度搜索引擎會(huì )認為網(wǎng)站存在用戶(hù)體驗上的缺陷，??并降低對網(wǎng)站??的評價(jià)，(?????)在抓取、索引、排序上都會(huì )受到一定程度的負面影響，最終影響到網(wǎng)站從百度獲取??的流量。
下面向站長(cháng)介紹一些常見(jiàn)的抓取異常原因：
1，服務(wù)器連接異常
服務(wù)器連接異常會(huì )有兩種情況：一種是站點(diǎn)不穩定，Baiduspider嘗試連接您網(wǎng)站的服務(wù)器時(shí)出現暫時(shí)無(wú)法連接的情況；一種是Baiduspider一直無(wú)法連接上您網(wǎng)站的服務(wù)器。
造成服務(wù)器連接異常的原因通常是您的(???)網(wǎng)站服務(wù)器過(guò)大，超負荷運轉。也有???可能是您的網(wǎng)站運行不正常，請??檢查網(wǎng)站的web服務(wù)器（如apache、iis）是否安裝且正常運行，并使用瀏覽器檢查主要頁(yè)面能否正常訪(fǎng)問(wèn)。您的網(wǎng)站和主機還可能阻止了Baiヽ(′▽?zhuān)?ノduspider的訪(fǎng)問(wèn)，您需要檢查網(wǎng)站和主機的防火墻。
2，網(wǎng)絡(luò )運營(yíng)商異常：網(wǎng)絡(luò )運營(yíng)商分電信和聯(lián)通兩種，Baiduspider通過(guò)電信或網(wǎng)通無(wú)(wu)法訪(fǎng)問(wèn)您的網(wǎng)站。如果出現這種情況，您需要與網(wǎng)絡(luò )服務(wù)運營(yíng)商進(jìn)行聯(lián)系，或者購買(mǎi)擁有雙線(xiàn)服務(wù)的空間或者購買(mǎi)cdn服務(wù)。
3，DNS異常：當Baiduspider無(wú)法解析您網(wǎng)站的IP時(shí)，ヽ(′ー｀)ノ會(huì )出現DNS異常?？赡苁悄木W(wǎng)站IP地址錯誤，或者域名服務(wù)商把Baiduspider封禁。請使用WHOIS或者host查詢(xún)自己網(wǎng)站IP地址是否正確且可解析，如果不正確或無(wú)法解析，請與(yu)域名注冊商聯(lián)系，更新您的IP地址。
4，IP封禁：IP封禁為：限制網(wǎng)絡(luò )的出口IP地址，禁止該IP段的使用者進(jìn)行內容訪(fǎng)問(wèn)，在這里特指(zhi)封禁了BaiduspiderIP。當您的網(wǎng)站不希望Baiduspider訪(fǎng)問(wèn)時(shí)(?????)，才??需要該設置，如果您希望Baiduspider訪(fǎng)問(wèn)您的網(wǎng)站(╬?益?)，請檢查相關(guān)設置中是否誤添加了BaiduspiderIP。也有可能是您網(wǎng)站所在的空間服務(wù)??商把百度IP進(jìn)行了封禁，這時(shí)您需要聯(lián)系服務(wù)商更改設置。
5，UA封禁：UA即為用戶(hù)代理（User-Agent），服務(wù)器通過(guò)UA識別訪(fǎng)問(wèn)者的身份。當網(wǎng)站針對指定UA的訪(fǎng)問(wèn)，返回異常頁(yè)面（如403，500）或跳轉到其他頁(yè)面的情況，即為UA封禁。當您的網(wǎng)站不希望Baiduspider訪(fǎng)問(wèn)時(shí)，才需要該設置，如果您希望Baiduspider訪(fǎng)問(wèn)您的網(wǎng)站，useragent相關(guān)的設置中是否有Baiduspヾ(′▽?zhuān)??ider UA，并及時(shí)修改。
6，死鏈：頁(yè)面已經(jīng)無(wú)效，無(wú)法對用戶(hù)提供任何有價(jià)值信息的頁(yè)??面就是死鏈接，包括協(xié)議死鏈和內容死??鏈兩種形式：
協(xié)議死(′ω｀*)鏈：頁(yè)面的TCP協(xié)議狀態(tài)/HTTP協(xié)議狀態(tài)明確表示的死鏈，常見(jiàn)的如4??04、403、503狀態(tài)等。
內容死鏈：服務(wù)器返回狀態(tài)是正常的，但內容已經(jīng)變更為不存在、已刪除或需要權限等與原內容無(wú)關(guān)的信息頁(yè)面。
對于死鏈，我們建議站點(diǎn)使用協(xié)議死鏈，并通過(guò)百度站長(cháng)平臺??–死鏈工具向百度提交，以便百度更快地發(fā)現死鏈，減少死鏈對用戶(hù)以及搜索引擎造成的負面影響。
7，異??常跳轉：將網(wǎng)絡(luò )請求重新指向其他位置即為跳轉。異常跳轉指的是以下幾種情況：
1）(′；ω；`)當前該頁(yè)面為無(wú)效頁(yè)面（內容已刪除、死鏈等），直接跳轉到前一目錄(′_｀)或者(′?｀)首頁(yè)，百度建議站長(cháng)將該無(wú)效頁(yè)面的入口超鏈接刪除掉
2）跳轉到出錯或者無(wú)效頁(yè)面
注意：對于長(cháng)時(shí)間跳轉到其他域名的情況，如網(wǎng)站更換域名，百度建議使用301跳轉協(xié)議進(jìn)行設置。
8，其(qi)他異常：
1）針對百??度refer的異常：網(wǎng)頁(yè)針對來(lái)自百度的refer返回不同于正常內容的行為。
2）針對百度ua的異常：網(wǎng)頁(yè)對百度UA返回不同于頁(yè)面原內容的行為(′_｀)。
3）JS跳轉異常(chang)：(??ヮ?)?*:???網(wǎng)頁(yè)加載了百度無(wú)法識別的JS跳轉(◎_◎;)代碼，使得用戶(hù)通過(guò)搜索結果進(jìn)(?????)入頁(yè)面后發(fā)生了跳轉的情況。
4）壓(ya)力過(guò)(╯°□°）╯︵ ┻━┻大引起的??偶然封禁：百度會(huì )根據站點(diǎn)的規模、訪(fǎng)問(wèn)量等信息，自動(dòng)設??定一個(gè)合理的抓取壓力(╯°□°）╯(li)。但是在異常情況下，如壓力控制失常時(shí)，服務(wù)器會(huì )根據自身負荷進(jìn)行保護性的偶然封禁。這種情況下，請在返回碼中返回503(其含義是“Service Unavailable”??)，這樣Baiduspider會(huì )過(guò)段時(shí)間再來(lái)嘗試抓取這個(gè)鏈接，ヽ(′?｀)ノ如果網(wǎng)站已空閑，則會(huì )被成功抓取。
新鏈接重要程度判斷
好啦，上面我們說(shuō)了影響B(tài)a??iduspider正常抓取的原因，下面就要說(shuō)說(shuō)Baiduspider的一些判斷原則了。在建庫環(huán)節前，Baiduspide會(huì )對頁(yè)面進(jìn)行初步內容分析和鏈接分析，通過(guò)內容分析決定該??網(wǎng)頁(yè)??ヾ(′ω｀)?是否需要建ヽ(′ー｀)ノ索引庫，通過(guò)鏈接分析發(fā)現更多網(wǎng)頁(yè)，再對更多網(wǎng)頁(yè)進(jìn)行抓取——分析——是否建庫&發(fā)現新ヽ(′ー｀)ノ鏈接的流程。理論上，B(°□°)aiduspider會(huì )將新頁(yè)面上(shang)所有能“??看到”的鏈接都抓取回來(lái)，那么面對眾多新鏈接，Ba??iduspider根據什么判斷哪個(gè)更重??要呢？?jì)煞矫妫?/p>
第一，對用戶(hù)的(′▽?zhuān)?價(jià)值：
1，內┐(′?｀)┌容獨特，百度搜索引擎喜歡unique的內容
2，主體突出，切不要出現(xian)網(wǎng)頁(yè)主體內容不突出而被搜索引擎誤(′；ω；`)判為空短頁(yè)面不抓取
3，內容豐富
4，廣告適當
第二，鏈接重要程度：
1，目錄層級——淺層優(yōu)先
2，鏈接在站內的受歡迎程度
百度優(yōu)先建重要庫的原則
Baiduspider抓了多少頁(yè)面并不是最重要的，重要的是有多少頁(yè)(/ω＼)面被建索引庫，即我們常說(shuō)的??“建庫”。眾所周知，搜索引擎的索引庫是分層級的，優(yōu)質(zhì)的網(wǎng)頁(yè)會(huì )被分配到重要索引庫，普通網(wǎng)頁(yè)會(huì )待在普通庫，再差一些的網(wǎng)(╥_╥)頁(yè)會(huì )被分配到低級庫去當補充材料。目前60%的檢索需求只調用重要索引庫即可滿(mǎn)足，這也就解釋了為什么有些網(wǎng)站的收錄量超高流量卻一直不理想。
1，有時(shí)效性且有價(jià)值的頁(yè)面：在這( ?ヮ?)里，時(shí)效性和價(jià)值是并列關(guān)系，缺一不可。有些站點(diǎn)為了產(chǎn)生時(shí)效性?xún)热蓓?yè)面做了大量采集工作，產(chǎn)生了一堆無(wú)價(jià)值面頁(yè)，也是百度不愿看到的??.
2，內容優(yōu)質(zhì)的專(zhuān)題??頁(yè)面：專(zhuān)題頁(yè)面的內容不一??定完全是原創(chuàng )的，即可以很好地把各方內容整合在一起，或者增加一些新鮮的內容，比如觀(guān)點(diǎn)和評論，給用戶(hù)更豐富全面的內容。
3，高價(jià)值原創(chuàng )內容頁(yè)面：百度把原創(chuàng )定義為花費一定成本、大量經(jīng)驗積累提取后形成的文章。千萬(wàn)不要再問(wèn)我們偽原創(chuàng )是不是原創(chuàng )。
哪些網(wǎng)頁(yè)無(wú)法建入索引庫
上述優(yōu)質(zhì)網(wǎng)頁(yè)進(jìn)了索引庫，那其實(shí)互聯(lián)網(wǎng)上大部分網(wǎng)站根本沒(méi)有被百度收錄。并非是百度沒(méi)有發(fā)現他們，而是在建庫前的篩選環(huán)節被過(guò)濾掉了。那怎樣的網(wǎng)頁(yè)在最初環(huán)節就被過(guò)濾掉了呢：
1， 重復內容的網(wǎng)頁(yè)：互聯(lián)網(wǎng)上已有的內容，百度必然沒(méi)有必要再收錄。
2， 主體內容空短的網(wǎng)頁(yè)
1）有些內容使用了百度spider無(wú)法解析的技術(shù)，如JS、AJAX等，雖??然用戶(hù)訪(fǎng)問(wèn)能看(′?_?`)到豐富的內容，依然會(huì )被搜索引擎拋棄
2）加載速度過(guò)慢的網(wǎng)頁(yè)，也有可能被當作空短頁(yè)面處理，注意ヾ(′▽?zhuān)??廣告加載時(shí)(′?ω?`)間算在網(wǎng)頁(yè)整體加載時(shí)間內。
3）很多主體不突出的網(wǎng)頁(yè)即使被抓取回來(lái)也會(huì )在這個(gè)環(huán)??節被拋棄。
客服電話(huà)15361564096
Copyright ? 2012-2018 天津九安特機電工程有限公司 版權所有 備案號：
客服電話(huà)15387981118