了解搜索引擎的搜索工作原理是學(xué)習seo技術(shù)的一個(gè)非常重要的內容,比如說(shuō)搜索引擎蜘蛛的引擎樣抓抓取機制的了解,只有深入的蜘蛛站頁(yè)了解了這些內容才會(huì )真正的明白關(guān)鍵詞排名的原理,seo優(yōu)化到底是取網(wǎng)做什么的等等一系列問(wèn)題。今天大寶seo博客和朋友們分享一下搜索引擎蜘蛛是面內怎么樣抓取網(wǎng)站頁(yè)面內容的,正文部分轉載自網(wǎng)絡(luò )。搜索
互聯(lián)網(wǎng)信ヽ(′ー`)ノ息爆發(fā)式增長(cháng),引擎樣抓如何有效的蜘蛛(?Д?)站頁(yè)獲取并利(li)用這些信息是搜索引擎工作中的首要環(huán)節。數據抓取系統作為整個(gè)搜索系統中的取(//ω//)網(wǎng)上游,主要??負責互聯(lián)網(wǎng)信息的面內搜集、保存、搜索更新環(huán)節,引擎樣抓它像蜘蛛一樣在網(wǎng)絡(luò )間爬來(lái)爬去,蜘蛛站(???)頁(yè)因此通常會(huì )被叫做“spide??r”。取網(wǎng)例如我們常用的面內幾家通用搜索引擎蜘蛛被稱(chēng)為:Baiduspdier、Googlebot、Sogou Web Spider等。
Spi(╯°□°)╯︵ ┻━┻der抓取系統是搜索引擎數據來(lái)源的重要保證,如果把web理解(jie)為一個(gè)有向圖,那么spider的工作過(guò)程可以認ヽ(′▽?zhuān)?ノ為是對這個(gè)有向圖的遍歷。從一些重要的種子 URL開(kāi)始,通過(guò)頁(yè)面上的超鏈接關(guān)系,不斷的發(fā)現新URL并抓取,盡最大可能抓取到更多的有價(jià)值網(wǎng)頁(yè)。對于類(lèi)似百度這樣的大型(xing)spider系統,因為每時(shí) 每刻都存在網(wǎng)頁(yè)被修改、刪除或出現新的超鏈接的(′_`)可能,因此,還要對spider過(guò)去抓取過(guò)的頁(yè)面保持更新,維護一個(gè)URL庫和頁(yè)面庫。
Baiduspider 主要抓取策略類(lèi)型
上圖看似簡(jiǎn)單,但其實(shí)???Baiduspider在抓取過(guò)程中面對的是一個(gè)(╬?益?)超級復雜的網(wǎng)絡(luò )環(huán)境,為了使系統可以抓取到盡可能多的有價(jià)值資源并保持系統及實(shí)(shi)際環(huán)境中頁(yè)面的一致性同時(shí)不給網(wǎng)站體??驗造成壓力,會(huì )設計(ji)多種復雜的抓取策ヽ(′?`)ノ略。以下做簡(jiǎn)單介紹:
1、抓取友好性
互聯(lián)網(wǎng)資源龐大的數量級,這就要求抓取系統盡可能的高??效利用帶寬,在有限的硬件和帶寬資源下盡可能多(′;ω;`)的抓取到有價(jià)值資源。這就造成了另一個(gè)問(wèn)題,耗費(fei)被抓網(wǎng)站的帶寬造成訪(fǎng)問(wèn)壓力,如果程度過(guò)大將直接影響被抓網(wǎng)站的正常用戶(hù)訪(fǎng)問(wèn)行為。因此,在抓取過(guò)程中就要進(jìn)行一定的抓取壓力控制,達到既不影響網(wǎng)站的正常(chang)用戶(hù)訪(fǎng)問(wèn)又能盡量多的抓取到(╬?益?)有價(jià)值資源的目的。
通常情況下,最基本的是基于ip的壓力控制。這是因為如果基于域名??,可能存在一個(gè)域名對多個(gè)i(?⊿?)p(很多大網(wǎng)站)或多個(gè)域名對應同一個(gè)i(′ω`*)p??(小網(wǎng)站共享ip)的問(wèn)題。實(shí)際中,往往根據??ip及域名的多種條件進(jìn)行壓力調配控制。同時(shí),站長(cháng)平臺也推出了壓力反饋工具,站長(cháng)可以人工調配對自己網(wǎng)站的抓ヽ(′?`)ノ取壓力,這時(shí)百度spider將優(yōu)先按照站長(cháng)的要求進(jìn)行抓取壓力控制。
對同一個(gè)站點(diǎn)的抓取速度控制一般分為兩類(lèi):其(qi)一,一段時(shí)間內的抓取頻率;其二,一段時(shí)間內的抓取??流量。同一站點(diǎn)不同的時(shí)間抓取速度也會(huì )不同,例如夜深人靜月黑風(fēng)高時(shí)候抓取的可能就會(huì )快一些,也視具體站點(diǎn)類(lèi)型而( ?° ?? ?°)定,主要思想是錯開(kāi)正常用戶(hù)訪(fǎng)問(wèn)高峰,不斷的調??整。對于不同站點(diǎn),也需要不同的抓取速度。
2、常用抓取返回碼示意
1)最常見(jiàn)的404代表“NOT FOUN???D”,認為網(wǎng)頁(yè)已經(jīng)失效,通常將在庫中刪除,同時(shí)??短期內如果spider再次???發(fā)現這條url也不會(huì )抓??;
2)503代表“Service Unavailable”,認為網(wǎng)頁(yè)臨時(shí)不可訪(fǎng)問(wèn),通常網(wǎng)站臨時(shí)關(guān)閉,帶寬有限等會(huì )產(chǎn)生這種情況(kuang)。對于網(wǎng)頁(yè)返回503狀態(tài)碼,百度spider不會(huì )把這條url直接刪除,同時(shí)短期內將會(huì )反復訪(fǎng)問(wèn)幾次,如果網(wǎng)頁(yè)已恢復,則正常抓??;如果繼續返回503,那么這條url仍會(huì )被認為是失效鏈接,從庫中刪除。
4)301代表是“Mo??ved Permanently”,認為(wei)網(wǎng)頁(yè)重定向至新url。當遇到站點(diǎn)遷移、域名更換、站點(diǎn)改版的情況時(shí),我們推薦使用301返回碼,同時(shí)使用站長(cháng)平臺網(wǎng)站改版工具,以減少改版對網(wǎng)站流(liu)量造成的損失。┐(′д`)┌
3、多種url重??定向的識別
互聯(lián)網(wǎng)中一(//ω//)部分網(wǎng)頁(yè)??因為各種各樣的原因存在url重定向狀態(tài),為了對這部分資源正常抓取,就要求spider對url重定向進(jìn)行識別判斷??,同時(shí)防止作弊行為。重定向可分為三類(lèi):http 30x重(′?`*)定向ヽ(′▽?zhuān)?ノ、meta refresh重定向和js重定向。另外,??百度也支持Canonical標簽,在效果上可以認為也是一種間接的重定向。
4、抓取優(yōu)先級調配
由于互聯(lián)網(wǎng)資源規模的巨大以及(ji)迅速的變化,??對于搜索引擎來(lái)說(shuō)全部抓取到并合理的更新保持一致性幾乎是不可能的事情,因此這就要求抓取系統設計一套合理的抓取優(yōu)先級調配策略。主要包括:深度優(yōu)先遍歷策略、寬度優(yōu)先遍歷策略、pr優(yōu)先策略、反鏈策略、社會(huì )化分享指(T_T)導策略等等。每個(gè)策略各有優(yōu)劣,在實(shí)際情況中往往是多種策略結合使用以達到最優(yōu)的抓取效果(′_ゝ`)。
5、重復url的過(guò)濾
spider在抓取過(guò)程中需要判斷一個(gè)頁(yè)面是否已經(jīng)抓取過(guò)了,如果還沒(méi)有抓取再進(jìn)行抓取網(wǎng)頁(yè)的行為并放在已抓取網(wǎng)址集合中。判斷是否已經(jīng)抓取其中涉及到最核心的是快速查找并對比,同時(shí)涉及到url歸一化識別,例如一個(gè)u??rl中包含大量無(wú)效參數而實(shí)際是(shi)同一個(gè)頁(yè)面,這將視為同一個(gè)url來(lái)對待。
6、暗網(wǎng)數據的獲取
互聯(lián)網(wǎng)中存在著(zhù)大量的搜索引擎暫時(shí)無(wú)法抓取到的數據,被稱(chēng)為暗網(wǎng)數據。一方面,很多網(wǎng)站的大量數據是存在于網(wǎng)絡(luò )數據庫中,spider難以采用抓取網(wǎng)頁(yè)的方式獲得完整內容;另一方(′▽?zhuān)?)面,由于網(wǎng)絡(luò )環(huán)境、網(wǎng)站本身不符合規范、孤島等等問(wèn)題,也(ye)會(huì )造成搜索引??擎無(wú)法抓取。目前來(lái)說(shuō),對于暗網(wǎng)數據的獲取主要思路仍然是通過(guò)開(kāi)放平臺采用數據提交的方式來(lái)解決,例如“百度站長(cháng)平臺”“百度開(kāi)放平臺”等等。
7、抓取反作弊
spider在抓取過(guò)程中往往會(huì )遇到所謂抓取黑洞或者面臨大量低質(zhì)量頁(yè)面的困擾,這就要求抓取系統中同樣需要設計一套完善的抓取反作弊系統。例如分析url特征、分析頁(yè)面大小及ヽ(′ー`)ノ內容、分析站點(diǎn)規模對ヾ(′ω`)?應抓取規模等等。
Baiduspider抓取過(guò)程中涉及的網(wǎng)絡(luò )協(xié)議
剛才提到百度搜索引擎會(huì )設計復雜的抓取策略,其實(shí)搜索???引擎與資源提供者之間存在相互依賴(lài)的關(guān)系,其中搜索引擎需要站長(cháng)為其提供資源,否則搜索引擎就無(wú)法滿(mǎn)足用戶(hù)檢索需求;而站長(cháng)需要通過(guò)搜索引擎將自己的 內容推廣出去獲取更多的受眾。spider抓取系統直接涉及互聯(lián)網(wǎng)資源提供者的利益,為了使搜素引擎與(T_T)站長(cháng)能夠達到雙贏(yíng),在抓取過(guò)程中雙方必須遵守一定的 規范,以便于雙方的數據處理及對接。這種過(guò)程中遵守的規范也就是日常中??我們所說(shuō)的一些網(wǎng)絡(luò )協(xié)議。
以下簡(jiǎn)單列舉:
http協(xié)議:超文本傳輸協(xié)議,是互聯(lián)網(wǎng)上應用最為廣泛的一種網(wǎng)絡(luò )協(xié)議,客戶(hù)端和服務(wù)器端請求和應答的標準??蛻?hù)端一般情況是指終端用戶(hù),服務(wù)器端即指網(wǎng) 站。終端用戶(hù)通過(guò)瀏覽器(T_T)、蜘蛛等向(xiang)服務(wù)器指定端口發(fā)送http請求。??發(fā)送http請求會(huì )返回對應的httpheader信息,可以看到包括是否成功、服務(wù) 器類(lèi)型、網(wǎng)頁(yè)最近更新時(shí)間等內容。
https協(xié)議:實(shí)際是加密版http,一種更加安全的數據傳輸協(xié)議。
UA屬性:UA即user-agent,是http協(xié)議中的??一個(gè)屬性,代表了終端的身份,向服務(wù)器端表明我是誰(shuí)來(lái)干嘛,進(jìn)而服務(wù)器端可以根據不同的身份來(lái)做出不同的反饋結果。
robots協(xié)議:robots.txt是搜索引擎訪(fǎng)問(wèn)一個(gè)網(wǎng)站時(shí)要訪(fǎng)問(wèn)的第一個(gè)文件,用以來(lái)確定哪些是被允許抓取的??哪些是被禁止抓取的。robots.txt必須放在網(wǎng)站根目錄下,且文件名要(yao)小寫(xiě)。詳細的robots.txt寫(xiě)法可參考 http://ww(′ω`*)w.robotstxt.org 。百度嚴格按照robots協(xié)議執行,另外,同樣支(′_ゝ`)(zhi)持網(wǎng)頁(yè)內容中添加的名為robots的meta標 簽,index、follow、nofollow等指令。
Baiduspider抓取頻次原則及調整方法
Baiduspider根據上述網(wǎng)站設置的協(xié)議對站點(diǎn)頁(yè)面進(jìn)行抓取,但是不可能做到對所有站點(diǎn)一視同仁,會(huì )綜合考慮站點(diǎn)實(shí)際情況確定一個(gè)??抓取配額,每天定量抓取站點(diǎn)內容,即我們常說(shuō)的抓取頻次。那么百度搜索引擎是根據什么指標來(lái)確定對一個(gè)網(wǎng)站的抓取頻次的呢,主要指標有四個(gè):(╯°□°)╯
1,網(wǎng)站更新頻率:更新快多來(lái),更新慢少來(lái),??直接影響B(tài)aiduspider的來(lái)訪(fǎng)頻率
2,網(wǎng)站更新質(zhì)量:更新頻率提高了,僅僅是吸引了Baiduspier的注意,Baiduspヾ(′?`)?ider對質(zhì)量是有嚴ヽ(′▽?zhuān)?ノ格要求的,如果網(wǎng)站每天更新出的大量?jì)热荻急籅aiduspider判定為低質(zhì)頁(yè)面,依然沒(méi)有意義。
3,連通度:網(wǎng)站應該安全穩定、??對Baiduspider保持暢通,經(jīng)常給Bヾ(′ω`)?aiduspider吃閉門(mén)羹可不是好事情
4,站點(diǎn)評價(jià):百度搜索引擎對每個(gè)站點(diǎn)都會(huì )有一個(gè)評價(jià),且這個(gè)評(//ω//)價(jià)會(huì )根據站點(diǎn)情況不斷變化,是百度搜索引擎對站點(diǎn)的一個(gè)基礎打分(絕非外界所說(shuō)的百度權重),是百度內部一個(gè)非常機密的數據。站點(diǎn)評級從不獨立使用,會(huì )配合其它因子和閾值一起共同影響對網(wǎng)站的抓取和排序。
抓取頻次間接決定著(zhù)網(wǎng)站有多少頁(yè)面有可能被建庫收錄,如??此重要的數值如果不符合站長(cháng)預期該如何調整呢?百度站長(cháng)平臺提供了抓取頻次工具,并已完成多次升級。該工具(???)除了提供抓取統計數據外,還提供“頻次調整”功能,站長(cháng)根據實(shí)際情況向百度站長(cháng)平臺提出希望Baiduspider增加來(lái)訪(fǎng)或減少??來(lái)訪(fǎng)的請求,工具會(huì )根據站長(cháng)的意愿和實(shí)際情況(kuang)進(jìn)行調整。
造成Baiduspider抓取異常的原因
有一些網(wǎng)頁(yè),內容優(yōu)質(zhì),用戶(hù)(╬?益?)也可以正常訪(fǎng)問(wèn),但是(′▽?zhuān)?Baiduspider卻無(wú)法正常訪(fǎng)問(wèn)并抓取,造成搜索結果覆蓋率缺失,對百度搜??索引擎對站點(diǎn)都是一種損失,百度把這種情況叫“抓取異?!?。對于大量?jì)热轃o(wú)法正常抓取的網(wǎng)站,百度搜索引擎會(huì )認為網(wǎng)站存在用戶(hù)體驗上的缺陷,??并降低對網(wǎng)站??的評價(jià),(?????)在抓取、索引、排序上都會(huì )受到一定程度的負面影響,最終影響到網(wǎng)站從百度獲取??的流量。
下面向站長(cháng)介紹一些常見(jiàn)的抓取異常原因:
1,服務(wù)器連接異常
服務(wù)器連接異常會(huì )有兩種情況:一種是站點(diǎn)不穩定,Baiduspider嘗試連接您網(wǎng)站的服務(wù)器時(shí)出現暫時(shí)無(wú)法連接的情況;一種是Baiduspider一直無(wú)法連接上您網(wǎng)站的服務(wù)器。
造成服務(wù)器連接異常的原因通常是您的(???)網(wǎng)站服務(wù)器過(guò)大,超負荷運轉。也有???可能是您的網(wǎng)站運行不正常,請??檢查網(wǎng)站的web服務(wù)器(如apache、iis)是否安裝且正常運行,并使用瀏覽器檢查主要頁(yè)面能否正常訪(fǎng)問(wèn)。您的網(wǎng)站和主機還可能阻止了Baiヽ(′▽?zhuān)?ノduspider的訪(fǎng)問(wèn),您需要檢查網(wǎng)站和主機的防火墻。
2,網(wǎng)絡(luò )運營(yíng)商異常:網(wǎng)絡(luò )運營(yíng)商分電信和聯(lián)通兩種,Baiduspider通過(guò)電信或網(wǎng)通無(wú)(wu)法訪(fǎng)問(wèn)您的網(wǎng)站。如果出現這種情況,您需要與網(wǎng)絡(luò )服務(wù)運營(yíng)商進(jìn)行聯(lián)系,或者購買(mǎi)擁有雙線(xiàn)服務(wù)的空間或者購買(mǎi)cdn服務(wù)。
3,DNS異常:當Baiduspider無(wú)法解析您網(wǎng)站的IP時(shí),ヽ(′ー`)ノ會(huì )出現DNS異常??赡苁悄木W(wǎng)站IP地址錯誤,或者域名服務(wù)商把Baiduspider封禁。請使用WHOIS或者host查詢(xún)自己網(wǎng)站IP地址是否正確且可解析,如果不正確或無(wú)法解析,請與(yu)域名注冊商聯(lián)系,更新您的IP地址。
4,IP封禁:IP封禁為:限制網(wǎng)絡(luò )的出口IP地址,禁止該IP段的使用者進(jìn)行內容訪(fǎng)問(wèn),在這里特指(zhi)封禁了BaiduspiderIP。當您的網(wǎng)站不希望Baiduspider訪(fǎng)問(wèn)時(shí)(?????),才??需要該設置,如果您希望Baiduspider訪(fǎng)問(wèn)您的網(wǎng)站(╬?益?),請檢查相關(guān)設置中是否誤添加了BaiduspiderIP。也有可能是您網(wǎng)站所在的空間服務(wù)??商把百度IP進(jìn)行了封禁,這時(shí)您需要聯(lián)系服務(wù)商更改設置。
5,UA封禁:UA即為用戶(hù)代理(User-Agent),服務(wù)器通過(guò)UA識別訪(fǎng)問(wèn)者的身份。當網(wǎng)站針對指定UA的訪(fǎng)問(wèn),返回異常頁(yè)面(如403,500)或跳轉到其他頁(yè)面的情況,即為UA封禁。當您的網(wǎng)站不希望Baiduspider訪(fǎng)問(wèn)時(shí),才需要該設置,如果您希望Baiduspider訪(fǎng)問(wèn)您的網(wǎng)站,useragent相關(guān)的設置中是否有Baiduspヾ(′▽?zhuān)??ider UA,并及時(shí)修改。
6,死鏈:頁(yè)面已經(jīng)無(wú)效,無(wú)法對用戶(hù)提供任何有價(jià)值信息的頁(yè)??面就是死鏈接,包括協(xié)議死鏈和內容死??鏈兩種形式:
協(xié)議死(′ω`*)鏈:頁(yè)面的TCP協(xié)議狀態(tài)/HTTP協(xié)議狀態(tài)明確表示的死鏈,常見(jiàn)的如4??04、403、503狀態(tài)等。
內容死鏈:服務(wù)器返回狀態(tài)是正常的,但內容已經(jīng)變更為不存在、已刪除或需要權限等與原內容無(wú)關(guān)的信息頁(yè)面。
對于死鏈,我們建議站點(diǎn)使用協(xié)議死鏈,并通過(guò)百度站長(cháng)平臺??–死鏈工具向百度提交,以便百度更快地發(fā)現死鏈,減少死鏈對用戶(hù)以及搜索引擎造成的負面影響。
7,異??常跳轉:將網(wǎng)絡(luò )請求重新指向其他位置即為跳轉。異常跳轉指的是以下幾種情況:
1)(′;ω;`)當前該頁(yè)面為無(wú)效頁(yè)面(內容已刪除、死鏈等),直接跳轉到前一目錄(′_`)或者(′?`)首頁(yè),百度建議站長(cháng)將該無(wú)效頁(yè)面的入口超鏈接刪除掉
2)跳轉到出錯或者無(wú)效頁(yè)面
注意:對于長(cháng)時(shí)間跳轉到其他域名的情況,如網(wǎng)站更換域名,百度建議使用301跳轉協(xié)議進(jìn)行設置。
8,其(qi)他異常:
1)針對百??度refer的異常:網(wǎng)頁(yè)針對來(lái)自百度的refer返回不同于正常內容的行為。
2)針對百度ua的異常:網(wǎng)頁(yè)對百度UA返回不同于頁(yè)面原內容的行為(′_`)。
3)JS跳轉異常(chang):(??ヮ?)?*:???網(wǎng)頁(yè)加載了百度無(wú)法識別的JS跳轉(◎_◎;)代碼,使得用戶(hù)通過(guò)搜索結果進(jìn)(?????)入頁(yè)面后發(fā)生了跳轉的情況。
4)壓(ya)力過(guò)(╯°□°)╯︵ ┻━┻大引起的??偶然封禁:百度會(huì )根據站點(diǎn)的規模、訪(fǎng)問(wèn)量等信息,自動(dòng)設??定一個(gè)合理的抓取壓力(╯°□°)╯(li)。但是在異常情況下,如壓力控制失常時(shí),服務(wù)器會(huì )根據自身負荷進(jìn)行保護性的偶然封禁。這種情況下,請在返回碼中返回503(其含義是“Service Unavailable”??),這樣Baiduspider會(huì )過(guò)段時(shí)間再來(lái)嘗試抓取這個(gè)鏈接,ヽ(′?`)ノ如果網(wǎng)站已空閑,則會(huì )被成功抓取。
新鏈接重要程度判斷
好啦,上面我們說(shuō)了影響B(tài)a??iduspider正常抓取的原因,下面就要說(shuō)說(shuō)Baiduspider的一些判斷原則了。在建庫環(huán)節前,Baiduspide會(huì )對頁(yè)面進(jìn)行初步內容分析和鏈接分析,通過(guò)內容分析決定該??網(wǎng)頁(yè)??ヾ(′ω`)?是否需要建ヽ(′ー`)ノ索引庫,通過(guò)鏈接分析發(fā)現更多網(wǎng)頁(yè),再對更多網(wǎng)頁(yè)進(jìn)行抓取——分析——是否建庫&發(fā)現新ヽ(′ー`)ノ鏈接的流程。理論上,B(°□°)aiduspider會(huì )將新頁(yè)面上(shang)所有能“??看到”的鏈接都抓取回來(lái),那么面對眾多新鏈接,Ba??iduspider根據什么判斷哪個(gè)更重??要呢??jì)煞矫妫?/p>
第一,對用戶(hù)的(′▽?zhuān)?價(jià)值:
1,內┐(′?`)┌容獨特,百度搜索引擎喜歡unique的內容
2,主體突出,切不要出現(xian)網(wǎng)頁(yè)主體內容不突出而被搜索引擎誤(′;ω;`)判為空短頁(yè)面不抓取
3,內容豐富
4,廣告適當
第二,鏈接重要程度:
1,目錄層級——淺層優(yōu)先
2,鏈接在站內的受歡迎程度
百度優(yōu)先建重要庫的原則
Baiduspider抓了多少頁(yè)面并不是最重要的,重要的是有多少頁(yè)(/ω\)面被建索引庫,即我們常說(shuō)的??“建庫”。眾所周知,搜索引擎的索引庫是分層級的,優(yōu)質(zhì)的網(wǎng)頁(yè)會(huì )被分配到重要索引庫,普通網(wǎng)頁(yè)會(huì )待在普通庫,再差一些的網(wǎng)(╥_╥)頁(yè)會(huì )被分配到低級庫去當補充材料。目前60%的檢索需求只調用重要索引庫即可滿(mǎn)足,這也就解釋了為什么有些網(wǎng)站的收錄量超高流量卻一直不理想。
1,有時(shí)效性且有價(jià)值的頁(yè)面:在這( ?ヮ?)里,時(shí)效性和價(jià)值是并列關(guān)系,缺一不可。有些站點(diǎn)為了產(chǎn)生時(shí)效性?xún)热蓓?yè)面做了大量采集工作,產(chǎn)生了一堆無(wú)價(jià)值面頁(yè),也是百度不愿看到的??.
2,內容優(yōu)質(zhì)的專(zhuān)題??頁(yè)面:專(zhuān)題頁(yè)面的內容不一??定完全是原創(chuàng )的,即可以很好地把各方內容整合在一起,或者增加一些新鮮的內容,比如觀(guān)點(diǎn)和評論,給用戶(hù)更豐富全面的內容。
3,高價(jià)值原創(chuàng )內容頁(yè)面:百度把原創(chuàng )定義為花費一定成本、大量經(jīng)驗積累提取后形成的文章。千萬(wàn)不要再問(wèn)我們偽原創(chuàng )是不是原創(chuàng )。
哪些網(wǎng)頁(yè)無(wú)法建入索引庫
上述優(yōu)質(zhì)網(wǎng)頁(yè)進(jìn)了索引庫,那其實(shí)互聯(lián)網(wǎng)上大部分網(wǎng)站根本沒(méi)有被百度收錄。并非是百度沒(méi)有發(fā)現他們,而是在建庫前的篩選環(huán)節被過(guò)濾掉了。那怎樣的網(wǎng)頁(yè)在最初環(huán)節就被過(guò)濾掉了呢:
1, 重復內容的網(wǎng)頁(yè):互聯(lián)網(wǎng)上已有的內容,百度必然沒(méi)有必要再收錄。
2, 主體內容空短的網(wǎng)頁(yè)
1)有些內容使用了百度spider無(wú)法解析的技術(shù),如JS、AJAX等,雖??然用戶(hù)訪(fǎng)問(wèn)能看(′?_?`)到豐富的內容,依然會(huì )被搜索引擎拋棄
2)加載速度過(guò)慢的網(wǎng)頁(yè),也有可能被當作空短頁(yè)面處理,注意ヾ(′▽?zhuān)??廣告加載時(shí)(′?ω?`)間算在網(wǎng)頁(yè)整體加載時(shí)間內。
3)很多主體不突出的網(wǎng)頁(yè)即使被抓取回來(lái)也會(huì )在這個(gè)環(huán)??節被拋棄。
客服電話(huà)15361564096
Copyright ? 2012-2018 天津九安特機電工程有限公司 版權所有 備案號:
客服電話(huà)15387981118