- 簡(jiǎn)體
- 簡(jiǎn)體中文 English
淺談百度抓取淘寶那點(diǎn)事
大家都知道大概是“百度有啊”上線之前,淘寶網(wǎng)為了避免百度惡意抓取,直接屏蔽了百度蜘蛛,也就是當(dāng)時(shí)鬧得沸沸揚(yáng)揚(yáng)的robots.txt協(xié)議 。
就算是現(xiàn)在打開淘寶的robots.txt協(xié)議,依然可以看到淘寶還在屏蔽百度的蜘蛛。
可是事實(shí)上真的如此么
事實(shí)證明淘寶的robots.txt文件根本對(duì)百度蜘蛛起不到任何作用。
小弟推測(cè)百度之所以這么做是因?yàn)榘俣瓤紤]到戰(zhàn)略方向的問題,因?yàn)椴樵兞艘幌掳l(fā)現(xiàn)一些知名店鋪在百度的排名都很不錯(cuò)。足以證明百度對(duì)淘寶這種店鋪的重要性。更加戲曲化的是天貓網(wǎng)(淘寶商城)也是使用robots.txt協(xié)議的。同樣屏蔽了百度蜘蛛。
還有一種可能就是淘寶網(wǎng)以及天貓網(wǎng)的權(quán)重太高了,導(dǎo)致了百度蜘蛛不遵循搜索引擎協(xié)議而進(jìn)行的抓取。不過(guò)對(duì)于這種事情可以聯(lián)想到前些日子,一淘網(wǎng)惡意抓取京東商城以及新蛋網(wǎng)等的商品數(shù)據(jù),也是不遵循搜索引擎規(guī)則的。
直到現(xiàn)在京東商城等也在屏蔽一淘網(wǎng)的蜘蛛,
小編想說(shuō)的是現(xiàn)在的搜索引擎為了自身利益而不遵循互聯(lián)網(wǎng)協(xié)議的規(guī)則,是值得反思的,呼吁這種互聯(lián)網(wǎng)大公司能在整個(gè)IT行業(yè)樹立標(biāo)榜。
建站流程
-
網(wǎng)站需求
-
網(wǎng)站策劃方案
-
頁(yè)面設(shè)計(jì)風(fēng)格
-
確認(rèn)交付使用
-
資料錄入優(yōu)化
-
程序設(shè)計(jì)開發(fā)
-
后續(xù)跟蹤服務(wù)
-
聯(lián)系電話
010-60259772
熱門標(biāo)簽
- 網(wǎng)站建設(shè)
- 食品網(wǎng)站建設(shè)
- 微信小程序開發(fā)
- 小程序開發(fā)
- 無(wú)錫網(wǎng)站建設(shè)
- 研究所網(wǎng)站建設(shè)
- 沈陽(yáng)網(wǎng)站建設(shè)
- 廊坊網(wǎng)站建設(shè)
- 鄭州網(wǎng)站建設(shè)
- 婚紗攝影網(wǎng)站建設(shè)
- 手機(jī)端網(wǎng)站建設(shè)
- 高校網(wǎng)站制作
- 天津網(wǎng)站建設(shè)
- 教育網(wǎng)站建設(shè)
- 品牌網(wǎng)站建設(shè)
- 政府網(wǎng)站建設(shè)
- 北京網(wǎng)站建設(shè)
- 網(wǎng)站設(shè)計(jì)
- 網(wǎng)站制作
最新文章
推薦新聞
更多行業(yè)-
濟(jì)南網(wǎng)頁(yè)設(shè)計(jì)的新興發(fā)展前景有哪些
這是期待已久的事情。這幾年網(wǎng)頁(yè)設(shè)計(jì)師開始關(guān)注和使用CSS3+HTML5...
2021-12-16 -
SEO網(wǎng)站優(yōu)化站內(nèi)錨文本鏈接使用規(guī)則
北京網(wǎng)站建設(shè)公司尚品中國(guó)(m.yangsheng234.com):在寫這個(gè)...
2012-04-27 -
城市門戶網(wǎng)站建設(shè)幾個(gè)要點(diǎn)?
城市門戶網(wǎng)站建設(shè)是現(xiàn)代城市建設(shè)的重要組成部分。城市門戶網(wǎng)站是一個(gè)城市無(wú)...
2023-04-20 -
建設(shè)響應(yīng)式網(wǎng)站一般有哪些費(fèi)用?
由于響應(yīng)性網(wǎng)站具有許多優(yōu)點(diǎn),如能主動(dòng)匹配不同尺寸的顯示終端、便于實(shí)現(xiàn)、...
2020-05-25 -
OSI數(shù)據(jù)傳輸
1.數(shù)據(jù)封裝技術(shù)數(shù)據(jù)封裝是指將需要傳輸?shù)臄?shù)據(jù)進(jìn)行包裝處理.在OSI的七...
2014-06-23 -
網(wǎng)站設(shè)計(jì)之色彩的分類
自然界中有許多種色彩,如香蕉是黃色的、天是藍(lán)色的、橘子是橙色的.......
2015-12-26
預(yù)約專業(yè)咨詢顧問溝通!
免責(zé)聲明
非常感謝您訪問我們的網(wǎng)站。在您使用本網(wǎng)站之前,請(qǐng)您仔細(xì)閱讀本聲明的所有條款。
1、本站部分內(nèi)容來(lái)源自網(wǎng)絡(luò),涉及到的部分文章和圖片版權(quán)屬于原作者,本站轉(zhuǎn)載僅供大家學(xué)習(xí)和交流,切勿用于任何商業(yè)活動(dòng)。
2、本站不承擔(dān)用戶因使用這些資源對(duì)自己和他人造成任何形式的損失或傷害。
3、本聲明未涉及的問題參見國(guó)家有關(guān)法律法規(guī),當(dāng)本聲明與國(guó)家法律法規(guī)沖突時(shí),以國(guó)家法律法規(guī)為準(zhǔn)。
4、如果侵害了您的合法權(quán)益,請(qǐng)您及時(shí)與我們,我們會(huì)在第一時(shí)間刪除相關(guān)內(nèi)容!
聯(lián)系方式:010-60259772
電子郵件:394588593@qq.com