主頁(yè) > 知識(shí)庫(kù) > 網(wǎng)站的反采集技術(shù)

網(wǎng)站的反采集技術(shù)

熱門(mén)標(biāo)簽:定位地圖標(biāo)注 江門(mén)申請(qǐng)400電話 生化危機(jī)3原版地圖標(biāo)注 泉州呼叫中心外呼系統(tǒng)多少錢(qián) 電銷(xiāo)客服機(jī)器人價(jià)格 智能外呼系統(tǒng)的劣勢(shì) 地圖標(biāo)注的聊天案例 騰訊搜狗地圖標(biāo)注在哪里 慶陽(yáng)電腦外呼系統(tǒng)代理商
網(wǎng)站的反采集技術(shù)

前一段時(shí)間同幾個(gè)朋友聊起內(nèi)容采集的事情,因?yàn)槲覐奈瓷孀氵@個(gè)領(lǐng)域,就自以為可以找到一個(gè)方法來(lái)反采集,經(jīng)過(guò)一段時(shí)間的研究,似乎是有辦法做到的,不是說(shuō)完全阻止采集,而是讓采集的成本變高,或者讓采集后的內(nèi)容無(wú)法使用,或者說(shuō)采集后的內(nèi)容要花很多人工來(lái)分析,過(guò)濾。

下面的方法,轉(zhuǎn)自別人的文章,作者:翟振愷(小琦),我摘錄了反采集的部分內(nèi)容。

一、分頁(yè)文件名規(guī)則防采集對(duì)策

大部分采集器都是靠分析分頁(yè)文件名規(guī)則,進(jìn)行批量、多頁(yè)采集的。如果別人找不出你的分頁(yè)文件的文件名規(guī)則,那么別人就無(wú)法對(duì)你的網(wǎng)站進(jìn)行批量多頁(yè)采集。
實(shí)現(xiàn)方法:
我認(rèn)為用MD5加密分頁(yè)文件名是一個(gè)比較好的方法,說(shuō)到這里,有人會(huì)說(shuō),你用MD5加密分頁(yè)文件名,別人根據(jù)此規(guī)則也可以模擬你的加密規(guī)則得到你的分頁(yè)文件名。

我要指出的是我們加密分頁(yè)文件名時(shí),不要只加密文件名變化的部分
如果I代表分頁(yè)的頁(yè)碼,那么我們不要這樣加密
page_name=Md5(I,16)&".htm"

最好給要加密的頁(yè)碼上再跟進(jìn)一個(gè)或多個(gè)字符,如:page_name=Md5(I&"任意一個(gè)或幾個(gè)字母",16)&".htm"

因?yàn)镸D5是無(wú)法反解密的,別人看到的會(huì)頁(yè)字母是MD5加密后的結(jié)果,所以加人也無(wú)法知道你在 I 后面跟進(jìn)的字母是什么,除非他用暴力破解MD5,不過(guò)不太現(xiàn)實(shí)。

二、頁(yè)面代碼規(guī)則防采集對(duì)策

如果說(shuō)我們的內(nèi)容頁(yè)面無(wú)代碼規(guī)則,那么別人就無(wú)法從你的代碼中提取他們所需要的一條條內(nèi)容。
所以我們要的這一步做到防采集,就要使代碼無(wú)規(guī)則。
實(shí)現(xiàn)方法:
使對(duì)方需要提取的標(biāo)記隨機(jī)化
1、定制多個(gè)網(wǎng)頁(yè)模板,每個(gè)網(wǎng)頁(yè)模板里的重要HTML標(biāo)記不同,呈現(xiàn)頁(yè)面內(nèi)容時(shí),隨機(jī)選取網(wǎng)頁(yè)模板,有的頁(yè)面用CSS+DIV布局,有的頁(yè)面用table 布局,此方法是麻煩了點(diǎn),一個(gè)內(nèi)容頁(yè)面,要多做幾個(gè)模板頁(yè)面,不過(guò)防采集本身就是一件很煩瑣的事情,多做一個(gè)模板,能起到防采集的作用,對(duì)很多人來(lái)說(shuō),都是值得的。
2、如果嫌上面的方法太麻煩,把網(wǎng)頁(yè)里的重要HTML標(biāo)記隨機(jī)化,也可以。

做的網(wǎng)頁(yè)模板越多,html代碼越是隨機(jī)化,對(duì)方分析起內(nèi)容代碼時(shí),就越麻煩,對(duì)方針對(duì)你的網(wǎng)站專(zhuān)門(mén)寫(xiě)采集策略時(shí),難度就更大,在這個(gè)時(shí)候,絕大部分人,都會(huì)知難而退,因?yàn)檫@批人就是因?yàn)閼?,才?huì)采集別人網(wǎng)站數(shù)據(jù)嘛再說(shuō)一下,目前大部分人都是拿別人開(kāi)發(fā)的采集程序去采集數(shù)據(jù),自己開(kāi)發(fā)采集程序去采集數(shù)據(jù)的人畢竟是少數(shù)。
(采集程序一般是通用的,只有有限的幾個(gè)參數(shù)可以設(shè)定)

還有些簡(jiǎn)單的思路提供給大家:
1、把對(duì)數(shù)據(jù)采集者重要,而對(duì)搜索引擎不重要的內(nèi)容用客戶端腳本顯示
2、把一頁(yè)數(shù)據(jù),分為N個(gè)頁(yè)面顯示,也是加大采集難度的方法
3、用更深層的連接,因?yàn)槟壳按蟛糠植杉绦蛑荒懿杉骄W(wǎng)站內(nèi)容的前3層,如果內(nèi)容所在的連接層更深,也可以避免被采集。不過(guò)這樣可能會(huì)給客戶造成瀏覽上的不便。
如:
大多網(wǎng)站都是 首頁(yè)----內(nèi)容索引分頁(yè)----內(nèi)容頁(yè)
如果改成:
首頁(yè)----內(nèi)容索引分頁(yè)----內(nèi)容頁(yè)入口----內(nèi)容頁(yè)
注:內(nèi)容頁(yè)入口最好能加上自動(dòng)轉(zhuǎn)入內(nèi)容頁(yè)的代碼

其實(shí),只要做好防采集的第一步(加密分頁(yè)文件名規(guī)則),防采集的效果就已經(jīng)不錯(cuò)了,還是建議兩條反采集方法同時(shí)使用,給采集者增加采集難度,使得他們知難頁(yè)而退。 

標(biāo)簽:辛集 錫林郭勒盟 來(lái)賓 那曲 山西 萍鄉(xiāng) 鷹潭 邢臺(tái)

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《網(wǎng)站的反采集技術(shù)》,本文關(guān)鍵詞  網(wǎng),站的,反,采集,技術(shù),網(wǎng),;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問(wèn)題,煩請(qǐng)?zhí)峁┫嚓P(guān)信息告之我們,我們將及時(shí)溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無(wú)關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《網(wǎng)站的反采集技術(shù)》相關(guān)的同類(lèi)信息!
  • 本頁(yè)收集關(guān)于網(wǎng)站的反采集技術(shù)的相關(guān)信息資訊供網(wǎng)民參考!
  • 推薦文章