最近,主機(jī)邦的一位客戶遇到了一件難題,網(wǎng)站CDN的流量消耗賊快,幾乎幾分鐘就消耗掉了1G流量了,但是顯示網(wǎng)站請(qǐng)求并沒有明顯增加,懷疑是被刷流量了。
主機(jī)幫查看后,發(fā)現(xiàn)百度云防護(hù)的流量三天就消耗了差不多1T,可謂消耗巨大,雖然百度云防護(hù)月流量3T,但是也經(jīng)不起這樣消耗啊。

于是我們感覺聯(lián)系百度云的技術(shù)查看,發(fā)現(xiàn)有接近一半的流量都是一個(gè)UA名為YisouSpider的爬蟲消耗的,YisouSpider是神馬搜索的蜘蛛U(xiǎn)A,但不確定是否有冒充神馬的,神馬也沒有提供蜘蛛的IP段。
所以,我們利用百度云防護(hù)自定義訪問策略,設(shè)置UA攔截,包含YisouSpider這個(gè)UA攔截了。

再觀察,流量果然下來了。
這里也給使用CDN的同學(xué)提醒,很多時(shí)候流量消耗都是一些爬蟲消耗的,我們一定要觀察日志,看看請(qǐng)求來自哪里,適當(dāng)對(duì)于一些無用的爬蟲進(jìn)行限制請(qǐng)求,以免影響服務(wù)器穩(wěn)定性和消耗CDN流量。