現(xiàn)在做網(wǎng)站不僅要防御CC攻擊,還要防御AI爬蟲抓取網(wǎng)頁,這些AI爬蟲危害非常大,不僅大量抓取影響你的網(wǎng)站服務(wù)器穩(wěn)定,還盜取你網(wǎng)站的內(nèi)容生成自己的答案。
為此,我們有必要針對(duì)AI爬蟲進(jìn)行攔截處理。

今天主機(jī)幫教大家如何有效攔截這類AI爬蟲。
1.首先登陸百度云防護(hù)(沒有百度云防護(hù)的可以聯(lián)系主機(jī)幫購買),開啟資源列表-接入配置,開啟WEB防護(hù)

這個(gè)功能可以有效防御SQL注入、XSS、文件上傳、網(wǎng)頁掛馬等黑客入侵行為。
2.Web防護(hù)規(guī)則-創(chuàng)建Web防護(hù)規(guī)則
(1開啟CC攻擊防護(hù)

這個(gè)功能不僅可以攔截大規(guī)模CC攻擊,還可以自動(dòng)攔截一些大規(guī)模爬蟲抓取。
(2開啟自定義訪問策略,針對(duì)UserAgent設(shè)置攔截

如OpenAI的網(wǎng)絡(luò)爬蟲:GPTBot

3.創(chuàng)建完防護(hù)模板后,我們重新進(jìn)入接入配置,開啟自定義防護(hù)設(shè)置
4.如果您購買了百度云防護(hù)企業(yè)版,也可以直接開啟BOT防御功能,該功能可根據(jù)情報(bào)自動(dòng)攔截惡意爬蟲。

我們來看實(shí)戰(zhàn)效果,客戶的某文學(xué)網(wǎng)站經(jīng)常被網(wǎng)絡(luò)爬蟲抓取,自從使用了百度云防護(hù)后,已經(jīng)得到了有效攔截。
