網(wǎng)站優(yōu)化過(guò)程非常容易忽視的一個(gè)就是robots文件，因為如果網(wǎng)站徹底不做robots文件好像也沒(méi)有多大影響，但不做好這個(gè)文件，引起的問(wèn)題可不能小視。

什么是robots文件?簡(jiǎn)單的說(shuō)就是告訴搜索引擎哪些是你能抓取的哪些是你不能碰的，哪個(gè)蜘蛛可以進(jìn)來(lái)哪個(gè)不能進(jìn)來(lái)，做好了robots文件有以下幾點(diǎn)好處：節省服務(wù)器資源，避免不必要的抓取;像有客戶(hù)資料的私密信息不會(huì )泄露;讓蜘蛛爬取的更加順利方便，增加搜索引擎的友好度等等。

一、robots文件看法

想要看別人網(wǎng)站的robots文件，直接在網(wǎng)址欄輸入：http://www.域名.com/robots.txt，比如你想看A5的robots文件就可以輸入：https://www.admin5.com/robots.txt

二、robots文件寫(xiě)法

這個(gè)在網(wǎng)上有大量的教程，本人的表達能力也比較欠佳，就不再贅述了。建議還是參照百度站長(cháng)平臺的資訊更加簡(jiǎn)單易懂一點(diǎn)。

三、如果robots文件出現了問(wèn)題導致網(wǎng)站數據出現嚴重問(wèn)題怎么辦

robots文件對于稍稍有點(diǎn)規模的網(wǎng)站都是不可或缺的，很多不必要的搜索引擎的蜘蛛那就沒(méi)有必要讓它們爬取來(lái)占取資源，這時(shí)靠robots封禁，如果網(wǎng)站出現了嚴重的數據波動(dòng)，比如收錄索引全部掉完，排名全部下降，若網(wǎng)站沒(méi)有出現其他問(wèn)題正常優(yōu)化的情況下，首先就要檢查robots文件，這時(shí)也不要慌，筆者整理了方法，供大家參考使用。

1.修改Robots封禁為允許，然后到百度站長(cháng)后臺檢測并更新Robots。

2.在百度站長(cháng)后臺抓取檢測，此時(shí)顯示抓取失敗，沒(méi)關(guān)系，多點(diǎn)擊抓取幾次，觸發(fā)蜘蛛抓取站點(diǎn)。

3.在百度站長(cháng)后臺抓取頻次，申請抓取頻次上調。

4.百度反饋中心，反饋是因為誤操作導致了這種情況的發(fā)生。

5.百度站長(cháng)后臺鏈接提交處，設置數據主動(dòng)推送(實(shí)時(shí))。

6.更新sitemap網(wǎng)站地圖，重新提交百度，每天手工提交一次。

以上處理完，接下來(lái)就是等待了，基本5天內就能回到正常狀態(tài)!在最后筆者還是建議大家要好好做好網(wǎng)站的robots文件，因為好處是有目共睹的，放在根目錄下就可以了，當然，還可以在robots文件中放上網(wǎng)站的sitemap，對蜘蛛的爬取很有好處。

筆者：在職考研招生信息網(wǎng)www.eduzzyjs.com，轉載請附上鏈接