Arkadaşlar siteye giren baidu botlarını yasaklamak istiyorum. Robots.txt`ye bunla ilgili eklemeler yaptım. Yabancı sitenin birinden alarak. Ama botlar yine geliyor.
eklediğim kodlar :
User-agent: BaiDuSpider
Disallow: /
User-agent: Baidu
Disallow: /
User-agent: Baiduspider+(+http://www.baidu.com/search/spider.htm)
Disallow: /
User-agent: Baiduspider+(+http://www.baidu.com/search/spider_jp.html)
Disallow: /
giren botların ip`si 119.63.198.xx şeklinde.
üstüne tıkladığımda gelen sonuç "baiduspider-119-63-198-xx.crawl.baidu.jp"
şeklinde oluyor.
Konu hakkında bilgisi olan arkadaşımız varsa lütfen yardım etsin.