Özellikle bir kaç eğitim videosu ve kaynak taradıktan sonra yapmıştım ancak tekrardan bir gözden geçirebilirim sanırım.
Benzer şekilde Google çok fazla bot gönderdiğinde onları atak olarak algılayıp ( en agresif koruma planında ) hepsini blokluyordu. Hatta adsense sürekli olarak robots.txt ' ye ulaşamadığını söylüyordu. Hafif hafif esnete esnete adsense kodlarına ulaşımını sağladım ama hitler bariz düştü. Botuyla örümceğiyle Google kabulüm
Google botları dahil tüm google servislerinden erişimi kesin olarak serbest bırakmak için yapmanız gereken 2 şey.
+ 66.249.0.0/16 ip bloğunu allow list'e almak.
+ ASN15169 için waf kuralı yazarak skip betiği tanımlamak.
Bu ayarlar sonrası google botları sitenize ddos saldırısı bile yapsa engellenmezler