ondan kaynakladığını pek zannetmiyorum çünkü robots.txt dede * olarak kullanıyorum aşşağıdaki gibi böylece tüm botlara izin vermiş oluyorum bildiğim kadarı ile.

User-agent: *
Disallow:

peki robots dosyasını aşşağıdaki gibi yapabilirmyiz

 
User-agent: Mediapartners-Google* 
Disallow:
User-agent: *
Disallow: