Bu cevap, konu sahibi tarafından kabul edilebilir bir cevap olarak işaretlendi.
Merhaba,
robots.txt dosyanızı açın ve
User-agent: * altına ekleyin:
Disallow: /amp*
Disallow: /amp?
Disallow: /page/*/
Disallow: /page/amp
Disallow: /page/amp/?
Disallow: /page/amp/*/
Kaydedin. Zamanla silinecektir veya robots.txt dosyası tarafından engelleniyor uyarısı verecektir yani sorun çözülecektir.
Ayrıca, parameter tarzı engellemek istediğiniz URL varsa şöyle yapabilirsiniz:
Örneğin paylaş butonundaki slash sonrası parametre içermesini istemediniz, o halde şöyle ekleyeceksiniz:
Disallow: /?share=twitter
Bu sayede URL sonundaki o parametre hiçbir şekilde dahil edilmez.
Yine örneğin bir sayfa fonksiyonunu engellemek isterseniz şöyle:
Disallow: /?ajax=get-list
Son örnek, mobil fonksiyonu engellemesi
Disallow: /?page=mobile
...gibi gibi. Bu şekilde engellerseniz sorun kalmaz. Hızlı indeks alabilmek için robots.txt dosyası önemli. Bu dosyayı güzelce modifiye ederseniz iyi olur.