wp için tavsiye robots.txt dosyası içeriği şu şeklde yapabilirsin:
User-agent: *
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /tag
Disallow: /trackback
Disallow: /feed
Disallow: /comments
Disallow: /category/*/*
Disallow: /*?*
Disallow: /*?
TeKKursun vermiş olduğu robots.txt dosyasını kullanırsan spam amaclı gönderilen sitelerden uzaklaşablirsin.
?ref=xxx.com bu tarz url verenler kendilerinin programlama bildiğini sanan kişilerdir kesin
