Bu robots.txt dosyasına
yazmamız yeterli midir? herhangi bir yere include etmekte gerek yok sanırsam. Peki sitenin diğer kısımlarında çalışan xxx.com?ddd=ggg gibi url leri de engeller mi bu kod?
evet soru işareti olan her url engeller, kalıcı bağlantı kullanıyorsan sorun yok.
wp için tavsiye robots.txt dosyası içeriği şu şeklde yapabilirsin:
User-agent: *
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /tag
Disallow: /trackback
Disallow: /feed
Disallow: /comments
Disallow: /category/*/*
Disallow: /*?*
Disallow: /*?