Merhaba arkadaşlar,
web sayfam için aşağıdaki robots.txt dosyasını hazırladım.
size zahmet kontrol edebilirmisiniz herhangi bir eksiklik ve yanlışlık var mı?
wordpres ve xenforo kurulu aşağıdaki gibi.
site içeriği;
sitenin ana dizine wordpress kurdum ve
site.com/forum kısmına ise xenforo forum kurdum
User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php
Allow: /wp-content/uploads/
Disallow: /wp-includes/
Disallow: /wp-content/plugins/
Disallow: /readme.html
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /wp-includes/js
Disallow: forum/account/
Disallow: forum/posts/
Disallow: forum/login/
Disallow: forum/admin.php
Disallow: forum/ajax/
Disallow: forum/data/
Disallow: forum/conversations/
Disallow: forum/internal_data/
Disallow: forum/js/
Disallow: forum/library/
Disallow: forum/styles/
Disallow: forum/install
Allow: /
User-agent: Mediapartners-Google*
Sitemap:
https://site.com/sitemap_index.xml
Sitemap:
https://site.com/forum/sitemap.php
not: sitede robots.txt dosylarını incelediğimde çok eski tarihli bu nedenle konu açma ihtiyacı hissetim.