User-agent: *
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content

txt içine bunu yazıp sitenin ana dizinine atarsan botlar bu dizine ulaşamayacaklardır.

allow izin vermektir allow yazarsan botlar sitenin her yerinde dolaşır...

user agent deki yıldız işaretinin anlamı ise, * tüm karakterler demektir bu demek oluyor bütün botlar için.