yazdığın resim .gif ya da 8 bit png ise indexed color mode olabilir,

image -> mode -> rgb mode yaparsan sonra smooth'u açmanla düzelebilir.