Aşağıdaki şekilde düzenleyin. Problem; değişkene select değerini atmamış olmanızdan kaynaklanıyor. Bu arada kitap sayısı 10 olduğunda sorgunuz boş değer verecektir. İf şartlarınızı;
Between 0 and 5
Between 6 and 10
Else
Şeklinde düzenleyin.

select @toplam_kitap_sayisi=count(kitap_sayisi) from kutuphane

Aldığınız hatanın çıktısını paylaşırsanız daha net yardımcı olabiliriz ama değişken ataması sıkıntılı gibi duruyor. select into vb. yöntemler ile atama yapabilirsiniz