Hata gibi bir durum yok, çift tırnaklar içinde doğrudan $değişken şeklinde, değişken kullanabiliyorsunuz. Tek tırnak buna izin vermiyor.
Yeri geldiği zaman tek yeri geldiği zaman çift tırnak kullanmak gerekiyor. Ancak normal ifadelerde bende genelde tek tırnak kullanıyorum.