Loadbalance'ı layer 7 https veya layer 3 tcp/ip ile monitor edersen sistemin içindeki sunucuların ayakta olup olmadığını anlık takip edebilirsin hocam, buna göre de loadbalance'ın alacağı aksiyonu çok kolay bir şekilde belirletebilirsin. Bunlar zamanında düşünülmüş ve geliştirilmiş teknolojiler. Baştan bir api ayağa kaldırmanız sadece aksiyon olur.
Polemiğe girmeyeceğim, load balancerın bağlantısı kesilmesin diye 2. load balancer kurup önüne 1 adet daha load balancer kurabilirsiniz ki 2 load balancerın hangisi ayakta ise ona trafiği yönlendirebilsin.
Bu arada anlık haberleşebilmek ve dinleme yapabilmek için UDP bağlantısına ihtiyacınız var ancak http ve https trafikler TCP maalesef ve bağlantı kesildiğinde anında haberiniz olabilecek bir teknoloji henüz icat edilmedi, o yüzden harici bir kaynaktan sürekli check edilmesi teknolojik bir zorunluluktur.
API dediğinizi kurup ayağa kaldırmak 30 dakikadan uzun sürmeyecektir.