Cloudflare Burada Ne Yapıyor?

Question

Selamlar,

Bir sorum var.
api/v2 adında bir endpointim var ve bu endpointte kesin olarak database işlemi yapılıyor. Siteme Cloudflare kurdum ve bir test yaptım.Cloudflare açıkken
Aynı endpointe 1000 istek &#8594; 3 saniye
Cloudflare kapalıyken
Aynı endpointe 1000 istek &#8594; 10 saniye
Test şartları:İstekler aynı cihazdan çıktı
Aynı sunucuya geldi
Ortam ve kodlar birebir aynı
Cache mümkün değil, response tamamen DBden geliyor.
Bu durumda Cloudflare ne yapmış olabilir de bu kadar hız farkı oluştu?
Bilgisi olan paylaşırsa sevinirim.
Ekstra tcp/http2/3 vb. gibi bir optimize mi?

Vovno · Answer

Harika soru, konu takip. Konu sahibinin müsadesi ile.

orhunnasuh · Answer

Db den sorgunun yapılma şekli ile ilgili olabilir, cold start hot start arasında bu dediğiniz gibi fark oluyor, cloudflare belirli ms ler içinde kuyruğa toplayıp örneğin her 50ms de bir db sorgu yapıp tek seferde 10 adet 50 adet sonuç alıyor olabilir. Detaylı bilmiyorum tamamen tahmini yazdım.

serhatucek · Answer

Aslında birkaç aşaması olabilir bu konunun. Cloudflare çok yönlü araç setleri olan gelişmiş bir yapı ve bazı ayarlar/özellikler varsayılan olarak açık şekilde geliyor.

Bağlantı tarafında tcp-tls bağlantı yönetimi, connection reuse ve multiplexing tarafında ciddi iyileştirmeler yapıyor, bundan ötürüde sunucu tarafında gerçekleşecek bazı işlemler sunucuya gitmeden cf tarafında çözülmüş oluyor ve hosting tarafı daha az işle uğraşmış oluyor. Buna ek olarak siz fark etmeden çoğu http isteğini cf cache'ler, isteklerin response header kısmındaki detaylara(cache-control ve cf-cache-status değerleri) göz atmak gerekli.

Teste konu olan endpointin verdiği cevap içindeki datayı her seferinde random veri gelecek şekilde modifiye ederek yada cevaba bu tarz random bir ekleme yaparak tekrar test ederseniz daha da netleşir durum bence.

soylenmezsmt · Answer

serhatucek adlı üyeden alıntı:						mesajı görüntüle									Aslında birkaç aşaması olabilir bu konunun. Cloudflare çok yönlü araç setleri olan gelişmiş bir yapı ve bazı ayarlar/özellikler varsayılan olarak açık şekilde geliyor.

Bağlantı tarafında tcp-tls bağlantı yönetimi, connection reuse ve multiplexing tarafında ciddi iyileştirmeler yapıyor, bundan ötürüde sunucu tarafında gerçekleşecek bazı işlemler sunucuya gitmeden cf tarafında çözülmüş oluyor ve hosting tarafı daha az işle uğraşmış oluyor. Buna ek olarak siz fark etmeden çoğu http isteğini cf cache'ler, isteklerin response header kısmındaki detaylara(cache-control ve cf-cache-status değerleri) göz atmak gerekli.

Teste konu olan endpointin verdiği cevap içindeki datayı her seferinde random veri gelecek şekilde modifiye ederek yada cevaba bu tarz random bir ekleme yaparak tekrar test ederseniz daha da netleşir durum bence. 		Her işlemde yeni bir sipariş oluşturuluyor. Bu nedenle sipariş durumu önceden çekilip cachelenebilecek bir veri değil; her istekte yeniden oluşturulan, dinamik bir yapı söz konusu.

serhatucek · Answer

Evet sizin test senaryosunda cache kaynaklı bir hızlanma değil o zaman bu.

Yazımdaki ilk kısımda bahsettiğim cloudflare özellik ve optimizasyonlarından bu pozitif hız farkı oluşuyor. Burda sizin 1000 isteğinizi kabaca tarif etmek gerekirse cf tarafı grupluyor ve bu nedenle 1000 istek için her seferinde sunucunuzda bağlantı açıp kapatma işi gerçekleşmiyor.

Bundan ötürüde cpu ve worker'lar normalin üstünde bir yüke ulaşmayıp toplam yanıt süresinde belirgin bir düşme yaşanıyor.