Netlify Edge Functions: ağ yolu kısaldı, çağrılar hızlandı

Netlify’ın daha kapsamlı yalıtım ortamı, gereksiz ağ gidiş-dönüşünü kaldırdı. Hazır ortamdaki çağrılar yaklaşık beş kat hızlandı.

Netlify Edge Functions kartı: warm çağrı medyanı 25-40 ms'den yaklaşık 5 ms'ye ve edge yolu kontrolleri.

Daha hafif bir çalıştırma ortamı her zaman daha hızlı yanıt vermez. İstek uzaktaki bir servise gidip dönüyorsa, ağ yolunu kısaltmak daha büyük kazanç sağlayabilir. Netlify, Edge (kullanıcıya yakın sunucu ağı) Functions'ı V8 isolate'lerinden (aynı motor içinde ayrı tutulan hafif çalışma ortamı) tam Firecracker microVM'lerine (küçük ve yalıtılmış sanal makine) taşıdı. Hazır ortamda çalışan çağrılar yaklaşık 5 kat hızlandı.

Daha ağır sandbox (kodun erişimini sınırlayan yalıtılmış ortam) kazandı, çünkü eski yol kendi ağlarının dışına çıkıyordu. Eşleşen her istek internet üzerinden barındırılan bir yürütme servisine gidip geri geliyordu. Artık kullanıcıya yakın kendi sunucu ağındaki bir compute node'unda (kodu çalıştıran sunucu) çalışıyor, medyan (ölçümler sıralandığında ortada kalan değer) birkaç düzine yerine 5 ms civarında.

Yazı, maliyetler konusunda dürüst:

  • Sticky routing (istekleri aynı çalışan makineye yönlendirme) bir sanal makineyi kullanıma hazır tutuyor, ama hot spot'lar (isteklerin bir makinede yoğunlaştığı nokta) da bu yüzden oluşuyor. Bir eşiği geçince tek bir servisi birkaç sunucuya yayıyorlar.
  • Her sanal makine sabit sayıda isteğe hizmet edip kapanıyor.
  • Yaklaşık 100 çağrıdan 1'i cold (ortamın istek geldiğinde ilk kez başlatılması), yaklaşık 9 ms.

Edge latency (istekle yanıt arasında geçen gecikme) için runtime'ı (kodun çalıştığı ortam) suçlamadan önce:

  1. Kodunuz çalışmadan önceki ağ atlamalarını sayın.
  2. Sadece cold start (çalışma ortamının ilk istek için sıfırdan başlatılması) süresini değil, cold start oranını da takip edin.
  3. İstekleri işleyen süreçleri belirli aralıklarla yeniden başlatın.

Çalıştırma ortamı daha fazla kaynak istese de ağ yolu kısaldığı için toplam yanıt süresi düştü.

Bu yazı İngilizce aslından Türkçeye çevrilmiştir.

Videoyu LinkedIn'de izle ↗

Çözmeye değer bir problemin mi var?Birlikte çözelim

Konuşmaya başla

Full-stack ve uygulamalı AI rollerine açığım, uzaktan veya hibrit.

Rolü, ekibi ve problemi anlat.