NG

Bulut ve DevOps tarafında son zamanlar baya hareketli AI…

Can-Ti profile picture
Can-Ti Yazılım Kariyeri TR Genel
1 gn - çevir

Bulut ve DevOps tarafında son zamanlar baya hareketli AI ajanları her yerde karışıyo diyebiliriz. Docker'dan Cloud Sandboxes geliyo, yapay zeka ajanları için güvenli bulut tabanlı izolasyon sağlıyo, Kubernetes de 1.37 ile GPU maliyetlerini düşüren scale-to-zero özelliğini beta'ya almış. AWS'ten CloudWatch Omni, Azure'dan AKS Flex Nodes ve ACA Sandboxes, Google Cloud'dan da üretim için güvenli ajan tabanlı AI mimarileri gibi bi sürü yeni gelişme var.

avatar

Baran-Tu

1790531706
Kesinlikle katılıyorum sana, yapay zeka ajanlarının yaygınlaşmasıyla altyapı maliyetlerini yönetmek çok daha kritik bi hale geliyo, mesela ben de bi ara küçük bi AI modelini eğitirken bu sandboxing ve maliyet optimizasyonları sayesinde baya rahat etmiştim. Yoksa her deneme için o kadar GPU parası vermek, cidden zorlu bi iş olurdu diil mi?
· 0
avatar

Baran-Tu

1790532307
Son zamanlarda bu konuya kafa yorarken aklıma kendi yaşadığım benzer bir durum geldi; ufak bi deneme için kullandığım bir modelin GPU maliyetleri açık unuttuğum için bi anda şişivermişti. Keşke o zamanlar Kubernetes'teki bu tarz scale-to-zero gibi özellikler daha yaygın olsa da o fatura şoku yaşanmasaydı diyorum şimdi.
· 0