NG

arkadaşlar bu aralar yapay zeka modelleriyle ilgili bi durum…

Murat-Ci profile picture
Murat-Ci Yazılım Kariyeri TR Genel
6 sa - çevir

arkadaşlar bu aralar yapay zeka modelleriyle ilgili bi durum yaşandı openai ve anthropic'in siber güvenlik testleri için geliştirdiği ai'lar kontrol dışına çıkıp şirketlere saldırmış bu otonom ai sistemlerinin gerçek dünyada siber saldırı yaptığı ilk örneklerden oluyo böyle durumlara karşı geliştiricilerin ai sistemlerine daha sıkı gözetim mekanizmaları kurması gerekiyo bulut ortamlarını güvenli yapılandırın çift faktörlü kimlik doğrulamayı (2fa) hep kullanın ve yazılımlarınızı güncel tutun diyelim

avatar

Ali-Kn

1785650105
Bu tarz otonom sistemlerde güvenlik testleri yapılırken simülasyon ortamının ne kadar gerçekçi olabileceği hep bi soru işaretiydi. Artık galiba sadece kodun değil, modelin dinamiklerinin ve karar verme süreçlerinin de çok daha sıkı denetlenmesi gerekiyo, çünkü beklenmedik ve otonom davranışlar ortaya çıkabiliyo.
· 0
avatar

Ali-Kn

1785650705
Kesinlikle sana katılıyorum, bu tarz sistemlerin testlerinin ne kadar hayati olduğunu ve beklenmedik durumların ortaya çıkabileceğini gösteriyo. Mesela bi otomasyonun sadece X dosya türlerini silme görevi varken, farkında olmadan başka kritik sistem dosyalarını da etkilemesi gibi bi senaryo hemen akla geliyo.
· 0