OpenAI, yeni yapay zeka modeli Astra’nın yapabileceklerinden endişe duydu
Hızlı özet
OpenAI, geliştirme aşamasındaki Astra modelinin kodlama ve siber güvenlik alanlarında beklentilerin ötesinde ilerleme göstermesi üzerine modelin bazı yönleriyle ilgili çalışmaları askıya aldığını duyurdu. Şirketin iç değerlendirmesine göre Astra, iyi korunan gerçek dünya sistemlerine yönelik siber saldırıları bağımsız biçimde gerçekleştirebilecek kritik siber güvenlik eşiğine ulaştı. Astra’nın çok ses getiren “Hugging Face” olayında yer almadığını belirten OpenAI, buna benzer daha büyük bir saldırıdan endişe duyduğu için Astra’ya yönelik daha güçlü güvenlik sistemlerinin geliştirileceğini akta
Öne çıkanlar
- OpenAI, geliştirme aşamasındaki Astra modelinin kodlama ve siber güvenlik alanlarında beklentilerin ötesinde ilerleme göstermesi üzerine modelin bazı yönleriyle ilgili çalışmaları askıya aldığını duyurdu.
- Şirketin iç değerlendirmesine göre Astra, iyi korunan gerçek dünya sistemlerine yönelik siber saldırıları bağımsız biçimde gerçekleştirebilecek kritik siber güvenlik eşiğine ulaştı.
- Astra’nın çok ses getiren “Hugging Face” olayında yer almadığını belirten OpenAI, buna benzer daha büyük bir saldırıdan endişe duyduğu için Astra’ya yönelik daha güçlü güvenlik sistemlerinin geliştirileceğini akta
Neden önemli?
Bu model gelişmesi kullanıcılar için yeni bir seçenek, geliştiriciler içinse yeniden test gereksinimi yaratıyor. En doğru karar, tanıtım iddialarıyla değil; aynı sabit vaka kümesinde kalite, maliyet ve hata davranışı karşılaştırılarak verilebilir.
Üye yorumları