"Yapay zeka insanlığı yok edebilir!"
Hızlı özet
Anthropic’in Yapay Zeka Uyum Araştırmaları Lideri Evan Hubinger, yapay zekanın önümüzdeki on yılda tüm insanlığı yok etme ihtimalinin yüzde 10’un üzerinde olduğunu belirterek, şirketin süper zeka hizalaması sorununu çözmek için henüz net bir plana sahip olmadığını ve doğru yolda ilerlemediğini söyledi. Aynı şirketten istifa eden araştırmacı Jacob Coxon ise yapay zeka firmalarının kendini geliştiren süper zekaya doğru kontrolsüz bir şekilde ilerlediğini ve “hayatlarımızla kumar oynuyorlar” ifadelerini paylaştı
Öne çıkanlar
- Anthropic’in Yapay Zeka Uyum Araştırmaları Lideri Evan Hubinger, yapay zekanın önümüzdeki on yılda tüm insanlığı yok etme ihtimalinin yüzde 10’un üzerinde olduğunu belirterek, şirketin süper zeka hizalaması sorununu çözmek için henüz net bir plana sahip olmadığını ve doğru yolda ilerlemediğini söyledi.
- Aynı şirketten istifa eden araştırmacı Jacob Coxon ise yapay zeka firmalarının kendini geliştiren süper zekaya doğru kontrolsüz bir şekilde ilerlediğini ve “hayatlarımızla kumar oynuyorlar” ifadelerini paylaştı
Neden önemli?
“"Yapay zeka insanlığı yok edebilir!"” başlığındaki gelişmenin değeri, kısa vadeli gündem etkisinden çok uygulamada neyi değiştirdiğiyle ölçülecek. Kullanıcı davranışı, erişim koşulları, doğrulanabilir performans ve sorumlu kullanım üzerindeki sonuçlar takip edilmesi gereken tarafları.
Üye yorumları