Anthropic’ten istifa eden araştırmacı: “Yapay zeka hepimizi öldürebilir”
Hızlı özet
Anthropic’ten istifa ettiğini duyuran yapay zeka araştırmacısı Jacob Coxon, ChatGPT’yi geliştiren OpenAI ve Claude’u geliştiren Anthropic’te geçirdiği üç yıllık sürenin ardından, her iki şirketin de yapay zeka konusunda sorumlu hareket etmediğini belirten önemli bir paylaşımda bulundu. Coxon, şirketlerin kendi kendini geliştirebilen süper zekaya ulaşmak için yarıştığını ve bunun ciddi bir varoluşsal risk oluşturduğunu düşünüyor. Yapay zeka sistemlerinin yakın gelecekte insanüstü yeteneklere ulaşarak hemen her sistemi hackleyebileceğini, farklı alanlarda çok hızlı dönüşümler yaratabileceğini ve
Öne çıkanlar
- Anthropic’ten istifa ettiğini duyuran yapay zeka araştırmacısı Jacob Coxon, ChatGPT’yi geliştiren OpenAI ve Claude’u geliştiren Anthropic’te geçirdiği üç yıllık sürenin ardından, her iki şirketin de yapay zeka konusunda sorumlu hareket etmediğini belirten önemli bir paylaşımda bulundu.
- Coxon, şirketlerin kendi kendini geliştirebilen süper zekaya ulaşmak için yarıştığını ve bunun ciddi bir varoluşsal risk oluşturduğunu düşünüyor.
- Yapay zeka sistemlerinin yakın gelecekte insanüstü yeteneklere ulaşarak hemen her sistemi hackleyebileceğini, farklı alanlarda çok hızlı dönüşümler yaratabileceğini ve
Neden önemli?
Bu model gelişmesi kullanıcılar için yeni bir seçenek, geliştiriciler içinse yeniden test gereksinimi yaratıyor. En doğru karar, tanıtım iddialarıyla değil; aynı sabit vaka kümesinde kalite, maliyet ve hata davranışı karşılaştırılarak verilebilir.
Üye yorumları