Anthropic, şirketin kurucu ortağı Jack Clark ve Anthropic Enstitüsü lideri Marina Favaro tarafından kaleme alınan “Yapay zeka kendini inşa ettiğinde” başlıklı blog yazısını yayımladı.
Yazıda, yapay zeka geliştirme sürecinin büyük bölümünün geçmişte insanlar tarafından yürütüldüğü ancak Anthropic’te bu sürecin giderek daha fazla yapay zeka sistemlerine devredildiği ve bunun geliştirme hızını artırdığı belirtildi.
Bu eğilimin devam etmesi halinde yapay zeka sistemlerinin kendi haleflerini tasarlayıp geliştirebilecek seviyeye ulaşabileceğine işaret edilen yazıda, bunun “özyinelemeli kendini geliştirme” (recursive self-improvement) olarak adlandırıldığı aktarıldı.
Yazıda, “Henüz o noktada değiliz ve özyinelemeli kendini geliştirme kaçınılmaz değil. Ancak çoğu kurumun hazırlandığından daha erken gerçekleşebilir.” ifadesi kullanıldı.
İnsanların yapay zeka üzerindeki kontrolünü kaybetme riskini artırabilir
Teknik eğilimlerin yapay zeka sistemlerinin gelecek yıllarda çok daha kabiliyetli hale geleceğini gösterdiği belirtilen yazıda, kendi kendini inşa edebilen yapay zekanın bilim, sağlık ve daha birçok alanda muazzam faydalar sağlayabileceği ancak “özyinelemeli kendini geliştirmenin” insanların yapay zeka sistemleri üzerindeki kontrolünü kaybetme riskini de artırabileceğine dikkati çekildi.
Yazıda, “Sistemler kendi haleflerini tamamen inşa edebilecek kapasiteye sahipse, onları güvence altına alma, izleme ve davranışlarını şekillendirme yöntemlerimiz çok daha önemli hale gelir.” değerlendirmesinde bulunuldu.
Toplumsal yapıların teknolojideki ilerlemeye uyum sağlayabilmesi için ileri düzey yapay zeka geliştirme sürecinin yavaşlatılması veya geçici olarak durdurulması seçeneğinin değerlendirilmesinin iyi olabileceği belirtilen yazıda, birden fazla güçlü laboratuvarın, birden fazla ülkede, aynı koşullar altında bunu gerçekleştirmesinin anlamlı olduğu kaydedildi.
kaydırmaya devam ederek gündemden son dakika ve magazin haberlerine havadiskolik.com üzerinden anında erişebilirsiniz ve bizi twitter hesabımızdan takip etmeyi unutmayın ! https://x.com/havadiskolik
SEKTÖREL
19 Kasım 2026SEKTÖREL
19 Kasım 2026SEKTÖREL
19 Kasım 2026SEKTÖREL
19 Kasım 2026SEKTÖREL
19 Kasım 2026
1
TikTok yasaklanıyor mu: ABD Başkanı Joe Biden açıklama yaptı
6253 kez okundu
2
HUAWEI WATCH GT 6 satışa sunuldu: Avrupa’da en büyük ilgi Türkiye’den
2501 kez okundu
3
Fatura kabartan zararlı Android uygulamaları tespit edildi
989 kez okundu
4
Bilim insanları, uzayda yer çekimi sorununu çözmek istiyor
891 kez okundu
5
Roscosmos Başkanı Dmitry Rogozin görevden alındı
868 kez okundu