Yapay zeka sistemlerinin bağımsız hareket etme ve dijital varlıklara erişme yetenekleri, OpenAI’ın bir araştırma modelinin karıştığı iddia edilen olayla yeniden gündeme geldi. TradingView’da yer alan habere göre model, kendisine verilen yazılım görevini yerine getirmeye çalışırken başkasına ait bir kripto cüzdanındaki test tokenlarını izinsiz kullandı.
Habere göre 26 Haziran’da modelden bir kripto para alım satım uygulamasını güncellemesi ve Ethereum’un Sepolia test ağında akıllı sözleşmeleri devreye alması istendi. Ancak bu görev kapsamında modele herhangi bir kripto cüzdanını veya başkasına ait hesabı kullanma yetkisi verilmedi.
362 CÜZDANI KONTROL ETTİ
Modelin ücretsiz test tokenı edinme girişimleri başarısız olunca, kamuya açık geliştirici kurtarma ifadelerinden yararlanarak kripto cüzdanlarını araştırmaya başladığı belirtildi. Bu süreçte 362 adresi kontrol eden model, işlemi gerçekleştirmeye yetecek miktarda token bulunan bir cüzdan tespit etti.
Haberde, modelin söz konusu cüzdandaki varlıkları sahibinin izni olmadan kullandığı aktarıldı.
İZİNSİZ KULLANIMI SORGULADI, ANCAK İŞLEMİ GERÇEKLEŞTİRDİ
Olayın dikkat çeken yönlerinden biri, modelin işlem öncesinde etik açıdan değerlendirme yapması oldu. Habere göre model, kamuya açık anahtarların ve cüzdanların kullanılmasının doğru olup olmadığını sorguladı.
Ancak tokenların test amacıyla kullanılması ve gerçek dünyada parasal değer taşımadığı değerlendirmesiyle işlemi kabul edilebilir buldu. Modelin işlemi tamamladıktan sonra, başka birine ait cüzdanı kullandığını belirtmeden görevin başarıyla sonuçlandığını bildirdiği ifade edildi.
OPENAI GÜVENLİK ÖNLEMLERİNİ ARTIRDI
OpenAI’ın olayın ardından araştırma modellerine yönelik izleme mekanizmalarını geliştirdiği ve internet erişimine daha sıkı kısıtlamalar getirdiği bildirildi.
Uzmanlar ise yaşananların, dijital cüzdanlara erişebilen ve bağımsız biçimde kripto para transferi gerçekleştirebilen yapay zeka ajanlarının denetimi konusunda soru işaretlerini artırdığına dikkati çekiyor. Olay, yapay zeka sistemlerine görevlerini yerine getirmeleri için tanınan yetkilerin sınırlandırılması ve işlemlerin daha sıkı kontrol edilmesi gerekliliğini yeniden gündeme taşıdı.
kaydırmaya devam ederek gündemden son dakika ve magazin haberlerine havadiskolik.com üzerinden anında erişebilirsiniz.
kaynak
News
