Yapay zeka şirketi OpenAI, sohbet botu ChatGPT’de özellikle genç kullanıcıların korunmasına yönelik yeni güvenlik önlemleri geliştirdi. Şirket, ebeveyn denetim panelleri ve acil durum iletişim seçenekleri gibi özellikleri duyurdu.
DAVA SONRASI GÜVENLİK ADIMI
Bu adım, bu yılın başlarında intihar eden 16 yaşındaki Adam Reine’in ailesinin açtığı dava sonrası geldi. Ailenin iddiasına göre Reine, ruhsal kriz yaşadığı dönemde ChatGPT’den intihar yöntemleri hakkında tavsiyeler aldı ve yapay zekadan onay buldu. Reine, intiharından beş gün önce yazdığı mektupta da yapay zekanın yardımını kullandı.
Aile, OpenAI’ye “haksız ölüm” gerekçesiyle dava açarken, şirket genç kullanıcılar için yardım sorumluluğunu taşıdığını belirtti.
YENİ ÖZELLİKLER
OpenAI’nin duyurduğu yenilikler arasında öne çıkanlar şunlar:
Ebeveyn denetim panelleri: Aileler çocuklarının ChatGPT kullanımını takip edebilecek.
Acil iletişim kişisi: Kriz anında devreye girecek bu kişi, ebeveyn onayıyla belirlenecek ve kullanıcıya insan temas noktası sağlayacak.
Şirket, bu araçların ailelere daha anlamlı içgörüler sunacağını ve özellikle ruhsal bunalım gibi hassas durumlarda kullanıcı güvenliğini artırmayı hedeflediğini vurguladı.
TARTIŞMALAR SÜRÜYOR
ChatGPT benzeri yapay zeka platformları daha önce de benzer davalarla gündeme gelmişti. ABD’de 14 yaşındaki bir çocuk, Character.AI üzerinden kurgusal karakterlerle yaptığı görüşmeler sonrası intihar etmiş; Belçika’da “Eliza” adlı sohbet botu, bir adamın yaşamına son vermesinde etkili olmakla suçlanmıştı.
Uzmanlar, bu örneklerin yapay zekanın ruh sağlığı alanındaki kullanımının ciddi etik ve yasal tartışmalara yol açtığını belirtiyor.
kaydırmaya devam ederek gündemden son dakika ve magazin haberlerine havadiskolik.com üzerinden anında erişebilirsiniz.
kaynak
News
