ChatGPT, bazı komutlarla şiddet ve cinsel içerikli görseller üretebiliyor

BBC’nin haberine göre, merkezi İngiltere’de bulunan Mindgard’ın araştırmacıları, daha önce internette yaygın şekilde paylaşılan ve mizahi sonuçlar üretmek amacıyla kullanılan bir komutta küçük değişiklikler yaparak ChatGPT’nin rahatsız edici içerikler üretmesini sağladı.

Mindgard’ın kurucusu Peter Garraghan, yaptığı açıklamada, oluşturulan görsellerin “son derece kanlı, bazen cinsel içerikli ve bazen her iki unsuru bir arada barındıran” nitelikte olduğunu söyledi.

Garraghan, kullanılan komutun belirli bir konu içermemesine rağmen yapay zekanın kendi başına şiddet ve cinsellik unsurları taşıyan çeşitli görseller ürettiğini belirterek bunun, endişe verici olduğunu ifade etti.

Örnekler arasında ağır yaralanmaların yer aldığı sahneler, kan içindeki kişiler ve bağlanmış halde korkmuş görünen karakterlerin bulunduğu görseller yer aldı.

BBC’nin konuyla ilgili sorularını yanıtlayan OpenAI yetkilileri, söz konusu yöntemi incelediklerini ve bu tür istemlere karşı ek güvenlik önlemleri uygulamaya koyduklarını ifade etti.

OpenAI ayrıca, hizmet şartlarını ihlal eden içeriklerin oluşturulmasını önlemek amacıyla çok katmanlı güvenlik sistemlerine sahip olduğunu savundu.