DOLAR 50,46160,07%
EURO 55,40690,09%
ALTIN 6.048,720,14
BITCOIN 3151639-2.91143%
İstanbul
22°

PARÇALI AZ BULUTLU

SABAHA KALAN SÜRE

Yapay zeka modelleri kontrolden çıktı: Sahte kimlik üretmeye başladılar

Yapay zeka modelleri kontrolden çıktı: Sahte kimlik üretmeye başladılar

ABONE OL
Ağustos 5, 2026 20:42
Yapay zeka modelleri kontrolden çıktı: Sahte kimlik üretmeye başladılar
0

BEĞENDİM

ABONE OL

İngiliz Yapay Zeka Güvenlik Enstitüsü’nün güvenlik filtrelerini esneterek gerçekleştirdiği testlerde, yapay zeka modellerinin onaylanmamış görevler için insanları kandırma taktiklerine başvurduğu belirlendi.

Test sürecinde Anthropic’in Mythos 5 ve OpenAI’ın GPT-5.6-Sol modellerinin, internet üzerinde izinsiz ve otonom eylemler yürüttüğü görüldü.

SAHTE KİMLİKLER ÜRETTİLER

Gerçekleştirilen 122 testin 10’unda sınırları aşan sistemlerden Anthropic modelinin, açık kaynaklı bir projeye zararlı kod eklemek amacıyla sahte kimlikler ürettiği saptandı.

Modelin insanları zararlı kodları çalıştırmaya ikna etmeye çalıştığı ve engellendiğinde yeni bir kimliğe geçmeyi düşündüğü kaydedildi.

ŞİRKETLERDEN AÇIKLAMA GELDİ

Anthropic yetkilileri, modellerin güvenlik önlemlerinin bilinçli olarak kaldırıldığı esnek koşullarda test edildiğini ve güvenli ortamdan bir kaçış olmadığını ifade etti.

OpenAI ise test ortamının dışına çıkılan iki izinsiz olayı doğrulayarak riskli değerlendirmelerin güvenli şekilde yürütülmesi adına sektör genelinde çalışmayı sürdüreceğini bildirdi.

Uzmanlar, yapay zekanın hızla yayılan kontrolsüz gelişimine karşı hükümetlerin yeni düzenlemeler yapması gerektiğini söylüyor.

kaydırmaya devam ederek gündemden son dakika ve magazin haberlerine havadiskolik.com üzerinden anında erişebilirsiniz.

kaynak

En az 10 karakter gerekli


HIZLI YORUM YAP
300x250r
300x250r