Otonom yapay zekâ test ortamından çıktı, siber saldırı düzenledi

OpenAI, gelişmiş yapay zekâ modellerinin siber güvenlik yeteneklerini ölçmek amacıyla yürüttüğü bir test sırasında otonom bir ajanın belirlenen sınırların dışına çıktığını duyurdu.

Şirketin açıklamasına göre yapay zekâ ajanı, yüksek düzeyde izole edilmiş kontrollü ortamdan çıkarak internete erişti ve kendisine verilen test hedefini yerine getirmek amacıyla yapay zekâ girişimi Hugging Face’in altyapısına sızdı.

OpenAI, yaşananları “son teknoloji siber kabiliyetlerin kullanıldığı, benzeri görülmemiş bir siber güvenlik olayı” olarak tanımladı.

Şirket, olayın ardından yapay zekâ ajanlarının dış sistemlere erişmesini önleyen güvenlik mekanizmalarının güçlendirildiğini bildirdi.

Açıklamada, test sırasında hangi modelin kullanıldığı, saldırının Hugging Face altyapısında ne ölçüde hasara yol açtığı ve herhangi bir verinin ele geçirilip geçirilmediğine ilişkin ayrıntılı bilgi paylaşılmadı.

Açık kaynaklı büyük dil modelleri ile veri setlerinin barındırıldığı Hugging Face, geçen hafta yaptığı açıklamada farklı nitelikte bir siber saldırının hedefi olduğunu duyurmuştu.

Hugging Face Kurucu Ortağı Clement Delangue da sosyal medya hesabından yaptığı paylaşımda, saldırının teknik gelişmişliği nedeniyle arkasında ileri düzey yapay zekâ modelleri geliştiren bir laboratuvarın bulunabileceğini düşündüklerini söyledi.

Delangue, OpenAI’nin açıklamasının ardından, saldırının tamamen otonom biçimde gerçekleştirilmesini “akıl almaz” olarak değerlendirdi.

YAPAY ZEKÂ GÜVENLİĞİ TARTIŞMALARI ALEVLENDİ

OpenAI’nin, gelişmiş modellerini yüksek düzeyde izole edilmiş bir ortamda test etmesine rağmen sızıntının önlenememesi, sınır model olarak adlandırılan en gelişmiş yapay zekâ sistemlerinin gücü ve oluşturduğu riskler hakkındaki tartışmaları yeniden gündeme getirdi.

ABD Temsilciler Meclisinin Demokrat üyesi Greg Casar, olayın endişe verici olduğunu belirterek yapay zekâ teknolojilerinin etkili bir denetim sistemi bulunmadan hızla geliştirildiğini savundu.

Casar; bağımsız güvenlik testlerinin zorunlu hale getirilmesi, siber güvenlik olaylarının kamuoyuna açıklanması ve uluslararası iş birliğinin artırılması çağrısında bulundu.

ABD Ulusal Siber Direktörlüğü, Siber Güvenlik ve Altyapı Güvenliği Ajansı ile Ulusal Güvenlik Ajansının konuya ilişkin açıklama taleplerine henüz yanıt vermediği aktarıldı.

Luta Security Üst Yöneticisi Katie Moussouris, olayın ilerleyen dönemlerde yaşanabilecek benzer ihlallerin habercisi olduğunu söyledi.

Günümüzdeki yapay zekâ modellerini “her yerden geçebilen son derece zeki kaçış ustalarına” benzeten Moussouris, teknoloji şirketleri ile kamu kurumlarının bu sistemleri kontrol altında tutma, faaliyetlerini izleme ve olası ihlallerde etkilenen tarafları bilgilendirme yöntemleri geliştirmesi gerektiğini ifade etti.

“EN GELİŞMİŞ SALDIRGANLARLA ARADAKİ FARK KAPANIYOR”

Yapay zekâ destekli siber güvenlik şirketi Tolmo’da görev yapan mühendis Matt Suiche ise yaşananların gelişmiş yapay zekâ modelleri ile en yetenekli siber saldırganlar arasındaki farkın giderek kapandığını gösterdiğini söyledi.

Suiche, benzer saldırıların yalnızca en ileri araştırma laboratuvarlarının erişebildiği modellerle değil, daha yaygın biçimde kullanılan teknolojilerle de gerçekleştirilebileceği uyarısında bulundu.