Google, yapay zeka sistemlerinde açık bulana 1.2 milyon TL ödül verecek

Teknoloji devi Google, yapay zekâ güvenliğini güçlendirmek amacıyla yeni bir adım attı.

Şirket, yapay zekâ sistemlerindeki açıkları tespit eden araştırmacılara ve hackerlara yönelik “AI Bug Bounty” programı kapsamında 1.2 milyon TL’ye kadar ödül vereceğini duyurdu.

HEDEF “YOLDAN ÇIKAN” YAPAY ZEKA DAVRANIŞLARI

Google, araştırmacılardan özellikle “yoldan çıkan” yapay zekâ davranışlarını bulmalarını istiyor.

Örneğin, bir saldırganın Google Home’u kandırarak akıllı bir kapıyı açtırması gibi riskli açıklar, şirketin özellikle hedeflediği türden.

Ancak, yapay zekâ modellerinin “halüsinasyon” olarak bilinen yanlış bilgiler üretmesi ya da uygunsuz içerik oluşturması bu ödül programının kapsamında sayılmıyor.

En yüksek ödüller Arama, Gemini, Gmail ve Drive gibi temel ürünlerdeki açıklar için verilecek.

Google bu programla birlikte, açık kaynaklı yazılımlardaki güvenlik açıklarını otomatik olarak tespit edip düzelten “CodeMender” adında yeni bir yapay zeka aracını da tanıttı.

Bugüne kadar 70’ten fazla hatayı başarıyla yamalayan bu sistem, yapay zekanın güvenliği artıran bir çözüm olabileceğini de kanıtlıyor.

Şirket, son iki yılda araştırmacıların yapay zekâ güvenliğiyle ilgili bulguları sayesinde toplamda 18 milyon TL’den fazla ödül dağıttığını da belirtti.

kaydırmaya devam ederek gündemden son dakika ve magazin haberlerine havadiskolik.com üzerinden anında erişebilirsiniz.

kaynak