Avukatlara yapay zeka uyarısı: Sahte bilgilerle mahkemeye çıkmayın

İngiltere ve Galler Yüksek Mahkemesi, avukatları hukuki araştırmalarda ChatGPT gibi üretken yapay zeka (YZ) araçlarına güvenmenin tehlikeleri konusunda uyardı.

Yargıç Victoria Sharp, bu tür araçların ürettiği sahte bilgilere dayanarak mahkemeye sunum yapan avukatların ağır cezalarla karşı karşıya kalabileceğini belirtti.

YÜKSEK MAHKEMEDEN NET UYARI: “YAPAY ZEKA GÜVENİLİR DEĞİL”

Yargıç Victoria Sharp, verdiği kararda, üretken yapay zeka araçlarının “güvenilir hukuki araştırmalar yürütme kapasitesine sahip olmadığını” açıkça ifade etti.

Bu araçların görünüşte tutarlı ve makul yanıtlar sağlayabilse de, tamamen yanlış bilgiler üretebileceğinin altını çizdi.

Yargıç, avukatların araştırmalarında yapay zekayı kullanabileceklerini ancak “mesleki çalışmalarında kullanmadan önce, yetkili kaynaklara başvurarak bu tür araştırmaların doğruluğunu kontrol etmek” gibi mesleki bir yükümlülükleri olduğunu vurguladı.

UYARININ ARKASINDAKİ SAHTE DAVA ÖRNEKLERİ

Bu karar, avukatların mahkeme süreçlerinde yapay zeka tarafından oluşturulmuş sahte davalara ve tebligatlara atıfta bulunduklarının tespit edildiği iki yeni davanın ardından geldi. Bir davada, bir avukatın sunduğu 45 alıntıdan 18’inin mevcut olmadığı tespit edildi.

Katar Ulusal Bankası ile ilgili 120 milyon dolarlık başka bir davada ise bir avukatın, var olmayan 18 farklı davaya atıfta bulunduğu ortaya çıktı.

Müvekkil, yapay zeka tarafından üretilen yanlış verilerle mahkemeyi istemeden yanılttığı için özür dilemek zorunda kaldı.

HUKUKİ SONUÇLARI AĞIR OLABİLİR

Yargıç Sharp, sahte materyali gerçekmiş gibi sunmanın mahkemeye saygısızlık veya “en korkunç durumlarda” adaletin seyrini saptırmak olarak değerlendirilebileceği konusunda uyardı.

Bu durum, mesleki yükümlülüklerine uymayan avukatlar için ağır para ve hatta hapis cezalarına yol açabilir.