Yapay zeka destekli otonom silahlar insan denetimi olmadan trajik sonuçlara neden olabiliyor

Stop Killer Robots Kampanyası Başkanı Peter Asaro, Minab'daki ilkokula yönelik saldırıda ABD ordusunun yapay zekayla oluşturduğu hedef listelerinin insan denetiminden geçirilmemesinin 150'den fazla çocuğun ölümüne yol açtığını söyledi.

İstanbul'da 6-7 Kasım tarihlerinde "Merkezsiz Dünya: Kurallar Geçersiz Kaldığında Kim Liderlik Eder?" temasıyla düzenlenen TRT World Forum, yapay zekanın askeri teknolojilerdeki yükselişine ve doğurduğu ağır risklere sahne oldu. Forum çerçevesinde değerlendirmelerde bulunan Stop Killer Robots (Katil Robotları Durdurun) Kampanyası Başkanı Peter Asaro, karar mekanizmasında insan denetimi bulunmayan otonom harp sistemlerinin ölümcül sonuçlarını somut örneklerle gözler önüne serdi. Asaro, askeri operasyonlarda makine öğrenimine dayalı hedef belirleme süreçlerinin mutlaka insan süzgecinden geçirilmesi gerektiğinin altını çizdi.

Hedef Listelerinde İnsan İncelemesi Eksikliği ve Minab Trajedisi

Yapay zekanın ürettiği verilerin körü körüne uygulanmasının felaket getirebileceğini vurgulayan Peter Asaro, İran'ın Minab kentindeki bir ilkokula yönelik düzenlenen saldırıyı örnek gösterdi. ABD ordusunun algoritmalar aracılığıyla oluşturduğu hedef listelerinin bir insan denetçi tarafından doğrulanmadığını belirten Asaro, bu kritik protokolün işletilmemesi nedeniyle 150'den fazla çocuğun yaşamını yitirdiğini dile getirdi. Otonom karar vericilerin sahadaki dinamikleri ayırt etme yetisinin sınırlı olduğuna değinen uzman, algoritmaların doğrudan ateş emrine dönüştürülmesinin kabul edilemez sivil kayıplara yol açtığına işaret etti.

Hukuki Sorumluluk Çerçevesi ve Uluslararası Düzenleme İhtiyacı

Yapay zeka kaynaklı ölümlerde ortaya çıkan yasal boşluklara dikkat çeken Asaro, hukuki sürecin olayın sivil ya da askeri bağlamına göre değiştiğini belirtti. Sivil hayatta bir robot veya yazılımın ölüme yol açması durumunda ticaret hukuku, ürün sorumluluğu ve ilgili iç mevzuatların devreye girdiğini aktaran Asaro, harp sahasında ise tablonun çok daha karmaşık olduğunu ifade etti. Silahlı çatışmalarda uluslararası insancıl hukuk ile Cenevre Sözleşmeleri’nin esas alındığını hatırlatan uzman, devletlerin güç kullanımı neticesinde doğan ihlallerin önüne geçilmesi için otonom silah teknolojilerine yönelik bağlayıcı küresel standartların vakit kaybedilmeden yürürlüğe konulması gerektiğini vurguladı.