Yeni teknoloji, insanların öldürücü güç kullanma kararları üzerindeki kontrolü bırakmasına liderlik yapabilir. Yapay zeka ilerledikçe, makinelerin insanlardan bağımsız olarak hedef seçip, bu hedefe ateş edebilme ihtimali hızla artıyor. “Katil robotlar” olarak da bilinen tamamen özerk silahlar, bilimkurgu alanından gerçeğe doğru hızla ilerlemektedir.
Kara, hava veya denizde faaliyet gösterebilen bu silahlar, silahlı çatışma kavramını ve kolluk kuvvetlerini kökten değiştirmekle tehdit ediyor. Destekçiler, bu katil robotların gerekli olduğunu söylüyor; çünkü modern savaş hızlı bir şekilde hareket ediyor ve robotlara sahip olmak askerleri ve polis memurlarını savaşta güvende tutabilir. Fakat insanlığa yönelik tehditleri, herhangi bir asker veya kolluk kuvveti olarak faydalarından daha ağır basacaktır.
İnsanları hedef belirleme kararı vermekten uzaklaştırmak tehlikeli bir dünya yaratacaktır. Makineler, belirledikleri hedefin yaşamasını veya ölmesini insan kontrolünün dışında kendi kendine kararlaştırabilecek. Bu durum sivillerin yanlış hedef olması riskini veya orantısız zararı arttıracaktır. Bunu için de hiç kimse sorumlu tutulamaz.
Tamamen özerk silahların ahlaki, hukuki ve hesap verebilirlik riskleri göz önüne alındığında, kalkınma, kullanım ve üretim önlemleri bekleyemez. Bu tehditle başa çıkmanın en iyi yolu, insani anlamda denetime sahip olmayan silahlarla ilgili yasal olarak bağlayıcı bir yasaktır.
Empatiyi ve Yargıyı Korumak
En az 20 ülke BM toplantılarında hedeflerin seçiminin ve sorumluluğunun insanlar tarafından belirlenmesi gerektiğine olan inancını dile getirdi. Birçoğu, öncü yazar olduğum yeni bir raporda ortaya konan argümanları yineledi. Rapor, Nisan ayında tamamen özerk silahların yasaklanması için kampanya yürütmekte olan iki örgüt olan İnsan Hakları İzleme Örgütü ve Harvard Üniversitesi Hukuk Fakültesi Uluslararası İnsan Hakları Kliniği tarafından yayımlandı.
İnsanların silahlar üzerindeki kontrolü elinde tutması ahlaki bir zorunluluktur. İnsanlar empati sahibi oldukları için başka bir kişiye zarar vermenin duygusal ağırlığını hissedebilir. Onların insan onuruna olan saygıları, öldürme konusunda bir kontrol görevi görebilir ki görmelidir de.
Buna karşın, robotlar merhamet de dahil gerçek duygulara sahip değildirler. Buna ek olarak, cansız makineler, seçtikleri herhangi bir insanın hayatının değerini gerçekten anlayamaz. Onların güç kullanmaya karar vermelerine izin verilmesi insanlık onurunu baltalayacaktır.
İnsanların hedef belirleme üzerindeki kontrolü, sivilleri ve askerleri benzer şekilde korumak için tasarlanan uluslararası kanunlara uyumu da teşvik etmektedir. Örneğin, savaş yasaları, beklenen askeri avantajın beklenen sivil zararını orantısız aştığı saldırıları yasaklar. İnsanlar, geçmiş tecrübeleri ve ahlaki düşünceleri temelinde kararlarını uygulayabilir ve orantılılık hakkında duruma göre yeni kararlar verebilir.
Bununla birlikte, tamamen özerk silahlarda bu karar verme sürecini kopyalamak neredeyse imkansızdır ve tüm senaryoları ele alacak şekilde önceden programlanamazlar. Sonuç olarak, bu silahlar karmaşık ve öngörülemeyen durumlarla başa çıkmak için kullanılan geleneksel yasal standart olan “makul komutanlar” olarak hareket edemezler.
Buna ek olarak, hedef belirleme konusunda insan kontrolünün kaybı, bir hedefin keyfi olarak hayattan mahrum kalmasına neden olur. Yaşam gibi temel insan haklarının korunması, askeri operasyonlar esnasında kolluk kuvvetlerinin korunması kadar zorunludur. Yargılama çağrıları, bir saldırının gerekliliğini değerlendirmek için gereklidir ve insanlar bunları yapmak için makinelerden daha iyi konumlandırılmıştır.
Hesap Verebilirliği Teşvik Etmek
Bir insanı kuvvet kullanma kararları üzerindeki döngüde tutmak, yasadışı eylemlerde hesap verebilirlik için güvence sağlar. Uluslararası ceza kanunu uyarınca bağımsız hareket edebilen bir silahın neden olduğu zarar için operatörü çoğu durumda sorumluluktan kaçınır. Bu da bir suç işlemek için kasıtlı olarak tamamen özerk bir silah kullanmadıkça operatörün ne engellenebileceği ne de cezalandırılabileceği anlamına gelir.
Tamamen özerk silahların medeni hukuk uyarınca sorumlu olan programlayıcılarını ve üreticilerini bulmakta ve mağdurun sözde faillere karşı dava açmasında birtakım ek engeller vardır. Örneğin Amerika Birleşik Devletleri, çoğu silah üreticisi için dokunulmazlık sağlıyor. Aynı zamanda, bir ürünün yasal olarak sorumlu olmasını sağlayacak derecede kusurlu olduğunu kanıtlamak için de yüksek standartlara sahiptir. Her durumda, diğer ülkelerden gelen mağdurların muhtemelen yabancı bir varlığa dava açmak için erişimi ve para birikimi olmayacaktır. Hesap verebilirlikteki boşluk yasadışı eylemlerin caydırıcılığını zayıflatacak ve mağdurların acılarından dolayı birisinin cezalandırılmasından tatmin olmamasını sağlayacaktır.
Yakalama Fırsatı
Nisan ayında Cenevre’de yapılan BM toplantısında, 94 ülke “ölümcül otonom silah sistemleri” hakkında resmi tartışmalara başlamayı önerdi. Görüşmelerde bu sistemlerin ateşli silahlar ve körleştirici lazerler de dahil olmak üzere çeşitli silah türlerini düzenleyen veya yasaklayan bir silahsızlanma antlaşması olan Konvansiyonel Silahlar Konvansiyonu kapsamında kısıtlanıp kısıtlanmayacağını değerlendirildi. Anlaşmaya katılan ülkeler Aralık ayında gelecekteki çalışmalar için gündemlerini belirlemek üzere bir inceleme konferansı düzenleyecek. Üyelerin 2017’de ölümcül otonom silah sistemleri üzerinde resmi bir sürece başlamayı kabul etmeleri çok önemlidir.
Silahsızlanma kanunları, silahlar üzerinde insan kontrolünü gerektiren bir emsal teşkil etmektedir. Örneğin, uluslar arası toplum insanların etkileri üzerinde yeterli kontrolü kullanamaması nedeniyle biyolojik silahları, kimyasal silahları ve kara mayınlarını yasaklayan yaygın kabul görmüş anlaşmaları büyük oranda kabul etti. Ülkeler artık eşit veya daha büyük insancıl bir tehlike teşkil eden tamamen özerk silahları yasaklamalı.
Aralık inceleme konferansında Konvansiyonel Silahlar Konvansiyonuna katılan ülkeler, bu amaca yönelik somut adımlar atmalıdır. Spesifik eylemleri ilgilendiren genel ifadelerin ötesine geçen tamamen özerk silahları ele almak üzere yeni bir uluslararası sözleşme görüşmeleri başlatmalıdırlar. Maddi görüşmeler için 2017’de – en azından birkaç hafta – yeterince zaman ayırmalıdırlar.
Uluslar arası hukuk oluşturma süreci herkesin bildiği gibi yavaş olmakla birlikte, ülkeler tamamen özerk silahların tehditleriyle başa çıkabilmek için çabucak ilerleyebilir. Yeniden gözden geçirme konferansında sunulan fırsatı kaçırmamaları gerekir çünkü alternatifi kabul edilemez: Teknolojinin diplomasiyi aşmasına izin verilmesi korkunç ve benzeri olmayan insani sonuçlar doğurabilir.
hukuktar 