Risk büyük… Birleşmiş Milletler (BM), "katil robotlar" olarak da anılan otonom silahlara sınır getirmek için Pazartesi günü Cenevre'de konferansa başlıyor.
Dolayısıyla yapay zeka destekli ölümcül otonom silahlar savaşın doğasını kökten değiştirmeye hazırlanırken, bu teknolojiyi denetleyecek yasal bir çerçeve henüz yok.
Bu kapsamda belirli Konvansiyonel Silahlar Sözleşmesi (CCW) kapsamında yapılacak toplantıların, hızla gelişen silah teknolojisine yetişip yetişemeyeceği ise tartışmalı.
BM Genel Sekreteri Antonio Guterres ve Uluslararası Kızılhaç Komitesi Başkanı Mirjana Spoljaric, Ağustos ayında yayımladıkları ortak bildiride tehlikeye dikkat çekti.
Doyayısıyla iki lider, "Ahlaki bir kırmızı çizgiyi aşmaya tehlikeli biçimde yaklaştık: Makinelerin insanları otonom olarak hedef alması" uyarısını yaptı.
Yine Guterres ve Spoljaric, otonom silah sistemlerinin uzak bir geleceğin parçası olmadığını ve bu alandaki yarışın çoktan başladığını vurguladı.
BU KONUDA İNSAN KONTROLÜ NEREDE BAŞLIYOR VE NEREDE BİTİYOR?
Aynı şekilde Cenevre Güvenlik Politikaları Merkezi Küresel ve Yükselen Riskler Bölüm Başkanı Jean-Marc Rickli, Ölümcül Otonom Silah Sistemleri'ni (LAWS) tanımladı.
Bu arada Fransız AFP ajansına konuşan Rickli, bu sistemlerin "bir insan operatörün müdahalesi olmadan hedefi belirleyebildiğini, seçebildiğini ve hedefe yönelebildiğini" söyledi.
Bilindiği gibi aslında otonom silahlar uzun süredir var.
Bu konuda Fransa Uluslararası İlişkiler Enstitüsü (IFRI) Teknoloji Jeopolitiği Merkezi'nden Laure de Roucy-Rochegonde, anti-personel mayınlarının da üzerine basıldığında patladığı için bu anlamda otonom sayıldığını belirtti.
Yine de yapay zeka destekli insansız hava araçlarının (İHA) yaygınlaşması durumu değiştirdi.
Aynı şekilde yine Rickli'ye göre bu silahlar artık "önceden belirlenmemiş bir hedefi seçip vurabiliyor ve insan müdahalesi olmadan çevrelerine uyum sağlayabiliyor".
Dolayısıyla düzenleyiciler için temel mesele, silahın kullanım kararında insan kontrolünün ne düzeyde olacağını belirlemek.
Amerika'nın, otonom silahların kullanımında "uygun düzeyde insan muhakemesi" ifadesini kullanıyor.
Bu arada Fransa ise insanın karar alma döngüsünde kalması gerektiğini savunuyor ve tam otonom sistemleri (LAWS) yasaklarken, "kısmen otonom" sistemlere (PLAWS) izin veriyor.
Yine Fransa Savunma Bakanlığı'na bağlı Savunma Yapay Zekası Ajansı (AMIAD) Başkan Yardımcısı Tümamiral Vincent Sebastien, insan rolünün askeri bir komutanın "uygun kontrolü" ile sağlandığını belirtti.
Bu arada Sebastien, bu kavramın kapsamının "sistemin kritikliğine ve operasyonel bağlama göre değiştiğini" ifade etti.
ARTIK CENEVRE'DEKİ GÜNDEM SAHADAKİ GERÇEĞE YETİŞEMİYOR
Bu konuda uzmanlar, Cenevre'deki görüşmelerin önemli olmakla birlikte meselenin yalnızca bir kısmına dokunacağını düşünüyor.
Günümüzde insan rolünün azalması, yapay zekanın analiz ve hedefleme alanlarında giderek daha fazla kullanılmasından kaynaklanıyor.
Yine Rickli, Cenevre'deki gündemin "çok dar" olduğunu ve "savaş alanındaki yapay zekayı çevreleyen tüm sorunları kapsayamadığını" söyledi.
Aynı şekilde Rickli, bunun bu yıl ABD ve İsrail'in İran'a karşı yürüttüğü savaşta görüldüğünü, "Amerikalıların İran içinde günde bin kadar hedefi vurduğunu" aktardı. De Roucy-Rochegonde ise "hedefleme ve karar destek sistemleriyle ilişkili bir dizi sorun ve kabul edilemez riskler" olduğunu ekledi.
Fransız uzman, "Bu tartışmanın bir kısmı, halihazırda savaş alanında yaygın olarak kullanılan sistemlerle ilgili" dedi.
De Roucy-Rochegonde şu soruyu sordu: "Operatörün, makinenin önerilerini sadece onaylamak yerine gerçekten kendi muhakemesini kullandığından emin olmak için nasıl bir insan denetimi gerekiyor?"
