İnsanlık tarihindeki her büyük teknolojik devrim, beraberinde yeni güvenlik sorunları da getirmiştir. Barut savaşları değiştirmiş, sanayi devrimi kitlesel silah üretimini mümkün kılmış, nükleer teknoloji ise ilk kez insanlığın kendi kendisini yok etme kapasitesine ulaşmasına neden olmuştur. Bugün ise benzer bir dönüm noktasındayız: sentetik zekâ ile çalışan silah sistemleri.
Son yıllarda yapay zekâ kavramı gündelik dilde oldukça yaygınlaşmıştır. Ancak askeri teknolojilerde kullanılan sistemlerin önemli bir kısmı aslında insan benzeri bilinçten çok uzak, belirli görevleri yerine getirmek üzere tasarlanmış sentetik karar sistemleridir. Buna rağmen bu sistemler giderek daha fazla ölümcül kapasiteyle donatılmaktadır.
Bir zamanlar yalnızca bilim kurgu filmlerinde gördüğümüz otonom silahlar artık gerçektir. Hedef tespiti yapabilen, tehdit analizi gerçekleştirebilen, rota belirleyebilen ve belirli koşullarda ateş açabilen sistemler dünyanın farklı bölgelerinde kullanılmaya başlanmıştır. Bu durum güvenlik açısından bazı avantajlar sunsa da beraberinde ciddi riskler getirmektedir.
Birinci risk, insan denetiminin zayıflamasıdır.
Savaş hukuku ve askeri etik yüzyıllardır insan sorumluluğu üzerine kuruludur. Bir askerin verdiği karar sorgulanabilir, bir komutanın emri denetlenebilir. Ancak karmaşık algoritmaların verdiği kararların nasıl oluştuğunu anlamak her zaman mümkün olmayabilir. Bir hedef yanlış tanımlandığında veya bir sivil unsur düşman unsuru olarak algılandığında sorumluluk kime ait olacaktır? Yazılımcıya mı, üretici şirkete mi, komutana mı, yoksa algoritmaya mı?
İkinci risk, hata hızının insan hızını aşmasıdır.
İnsanlar hata yapar; ancak insanlar aynı zamanda tereddüt eder, vicdani değerlendirme yapar ve bazen son anda karar değiştirebilir. Sentetik zekâ sistemleri ise milisaniyeler içinde karar verebilir. Bu durum savunma açısından avantaj gibi görünse de yanlış veriyle çalışan bir sistemin çok kısa sürede büyük yıkımlara neden olabilmesi anlamına gelir.
Üçüncü risk, siber güvenliktir.
Modern silah sistemleri büyük ölçüde yazılıma bağımlıdır. Bir yazılım güncellemesindeki hata, bir iletişim ağındaki güvenlik açığı veya kötü niyetli bir siber saldırı otonom sistemlerin beklenmedik davranışlar göstermesine yol açabilir. Geleceğin savaşlarında yalnızca tanklar ve uçaklar değil, algoritmalar da hedef alınacaktır.
Dördüncü risk, silahlanma yarışının hızlanmasıdır.
Nükleer silah geliştirmek yüksek maliyet ve uzun süre gerektirirken sentetik zekâ temelli sistemler çok daha düşük maliyetlerle geliştirilebilmektedir. Bu durum yalnızca devletlerin değil, devlet dışı aktörlerin de gelişmiş saldırı kapasitesi elde etmesine neden olabilir. Terör örgütleri, organize suç ağları veya radikal gruplar otonom sistemleri kullanmaya başladığında küresel güvenlik mimarisi çok daha karmaşık hâle gelecektir.
Beşinci risk ise psikolojik ve toplumsal boyuttur.
Sentetik zekâ destekli sistemler yalnızca fiziksel saldırılar için kullanılmaz. Bilgi operasyonları, algı yönetimi, sahte görüntü üretimi ve dijital propaganda faaliyetleri de sentetik zekâ ile güçlenmektedir. Bu nedenle geleceğin savaşları yalnızca cephelerde değil, insanların zihinlerinde de yaşanacaktır.
Burada üzerinde düşünülmesi gereken daha derin bir mesele bulunmaktadır.
Tarih boyunca savaş kararı veren taraflar savaşın sonuçlarıyla yüzleşmiştir. Oysa otonom sistemlerin yaygınlaşması, savaşın insani maliyetinin karar vericiler açısından görünmez hâle gelmesine yol açabilir. İnsan unsurunun sahadan çekildiği bir dünyada, silahlı çatışmaya başlama eşiği düşebilir. Bu da uluslararası istikrarsızlık riskini artırabilir.
Bu nedenle sentetik zekâ ile çalışan silah teknolojilerinin tartışılması yalnızca askeri uzmanların konusu değildir. Hukukçuların, etik uzmanlarının, bilgisayar mühendislerinin, diplomatların ve kamu yöneticilerinin de bu tartışmaya katılması gerekmektedir.
Türkiye açısından bakıldığında ise konu ayrı bir stratejik önem taşımaktadır. Türkiye güçlü bir savunma teknolojisi ekosistemi geliştirmektedir. Ancak teknolojik kapasite ile etik sorumluluğun birlikte ilerlemesi gerekir. Amaç yalnızca daha gelişmiş sistemler üretmek değil; aynı zamanda insan denetimini koruyan, uluslararası hukukla uyumlu ve güvenilir teknolojiler geliştirmektir.
Sonuç olarak mesele teknolojiye karşı olmak değildir. Sentetik zekâ birçok alanda insanlığa büyük faydalar sağlayabilir. Ancak ölümcül güçle birleştiğinde ortaya çıkan risklerin göz ardı edilmesi mümkün değildir.
Çünkü insanlık tarihinde ilk kez, karar alma kapasitesinin bir kısmını makinelere devretmeye başlamaktayız.
Asıl soru şudur:
Teknolojiyi kontrol eden insanlar mı olacak, yoksa bir gün insanlar teknolojinin ürettiği kararların peşinden gitmek zorunda mı kalacak? Bu soruya vereceğimiz cevap, yalnızca geleceğin savaşlarını değil, geleceğin medeniyetini de şekillendirecektir.
Adem Bilgin
English
German
Russian
Arabic