Savunma sektöründe yapay zekâ uygulamaları süratle yaygınlık kazanırken, Çin merkezli uzmanlar tarafından muharebe sahasındaki kritik bir tehlikeye işaret edildi. Çinli mühendisler, büyük dil modellerinin son derece tutarlı görünen fakat fiiliyatta hiçbir geçerliliği olmayan askerî veriler üretebileceğini ortaya koydu. Yapay zekâ halüsinasyonu şeklinde tanımlanan bu durum; hayalî askerî tesislerden uydurma silah parametrelerine, hatalı radar kayıtlarından fizik kurallarını ihlal eden hava aracı konseptlerine kadar geniş bir yelpazeyi kapsıyor. Uzman değerlendirmelerine göre, doğrulanmadan devreye alınan tek bir hatalı veri dahi savunma mekanizmalarının geliştirilmesinde telafisi güç sonuçlar doğurabilir.
Muharebe Alanında Yeni Risk: Yapay Zekâ Halüsinasyonu
Yapay zekâ altyapılarının gerçek dışı verileri mutlak doğru gibi sunması, bilişim dünyasında uzun süredir tartışılan temel problemler arasında yer alıyor. Ancak bahse konu yanılgının savunma sanayisi ve askerî strateji sahasına sirayet etmesi halinde doğabilecek zafiyetlerin çok daha ağır olacağı öngörülüyor.
Söz konusu ikazın dikkat çeken boyutu ise değerlendirmeyi yapan mühendislerin görev yaptığı kurum oldu. İlgili tespitlerin, J-20 savaş uçağının imalat sürecinde kilit rol üstlenen ve yeni nesil J-36 projesinde de yer aldığı ifade edilen AVIC Chengdu Aircraft Research and Design Institute bünyesindeki uzmanlarca hazırlandığı belirtildi.
Çalışmaya dair detayların, Çin devlet savunma kuruluşu Norinco bünyesinde fliyet gösteren Information Studies: Theory & Application adlı yayında 20 Haziran tarihinde kamuoyuyla paylaşıldığı kaydedildi.
Hatalı Bilgiler Uçak Geliştirme Süreçlerini Yanıltabilir
Modern bir savaş jetinin projelendirilmesi yalnızca aerodinamik kabiliyet, itki gücü ya da mühimmat kapasitesi odaklı yürütülmüyor. Tasarımcıların muhtemel hasımların askerî kapasitesini de en ince ayrıntısına kadar hesaba katması gerekiyor.
Hedef unsurların radar kapsama sahası, çalışma frekansları, füze angajman menzilleri, elektronik harp sistemleri, havadan erken ihbar unsurlarının konuşlanma alanları ve kara konuşlu hava savunma bataryaları gibi kritik göstergeler tasarım aşamasında doğrudan yön belirleyici oluyor.
Elde edilen bu parametreler uçağın radar kesit alanından algılayıcı donanımlarına, menzil kapasitesinden manevra sınırlarına dek sayısız mühendislik tercihini şekillendiriyor. Yapay zekâ kaynaklı asılsız bir bilginin gerçek istihbarat girdisi olarak kabul edilmesi, tasarımın en başında hatalı temeller üzerine inşa edilmesine yol açabiliyor.
Gerçekte Var Olmayan Platformlara Teknik Donanım Atanabiliyor
Chengdu uçak tasarım enstitüsüyle ilişkili uzman Zhang Xianzhe tarafından aktarılan bilgilere göre, büyük dil modellerinin yarattığı en büyük tehdit, kurgusal unsurları gerçeğinden ayırt etmeyi imkânsız kılacak ölçüde profesyonel çıktılar oluşturabilmesinden kaynaklanıyor.
Gelişmiş bir yapay zekâ modeli, varlığı kanıtlanmamış bir savaş uçağı için fiziksel ebatlar, maksimum sürat, faydalı yük kapasitesi, harekât yarıçapı veya görev profili gibi teknik detaylar kurgulayabiliyor. Benzer şekilde radar teknolojileri için fiilen mevcut olmayan tarama yarıçapları veya frekans aralıkları uydurabiliyor.
Tehlikenin ana kaynağı ise paylaşılan sayısal verilerin mantık sınırları içinde görünmesi. Üretilen teknik ayrıntılar mevcut mühendislik standartlarıyla uyumlu olduğunda, yanılgının tespit edilmesi ciddi oranda güçleşiyor.
Kurgusal Askerî Tesisler ve Birlikler Üretilebilir
Mevcut tehdit yalnızca silah sistemlerinin teknik özellikleriyle de sınırlı kalmıyor. Yapay zekânın askerî istihbarat tahlillerinde kullanılması halinde, sahada bulunmayan askerî karargâhlar, taburlar veya yapay hareketlilikler kurgulayabileceği ifade ediliyor.
Doğrulanmamış bu tip bir girdinin diğer karar destek sistemlerine aktarılması, operasyonel zincirde zincirleme hatalara sebebiyet verebilir. Var olmayan bir askerî birliğin harekât simülasyonlarına dahil edilmesi, hasım gücün kapasitesinin yanlış hesaplanmasıyla sonuçlanabilir.
Fizik Kurallarıyla Çelişen Mühendislik Önerileri
Çinli uzmanların altını çizdiği bir diğer önemli husus, yapay zekânın sunduğu teknik çözümlerin fiziksel şartlarla her zaman bağdaşmamasıdır.
Algoritmalar teorik bağlamda kusursuz görünen ancak reel test koşullarında mukavemet gösteremeyecek malzeme bileşenlerini önerebiliyor. Benzer şekilde aerodinamik gerçeklikle örtüşmeyen manevra senaryoları ya da yakıt kapasitesini aşan operasyonel menziller tayin edilebiliyor. Sonuç itibarıyla simülasyon ortamında mükemmel duran bir planlamanın, gerçek muharebe koşullarında tatbik edilmesi mümkün olmuyor.
Veri Fazlalığı Denetimi Zorlaştırıyor
Sistemlerin denetiminde insan faktörünün korunması, risklerin asgariye indirilmesinde en temel emniyet unsuru olarak değerlendiriliyor. Ancak burada üretilen bilginin devasa hacmi yeni bir engel teşkil ediyor.
Yapay zekâ altyapıları, insan uzmanların manuel yöntemlerle inceleyebileceğinden çok daha fazla teknik rapor ve analiz türetiyor. Hacmin katlanmasıyla birlikte her bir satırın teyit edilmesi zorlaşıyor. Temel mesele sadece yanlış bilginin varlığı değil; az sayıdaki yanıltıcı bilginin binlerce doğru teknik veri içerisine kamufle olmasıdır.
Doğrulanmış Askerî Veri Bankaları Şart
Zhang tarafından tavsiye edilen öncelikli çözüm, savunma sanayisinde yararlanılan yapay zekâ altyapılarının yalnızca teyit edilmiş askerî veri kaynaklarıyla sınırlandırılması esasına dayanıyor. Böylece modellerin açık internet kaynaklarından spekülatif çıkarımlar yapmasının önlenmesi hedefleniyor.
Ayrıca sistemin kullandığı bilginin kaynağını açıkça sunabilen şeffaf ve denetlenebilir veri havuzlarının kurulmasının zorunlu olduğu aktarılıyor. Bunun yanı sıra modellere verilen komutların yoruma kapalı, net ve çerçevesi çizilmiş ifadelerden oluşması gerektiği vurgulanıyor.
