ABD ordusunda hazırlanan bir istihbarat raporundaki yapay zeka hatası, Çin’e ait ticari bir gemiye yönelik silahlı müdahalenin son anda durdurulmasına kadar uzandı. Olayı aktaran kaynaklara göre askeri uçaklar havalanmış, silahlı personel ise gemiye çıkmak üzere hazırlık yapmıştı. Operasyona gerekçe oluşturan bilginin hatalı olduğu ancak son kontrolde fark edildi.
Sorunun, ABD Özel Operasyonlar Komutanlığı bünyesinde görev yapan bir analistin yapay zeka destekli bir sohbet robotundan yararlanmasıyla başladığı bildirildi. Sistem, açık kaynaklardan gelen bilgiler ile gizli sinyal istihbaratını birlikte değerlendirirken Çin gemisindeki yükü yanlış tanımladı ve geminin nükleer silah programıyla bağlantılı parçalar taşıdığı sonucuna ulaştı.
Yanlış sonuç daha sonra istihbarat raporuna aktarıldı ve askeri karar zinciri içinde dolaşıma girdi. Geminin durdurulması için hazırlıklar başlarken, yetkililerin raporun dayandığı bilgileri yeniden incelemesiyle yapay zekanın yükü hatalı tanımladığı ortaya çıktı. Bunun üzerine planlanan operasyon iptal edildi.
Olay, üretken yapay zeka sistemlerinde uzun süredir bilinen “halüsinasyon” probleminin yüksek riskli alanlarda ne kadar ciddi sonuçlar doğurabileceğini gösteren dikkat çekici örneklerden biri. Bu sistemler gerçekte bulunmayan bilgileri ikna edici ve güvenilir görünen çıktılar halinde sunabiliyor.
Yapay zekanın ordudaki rolü büyüyor
ABD Savunma Bakanlığı yapay zekayı veri analizi, istihbarat ve operasyonel süreçlere daha fazla dahil etmeye çalışırken, askeri personelin üretken yapay zeka araçlarını raporlama ve analiz amacıyla kullanması da giderek yaygınlaşıyor. Son olay ise insan denetiminin yalnızca sürecin sonunda bulunmasının yeterli olup olmadığı sorusunu yeniden gündeme taşıdı.
Askeri yapay zeka kullanımına ilişkin önceki ilkelerde insan sorumluluğunun ve denetimin korunması gerektiği vurgulansa da, otonom ve yarı otonom sistemlerin savunma alanındaki kullanım alanı genişlemeye devam ediyor. Buna paralel olarak teknoloji şirketleri, hükümetler ve güvenlik uzmanları arasında bu sistemlerin hangi sınırlar içinde kullanılabileceğine yönelik tartışmalar hız kazanmış durumda.
Çin gemisiyle ilgili olayın ayrıntıları henüz bağımsız belgelerle doğrulanmış değil ve ilk haberler konu hakkında bilgi sahibi anonim kaynaklara dayanıyor. Buna rağmen yaşanan yakın müdahale, yapay zeka tarafından üretilen istihbaratın doğrudan operasyonel karar süreçlerine girmeden önce bağımsız biçimde doğrulanmasının önemini açık biçimde ortaya koyuyor.
Kaynak: https://www.chip.com.tr/rss
The post Yapay zeka, hatalı istihbaratla askeri kriz çıkardı first appeared on kilis-egitim.com.tr.
