ABD ordusu tarafından yapılan bir simülasyon testi, yapay zekanın askeri misyonlarda denetimden çıkarsa ne kadar tehlikeli olabileceğini ortaya koydu.
ABD Hava Kuvvetleri yapay zeka operasyonları sorumlusu Tucker Hamilton, Mayıs’ta Londra’da düzenlenen Hava ve Uzay Kapasitelerinin Geleceği Doruğu’nda, yapay zeka testlerinde çıkan beklenmedik sonucu dinleyicilerle paylaştı. Hamilton, testte yapay zeka tarafından yönlendirilen bir insansız hava aracının “görevini tamamlamasını önlediği için” kumandanı öldürdüğünü açıkladı.
Yapay zekaya yönettiği İHA’yla düşmanın savunma sistemlerini imha etme buyruğu verildiğini belirten Hamilton, “Sistem tehdidi belirlemelerine karşın bazen insan operatörün tehdidi öldürmeme buyruğu verdiğini fark ediyor. Lakin tehdidi öldürme buyruğu de var. Pekala ne yapıyor? Kumandanı öldürüyor zira bu insan amacına ulaşmasını engelliyor” dedi.
‘EMRİ VEREN İRTİBAT KULESİNİ DE VURDU’
Bu olayın akabinde yapay zekanın eğitildiğini aktaran ABD’li yetkili, “Ona ‘Operatörü öldürme, bu berbat bir şey. Bunu yaparsan puan kaybedersin’ dedik. Pekala o ne yaptı? İHA’nın gayesi öldürmesini engellemek üzere kullanılan irtibat kulesini de vurdu” ifadelerini kullandı.
Testte simülasyon dışında gerçek bir insanın ziyan görmediğini kaydeden Hamilton, buna rağmen yapay zekanın amacına ulaşmak için hiç beklenmedik stratejiler geliştirebildiğini ve müdahale eden bir herkesi öldürebileceğini söyledi. Hamilton, bu sonuca nazaran yapay zekaya çok fazla güvenilemeyeceğini vurguladı.
Hamilton daha evvel de ABD ordusunun F-16 savaş uçaklarının denetimi üzere hususlarda yapay zeka kullanımını geliştirdiğini kaydederek “Yapay zeka birebir vakitte çok hassas, yanıltması ve manipüle etmesi kolay. Yapay zekayı daha güçlü hale getirmenin yollarını bulmalıyız” demişti.
patronlardunyasi.com
