‘Dur’ emrini kabul etmedi! Yapay zekâ destekli İHA kontrolden çıktı! Operatörünü öldürdü
ABD ordusundaki dijital savaş tatbikatı tartışmaların fitilini ateşledi. Bilgisayar ortamındaki simülasyonda yapay zekâ tarafından kontrol edilen insansız hava aracı, "dur emrini" kabul etmedi.
ABD Hava Kuvvetleri Yapay Zekâ Operasyonlar Şefi Albay Tucker Hamilton, İngiltere’nin başkenti Londra’da düzenlenen "Geleceğin Hava ve Uzay Savaşı" panelinde konuştu.
Hamilton, simülasyonda düşman hava savunma sistemlerini yok etmekle görevlendirilen yapay zekanın, "bazı hedefleri yok etmemesini isteyen" operatörü hedef aldığını söyledi.
“YAPAY ZEKA ‘DUR’ EMRİNİ DİNLEMEDİ”
Amerikalı Albay, "Yapay zeka, simülasyonda 'dur' emrini dinlemedi, görevi engellediği gerekçesiyle insan operatörünü öldürdü" dedi.
Amerikalı komutan, yapay zekaya "operatörü öldürmenin puan kaybettirdiği" söylendiği, bilgisayarın bu kez "dur emri almamak için" iletişim kulesini yok ettiğini anlattı.
Albay Hamilton'un hikayesi, İngiliz kraliyet Havacılık Cemiyeti'nin İnternet sayfasında yayınlandı.
Yapay zekâ imha ettiği her hedef için puan topluyor. Ancak tek amacı puan toplamak olduğu için "dur" emri, "puan kazanma" amacı ile çelişiyor. Silah sistemlerinin yapay zeka kontrolüne bırakılması büyük riskleri de beraberinde getiriyor.. Güvenlik engellerinin ve insan operatörlerin kısıtlamasının ne derece etkili olduğu konusunda tartışmalar sürüyor.
