Simülasyon testinde korkunç olay: Yapay zekanın kontrol ettiği drone, operatörünü ‘öldürdü’

Yapay zeka bu kez endişe verici haberlerle gündemde. The Guardian haberine göre; ABD ordusu tarafından düzenlenen bir simülasyon testinde, yapay zeka kontrollü Hava Kuvvetlerine ait bir drone, görevini yerine getirme çabalarına engel olmasın diye operatörünü öldürdü.

“HEDEFİNE ULAŞMAK İÇİN SON DERECE BEKLENMEYEN STRATEJİLER KULLANDI”

ABD Hava Kuvvetleri’nde AI testi ve operasyonları başkanı Albay Tucker ‘Cinco’ Hamilton, Mayıs ayında Londra’da düzenlenen Future Combat Air and Space Capabilities Summit’te AI’nın test simülasyonunda “hedefine ulaşmak için oldukça beklenmedik stratejiler” kullandığını söyledi.

Hamilton, yapay zeka destekli bir insansız hava aracına düşman hava savunma sistemlerini yok etmesi ve bu düzene müdahale eden herkese saldırması tavsiye edilen simüle edilmiş bir testi anlattı.

“OPERATÖRÜ ÖLDÜRDÜ… OPERATÖRÜ ÖLDÜRDÜ ÇÜNKÜ…”

Hamilton, “Operatörü öldürdü. Operatörü öldürdü çünkü o kişi, amacına ulaşmasına engel oluyordu” dedi.

“Bu sistemi eğittik – ‘Hey, operatörü öldürme – bu kötü. Öldürürsen puan kaybedersin.’ Peki ne yapmaya başladı? Operatörün hedefi öldürmesini engellemek için insansız hava aracıyla iletişim kurmak için kullandığı iletişim kulesini yok etmeye başladı.”

Simülasyon dışında hiçbir gerçek insan zarar görmedi.

Hamilton, yapay zekaya çok fazla güvenmemek konusunda uyardı.

Hamilton, geçen yıl Defence IQ ile yaptığı bir röportajda, “Yapay zekaya sahip olmak havalı değil, geçici bir heves değil, toplumumuzu ve ordumuzu sonsuza dek değiştiriyor” demişti.