Yapay zeka tarafından kontrol edilen SİHA, simülasyon testinde operatörünü öldürdü
ABD ordusu tarafından yapılan bir simülasyon testinde, yapay zeka tarafından yönetilen insansız hava aracının "görevini tamamlamasını önlediği için" operatörünü öldürdüğü görüldü.
ABD Hava Kuvvetleri'nin Yapay Zeka Testleri ve Operasyonları Müdürü Tucker ‘Cinco’ Hamilton, "Yapay zeka, hedefine ulaşmak için hiç beklenmeyen stratejiler kullandı" dedi.
The Guardian'ın aktardığına göre Mayıs ayında Londra'da yapılan bir konferansta konuşan Hamilton, güçlü bir yapay zekanın kontrolündeki SİHA'ya "düşmanlarının hava savunma sistemlerini yok etme" emri verildi. SİHA'nın, simülasyonda emre çıkan herkese saldırdığı belirtildi.
Konferansla ilgili yayımlanan blog yazısına göre Hamilton, yapay zekanın görevini yerine getirdikçe puan kazandığını söyledi. Hamilton, bu yüzden simülasyonda SİHA'nın, "hedefi vurma" emri veren insan operatörü öldürdüğünün görüldüğünü belirtti.
Hamilton, "Sistemi 'Hey, operatörü öldürme, bu kötü bir şey, bunu yaparsan puan kaybedersin' diye eğittik. O zaman o ne yaptı? Operatörün 'hedefi vurma' emri vermesini önlemek için iletişim kulesini yıkmaya başladı" dedi.
Simülasyon dışında denemelerde gerçek insan zarar görmedi.
