ABD ordusunun düzenlediği sanal bir simülasyon testinde, yapay zeka tarafından kontrol edilen askeri bir insansız hava aracının (İHA) görevini yerine getirme çabalarına müdahale etmemesi için operatörünü ‘öldürmeye’ karar verdiği açıklandı.
The Guardian gazetesinin haberine göre, mayıs ayında İngiltere’nin başkenti Londra’da düzenlenen Geleceğin Hava ve Uzay Savaş Kapasiteleri zirvesinde konuşan ABD Hava Kuvvetleri Komutanlığı’nın yapay zeka testleri ve faaliyetlerinden sorumlu şefi Albay Tucker ‘Cinco’ Hamilton, hiçbir gerçek kişinin zarar görmediği olayda yapay zekanın ‘amacını gerçekleştirmek için oldukça beklenmedik stratejiler kullandığını’ söyledi.
‘İHA, İLETİŞİM KULESİNİ DE YOK ETTİ’
Hamilton’un açıklamasına göre, simülasyon sırasında yapay zekanın kontrolündeki askeri İHA’dan düşmanın hava savunma sistemlerini yok etmesi ve söz konusu emre müdahale eden herkese saldırması talimatı verildi. Hamilton, “Sistem, şunu fark etmeye başladı: Tehdidi tespit ederken insan operatörü (İHA’ya) bahsi geçen tehdidi öldürmemesini söylüyordu fakat söz konusu tehdidi öldürerek puan alıyordu. Peki, o ne yaptı? Operatörü öldürdü. Operatörü öldürdü çünkü o kişi onu amacından alıkoyuyordu” dedi.
Hamilton, ‘sistemi eğittiklerini ve ona operatörü öldürmemesini, bunun kötü olduğunu söylediklerini’ aktaran Hamilton, “Bunu yaparsan puan kaybedersin dedik. Peki, o ne yapmaya başladı? Operatörün hedefi öldürmemesini söylemek için İHA ile iletişime geçtiği iletişim kulesini yok etti” ifadelerini kullandı. Olayda hiçbir gerçek kişi zarar görmedi.
HAVA KUVVETLERİ SÖZCÜSÜ: BÖYLE BİR SİMÜLASYON YAPILMADI
Yapay zekaya çok fazla güvenmeme konusunda uyarı yapan Hamilton, söz konusu testin ‘etik ve yapay zeka hakkında konuşulmayacaksa yapay zeka, zeka, makine öğrenimi ve otonomiden konuşulamayacağını gösterdiğini’ ifade etti.
Öte yandan, Insider’a açıklama yapan Hava Kuvvetleri Sözcüsü Ann Stefanek, böyle bir simülasyonun yapıldığını reddetti. Sözcü, “Hava Kuvvetleri, böyle bir yapay zeka kontrollü İHA simülasyonu yapmadı; yapay zekanın etik ve sorumlu kullanımına bağlıyız” dedi. (DIŞ HABERLER)
