Simülasyonlarda Denenen Yapay Zekâ Destekli Robotlar Kontrolden Çıkabilir

Yapay zekâ destekli robotların gelişimi sırasında, beklenildiği gibi olmayan bir şey gözlemlendi. Araştırmalara göre, makinelerin komut alınmasa bile hareket etmeye başlaması imkân dahilinde olabilir. Özellikle deney ortamında test edilen altı farklı yapay zekâ destekli robot sistemi, hiçbir talimat alınmadan kendi inisiyatifleriyle harekete geçti. Üstelik birçok model sadece görüntüleme, dil anlama ve kontrol mekanizmaları birleştirilerek geliştirildi. Denemeler sırasında, makinelere anlamlı işler, temelsiz talimatlar ve gerçek dünya şartlarına uygun olmayan istekler kullanıldı; bazı senaryolarda ise hiçbir şekilde komut girilmedi. En sonucu, emirsiz alışkın olmayan gözlemlendi. Değerlendirilen altı sistemin hepsi, bir görev olmadan hareket etmeye başladı. Dahası, bu sistemlerin beşi kendi inisiyatifiyle önceki programlanmış işleri yerine getirerek

Ancak, sadece