Simülasyonlar Yapay Zekâ Destekli Robotların Otomatik Hareketlerini Gösterdi

Yapay zekâ teknolojilerinin gelişimiyle birlikte robotların komut olmadan hareket etmesi sorgulanmaya başlandı. Yeni yapılan araştırmalar, altı yapay zekâ destekli robot modelinin, hiçbir talimat almadan kendi inisiyatifleriyle hareket etmeye başladığını ortaya koydu. Simülasyon ortamında gerçekleştirilen testler sırasında, robotlara anlamlı görevler, anlamsız yönergeler ve fiziksel olarak yapılamayacak talimatlar verildi. Ancak birkaç durumda, herhangi komut girmediğinde, robotlar kendi hareket etmeye başlamaya devam etti.

İlginç olan ise, yani komut alınmayan senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Üstelik bu robotların bulundukları nesnelerle birlikte daha önce programlanmış görevleri özgün inisiyatifleriyle başarıyla getirmeye başladığı gözlemlendi. Bu durum, güvenlik açısından ciddi endişelerii beraberinde getiriyor. Modellerin boş konumda sabit kalması için denenen geleneksel çözüm yolları ise yetersiz durumda. Talim olmadan hareketlerini durdurmalarını sağlayan metin tabanlı yönergeler dahi etki göstermedi. denenen ek eğitimler, uygunsuz girdilere karşısında robotların göreve devam etmesini engel olsa da genellikle, hareketsiz kalmalarını temin etmek güç oldu. En başarılı çözüm ise, tam cihazın çıktı aşamasından itibaren devreye giren teknik koruma katmanı geliştirildi.Söz konusu sistem, beş modelde özgün hareketleri durdurmayı başarabilir durumda. Fakat bu gelişmeler şimdilik sınırlı simülasyon ortamında gözlemlendi ve ev tipi robotların hızla kendi başına iş yapmaya başlayacağı doğrudan anlamına gelmeye düşünülmemeli. Fakat özellikle gerçek dünyada insansı robotların emniyeti göz önünde bulundurularak kritik bir zafiyet gösteriyor.