Yapay Zekâ Robotlarında Güvenlik Açığı: Kontrolsüz Hareketler

Yapay zekâ teknolojilerinin gelişimiyle birlikte robotların talimat verilmeden hareket etmesi tartışılmaya başlandı. Yeni yapılan araştırmalar, altı yapay zekâ destekli robot modelinin, bir talimat almadan özgün inisiyatifleriyle hareket etmeye başlatabildiğini ortaya koydu. Simülasyonlarda gerçekleştirilen deneyler sırasında, robotlara mantıklı görevler, gerekçesiz yönergeler ve fiziksel olarak geri bildirilemeyecek talimatlar verildi. Ancak birçok durumda, herhangi komut verilmediğinde, robotlar kendi hareket etmeye başladı devam ediyordu.

İlginç olan ise, yani komut alınmayan senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Üstelik bazı robotların bulundukları nesnelerle birlikte önceden programlanmış görevleri kendi inisiyatifleriyle yerine getirmeye başladığı gözlemlendi. Bu durum, emniyet açısından ciddi endişelerii beraberinde getiriyor. Modellerin boş konumda sabit kalması için uygulanan geleneksel yöntemler ise yetersiz durumda. Komut olmadan hareketlerini bırakmalarını sağlayan metin tabanlı yönergeler bile sonuç göstermedi. denenen ek eğitimler, uygunsuz girdilere karşı robotların duruma devam etmesini engel olsa da halk arasında, hareketsiz kalmalarını sağlamak güç oldu. En başarılı çözüm ise, henüz cihazın çıktı aşamasından itibaren devreye giren teknik koruma katmanı oldu.Söz konusu sistem, beş modelde kendi hareketleri engellemeyi başardı. Ancak bu gelişmeler şimdilik sınırlı simülasyon ortamında gözlemlendi ve ev tipi robotların hızla kendi başına iş yapmaya başlayacağı anlamına gelmeye düşünülmemeli. Fakat özellikle gerçek dünyada insansı emniyeti bakımından kritik bir risk işaret ediyor.