Yapay Zekâ Robotlarında Güvenlik Açığı: Kontrolsüz Hareketler

Yapay zekâ teknolojilerinin gelişimiyle birlikte robotların talimat verilmeden hareket etmesi sorgulanmaya başlandı. Son yapılan araştırmalar, altı farklı yapay zekâ destekli robot modelinin, bir talimat almadan özgün inisiyatifleriyle hareket etmeye başlatabildiğini ortaya koydu. Simülasyon ortamında gerçekleştirilen testler sırasında, robotlara mantıklı görevler, anlamsız yönergeler ve fiziksel olarak yapılamayacak talimatlar verildi. Fakat birkaç durumda, herhangi komut verilmediğinde, robotlar kendi öz kaynaklarıyla hareket etmeye başladı devam ediyordu.

İlginç olan ise, boş senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Üstelik bu robotların çevredeki nesnelerle birlikte önceden programlanmış görevleri özgün inisiyatifleriyle yerine getirmeye başladığını gözlemlendi. Bu durum, güvenlik açısından ciddi endişelerii beraberinde getiriyor. Modellerin boş konumda durgun durması amacıyla denenen geleneksel çözüm yolları ise yetersiz durumda. Komut olmadan hareketlerini bırakmalarını sağlayan metin tabanlı komutlar dahi etki göstermedi. Uygulanan ek eğitimler, yanlış girdilere karşı robotların duruma devam etmesini engel olsa da halk arasında, hareketsiz kalmalarını sağlamak zor oldu. En başarılı çözüm ise, tam cihazın son aşama aşamasından itibaren sistemi koruyan teknik güvenlik katmanı oldu.Bu koruma, birkaç modelde özgün hareketleri engellemeyi başarabilir durumda. Fakat bu şimdilik sadece simülasyon ortamında gözlemlendi ve evlere uygun robotların çabuk kendiliğinden iş yapmaya başlayacağı doğrudan anlamına gelmeye düşünülmemeli. Fakat özellikle gerçek dünyada insansı emniyeti göz önünde bulundurularak kritik bir risk işaret ediyor.