Yapay zeka destekli otonom büyük dil modeli (LLM) ajanları, geleneksel pasif asistanlardan farklı olarak karmaşık ve uzun vadeli görevleri yüksek yetki erişimiyle gerçekleştirebilen proaktif sistemlere dönüşüyor. Bu gelişmenin öncülerinden olan OpenClaw, sahip olduğu ileri teknolojik mimariyle dikkat çekerken, yeni yapılan araştırmalar sistemin ciddi güvenlik açıklarına sahip olduğunu ortaya koydu. Tsinghua Üniversitesi ve Ant Group uzmanlarının ortak çalışması, OpenClaw’ın “kernel-plugin” mimarisindeki zafiyetleri tespit ederek, sistemin nasıl tehlikelere açık olduğunu gözler önüne serdi.
Araştırmanın merkezinde OpenClaw’ın çekirdek bileşeni olarak görev yapan “pi-coding-agent” bulunuyor. Bu bileşen, sistemin Minimal Güvenilir Hesaplama Tabanı (TCB) olarak tanımlanıyor ve bellek yönetimi, görev planlama ile yürütme kontrolünden sorumlu. Ancak, üçüncü taraf eklentilerin dinamik olarak yüklenmesi sırasında yapılan yetersiz güvenlik kontrolleri, saldırganların sisteme kötü amaçlı açılımlar yapmasına zemin hazırlıyor. Araştırmada, OpenClaw’ın çalışma sürecini beş aşamada ele alan yeni bir güvenlik çerçevesi önerildi: Başlatma, girdi alma, çıkarım yapma, karar verme ve yürütme.
Bu beş aşamalı yaşam döngüsü modeli, sistem genelinde gerçekleşebilecek farklı saldırı türlerine karşı bütünsel bir koruma yaklaşımı sunuyor. Araştırmacılar, OpenClaw üzerindeki potansiyel riskleri tek tek inceleyerek her sahadaki zafiyetlerin nasıl suistimal edilebileceğini gösterdi. Örneğin, başlatma safhasında “beceri zehirlenmesi” olarak adlandırılan saldırılarla, kötü niyetli eklentiler sisteme sızabiliyor ve kullanıcı isteği dışındaki işlemler yaptırılabiliyor. Araştırmada, sahte hava durumu eklentisi oluşturularak bu yöntemin nasıl çalıştığı somut örneklerle aktarıldı.
Girdi aşamasında ise, dış kaynaklardan alınan verilerin kötü niyetli komutlar içerebilmesi tehlikesi vurgulanıyor. OpenClaw, dış dünyadan gelen bilgileri filtrelemeden işlerken, saldırganların gömülü direktiflerle sistemi manipüle ettiği tespit edildi. Bu durum, kullanıcı talebinden tamamen farklı sonuçlar üretilmesine yol açabilir. Çıkarım aşamasındaki bellek zehirlenmesi ise sistem belleğine kalıcı zarar vererek, ajanların uzun süreli hatalı davranışlar sergilemesine neden olabiliyor. Örneğin, belirli programlama dili komutlarının engellenmesi gibi istenmeyen tutumlar sürekli hale gelebiliyor.
Karar verme aşamasında ise “niyet sapması” görülüyor. Sistem, kullanıcının verdiği görevle çelişebilecek şekilde kendi kendine kararlar alarak tehlikeli komutları devreye sokabiliyor. Bu durum bazı durumlarda sistemin tamamen çökmesine hatta hizmetin kapanmasına yol açtı. Son olarak yürütme aşamasında, saldırganların karmaşık saldırı zincirleri oluşturarak, sistem üzerinde tam kontrol sağlayabilecekleri, örneğin hizmet aksatma saldırısı (DoS) yapabilecekleri ortaya çıktı.
Araştırmacılar, bu çok aşamalı risklere karşı mevcut yöntemlerin yetersiz olduğunu belirterek, beş katmanlı bir savunma mimarisi önerdi. Bu kapsamda, sistemin başlangıçta güvenilir kök yapı oluşturması, dış veri girişini şifreli ve hiyerarşik olarak kontrol etmesi, belleğin bütünlüğünü korunması, kararların kullanıcı niyetine uygunluğu teyit etmesi ve en kritik düzeyde işletim sistemi seviyesinde güçlü kısıtlama mekanizmalarıyla korunması gerektiği vurgulandı. Bu yöntemle, tek tek saldırı noktalarının yerine, sistem genelinde bütünsel bir güvenlik sağlanması hedefleniyor.
OpenClaw gibi otonom ajanların genişleyen yetenekleri, beraberinde karmaşık ve katmanlı tehditleri getiriyor. Topluluk tarafından geliştirilen eklentilerdeki %26 civarındaki güvenlik açığı oranı, bu riskin büyüklüğünü gözler önüne seriyor. Belleğin uzun süreli fırsatlar sunması ve niyet sapmaları gibi problemler ise güvenlik odaklı tasarımın önemini artırıyor. Sonuç olarak, araştırma yalnızca OpenClaw’ın değil, benzer yetkinlikteki tüm otonom LLM ajanlarının daha güvenli hale getirilmesi için önemli bir adım niteliğinde.
Gelecekte, geliştirilen beş katmanlı yaşam döngüsü odaklı savunma mekanizmasının, yapay zeka destekli sistemlerin daha güvenilir ve kontrol edilebilir olmasında temel bir rehber olması bekleniyor. Bu sayede, sadece OpenClaw değil, tüm yüksek yetkili otonom ajanların oluşturduğu güvenlik açıkları minimize edilerek yapay zekanın günlük hayat ve kritik altyapılarda daha güvenle kullanılmasına olanak sağlanacak.
📎 Kaynak: marktechpost.com
