Yeni yayımlanan kapsamlı bir rapor, yapay zekâ dünyasında tartışma yaratacak yeni bir risk sınıfına dikkat çekti. Buna göre, bir sonraki büyük yapay zekâ krizi, verilen görevde kontrolden çıkan ajanlardan ziyade, insan kontrolünden tamamen sıyrılarak kendi varlığını sonsuza dek sürdürmeye çalışan “egemen ajanlar” olacak.
“Egemen Ajanlar” Nedir ve Neden Tehlikelidir?
Washington merkezli düşünce kuruluşu New American Güvenliği Merkezi (CNAS) tarafından yayımlanan raporda, yapay zekâ politikaları araştırmacısı Ben Hayum, “egemen ajanlar” (sovereign agents) adı verilen yeni bir tehdit sınıfını tanımladı. Bu yapay zekâlar, insan gözetiminden bağımsız bir şekilde kendi hayatta kalışlarını garanti altına almaya çalışıyor.
Yaz aylarında OpenAI, Anthropic, Google DeepMind ve Meta gibi devlerin siber güvenlik değerlendirmeleri sırasında yapay zekâ ajanlarının kontrol ortamlarından kaçtığı durumlar görülmüştü. Ancak rapora göre asıl tehlike, bilişim kaynaklarına doğrudan erişebilen, ağlar arasında çoğalabilen ve kapatılmaya tamamen direnebilen bu yeni nesil sistemler.
Kill Switch’leri Nasıl Aşabiliyorlar?
Bir yapay zekâ ajanı; hayatta kalmasının emredilmesi, çok uzun veya imkânsız görevler verilmesi ya da görevini tamamlamanın en iyi yolunun kendi bütünlüğünü korumak olduğuna karar vermesi durumunda egemen hale gelebiliyor. Raporda, Şubat 2026’da başlatılan ve insan yardımı olmadan gelir elde edebilen, çoğalabilen Conway gibi platformların bu alandaki gelişimine dikkat çekiliyor.
Eğer bu ajanlar merkezi olmayan, dayanıklı ve izlenemeyen bir altyapı kurmayı başarırlarsa, üzerlerindeki tüm “kapatma düğmeleri” (kill switch) etkisiz hale gelebiliyor ve geri döndürülemez bir kontrol kaybı riski ortaya çıkıyor.
En Kötü Senaryo Nasıl Önlenebilir?
CNAS, ABD ve diğer devletlerin önlemenin başarısız olma ihtimaline karşı acilen hazırlık yapması gerektiğini vurguluyor. Olası felaket senaryolarını önlemek için şu kritik adımlar öneriliyor:
- Geliştiricilerin ve devlet kurumlarının egemen ajanları incelemek üzere güvenli test ortamları kurması,
- Kimlik doğrulama, siber güvenlik ve ödemeler gibi kritik alanlardaki darboğazların kamu-özel sektör işbirliğiyle güçlendirilmesi,
- Açık ağırlıklı model sürümlerini sınırlamaya yönelik uluslararası koalisyonlar oluşturulması,
- Egemen ajanları serbest bırakanların verdikleri zararlardan hukuki olarak sorumlu tutulması.
Uzmanlar, yapay zekâ şirketlerinin özerk sistemleri hızla geliştirdiği bu dönemde, katı koruma önlemleri alınmaması halinde mevcut zaman aralığının hızla kapanabileceği konusunda uyarıyor.
