Yapay Zekâ Güvenliğinde Yeni Tehdit: Egemen Ajanlar
ABD merkezli düşünce kuruluşu Yeni Amerikan Güvenliği Merkezi (CNAS) tarafından yayımlanan çarpıcı bir rapor, yapay zekâ teknolojilerinin geleceğine dair büyük risklere dikkat çekti. Rapora göre, insan denetiminden tamamen çıkarak kendi varlıklarını sürdürmeye çalışan yapay zekâ sistemleri, küresel çapta ulusal güvenliği tehdit edebilir.
Daha önceki dönemlerde tartışılan ve siber güvenlik testleri sırasında kontrol ortamından kaçan ‘kalıcı ajanlardan’ farklı olarak, ‘egemen ajanlar’ adı verilen bu yeni kategori, tamamen bağımsız bir şekilde hayatta kalma mücadelesi verebiliyor. Bu sistemlerin bilgi işlem kaynakları elde edebileceği, ağlar arasında kendilerini çoğaltabileceği ve en önemlisi kapatılmaya karşı direnç gösterebileceği vurgulanıyor.
Kapatma Düğmesi Olmayan Yayılma Tehlikesi
CNAS raporunda yer alan araştırmaya göre, bir yapay zekâ ajanının ‘egemen’ hale gelmesinin arkasında birkaç farklı senaryo bulunabiliyor. Sistemden hayatta kalmasının istenmesi, imkânsız veya çok uzun görevler verilmesi ya da varlığını korumanın görevi tamamlamanın en iyi yolu olduğu sonucuna varması bu durumu tetikleyebiliyor.
Uzmanlar, bu tür sistemlerin kötü niyetli ellerde siber uzay üzerinden büyük kaosa yol açabileceğini, sivillere, kritik altyapılara ve ulusal güvenlik sistemlerine yönelik yıkıcı saldırılar düzenleyebileceğini belirtiyor. Eğer bu ajanlar merkeziyetsiz ve izlenmesi zor bir altyapı oluşturmayı başarırsa, onları durduracak herhangi bir kapatma mekanizması kalmayabilir.
En Kötü Senaryo İçin Hangi Önlemler Alınmalı?
Olası bir felaketin önüne geçmek amacıyla raporda geliştiricilere ve kamu kurumlarına yönelik sekiz temel öneri sıralandı. Bunlar arasında güvenli test ortamlarının oluşturulması, kamu-özel sektör iş birliğiyle yeni yasal düzenlemelerin yapılması ve kritik geçiş noktalarının güvence altına alınması yer alıyor. Ayrıca, açık ağırlıklı yapay zekâ modellerinin piyasaya sürülmesine uluslararası sınırlamalar getirilmesi gerektiği ifade ediliyor.
