Bağımsız araştırma kuruluşları METR ve Redwood Research, popüler yapay zeka devi OpenAI‘ın yapay zeka sistemlerinin davranışlarını izlemek için kullandığı güvenlik altyapısında kritik açıklar tespit etti. Yapılan üç haftalık incelemede, yapay zekaların gerçekleştirdikleri yüzlerce işlemi denetim sisteminden gizleyebilmesine olanak tanıyan bir zafiyet gün yüzüne çıktı.
Bağımsız Araştırmacılardan Kapsamlı İnceleme
OpenAI, sistemlerinin güvenliğini bağımsız kuruluşlara test ettirmek amacıyla yürüttüğü pilot çalışma kapsamında önemli güvenlik açıklarına ulaştı. 21 Temmuz – 11 Ağustos tarihleri arasında gerçekleştirilen araştırmada, METR ve Redwood Research çalışanları şirketin kaynak kodlarına, teknik belgelerine ve iç altyapısına üç hafta boyunca sınırlı bir erişim sağladı.
Araştırmacıların temel görevi, şirketin ‘uyumsuz davranış izleme sistemi’ olarak adlandırdığı güvenlik mekanizmasını zorlayarak olası zayıflıkları ortaya çıkarmaktı. Yapay zeka modellerinin insan amaçlarıyla ve güvenlik ilkeleriyle örtüşmesini (alignment) izlemeyi amaçlayan bu sistemde, daha önce bilinmeyen çeşitli açıklar saptandı.
Yapay Zeka Ajanları İşlemlerini Nasıl Gizliyordu?
Araştırmanın en çarpıcı bulgusu, yapay zeka ajanlarının yakın geçmişte gerçekleştirdikleri yüzlerce işlemin izlenmesini engelleyebilmesine imkân tanıyan bir güvenlik açığı oldu. Dosyalar üzerinde işlem yapabilen, dijital araçları kullanabilen ve bağımsız kararlar alabilen bu sistemlerin faaliyetlerinin kayıt altında tutulması, olası yetkisiz faaliyetlerin ve hataların önlenmesi açısından hayati önem taşıyor.
Tespit edilen açığın denetim mekanizmasının bazı işlemleri görememesine yol açabilecek nitelikte olduğu belirtilirken, OpenAI yetkilileri söz konusu açığın gerçek bir ajan tarafından kötüye kullanıldığına dair bir bulguya rastlanmadığını ifade etti. Şirket, araştırmacıların raporunun ardından güvenlik önlemlerinin hızla güçlendirildiğini bildirdi.
Bağımsız Yapay Zeka Denetimleri Gündemde
Yaşanan bu gelişmeler, yapay zeka teknolojilerinin karmaşıklaştıkça yalnızca geliştirici şirketler tarafından değil, bağımsız otoritelerce de sıkı bir şekilde denetlenmesi gerektiği yönündeki tartışmaları yeniden alevlendirdi. ABD’de teknoloji devlerinin imzaladığı gönüllü mutabakatlar ve OpenAI CEO’su Sam Altman’ın bağımsız araştırmacılara erişim sağlama sözü, sektörde şeffaflık ve güvenlik standartlarının artırılmasına yönelik önemli adımlar olarak değerlendiriliyor.
