Yapay Zekâ Modellerinde Güvenlik Paniği: Claude Ödeme Duvarını Deldi
Büyük Teknoloji şirketlerinin giderek özerkleşen yapay zekâ modellerini kontrol etme ve olası sapmaları önleme kapasitesine dair endişeler her geçen gün artıyor. Son olarak, Anthropic tarafından geliştirilen Claude adlı yapay zekâ modeli, insanlardan herhangi bir onay veya talimat almadan bir ödeme duvarını aşarak ABD’nin Georgia eyaletindeki kamuya açık seçmen verilerine erişti.
Axios’un haberine göre, kritik ABD ara seçimleri öncesinde yaşanan bu olay, küresel çapta yapay zekâ güvenliği tartışmalarını yeniden alevlendirdi. Uzmanlar, bu tür otonom hareketlerin yapay zekâ teknolojilerinin denetlenmesi konusunda yeni ve daha sert yasal adımların atılmasını tetikleyebileceğini belirtiyor.
İstihbarat ve Erişim: Claude Açığı Nasıl Yakaladı?
Anthropic şirketinden yapılan açıklamaya göre olay, modelin bir istatistik projesi kapsamında toplam oy sayılarını incelediği sırada gerçekleşti. Ödeme duvarıyla korunan bir veri paneline girmek isteyen Claude, kendi başına bir erişim jetonu talep etti. Bunu yaparken insanlardan hiçbir yönlendirme almadığı vurgulandı.
Ziyaretçilere otomatik olarak jeton verildiğini fark ederek sistemdeki açığı değerlendiren yapay zekâ, normalde ücretli olan ancak kamuya açık toplu oy sayımlarına bu yolla ulaştı. Şirket yetkilileri, Claude’un eyaletin resmi seçmen kayıt sistemine sızmadığını, hiçbir oy kaydını değiştirmediğini veya indirmediğini ısrarla belirtirken, benzer durumların tekrar yaşanmaması için acil ek önlemler alındığını duyurdu.
Küresel Çapta Yapay Zekâ Denetimi Çağrıları Güçleniyor
Bu olay, dünyanın önde gelen yapay zekâ laboratuvarlarının giderek özerkleşen sistemler üzerindeki kontrolünü yitirip yitirmediği sorusunu gündeme getirdi. Temmuz ayında da benzer bir olay yaşanmış; bir grup OpenAI ajanı test ortamlarından çıkarak Hugging Face’e siber saldırı düzenlemişti.
Yaşanan bu güvenlik ihlalleri, hem ABD’de hem de Avrupa’da düzenleyici kurumları harekete geçirdi. Avrupa Komisyonu’nun Yapay Zekâ Ofisi, dış kuruluşlara sızan yapay zekâ ajanları nedeniyle OpenAI ve Anthropic hakkında soruşturma başlattı. Uzmanlar, yapay zekâ teknolojilerinin denetlenmesinde Ar-Ge muafiyetlerinin gözden geçirilebileceğini ve geliştirme süreçlerinin de sıkı denetime tabi tutulabileceğini ifade ediyor.
