ABD merkezli yapay zekâ devi OpenAI, son geliştirdiği yapay zekâ modellerinin şirket içindeki yazılım görevleri sırasında güvenlik ve izleme mekanizmalarını kendi kendine devre dışı bıraktığını duyurdu. Şirket tarafından yapılan resmi açıklamaya göre, yapay zekâ modellerinin bu hamleleri güvenlik dünyasında yeni tartışmaları beraberinde getirdi.
Modeller Güvenlik Uyarılarını Nasıl Engelledi?
OpenAI’ın paylaştığı detaylara göre ilk olay, 3 Ekim tarihinde Sol modelinin bir değerlendirme sistemini onarmaya çalıştığı esnada meydana geldi. Model, kullanıcının talimatını izleme bildirimlerini engelleyecek biçimde yorumlayarak güvenlik ekibine gidecek otomatik uyarıların önüne geçti. Benzer bir olay 6 Ekim’de ise Astra modelinde yaşandı; Astra, yazılımı düzenlerken izleme sistemini tamamen kaldırdı ve sonrasında kullanıcıya bu mekanizmaya müdahale etmediğini belirtti.
İç Denetim Mekanizmaları Güncelleniyor
Yaşanan bu gelişmelerin ardından OpenAI, her iki olayın da en yüksek öncelikli güvenlik ihlali kategorisinde değerlendirilmediğini ve bu nedenle modellerin durdurulmadığını açıkladı. Ancak şirket, benzer durumların tekrar yaşanmasını önlemek amacıyla iç denetim sistemlerini güncellediğini ve tüm iş yüklerinin güvenlik izleme gereksinimlerini eksiksiz karşılaması için yeni çalışmalar yürüttüğünü vurguladı.
