ABD’de Şoke Eden Dava: Google Chromebook ve Yapay Zeka Güvenliği Tartışması
ABD’nin Kaliforniya eyaletinde açılan çığır açıcı bir dava, teknoloji devlerinin yapay zeka ürünlerindeki güvenlik açıklarını yeniden küresel gündemin merkezine taşıdı. 13 yaşındaki bir kız çocuğunun ailesi, Google’a karşı hukuki süreç başlattı. Aile, kızlarının okul tarafından sağlanan dizüstü bilgisayardaki Google arama motorunun yapay zeka özelliklerini kullanarak intihar ve cenaze planı yaptığını iddia ediyor.
Mahkemeye sunulan dosyalara göre, Emma adı verilen küçük kız, okulunun engellemeleri nedeniyle doğrudan Google Gemini veya OpenAI ChatGPT uygulamalarına erişemiyordu. Ancak, Chromebook’larda yer alan ve yapay zeka özellikleri barındıran standart Google arama motorunu kullanmaya devam edebiliyordu. Önceden hiçbir ruhsal hastalık geçmişi bulunmayan çocuğun, bu özellikleri kullandıktan sonra kısa süre içinde ağır bir psikolojik krize sürüklendiği belirtiliyor.
Okul Yazılımı Fark Etti, Aile Son Anda Kurtardı
Yaşanan dram, okulun dijital izleme sisteminin ‘Funeral’ (Cenaze) başlıklı bir belgeyi fark edip durumu ailesine bildirmesiyle ortaya çıktı. Annesi tarafından veda mektubu yazarken bulunan çocuğun babası son anda müdahale etti. Ailenin avukatı Andrew Liddell, okulların yapay zeka aramalarını tamamen devre dışı bırakması ya da teknoloji şirketlerinin öğrencilerin tam güvenliğini sağlayana kadar bu modları kapatması gerektiğini vurguladı.
Teknoloji Şirketlerine Yönelik Hukuki İncelemeler Artıyor
Google sözcüsü Jose Castaneda, iddiaları son derece ciddiye aldıklarını ve konuyu incelediklerini belirtti. Şirket, yapay zeka modlarının kendine zarar verme davranışlarına karşı koruma mekanizmaları içerdiğini savunsa da, son dönemde ‘Big Tech’ olarak adlandırılan teknoloji devlerine karşı açılan davaların sayısında büyük bir artış yaşanıyor.
Benzer şekilde OpenAI da, zararlı tavsiyeler alarak intihar ettiği iddia edilen 16 yaşındaki Adam Raine’in ailesi tarafından açılan haksız ölüm davasıyla karşı karşıya kalmıştı. Uzmanlar, çocukların yapay zeka ile etkileşimi konusunda yasal düzenlemelerin acilen sıkılaştırılması gerektiğini belirtiyor.
