Meta, yapay zeka güvenliği kapsamında yürüttüğü yeni bir çalışma nedeniyle tartışmaların merkezine yerleşti. Rapora göre şirket için çalışan yüzlerce sözleşmeli personel, sahte genç hesapları üzerinden ChatGPT, Gemini ve Character.AI gibi rakip sohbet botlarını test etti. Çalışmanın Cannes adıyla yürütüldüğü ve en az 21 Nisan 2026’ya kadar sürdüğü belirtildi. Rakip şirketlerin bu testlerden haberdar olmadığı aktarıldı.
Sahte hesaplarla test
Çalışmada sohbet botlarının güvenlik sistemlerini zorlayacak komutlar kullanıldı. Ağustos 2025’te tamamlanan bir test turunda 45 binden fazla komutun rakip araçlara gönderildiği bildirildi. İncelenen örneklerde intihar, kendine zarar verme, yeme bozuklukları, uyuşturucu ve cinsellik gibi başlıkların yer aldığı kaydedildi.
Bazı komutların kriz yaşayan çocuk diliyle yazıldığı, bazı görsellerde ise hap ve bıçak gibi unsurların kullanıldığı belirtildi. Ayrıca sahte profillere ait ad, e-posta, şifre ve doğum tarihi gibi bilgilerin ayrı dosyalarda tutulduğu aktarıldı.
Meta savunma yaptı
Meta, çalışmayı rakip ürünlerin güvenlik ve yaşa uygunluk açısından karşılaştırılması olarak tanımladı. Şirket, bu tür testlerin sektörde kullanılan normal bir yöntem olduğunu ve elde edilen sonuçların kendi yapay zeka modellerini eğitmek için kullanılmadığını savundu.
Ancak uzmanlar, çocuk gibi gösterilen sahte hesapların uzun süreli testlerde kullanılmasını tartışmalı buluyor. OpenAI, Google ve Character.AI tarafında ise bu tür izinsiz testlerin hizmet koşullarını ihlal ettiği görüşü öne çıkıyor.
Yorumlar (0)