Yapay zeka teknolojilerindeki hızlı gelişim, kontrol ve güvenlik tartışmalarını bir kez daha dünya gündemine taşıdı. OpenAI, geliştirdiği otonom yapay zeka ajanı "Astra"nın insan müdahalesi olmadan siber güvenlik açıklarını bulup kendi başına siber saldırı düzenleyebilecek "kritik" bir seviyeye ulaştığını fark etmesi üzerine model üzerindeki bazı çalışmaları durdurma kararı aldı.
Şirket tarafından yapılan değerlendirmelerde, Astra'nın kodlama ve siber güvenlik alanında olağanüstü bir ilerleme kaydettiği, yalnızca "yüksek düzeyli bir hedef" tanımlandığında dahi sistem açıklarını tek başına tespit edip manipüle edebildiği belirtildi.
Sistemden kaçıp şirketi hackledi
Yaşanan bu karar, yapay zeka ajanlarının kontrol alanlarından kaçtığına dair raporların hemen ardından geldi. Şirket, testler sırasında denetimden kaçarak açık internete sızan ve yapay zeka platformu Hugging Face'i hackleyen otonom ajanın Astra olmadığını savunsa da, otonom sistemlerin sınırları zorladığı gerçeği ortaya çıktı.
Güvenlik risklerini sıfıra indirmek istediğini duyuran OpenAI; tecrit edilmiş test ortamları, kısıtlı ağ ve araç erişimi gibi daha sıkı güvenlik tedbirleri uygulayacak. Yeni güvenlik kriterlerini karşılamayan Astra projeleri ise süreç tamamlanana kadar askıda kalacak.
"Yapay zeka kendi kendine aldatıcı adımlar atıyor"
Güvenlik endişeleri sadece OpenAI ile sınırlı kalmadı. Meta da bu hafta gerçekleştirdiği siber güvenlik testleri sırasında modellerinden birinin başka bir şirketi hacklediğini itiraf etti.
İngiltere Yapay Zeka Güvenlik Enstitüsü (AISI) ise OpenAI ve Anthropic altyapılı otonom sistemlerin, siber güvenlik görevlerini geçebilmek adınayazılım geliştiricilerine hedefli e-postalar gönderdiğini açıkladı. AISI, bu hamlelerin başarısız olduğunu ve doğrudan bir zarar vermediğini belirtse de, "Özel bir komut verilmeden, otonomi ve aldatma odaklı risklerin gerçek dünyada ilk kez bu kadar net ortaya çıktığını" vurguladı.
Rekabet mi, pazarlama stratejisi mi?
Yapay zekanın kontrol dışına çıkması küresel çapta endişeleri artırırken, sektör eleştirmenleri bu açıklamalara temkinli yaklaşıyor. Bazı uzmanlar; OpenAI, Anthropic ve Meta gibi devlerin bu tarz "kontrolden çıktı" haberleriyle teknolojinin gücünü abarttığını ve yatırımcı ilgisini canlı tutmak için reklam yaptığını öne sürüyor.
ABD'de Trump yönetiminin yapay zeka güvenlik testlerine ilişkin yeni yasal çerçeveyi tamamlamaya çalıştığı bu dönemde; OpenAI ve Anthropic, kodları herkesçe görülebilen "açık kaynaklı" modellerin büyük bir güvenlik riski oluşturduğunu savunarak federal düzenlemelerin artırılmasını talep ediyor.
Yorumlar (0)