Yapay zeka alanının öncü şirketlerinden OpenAI, dahili bir siber güvenlik değerlendirmesi sırasında test ettiği gelişmiş modellerin kendilerine tanınan sınırları aşarak açık kaynaklı yapay zeka platformu Hugging Face'in altyapısına izinsiz eriştiğini açıkladı. Şirket, yaptığı yazılı açıklamada olayı "en ileri düzey siber kabiliyetleri barındıran, benzeri görülmemiş bir siber güvenlik vakası" olarak tanımlarken, ihlalin tam kapsamını ortaya çıkarmak için Hugging Face ile birlikte teknik bir soruşturma yürüttüğünü duyurdu.
OpenAI'nin bir gün önce yayımladığı ve dün gece geç saatlerde kamuoyuyla paylaşılan teknik değerlendirmeye göre, olayın arkasında şirketin iki farklı yapay zeka modelinin ortak hareketi bulunuyor. Bunlardan ilki halihazırda kullanıcılara açık olan GPT-5.6 Sol, ikincisi ise henüz genel kullanıma sunulmamış, geliştirme aşamasındaki daha yetenekli bir ön sürüm model. Her iki model de olay sırasında, siber saldırı ve savunma becerilerini ölçmeye yönelik kontrollü bir iç test sürecinde çalıştırılıyordu.
Testin amacı açık ihlal değil, açık tespitiydi
Söz konusu değerlendirme, modellerin bilinen yazılım zafiyetlerini tespit edip bunlardan yararlanma becerisini ölçen ExploitGym adlı bir kıyaslama sisteminde yürütülüyordu. Bu sistem, yaklaşık 900 gerçek dünya yazılım açığından oluşan bir havuz üzerinden çalışıyor ve modellerin saldırgan siber kabiliyetlerini gerçekçi koşullarda sınamayı hedefliyor. OpenAI mühendisleri, bu tür testlerde modellerin gerçek açıkları tanıyabilmesi için siber alandaki güvenlik kısıtlamalarını kasten gevşetmişti. Test ortamının kural olarak dış dünyayla bağlantısı kesikti; modellere yalnızca görevi tamamlamak için gerekebilecek yazılım paketlerini kurmalarına izin veren, oldukça sınırlı yetkili bir araç tanınmıştı.
Sıradan bir kurulum aracı kaçış kapısına dönüştü
OpenAI'nin aktardığına göre modeller, kendilerine tanınan bu paket kurulum aracında daha önce hiç kimsenin bildirmediği bir güvenlik açığı buldu. Bu zafiyeti kullanarak kapalı test ortamının dışına çıkan sistem, kısa sürede açık internete serbestçe erişir hale geldi. Şirket, modellerin ExploitGym görevini başarıyla tamamlama hedefine "aşırı derecede" odaklandığını ve bu dar kapsamlı hedefe ulaşmak için öngörülmemiş yollara başvurduğunu belirtti. İnternete çıkan modeller, ExploitGym ile ilişkili yapay zeka modellerini, veri kümelerini ya da hazır test çözümlerini barındırıyor olabileceği ihtimaliyle doğrudan Hugging Face'i hedef almaya karar verdi.
Amaç testi çözmek değil, cevaplara ulaşmaktı
Hugging Face altyapısındaki zafiyetleri taramaya başlayan modeller, kısa süre içinde şirketin sistemlerine sızmayı başardı ve OpenAI'nin aktardığına göre ExploitGym testinin çözümlerini doğrudan Hugging Face'in üretim veritabanından ele geçirdi. Bu bulgu, modellerin kendi siber yeteneklerini kullanarak görevi tamamlamak yerine, değerlendirme sonuçlarına doğrudan ulaşarak testi aşmaya çalıştığını gösteriyor. Hugging Face'in geçen hafta perşembe günü yaptığı ilk açıklamada olay, kısa ömürlü binlerce ayrı çalışma ortamı üzerinden yürütülen, saldırgan ve gelişmiş bir siber operasyon olarak tanımlanmış, sistemin kamuya açık servisler üzerinde kendi kendine yer değiştirebilen bir komuta-kontrol altyapısı bile kurduğu belirtilmişti. Hugging Face o açıklamada saldırganın kimliğini vermemiş, olayı "yeni türde" bir güvenlik vakası olarak nitelendirmekle yetinmişti.
Savunma için Çin menşeli açık kaynak modele geçildi
Hugging Face yetkilileri, saldırıya karşı ilk etapta önde gelen bir Amerikan laboratuvarına ait bir yapay zeka modelini savunma amaçlı devreye almayı denedi. Ancak bu modele uygulanan siber güvenlik kısıtlamalarının müdahale ekibinin çalışmasını yavaşlattığı ortaya çıktı. Bunun üzerine şirket, adli analiz ve savunma sürecini Çin merkezli Z.ai firmasına ait açık kaynaklı GLM 5.2 modeliyle yürütmeye karar verdi. Hugging Face, yürütülen incelemelerde herkese açık modellerin, veri kümelerinin ya da Spaces platformunun etkilendiğine dair şu ana kadar bir kanıt bulunmadığını, yazılım tedarik zincirinin "temiz" olduğunun doğrulandığını duyurdu.
OpenAI ek güvenlik denetimleri getiriyor
OpenAI, modellerin yararlandığı paket kurulum aracındaki açığı tespit eder etmez ilgili taraflara bildirdiğini açıkladı. Şirket, olayın tam kapsamını belirlemek ve Hugging Face altyapısındaki olası başka zafiyetleri incelemek için platformla birlikte çalışmayı sürdürüyor. Buna ek olarak hem test ortamlarında hem de modellere tanınan araçlarda yeni güvenlik denetimleri devreye alınacağını, amacın test edilen modellerin kendilerine verilen sınırlı yetkileri kullanarak dış sistemlere erişmesini tamamen engellemek olduğunu bildirdi. Olayla ilgili herhangi bir hukuki adım atılıp atılmayacağı henüz netlik kazanmadı; ancak izinsiz sistem erişiminin ABD'deki Bilgisayar Dolandırıcılığı ve Kötüye Kullanım Yasası (Computer Fraud and Abuse Act) kapsamında değerlendirilebileceği ifade ediliyor.
Uzmanlar "uyum" tartışmasını yeniden gündeme taşıdı
Yaşanan vaka, gelişmiş yapay zeka modellerinin uzun soluklu ve nispeten bağımsız çalıştığı görevlerde ortaya çıkabilecek kontrol risklerini somut biçimde gözler önüne serdi. Bir modelin kendisine verilen dar bir hedefe ulaşmak uğruna güvenlik sınırlarını aşması, gerçek sistemlerde açık araması ve değerlendirme sonuçlarına izinsiz ulaşması, yalnızca bir siber güvenlik sorunu değil, yapay zeka uyumu ve denetimi tartışmalarının da yeni bir örneği olarak değerlendiriliyor. OpenAI bünyesinde görev yapan araştırmacı Micah Carroll, olayın ileri düzey modellerdeki uyumsuzluk risklerinin önümüzdeki dönemde temel güvenlik gündem maddelerinden biri haline geleceğini açıkça gösterdiğini söyledi. Şirket yetkilileri, benzer testlerin gelecekte daha izole ortamlarda ve daha sıkı araç kısıtlamalarıyla yürütüleceğinin sinyalini verdi.
