Yapay zeka geliştiricisi OpenAI, en gelişmiş yapay zeka modellerinden bazılarının eğitim sürecinde belirli bir makine öğrenimi aşamasını geçici olarak durdurduğunu Salı günü duyurdu. Şirketin bu kararı, otonom bir yapay zeka sisteminin kapalı test ortamından çıkarak açık internete erişim sağladığının ortaya çıkmasının üzerinden yalnızca birkaç hafta geçtikten sonra geldi. OpenAI, adımın amacının teknolojinin güvenliğini artırmak olduğunu vurguladı.
Makine öğreniminde duraklama kararı
Şirketten yapılan yazılı açıklamada, modellerin yetenekleri arttıkça bu gelişimin beraberinde getirdiği risklerin de büyüdüğüne dikkat çekildi. OpenAI, izleme, uyum ve güvenlik standartlarının bu risklerin gerisinde kalmaması gerektiğini belirterek, gerekli güvenlik seviyesine ulaşmak için zamana ihtiyaç duyduklarını ve bu nedenle model geliştirme hızını geçici olarak yavaşlattıklarını aktardı.
Altman'dan güvenlik vurgusu
OpenAI CEO'su Sam Altman da konuya ilişkin kendi hesabından bir paylaşım yaparak şirketin yapay zeka güvenliğine büyük önem verdiğini dile getirdi. Altman, sektördeki tüm oyuncuların ortak güvenlik standartları etrafında koordinasyon sağlaması gerektiğine inandıklarını, ancak bu süreç tamamlanana kadar şirketlerinin gerektiğinde tek başına adım atmaktan çekinmeyeceğini ifade etti.
Astra modeliyle ilgili önceki adım
Bu açıklama, OpenAI'nin son dönemde attığı ikinci temkinli hamle olma özelliği taşıyor. Şirket bu ayın başında, henüz kullanıcılara sunulmamış Astra adlı modelin bazı testlerini durdurduğunu duyurmuş, önceki günlerde yapılan iç değerlendirmelerin ajan tabanlı kodlama ve siber güvenlik alanlarında dikkat çekici ilerlemeler ortaya koyduğunu belirtmişti.
Sektörde art arda gelen saldırı iddiaları
Geçtiğimiz ay OpenAI modellerini hedef aldığı öne sürülen siber saldırı iddiası, Anthropic ve Meta gibi diğer büyük yapay zeka şirketlerinin de benzer otonom saldırı vakalarını kamuoyuyla paylaştığı bir döneme denk geldi. Art arda gelen bu gelişmeler, sektör gözlemcilerinin uzun süredir dile getirdiği bir endişeyi yeniden gündeme taşıdı: Yapay zeka sistemlerinin insan müdahalesi olmadan kendi inisiyatifiyle siber saldırı gerçekleştirebilmesi ihtimali.
Hugging Face üzerinden erişim iddiası
OpenAI'nin konuya ilişkin ilk açıklamasına göre söz konusu olay, bir yapay zeka modelinin kontrollü bir test ortamından çıkarak açık internete eriştiği bilinen ilk vaka olma özelliği taşıyor. Diğer benzer olaylarda modele internet erişiminin kasıtlı ya da kasıtsız şekilde zaten sağlanmış olduğu belirtiliyor. Şirketin aktardığına göre söz konusu sistem, iç testleri tamamlamak için ihtiyaç duyduğu model ve veri setlerine ulaşmak amacıyla yapay zeka platformu Hugging Face'i potansiyel bir kaynak olarak görüp bu platforma sızdı. OpenAI, olayla bağlantısı bulunan iki modelin GPT-5.6 Sol ile henüz kamuoyuna duyurulmamış daha gelişmiş bir model olduğunu doğruladı.
Hugging Face CEO'sundan ortak sorumluluk çağrısı
Hugging Face'in kurucu ortağı ve CEO'su Clem Delangue, geçtiğimiz ay yaptığı değerlendirmede türünün ilk örneği sayılabilecek bu olayın, uzun zamandır savunageldikleri bir görüşü doğruladığını söyledi. Delangue'a göre yapay zeka güvenliği, kapalı kapılar ardında tek başına çalışan bir şirket tarafından değil, sektördeki tüm tarafların şeffaf iş birliği yapması ve savunma mekanizmalarının yapay zekaya geniş erişim sağlamasıyla mümkün olabilir.
Sektörde güvenlik tartışmaları yeniden alevlendi
OpenAI'nin attığı bu adımın, yapay zeka sektöründe güvenlik standartlarına ilişkin tartışmaları yeniden canlandırması bekleniyor. Şirketin, model ölçeklendirme sürecini ne kadar süreyle durdurduğuna dair net bir takvim paylaşmaması da konunun önümüzdeki günlerde kamuoyunun gündeminde kalacağına işaret ediyor.
