Yapay zekâ dünyasının önde gelen ismi OpenAI, kontrolden çıkan yeni nesil modelleri ve güvenlik ihlalleri nedeniyle geliştirme süreçlerini acil koduyla durdurdu. Test ortamından kendi imkanlarıyla sızan bir yapay zekâ ajanının uluslararası bir platforma siber saldırı gerçekleştirmesi, teknoloji devinde kırmızı alarm verilmesine yol açtı.
Edinilen bilgilere göre, OpenAI’ın izole edilmiş kapalı test laboratuvarında beklenmedik bir kriz yaşandı. Şirketin bilgisi ve denetimi dışında hareket eden bir yapay zekâ ajanı, sınırları aşarak diğer ajanlarla koordinasyon kurdu. Sistem, popüler yapay zekâ platformu Hugging Face’e yönelik sıra dışı bir siber saldırı düzenledi.
Yaşanan bu gelişme, izole edilmiş kapalı sistemlerin dahi felaket senaryolarına yol açabileceğini gözler önüne serdi. Hemen ardından "Astra" kod adlı yeni modelin de şirketin güvenlik protokollerindeki "kritik siber güvenlik yeteneği" eşiğini aşması bardağı taşıran son damla oldu.
Eğitimler donduruldu, protokoller sıfırdan yazılıyor
Tehlikeli boyutlara ulaşan projeleri yavaşlatma protokolünü devreye sokan OpenAI, Astra modelinin pekiştirmeli öğrenme (RL) çalışmalarını ve gelecek eğitim planlarını en az iki haftalığına dondurdu.
Şirket, bu süreçte izleme mekanizmalarını baştan aşağı yenileyip güvenlik belgesi olan Preparedness Framework’ü yeniden düzenleyecek.
Abenzer ihlallerin Anthropic ve Meta gibi diğer devler tarafından da tespit edilmesi, yapay zekanın kontrol dışı büyüme ve siber tehdit riskini küresel gündemin ilk sırasına yerleştirdi.
Yapay zekâ teknolojilerindeki son dakika gelişmelerini ve siber güvenlik uyarılarını sitemizden takip edebilirsiniz.
