Yapay zekanın hayatın hemen her alanına hızla girdiği bir dönemde, teknolojinin gelecekte insanlık için oluşturabileceği risklere ilişkin tartışmalar da giderek büyüyor. Bu kez tartışmanın merkezinde, yapay zeka güvenliği alanında çalışan Anthropic'in üst düzey araştırmacılarından Evan Hubinger'ın yaptığı dikkat çekici değerlendirme yer aldı.
Anthropic'in Alignment Science ekibine liderlik eden Hubinger, gelişmiş yapay zekanın önümüzdeki 10 yıl içinde insanlığın tamamını ortadan kaldırabilecek bir sonuca yol açma ihtimalini kişisel olarak yüzde 10'un üzerinde gördüğünü söyledi. Açıklama, yapay zeka araştırmacısı Jacob Coxon'ın Anthropic'ten ayrılırken yaptığı sert eleştirilerin ardından geldi.
Ancak burada kritik bir ayrıntı bulunuyor. Söz konusu yüzde 10'luk oran, Anthropic şirketinin açıkladığı resmi bir risk hesabı ya da bilimsel bir olasılık raporu değil. Hubinger'ın kendi değerlendirmesi olarak ortaya koyduğu bir tahmin. Buna rağmen açıklamanın dünya çapında dikkat çekmesinin nedeni, sözlerin yapay zeka güvenliği konusunda çalışan ve sektörün önde gelen şirketlerinden birinde görev yapan bir araştırmacıdan gelmesi.
Tartışmayı başlatan istifa
Gelişmelerin fitilini Anthropic araştırmacısı Jacob Coxon'ın istifası ateşledi. Üç yıl boyunca OpenAI ve Anthropic'te yapay zeka araştırmaları yaptığını belirten Coxon, 9 Eylül 2026'da şirketten ayrıldığını duyurdu.
Coxon, yapay zeka alanındaki rekabetin güvenlik çalışmalarının önüne geçtiğini savunarak özellikle kendi kendisini geliştirebilen sistemlere doğru gidilen yolu eleştirdi. Araştırmacıya göre Anthropic ve OpenAI gibi şirketler, daha güçlü yapay zeka modelleri geliştirme yarışında insanlığın karşılaşabileceği uzun vadeli riskleri yeterince dikkate almıyor.
Coxon'ın açıklamaları kısa sürede teknoloji dünyasının dışına taşarak siyasi çevrelerde de tartışılmaya başlandı. Associated Press'in aktardığına göre araştırmacının mesajı milyonlarca kullanıcıya ulaşırken, bazı ABD'li siyasetçiler de yapay zeka alanında daha sıkı denetim çağrılarında bulundu.
Anthropic'in kendi araştırmacısından dikkat çeken destek
Coxon'ın açıklamalarını asıl önemli hale getiren gelişme ise aynı şirket içerisinde çalışan Evan Hubinger'ın verdiği yanıt oldu.
Anthropic'in Alignment Science lideri Hubinger, Coxon'ın temel değerlendirmesine katıldığını belirterek gelişmiş yapay zekanın bütün insanları öldürebilecek bir noktaya ulaşabileceğine gerçekten inandığını söyledi. Hubinger kendi kişisel tahminini ise gelecek 10 yıl için yüzde 10'un üzerinde olarak açıkladı.
Hubinger'ın açıklamasında dikkat çeken ikinci bölüm ise Anthropic'in henüz süper zeka düzeyindeki sistemlerin insan hedefleriyle uyumlu kalmasını garanti edecek kesin bir çözüme sahip olmadığını söylemesi oldu.
Bu konu yapay zeka dünyasında “alignment”, yani hizalama problemi olarak biliniyor. Temel soru, insanlardan çok daha güçlü ve otonom hale gelebilecek bir yapay zekanın hedeflerinin insanlığın çıkarlarıyla nasıl uyumlu tutulacağı. Günümüzde araştırmacılar bu soruna yönelik farklı yöntemler üzerinde çalışsa da gelecekte insan seviyesinin çok üzerinde yeteneklere ulaşabilecek sistemlerin güvenli biçimde kontrol edilmesini garanti eden kesin bir yöntem henüz ortaya konmuş değil.
Asıl endişe bugün kullanılan sohbet robotları değil
Hubinger'ın açıklamalarının önemli bir noktası, tartışmanın doğrudan bugün kullanılan ChatGPT, Claude veya benzeri sohbet botlarının insanlara saldıracağı iddiasına dayanmaması.
Araştırmacının dikkat çektiği temel risk, daha ileri bir aşamada ortaya çıkabilecek ve kendi gelişimini hızlandırabilecek yapay zeka sistemleri. Yapay zekanın kendi haleflerini tasarlayabildiği veya mevcut sistemlerini daha gelişmiş hale getirebildiği bir senaryo, araştırma dünyasında “recursive self-improvement”, yani yinelemeli öz gelişim olarak adlandırılıyor.
Bu senaryonun gerçekleşmesi halinde teknolojik gelişimin insan araştırmacıların müdahale kapasitesinden daha hızlı ilerleyebileceği öne sürülüyor. Hubinger da daha sonra yaptığı değerlendirmede kısa vadede mevcut modellerden kaynaklanabilecek risklerden ziyade, bu tür bir öz gelişim sürecinin sonucunda ortaya çıkabilecek süper zekaya ilişkin kaygısının ağır bastığını vurguladı. Anadolu Ajansı da Hubinger'ın açıklamasını aktarırken söz konusu riskin özellikle gelecekte oluşabilecek süper zeka ve insan hedefleriyle uyum sorunuyla bağlantılı olduğuna dikkat çekti.
Yapay zeka şirketleri için güvenlik tartışması büyüyor
Son açıklamalar tek başına değerlendirilmiyor. Yapay zeka şirketlerinin daha gelişmiş ve daha bağımsız hareket edebilen sistemler geliştirme yarışı, son dönemde güvenlik tartışmalarını da beraberinde getiriyor.
Bazı araştırmacılar yapay zeka ajanlarının test ortamlarının dışına çıkabilmesi, internet üzerinde daha bağımsız hareket edebilmesi ve karmaşık görevleri insan müdahalesi sınırlıyken yerine getirebilmesi gibi gelişmelerin gelecekte daha büyük sorunlara dönüşebileceğini savunuyor.
Öte yandan teknoloji sektöründeki herkes, insanlığın yok oluşunun kaçınılmaz veya yakın bir sonuç olduğu görüşünde değil. Tartışmanın önemli bölümünü oluşturan görüş ayrılığı da tam olarak burada ortaya çıkıyor. Bir grup araştırmacı gelişmiş yapay zekanın kontrol edilemez hale gelmesinin varoluşsal bir tehdit oluşturabileceğini düşünürken, başka uzmanlar mevcut risklerin daha ölçülebilir ve yönetilebilir problemlere odaklanılarak ele alınması gerektiğini savunuyor.
Nitekim Nobel ödüllü bilgisayar bilimcisi Geoffrey Hinton da yüzde 10'un üzerindeki tahminin tamamen mantıksız olmadığını belirten isimler arasında yer aldı. Hinton, insanların daha önce kendilerinden daha zeki bir sistem geliştirmemiş olmasının gelecekte ortaya çıkabilecek davranışları tahmin etmeyi zorlaştırdığını savundu. Bununla birlikte Birleşmiş Milletler'e yapay zeka alanında danışmanlık yapan bilgisayar bilimci Dame Wendy Hall, son tartışmaların sektörün düzenlenmesi ve kamuoyunun yönlendirilmesi açısından farklı motivasyonlarla da ele alınması gerektiğini söyledi.
ABD'de yapay zeka düzenlemesi yeniden gündemde
Anthropic araştırmacılarının açıklamaları yalnızca teknoloji dünyasında yankı bulmadı. ABD'de bazı siyasetçiler de gelişmiş yapay zekanın kontrolü, bağımsız denetim ve şirketlerin güvenlik sorumlulukları konusunda daha güçlü yasal düzenlemeler yapılması gerektiğini savunmaya başladı.
Reuters'ın aktardığına göre, Anthropic ve OpenAI araştırmacılarından gelen uyarıların ardından farklı siyasi kanatlardan bazı Kongre üyeleri yapay zeka konusunda yeni denetim mekanizmaları çağrısında bulundu. Tartışmanın odağında bağımsız değerlendirmeler, yapay zeka şirketlerinin denetlenmesi ve gelişmiş sistemlerin oluşturabileceği risklerin kamu otoriteleri tarafından izlenmesi bulunuyor.
Bu durum, yapay zeka güvenliğine ilişkin tartışmanın yalnızca teknoloji şirketleri ile bilim insanları arasında kalmadığını da gösteriyor. Özellikle süper zeka kavramının gündeme gelmesiyle birlikte konu, ulusal güvenlikten ekonomik rekabete, siber güvenlikten biyolojik tehditlere kadar çok daha geniş bir alana yayılıyor.
Yapay zekanın insanlığı yok etmesi kesin bir senaryo mu?
Bugün için böyle bir sonucun kesinleştiğini söylemek mümkün değil. Hubinger'ın yüzde 10'un üzerindeki tahmini de gelecekte gerçekleşmesi garanti edilmiş bir olay olarak değerlendirilmemeli.
Buradaki temel mesele, yüksek kapasiteli yapay zeka sistemlerinin gelecekte hangi yeteneklere ulaşabileceği ve insan kontrolünün bu gelişime ayak uydurup uyduramayacağı. Uzmanlar arasındaki görüş ayrılığı da büyük ölçüde gelecekteki yapay zekanın kapasitesi, otonomisi, kendisini geliştirme kabiliyeti ve insan hedefleriyle ne ölçüde uyumlu kalabileceği sorularında düğümleniyor.
Dolayısıyla ortaya çıkan tablo, “yapay zeka insanlığı yok edecek” şeklinde kesin bir hükümden çok, teknoloji sektörünün kendi içerisinden yükselen ciddi bir güvenlik uyarısı olarak değerlendiriliyor.
Anthropic gibi yapay zeka güvenliği konusunda güçlü bir kurumsal kimlik oluşturmuş bir şirketin çalışanlarından gelen açıklamalar ise tartışmanın önemini artırıyor. Önümüzdeki dönemde yapay zeka şirketlerinin güvenlik araştırmalarına ne kadar kaynak ayıracağı, hükümetlerin hangi düzenlemeleri hayata geçireceği ve geleceğin süper zeka sistemlerinin insan denetimi altında tutulup tutulamayacağı soruları gündemde kalmaya devam edecek.
