Meta tarafından paylaşılan bilgilere göre, yeni sistem genç kullanıcıların risk teşkil edebilecek mesajlaşmalarını analiz etmek üzere Meta AI altyapısıyla çalışacak. Sistem, kendine zarar verme ya da intihar eğilimi gösterebilecek şüpheli içerikleri belirlediğinde, nihai kararı doğrudan yapay zekâya bırakmayacak. Tespit edilen konuşmalar öncelikle Meta’nın profesyonel güvenlik ekibi tarafından manuel incelemeye alınacak. Uzmanlar durumun riskli olduğuna kanaat getirirse, ebeveynlere anlık bildirim gönderilecek. Konuşmalar risk içerse dahi doğrudan aileyle paylaşılmayıp önce bu filtrelerden geçecek.
Özel Hayatın Sınırları Tartışılıyor
Meta daha önce de genç kullanıcıların yapay zekâ botlarıyla yaptığı konuşmaların başlıklarını ebeveynlerin erişimine açmıştı. Yeni özellik ise sistemi bir adım daha ileri taşıyarak doğrudan kullanıcılar arası sohbetlerdeki psikolojik içerikleri mercek altına alıyor. Bu durum gençlerin dijital ortamdaki güvenliğini artırmayı hedeflese de özel hayatın gizliliği ve sınırları konusundaki tartışmaları yeniden alevlendirdi.
İlk Etapta 4 Ülkede Başlıyor: Acil Durum İhbar Sistemi de Yolda
Yeni güvenlik aracının aktif olarak çalışabilmesi için Instagram uygulamasındaki "Ebeveyn Kontrolü" özelliğinin açık olması gerekecek. Özellik ilk etapta ABD, İngiltere, Avustralya ve Kanada’da test edilerek kullanıma sunulacak. Teknoloji devi, sistemi yıl sonuna kadar küresel çapta tüm kullanıcılar için aktif hale getirmeyi planlıyor. Şirket ayrıca hayati risk taşıyan, kendine zarar verme eğilimi yüksek kullanıcıları doğrudan yerel acil servislere bildirebilecek daha ileri düzey bir entegrasyon üzerinde de çalışmalarını sürdürüyor.
