Meta, genç kullanıcıların güvenliğini artırmaya yönelik yeni bir özelliği kullanıma sundu. Şirket, Meta AI ile yapılan sohbetlerde kendine zarar verme veya intihar riski tespit edilmesi halinde ebeveynlere ya da vasilere otomatik bildirim gönderilmesini sağlayan yeni sistemi devreye aldı.
Yeni uygulama kapsamında ailelere yalnızca bildirim gönderilmeyecek; gençlere nasıl destek olunabileceğine ilişkin uzman tavsiyeleri ve rehber kaynaklar da paylaşılacak.
Riskli sohbetleri yapay zekâ tespit edecek
Meta'nın açıklamasına göre, Meta AI ile yapılan konuşmalar özel olarak geliştirilen yapay zekâ sistemi tarafından analiz edilecek. Sistem, kendine zarar verme veya intihar riski taşıdığı değerlendirilen sohbetleri belirleyerek incelemeye yönlendirecek.
Yanlış değerlendirmelerin önüne geçebilmek amacıyla yapay zekânın işaretlediği konuşmalar, ailelere bildirim gönderilmeden önce insan uzmanlar tarafından da incelenecek. Şirket, risk konusunda kesin bir sonuca ulaşılamasa bile tedbir amacıyla ebeveynleri bilgilendirebileceğini belirtti.
İlk etapta dört ülkede kullanıma sunuldu
Yeni özellik şu anda ABD, Birleşik Krallık, Avustralya ve Kanada'da Instagram'ın ebeveyn denetimi araçlarını kullanan aileler için aktif olarak kullanılabiliyor.
Meta, sistemin yıl sonuna kadar kademeli olarak dünya genelindeki kullanıcılara sunulmasının planlandığını açıkladı.
Acil durumlar için yeni özellik üzerinde çalışılıyor
Şirket ayrıca, yaşı fark etmeksizin herhangi bir kullanıcının Meta AI ile yaptığı görüşmede acil intihar riski tespit edilmesi halinde ilgili acil yardım birimleriyle iletişime geçilmesini sağlayacak yeni bir güvenlik sistemi üzerinde çalıştığını duyurdu.
Benzer özellik ChatGPT'de de bulunuyor
Öte yandan OpenAI da kullanıcı güvenliğine yönelik benzer araçlar sunuyor. ChatGPT'deki "Güvenilir Kişi (Trusted Contact)" özelliği sayesinde kullanıcılar, ciddi risk durumlarında yapay zekânın iletişime geçebileceği bir yakınını önceden belirleyebiliyor.
