Discord, grid tabanlı görüntüleri zararlı içerik olarak tanıyan bir hatadan etkilenen yaklaşık 200 kullanıcıyı kaldırdı

Yaklaşık 200 Discord hesabı, kullanıcıların mesajlaşma hizmetinden kalıcı olarak askıya alınmasına yol açan bir hata nedeniyle yeniden açıldı; çünkü şebeke tabanlı görüntülerin zararlı içerik içerdiği yanlış tespit edildi. Hafta sonu bildirildi; Discord'un yapay zeka moderasyon araçlarındaki bir güvenlik açığının, servisin herhangi bir kare ızgara görselini yanlış CSAM içerdiğini tespit ettiği anlamına geliyordu.

"Sistemlerimiz, içeriği bilinen zararlı materyallerle eşleştirerek işaretler. Bu tür benzerlik eşleştirmeleri yanlış pozitifler verebilir, bu yüzden Güven ve Güvenlik ekibimizden bir üye, herhangi bir işlem yapılmadan önce işaretlenmiş içeriği her zaman inceler," diye açıkladı Discord, Twitter/X'teki bir başlıkta. İşaret, işaretlenen içeriğin birincil odak noktasının bir kullanıcıyı tamamen yasaklamak yerine yüklemeleri durdurmak olduğunu belirtti.

Hata yasakların sebepiydi ve hatadan etkilenen hesaplar incelenip yeniden kuruldu. Discord, bu yılın Mayıs ayından bu yana 8.000'den fazla hesabın hata tarafından etkilendiğini, ancak hepsinin banlanmadığını açıkladı.

"Biliyoruz ki bu senin hesabınsa, tatmin edici bir açıklama değil ve bunu daha önce yakalamalıydık. Bunun sessizce tekrar yaşanmaması için daha iyi önlemler üzerinde çalışıyoruz ve daha geniş anlamda, güvenlik sistemlerimizin hiçbir yanlış yapmayan insanları cezalandırmamasını sağlamak üzerinde," diye yazdı Discord.

Yani, Minecraft envanterinizi elmaslarla dolu göstermek için bekliyorsanız ama hata yüzünden yasaklanmak istemiyorsanız, şimdi Discord'un desen tanıma özellikleri haksız yasaklanmaları önlemek için ince ayar edilmiş gibi görünüyor.