Sosyal medya moderatörlerinin gizli hayatları

Sosyal medyada görüntülenemeyecek kadar şiddet içeren, cinsel, küfürlü veya başka bir şekilde kabul edilen çok sayıda içerik var. TikTok, Instagram, Facebook, Twitter/X, hepsi içeriklerini farklı derecelerde denetliyor, ancak hepsinin arkasında büyük bir bilgisayar olduğunu düşünüyorsanız, tekrar düşünmek isteyebilirsiniz.

Gerçek insanlar, bu sitelere yüklenen içeriği gözden geçirerek, hiçbir zaman korkunç manzaralar göremeyecek olsak da, sürekli ve günlük olarak bunlara maruz kalmalarını sağlar. BBC, Nairobi merkezli moderatör Mojez ile bir moderatörün hayatına verebileceği zarar hakkında konuştu.

"Telefonunuzu alıp TikTok'a giderseniz, birçok aktivite, dans, bilirsiniz, mutlu şeyler göreceksiniz" dedi. "Ama arka planda, şahsen yüzlerce, korkunç ve travmatize edici videoyu yönetiyordum. Kendim üstlendim. Genel kullanıcıların platformdaki faaliyetlerine devam edebilmeleri için akıl sağlığımın devreye girmesine izin verin."

Dünyanın dört bir yanında moderatörler olsa da, büyük bir kısmı Doğu Afrika'da bulunuyor ve birçok moderatör çalışmanın ruh sağlıklarını bozduğunu iddia ediyor. Bazıları sektörden tamamen ayrıldı, bazıları ise bir sendika oluşturmak için bir araya geldi.

Yapay zeka modelleri bu moderasyonu yapmak için çalışıyor, ancak bu nedenle yine de korkunç ve taciz edici içerik görmek zorunda kalacak olan insanlar tarafından eğitilmeleri gerekiyor. Böyle bir araç çevrimiçi alanları mükemmel bir şekilde yönetebilene kadar, ön saflarda insanlar olacak.