İsimsiz kahramanlar: İnternet güvenliğinin ön saflarında yer alan moderatörler


Bir içerik moderatörünün tam olarak ne yaptığı sorulabilir. Bu soruyu cevaplamak için en baştan başlayalım.

İçerik denetimi nedir?

Her ne kadar terim ılımlılık genellikle yanlış yorumlanır, temel amacı açıktır: kullanıcı tarafından oluşturulan içeriği başkalarına zarar verme potansiyeli açısından değerlendirmek. İçerik söz konusu olduğunda, ılımlılık, saldırgan dil, grafik görüntülere veya videolara maruz kalma ve kullanıcı dolandırıcılığı veya istismarı gibi aşırı veya kötü niyetli davranışları önleme eylemidir.

Altı tür içerik denetimi vardır:

  1. Denetleme yok: Kötü aktörlerin başkalarına zarar verebileceği içerik denetimi veya müdahalesi yok
  2. Ön moderasyon: İçerik, önceden belirlenmiş yönergelere göre yayınlanmadan önce taranır.
  3. Denetleme sonrası: İçerik yayınlandıktan sonra incelenir ve uygunsuz görüldüğü takdirde kaldırılır.
  4. Reaktif moderasyon: İçerik, yalnızca diğer kullanıcılar bunu rapor ederse taranır
  5. Otomatik denetleme: İçerik, yapay zeka destekli otomasyon kullanılarak proaktif olarak filtrelenir ve kaldırılır
  6. Dağıtılmış denetleme: Birden fazla topluluk üyesinin oylarına göre uygunsuz içerik kaldırılır

İçerik denetimi şirketler için neden önemlidir?

Kötü aktörler tarafından gerçekleştirilen kötü niyetli ve yasa dışı davranışlar, şirketleri aşağıdaki şekillerde önemli risklere sokar:

  • Güvenilirliği ve marka itibarını kaybetmek
  • Çocuklar gibi savunmasız kitleleri zararlı içeriğe maruz bırakmak
  • Müşterileri dolandırıcılık faaliyetlerinden koruyamamak
  • Müşterileri daha güvenli deneyimler sunabilecek rakiplere kaptırmak
  • Sahte veya sahte hesaba izin verme

Ancak içerik denetiminin kritik önemi, işletmeleri korumanın ötesine geçer. Hassas ve korkunç içeriği yönetmek ve kaldırmak her yaş grubu için önemlidir.

Birçok üçüncü taraf güven ve güvenlik hizmeti uzmanının onaylayabileceği gibi, en geniş risk yelpazesini azaltmak için çok yönlü bir yaklaşım gerekir. İçerik moderatörleri, kullanıcı güvenliğini en üst düzeye çıkarmak ve marka güvenini korumak için hem önleyici hem de proaktif önlemleri kullanmalıdır. Günümüzün son derece politik ve sosyal olarak yüklü çevrimiçi ortamında, bekle ve izle “ılımlılık yok” yaklaşımını benimsemek artık bir seçenek değil.

“Adaletin erdemi, bilgelik tarafından düzenlendiği gibi ılımlılıktan oluşur.” – Aristoteles

İnsan içerik moderatörleri neden bu kadar kritik?

Birçok içerik denetleme türü, bir noktada insan müdahalesini içerir. Ancak reaktif denetleme ve dağıtılmış denetleme ideal yaklaşımlar değildir, çünkü zararlı içerik kullanıcılara maruz kalana kadar ele alınmaz. Post-moderasyon, AI destekli algoritmaların içeriği belirli risk faktörleri için izlediği ve ardından belirli gönderilerin, resimlerin veya videoların gerçekten zararlı olup olmadığını ve kaldırılması gerekip gerekmediğini doğrulamak için bir insan moderatörü uyardığı alternatif bir yaklaşım sunar. Makine öğrenimi ile bu algoritmaların doğruluğu zamanla iyileşir.

Maruz kaldıkları içeriğin doğası (çocukların cinsel istismarı materyali, görsel şiddet ve diğer zararlı çevrimiçi davranışlar dahil) göz önüne alındığında, insan içerik moderatörlerine olan ihtiyacı ortadan kaldırmak ideal olsa da, bunun mümkün olması pek olası değildir. İnsan anlayışı, kavrayışı, yorumlaması ve empatisi yapay yollarla çoğaltılamaz. Bu insani nitelikler, iletişimde bütünlüğü ve özgünlüğü korumak için gereklidir. Aslında, Tüketicilerin %90’ı, hangi markaları beğeneceklerine ve destekleyeceklerine karar verirken özgünlüğün önemli olduğunu söylüyor. (2017’de %86’dan artış).


Kaynak : https://www.technologyreview.com/2022/09/12/1059168/unsung-heroes-moderators-on-the-front-lines-of-internet-safety/

Yorum yapın