Günümüzde sosyal medya platformları, haberleşme ve sosyalleşmenin en yaygın araçları haline gelirken, beraberinde ciddi sorunları da getiriyor. Özellikle çevrimiçi ortamda yayılan toksik tartışmalar ve saldırgan paylaşımlar, kullanıcı deneyimini olumsuz etkiliyor. Şimdi ise bilim insanları, bu tür olumsuz etkileşimlerin başlama aşamasını önceden tespit etmeye olanak tanıyan yenilikçi bir erken uyarı sistemi geliştirdi. Bu sistem, sosyal medya platformlarında yaşanabilecek “zehirli fırtınaları” önceden fark ederek müdahalelere kapı aralıyor.
ABD’de University at Albany ve Rutgers University araştırmacıları, Reddit ve Instagram gibi farklı dinamiklere sahip sosyal medya platformlarından elde edilen kamuya açık verileri kullanarak, sadece ilk 10 yorum üzerinden o tartışma dizisinin zehirli bir hale gelip gelmeyeceğini tahmin eden modeller geliştirdi. Bu yeni yaklaşım, tek bir kötü niyetli yorumu değil, zamana bağlı olarak patlayabilecek yoğun toksik etkileşim dalgalarını önceden belirlemeye odaklanıyor.
Araştırmanın liderlerinden Pradeep Atrey, bu yaklaşımı tek bir yanan ağaç yerine tüm ormanı görmekle kıyaslıyor. Geleneksel yöntemler genellikle tek tek yorumları incelerken, bu yeni sistem tüm tartışma sürecini bir bütün olarak analiz ediyor. Böylece, yorumların zamanlaması ve metin içeriğiyle birlikte, tartışmanın hızla kötüye gitme ihtimali doğru şekilde yakalanabiliyor. Bu bakış açısıyla, sosyal medya platformlarının zarar vermeden önce müdahale etmesi mümkün hale geliyor.
Araştırma kapsamında geliştirilen “Yorum Fırtınası Şiddeti” (Comment Storm Severity – CSS) adını verdikleri yeni bir ölçüt sayesinde, belli bir süre içinde hızla artan toksik yorumlar sayısındaki ani yükselişler tespit edilebiliyor. CSS değerinin belirlenen eşiklerin üzerine çıkması durumunda, o tartışmanın “negatif fırtına” ya da “neg storm” olarak adlandırılan tehlikeli bir evreye gireceği öngörülüyor. Bu tespit, sadece ilk 10 yorumun detaylı analiziyle yapılabiliyor. Burada özellikle yorumların geliş hızı ve zararlı içeriklerin küçük ipuçları taşıması kritik rol oynuyor.
Araştırmanın bir diğer önemli bulgusu, yorumların içeriğinden çok yorumların ne sıklıkta yapıldığı ve yorumlar arasındaki zamanlama düzeninin toksisiteyi tahmin etmekte daha anlamlı olduğunun ortaya çıkması. Çünkü yanlış anlaşılmalar ve gerginlikler genellikle ardışık, hızlı ve yoğun etkileşimler sonucu patlak veriyor. Bu nedenle sadece yazılı ifadenin değerlendirilmesi değil, yorumların oluşma zamanlarının da modelde yer alması başarıyı artırıyor.
Günümüzde çoğu otomatik içerik denetleyicisi, yorumları tek tek ve bağlamdan bağımsız değerlendiriyor. Bu biçimdeki sistemler genellikle yerel diyalektlere ya da azınlık grupların kullandığı dile karşı önyargılı sonuçlar verebiliyor. Yeni model ise bu sorunu aşarak, sosyal medya tartışmalarında tüm süreci ve bağlamı değerlendiriyor, böylece yanlış bayraklama oranını düşürüyor.
Bu gelişme, sosyal medya platformları için oldukça kritik bir dönüm noktası olabilir. Yorum akışlarının daha ilk aşamalarında riskli tartışmaların teşhisi, platformların proaktif müdahaleler yapmasını sağlayacak. Moderatörler, bu sistemin uyarıları doğrultusunda içeriklerin hızını yavaşlatabilir ya da belirli kullanıcılar için kısıtlamalar getirebilir. Böylece toksik tartışmalar başlamadan kontrol altına alınabilir.
Gelecekte araştırma, yorum yapan kullanıcıların geçmiş aktiviteleri, takipçi sayıları ve sosyal ağ içindeki durumları gibi faktörleri de analiz ederek daha kapsamlı ve kesin tahminler sunmayı amaçlıyor. Bu sayede sadece tartışmanın içeriği değil, etkileşimde bulunan tarafların profilleri de göz önünde bulundurularak, daha etkin bir koruma sağlanabilecek.
Irien Akter’in yürüttüğü bu çalışma, sosyal medyanın günümüz toplumunda oynadığı büyük role dikkat çekiyor ve daha güvenli platformlar yaratma vizyonunu destekliyor. İnsanların aileleriyle, arkadaşlarıyla ve topluluklarıyla sağlıklı iletişim kurabildiği bir internet ortamı için geliştirilen bu model, teknoloji ve toplumsal faydayı bir araya getiriyor. Önümüzdeki yıllarda benzer yaklaşımların yaygınlaşması, dijital iletişimdeki olumsuzlukları azaltarak kullanıcı deneyimini önemli ölçüde iyileştirebilir.
📎 Kaynak: techxplore.com
