Meta’nın sahibi olduğu Instagram, yasa dışı içeriği paylaşan ve teşvik eden pedofillerden oluşan “geniş bir ağ” için bir platform olarak rolünü ortaya koyan yeni bir raporda eleştiri yağmuruna tutuldu. The Wall Street Journal’ın Stanford Üniversitesi ve Massachusetts Üniversitesi ile birlikte yürüttüğü soruşturma, Instagram’ın algoritmalarının pedofilleri reşit olmayanların seks içeriği satan hesaplara aktif olarak bağladığını ve yönlendirdiğini ortaya çıkardı.
Bu hesaplar, kendilerine zarar veren ve hayvanlarla cinsel ilişkiye giren çocukların videoları da dahil olmak üzere, açıkça yasa dışı materyallerin reklamını yapmakta ve sunmaktadır. Rapor, Instagram’ın otomatik algılama araçlarına ve ilgili hashtag’ler aracılığıyla zararlı içeriği destekleyen platformun kusurlu algoritmasına güvendiğini vurguluyor. Bu tür içerikler için bir uyarı pop-up’ı olmasına rağmen, Instagram onu tamamen kaldırmadı.
Bulgular, özellikle yasadışı içeriği denetleme ve milyarlarca uygulama kullanıcısını korumaya yönelik devam eden çabaları göz önüne alındığında, Meta için önemli bir endişe oluşturuyor. Raporda, Instagram’ın sübyancılar için kolaylaştırıcı rolüne ilişkin açıklaması, şüphesiz Meta’nın Güven ve Güvenlik ekibi için endişe verici olacaktır. Meta’nın Topluluk Standartları ihlalleriyle ilgili yakın tarihli raporları, yaptırım eylemlerinde bir artış olduğunu gösteriyor ve şirketin bu alandaki endişeleri aktif olarak ele aldığını ima ediyor.
Rapora yanıt olarak Meta, bu tür ağları ortaya çıkarmak ve ortadan kaldırmak için dahili bir görev gücü kurarak bu endişeleri daha kapsamlı bir şekilde ele alma sözü verdi. Genç kullanıcıları korumak, marka güvenliğinin ötesine geçerek önemli ve etkili eylemler gerektirir.
Instagram’ın genç izleyiciler arasındaki popülaritesi göz önüne alındığında, bazı kullanıcıların esasen uygulama içinde kendilerini satması, Meta’nın sürecindeki büyük kusurları ortaya çıkarıyor. Rapor ayrıca Twitter’ın Meta’ya kıyasla önemli ölçüde daha az çocuk cinsel istismarı materyali (CSAM) barındırdığını ve endişeler konusunda daha hızlı harekete geçtiğini vurguluyor.
Elon Musk, CSAM’yi ele almayı birinci öncelik haline getirdi ve bu analiz, Twitter’ın sorunla mücadelede ilerleme kaydediyor olabileceğini gösteriyor. Instagram’ın, reşit olmayanların seks içeriğiyle ilgilenen geniş bir sübyancı ağını birbirine bağlayan ve destekleyen algoritmaları, Meta’nın derhal ilgilenmesini ve sağlam adımlar atmasını gerektiren ciddi bir sorundur. Şirketin yakın tarihli Topluluk Standartları Raporu bir miktar ilerleme gösterse de, bu sistemik kusurları gidermek için önemli önlemler alması gerekecek.
Meta, uygulama operasyonlarındaki belirli zorlukları kabul etti ve bu tür davranışlarla aktif olarak mücadele etmek için kesin bir taahhütte bulundu. Son iki yılda şirket, sübyancılık faaliyetlerine karışan 27 ağı başarıyla ortadan kaldırdı ve gelecekte benzer oluşumları ortadan kaldırma çabalarına devam etmeyi planlıyor.
Rapora yanıt olarak Meta, çocukları cinselleştiren binlerce hashtag’i engelledi ve sistemlerini cinsel istismarla ilgili arama önermekten kısıtladı. Ayrıca, potansiyel olarak pedofili olan yetişkinlerin birbirlerinin içeriğiyle bağlantı kurmasını veya bu içerikle etkileşim kurmasını engellemek için çalışıyor. Çocuk istismarı korkunç bir suç olarak görülüyor ve Meta’nın bu yaygın sorunla mücadele çabalarını yoğunlaştırması gerekiyor.
