Instagram genç hesapları hala intihar içeriği gösteriyor, çalışma iddiaları

Bir araştırmaya göre, Instagram’ın gençleri zararlı içeriklerden korumak için tasarlanmış araçlarının intihar ve kendine zarar verme görevlerini görmelerini engellemediğini iddia etti.

Araştırmacılar ayrıca Meta’ya ait sosyal medya platformunun çocukları “yetişkinlerden son derece cinselleştirilmiş yorumlar alan içerik yayınlamaya” teşvik ettiğini söyledi.

Çocuk güvenlik grupları ve siber araştırmacılar tarafından yapılan testler, Instagram’daki gençler için 47 güvenlik aracının 30’unun “büyük ölçüde etkisiz veya artık mevcut olmadığını” buldu.

Meta, korumalarının Instagram’da daha az zararlı içerik görmesine yol açtığını söyleyerek araştırmaya ve bulgularına itiraz etti.

Bir meta sözcüsü BBC’ye verdiği demeçte, “Bu rapor, ebeveynleri güçlendirme ve gençleri koruma çabalarımızı defalarca yanlış temsil ederek, güvenlik araçlarımızın nasıl çalıştığını ve milyonlarca ebeveynin ve gençlerin bugün bunları nasıl kullandığını yanlış gösteriyor.” Dedi.

“Genç hesaplar, otomatik güvenlik korumaları ve basit ebeveyn kontrolleri sağladıkları için sektöre liderlik ediyor.”

Şirket 2024’te Instagram’a genç hesapları tanıttıgençler için daha iyi korumalar ekleyeceğini ve daha fazla ebeveyn gözetimine izin vereceğini söylemek.

Fb ve Messenger’a genişletildi 2025’te.

Bir hükümet sözcüsü, BBC’nin platformların çocuklara ve gençlere zarar verebilecek içerikle mücadele etmesi için gereksinimlerini söyledi.

BBC’ye, “Çok uzun süre teknoloji şirketleri, zararlı malzemelerin genç yaşamları harap etmesine ve aileleri parçalara ayırmasına izin verdi.”

“Çevrimiçi Güvenlik Yasası uyarınca, platformların artık gençleri kendine zarar verme veya intiharı teşvik eden malzeme de dahil olmak üzere içeriklere zarar vermekten korumak için yasal olarak gereklidir.”

Genç güvenlik önlemlerinin etkinliği üzerine yapılan çalışma, ABD Araştırma Merkezi Siber Güvenliği tarafından demokrasi ve uzmanlar tarafından gerçekleştirildi. Bilgi uçağı Arturo Béjar Molly Rose Vakfı da dahil olmak üzere çocuk güvenlik grupları adına.

Araştırmacılar, sahte genç hesaplar oluşturduktan sonra araçlarla ilgili önemli sorunlar bulduklarını söyledi.

30 aletin bulunmasının yanı sıra artık etkisiz ya da artık mevcut değildi, dokuz aracın “zarar azalttığını ancak sınırlamalarla birlikte geldiğini” söylediler.

Araştırmacılar, analiz ettikleri 47 güvenlik aracının sadece sekizinin etkili bir şekilde çalıştığını söyledi – yani gençlere Instagram’ın gençlere gösterilmesi gerektiğine dair kendi kurallarını kıran içerik gösteriliyorlardı.

Bu, “küçümseyen cinsel eylemleri” ve intihar, kendine zarar verme veya yeme bozukluklarını teşvik eden arama terimleri için otomatik tamamlama önerilerini açıklayan yayınları da içeriyordu.

İngiltere’de daha güçlü çevrimiçi güvenlik yasaları için kampanyalar olan Molly Rose Vakfı genel müdürü Andy Burrows, “Bu başarısızlıklar, Meta’da güvenlik önüne ve karı güvenlik önüne koyan bir şirket kültürüne işaret ediyor.” Dedi.

2017’de 14 yaşında kendi hayatını alan Molly Russell’ın ölümünden sonra kuruldu.

2022’de yapılan bir soruşturmada, Coroner “çevrimiçi içeriğin olumsuz etkilerinden” muzdaripken öldüğü sonucuna vardı.

Araştırmacılar, bulgularının BBC Information ekran kayıtlarıyla paylaştılar, bunlardan bazıları 13 yaşın altında gibi görünen küçük çocuklar da dahil.

Bir videoda, genç bir kız kullanıcılardan çekiciliğini derecelendirmelerini ister.

Araştırmacılar, Instagram’ın algoritmasında “13 yaşından küçük çocukları beğeniler ve görüşler için riskli cinselleştirilmiş davranışlar gerçekleştirmeye teşvik ettiğini” iddia ettiler.

“Onları yetişkinlerden son derece cinselleştirilmiş yorumlar alan içerik yayınlamaya teşvik ediyor” dediler.

Ayrıca genç hesap kullanıcılarının “birbirlerine saldırgan ve kadın düşmanı mesajlar” gönderebileceğini ve takip edilmesi için yetişkin hesaplarının önerildiğini buldu.

Bay Burrows, bulguların Meta’nın genç hesaplarının “Instagram’da uzun süren güvenlik risklerini çözmek için web ve uyumlu bir girişimden ziyade PR odaklı bir performans gösteren dublör olduğunu” söyledi.

Meta, çevrimiçi çocuk güvenliğine yaklaşımları için eleştiriyle karşılaşan birçok büyük sosyal medya firmasından biridir.

Ocak 2024’te genel müdür Mark Zuckerberg teknoloji patronları arasındaydı ABD Senatosu’nda ızgara güvenlik politikaları üzerinde – ve çocuklarının sosyal medya tarafından zarar gördüğünü söyleyen bir grup ebeveynden özür diledi.

O zamandan beri Meta, uygulamalarını kullanan çocukların güvenliğini denemek ve artırmak için bir dizi önlem uyguladı.

Ancak raporun Yazarlar Demokrasi Güvenliğinin ortak direktörü Dr Laura Edelson, “Bu araçların amaca uygun olmadan önce uzun bir yolu var” dedi.

Meta, BBC’ye araştırmanın gençler için içerik ayarlarının nasıl çalıştığını anlayamadığını ve bunları yanlış temsil ettiğini söyledi.

Bir sözcü, “Gerçek şu ki, bu korumalara yerleştirilen gençler daha az hassas içerik gördü, daha az istenmeyen temas yaşadı ve geceleri Instagram’da daha az zaman geçirdi.” Dedi.

Araçların ebeveynlere “sağlam araçları parmaklarının ucunda” verdiğini eklediler.

“Araçlarımızı geliştirmeye devam edeceğiz ve yapıcı geri bildirimleri memnuniyetle karşılıyoruz – ancak bu rapor bu değil.” Dediler.

Demokrasi Merkezi’nin Siber Güvenliğinin, uygulama zamanı yönetimi için “Ara Git” bildirimleri gibi araçların artık genç hesaplar için mevcut olmadığını söyledi – aslında başka özelliklere yuvarlandıklarında veya başka bir yere uygulandıklarında.