Aralık 2023’te ABD’nin New Mexico eyaleti, Facebook ve Instagram algoritmalarının reşit olmayanlara cinsel içerik önerdiği iddiasıyla Meta aleyhine dava açmıştı. The Wall Street Journal’ın haberine göre, şirketin kendi çalışanlarının her gün 100 bin çocuk kullanıcının tacize uğradığını tahmin ettiği dahili bir Meta sunumu ortaya çıktı.
Söz konusu belgeye göre, 2021 tarihli bir sunumda, Facebook’un ‘Tanıyor Olabileceğiniz Kişiler’ (PMYK) algoritmasının, çocukları yırtıcı hayvanlarla ilişkilendiren birincil bağlantı noktası olarak seçildiği belirtilmişti. Çalışanlar bu bulguları Meta yöneticilerine ilettiklerinde, algoritmanın yetişkinleri reşit olmayan önermeyi durduracak şekilde yeniden tasarlanması yönündeki önerilerin reddedildiği bildirildi.
Instagram’da Cinsel İçerik Konuşmaları Oldukça Yaygın
Bir çalışana göre, bu özellik yetişkin-reşit olmayan tüm uygunsuz etkileşimlerin yüzde 75’inden sorumlu tutuluyordu. Başka bir çalışan, “Yetişkinlerle çocuklar arasındaki PMYK’yı nasıl kapatmadık?” diye sordu. Bir başka çalışan ise, “Bu gerçekten çok üzücü” diye ekledi. 2020 tarihli bir şirket içi notta belirtildiğine göre, sorunlar özellikle Instagram’da daha sinsiydi ve cinsel içerik konuşmaları bu platformda ABD’deki Facebook Messenger‘dan 38 kat daha yaygındı.
New Mexico Meta’nın platformunda, özellikle öneri algoritmaları etrafında, büyük ölçekli saldırganlığa karşı çözüm üretmede başarısız olduğunu iddia ediyor. Eyalet müfettişleri başlangıçta, çocuklar için sahte hesaplar açarak yetişkinlerin doğum tarihlerini kullanıyorlardı; çünkü çocuklar genellikle çevrimiçi hizmetlere erişmek için yaşlarını yanlış belirtiyorlardı.
Daha sonra, hesapların çocuklar tarafından kullanıldığını ima ederek, süt dişi kaybıyla ilgili bir paylaşım yaptılar. Davada diğer iddialar arasında, hesaplara çocuklara yönelik cinsel içerikli görseller ve cinsel ilişki için ödeme teklifleri gönderildiği de bulunuyor. Eyalet ayrıca Meta liderlerinin 2022’nin sonlarına kadar yetişkinlerin reşit olmayanlara yönelik saldırganlığını sınırlamak için yeterli önlemleri almadığını ve güvenlik personeli tarafından önerilen katı önlemlerin yetersiz kaldığını iddia ediyor.
