Facebook’un yapay zekası, sosyal medya platformunda görüntülenen nefret söylemlerinin %5’inden daha azını kaldırıyor.
Wall Street Journal’dan yeni bir rapor, platformun zararlı içeriği kaldırma stratejisindeki kusurları detaylandırıyor.
Facebook ihbarcısı Frances Haugen, şirketin tehlikeli bir şekilde AI ve algoritmalara güvendiğini söyledi.
Facebook , nefret söylemi ve şiddet içeren gönderileri belirlemek ve kaldırmak için yapay zeka kullandığını iddia ediyor, ancak Wall Street Journal tarafından incelenen dahili belgelere göre teknoloji gerçekten çalışmıyor .
Journal’ın Pazar günü bildirdiğine göre, Facebook üst düzey mühendisleri, şirketin otomatik sisteminin yalnızca platformda görüntülenen ve kurallarını ihlal eden nefret söyleminin yalnızca %2’sini oluşturan gönderileri kaldırdığını söylüyor. Başka bir Facebook çalışanı grubu da benzer bir sonuca vardı ve Facebook’un yapay zekasının yalnızca platformda nefret söyleminin %3 ila %5’ini oluşturan gönderileri ve Facebook’un şiddet kurallarını ihlal eden içeriğin % 0,6’sını kaldırdığını söyledi.
Journal’ın Pazar raporu, şirketin Instagram kullanan genç kızların akıl sağlığından sitedeki yanlış bilgilendirmeye, insan kaçakçılığına ve çete şiddetine kadar her şey üzerindeki etkisine göz yumduğunu tespit eden “Facebook Dosyaları”nın son bölümüydü. Şirket, raporları “yanlış tanımlamalar” olarak nitelendirdi.
Journal’a göre Facebook CEO’su Mark Zuckerberg, Facebook’un yapay zekasının 2020’den önce “sorunlu içeriğin büyük çoğunluğunu” kaldırabileceğine inandığını söyledi. Facebook, platformdaki nefret söyleminin ve şiddet içeren içeriğin çoğunun, kullanıcılar daha görmeden “süper verimli” yapay zekası tarafından kaldırıldığı iddiasının arkasında duruyor . Facebook’un bu yılın Şubat ayına ait raporu , bu tespit oranının %97’nin üzerinde olduğunu iddia etti.
Journal’ın bildirdiğine göre, sivil haklar örgütleri ve akademisyenler de dahil olmak üzere bazı gruplar, sosyal platformun sayıları dış araştırmalarla eşleşmediği için Facebook’un istatistiklerine şüpheyle yaklaşıyor.
Medeni haklar grubu Color of Change’in başkanı Rashad Robinson, Journal’a “Çalışmalarını asla göstermeyecekler” dedi. “Pay nedir diye soruyoruz? Payda nedir? Bu sayıyı nasıl buldunuz?”
Facebook’un dürüstlük başkanı Guy Rosen, Journal’a, incelediği belgelerin güncel olmamasına rağmen, istihbaratın Facebook’un AI güdümlü içerik denetimi konusundaki kararlarını etkilediğini söyledi. Rosen, genel olarak Facebook’ta nefret söyleminin nasıl azaldığına bakmanın daha önemli olduğunu söyledi.
Facebook, Insider’ın yorum yapma isteğine hemen yanıt vermedi.
Dergideki en son bulgular, eski Facebook çalışanı ve ihbarcı Frances Haugen’in geçen hafta Kongre ile sosyal medya platformunun yapay zeka ve algoritmalara nasıl çok fazla güvendiğini tartışmak için görüşmesinden sonra geldi . Haugen, Facebook’un kullanıcılarına hangi içeriği göstereceğine karar vermek için algoritmalar kullandığından, en çok etkileşime giren ve daha sonra Facebook’un kullanıcılarına zorlamaya çalıştığı içeriğin genellikle yanlış bilgi içeren öfkeli, bölücü, sansasyonel gönderiler olduğunu söyledi.
Haugen, duruşma sırasında, “Kimden haber aldığımızı kolaylaştıran bilgisayarlar değil, insanların birlikte sohbet ettiği, insan ölçeğinde bir yazılıma sahip olmalıyız.” Dedi.
Facebook’un algoritmaları bazen neyin nefret söylemi ve neyin şiddet olduğunu belirlemede sorun yaşayabiliyor ve bu da zararlı videoların ve gönderilerin platformda çok uzun süre kalmasına neden oluyor . Facebook, Ekim’den Aralık 2020’ye kadar yaklaşık 6,7 milyon adet organize nefret içeriğini platformlarından kaldırdı . Journal tarafından hazırlanan bir rapora göre, bazı gönderiler organ satışı, pornografi ve silah şiddetiyle ilgili olanları kaldırdı .
Bununla birlikte, sistemleri tarafından gözden kaçırılabilecek bazı içerikler, şiddet içeren videolar ve çete şiddeti, insan ticareti ve uyuşturucu kartelleriyle ilgili kişiler tarafından paylaşılan işe alım gönderilerini içerir.