Microsoft bugün , yapay zeka destekli bir içerik denetleme platformu olan Two Hat’i açıklanmayan bir miktar karşılığında satın aldığını duyurdu . Xbox ürün hizmetleri CVP’si Dave McCarthy’ye göre, satın alma işlemi Two Hat’in mevcut ve yeni müşterilerine ve Microsoft’ta “çoklu ürün ve hizmet deneyimlerine” hizmet etmek için her iki şirketin teknolojisini, araştırma yeteneklerini, ekiplerini ve bulut altyapısını birleştirecek.
“Yıllar boyunca Two Hat’teki çeşitli ve deneyimli ekiple çalışarak, pozitif ve gelişen çevrimiçi topluluklar için bütünsel bir yaklaşım sunmak için kurucu Chris c’nin vizyonundan ilham alan temel değerlerle tamamen uyumlu olduğumuz açıkça ortaya çıktı. ” McCarthy bir blog yazısında söyledi. “Son birkaç yıldır Microsoft ve Two Hat, zararlı içeriği topluluklarımızın üyelerine ulaşmadan önce tespit etmek ve kaldırmak için oyun ve oyun dışı deneyimlere proaktif denetleme teknolojisi uygulamak için birlikte çalıştı.”
ABD merkezli internet kullanıcılarının %37’si cinsel yönelimlerine, dinlerine, ırklarına, etnik kökenlerine, cinsiyet kimliklerine veya engelliliklerine dayalı olarak cinsel taciz ve takip de dahil olmak üzere ciddi saldırıların hedefi olduklarını söylüyor . Pandemi sırasında sosyal medya ve oyun platformlarında siber zorbalıkta %70’lik bir artış bulan bir ankette , özellikle çocuklar çevrimiçi istismara maruz kalıyor.
Priebe, 2012 yılında Disney’in oyun geliştirme bölümü olan Disney Interactive’de kıdemli uygulama güvenliği uzmanı olarak görevinden ayrıldığında Two Hat’i kurdu. Club Penguin’in güvenlik ve güvenlik ekibinde eski bir baş geliştirici olan Priebe, sosyal ağda siber zorbalık ve taciz konularını ele alma arzusuyla hareket etti.
Bugün Two Hat, AI, dilbilim ve “endüstri lideri yönetim en iyi uygulamalarını” birleştiren içerik denetleme platformunun mesajlar, kullanıcı adları, resimler ve videolar dahil olmak üzere her ay bir trilyondan fazla insan etkileşimini sınıflandırdığını, filtrelediğini ve yükselttiğini iddia ediyor. Şirket ayrıca, pornografik olması muhtemel içerik gibi çocukları istismar eden yeni materyalleri tespit etmek için AI’yı eğitmek için Kanada yasa uygulayıcılarıyla birlikte çalışıyor.
Two Hat, “Siber zorbalık, istismar, nefret söylemi, şiddet içeren tehditler ve çocuk istismarı gibi çevrimiçi zararları ortaya çıkarmaya odaklanarak, dünya genelindeki çeşitli sosyal ağlardaki müşterilerimizin her yaş için güvenli ve sağlıklı kullanıcı deneyimleri geliştirmelerini sağlıyoruz” diye yazıyor. kendi web sitesinde.
Microsoft ortaklığı
Birkaç yıl önce Two Hat, denetleme teknolojisini Xbox, Minecraft ve MSN’deki topluluklara uygulamak için Microsoft’un Xbox ekibiyle ortaklık kurdu. Two Hat’in platformu, Priebe’nin, Sentropy ve Jigsaw Labs’ Perspective API gibi yapay zeka destekli denetleme çözümleriyle karşılaştırıldığında önemli bir farklılaştırıcı olduğuna inandığı içeriğe – ve ne olmadıklarına – karar vermelerine olanak tanır.
Priebe bir basın açıklamasında , “Mevcut en uyarlanabilir, duyarlı, kapsamlı topluluk yönetimi çözümlerinden birini yarattık ve en iyi teknolojiyi benzersiz bilgilerle birleştirmenin heyecan verici yollarını bulduk” dedi . “Sonuç olarak, artık dünyanın en büyük topluluklarının çoğu için çevrimiçi etkileşimlere yardım etmekle görevlendirildik.”
Yarı otomatik moderasyonun çözülmemiş bir zorluk olarak kaldığını belirtmekte fayda var. Geçen yıl, araştırmacılar , Google ve yan kuruluşu Jigsaw tarafından geliştirilen bir araç olan Perceive’in, genellikle Afro-Amerikan dilinde yazılmış çevrimiçi yorumları zehirli olarak sınıflandırdığını gösterdi. Ayrı bir araştırma, kötü dilbilgisi ve garip yazımın – “Senden nefret ediyorum” yerine “Ihateyou love” gibi – toksik içeriğin AI ve makine dedektörlerinin tespit edilmesini çok daha zor hale getirdiğini ortaya çıkardı.
Fake News Challenge ve Facebook’un Hateful Memes Challenge gibi yarışmaların kanıtladığı gibi , makine öğrenimi algoritmaları da bağlam içinde kelimelerin bütünsel bir anlayışını kazanmak için hala mücadele ediyor. Açıkça, Facebook, belirli bir dezenformasyon kategorisinin yeni örneklerini bulmak için bir model eğitemediğini itiraf etti: COVID-19 hakkında yanıltıcı haberler. Instagram’ın otomatik denetleme sistemi, bir zamanlar Siyah üyeleri beyaz kullanıcılara göre %50 daha sık devre dışı bırakmıştı.
Ancak McCarthy, bir kullanıcı itibar sistemi içeren, 20 dili destekleyen ve potansiyel olarak kötü niyetli topluluk üyelerini otomatik olarak askıya alabilen, yasaklayabilen ve sessize alabilen Two Hat ürününün gücüne olan güvenini dile getirdi.
“Çevrimiçi toplulukları etkili bir şekilde yönetmeye çalışırken kuruluşların bugün karşılaştığı karmaşık zorlukları anlıyoruz. Sürekli değişen dijital dünyamızda, çevrimiçi içeriği etkili ve ölçeklenebilir bir şekilde yönetebilen moderasyon çözümlerine acil ihtiyaç var” dedi. “Xbox’ta sahip oldukları etkiye tanık olduk ve bu satın almanın, oyun genelinde, geniş bir Microsoft tüketici hizmetleri yelpazesinde birinci taraf içerik denetleme çözümlerimizi daha da hızlandıracağından ve bizim için daha fazla fırsat yaratacağından heyecan duyuyoruz. üçüncü taraf ortakları ve Two Hat’in mevcut müşterilerinin bu çözümleri kullanması.”