Önemli olmasının nedeni:OpenAI, ChatGPT kullanarak içerik yazan ve bunu kendilerine aitmiş gibi iddia eden kişileri yakalayabilen bir araca sahip. Metin filigranlama özelliği, chatbot kullanarak hile yaptıklarından şüphelenen ancak aksini iddia eden öğretmenler ve şirketler için bir vahiy olabilir. Ancak OpenAI, bunu yayınlamayı yalnızca düşündüğünü, bunun satışlarını etkileyebileceği için olabileceğini söylüyor.
OpenAI’nin ChatGPT tarafından oluşturulan metni filigranlayabilen ve tespit edebilen bir sisteme sahip olduğuna dair haber The Wall Street Journal tarafından ortaya çıkarıldı. Araç yaklaşık bir yıldır hazır, ancak AI firmasında yayınlanıp yayınlanmaması konusunda tartışmalar var.
Sistem, basit bir ifadeyle, ChatGPT’nin birbirini takip eden kelimeleri ve ifadeleri seçme biçiminde ufak ayarlamalar yaparak, başka bir araç tarafından tespit edilebilen bir desen, yani esasen görünmez bir filigran oluşturarak çalışıyor.
OpenAI, WSJ raporunun yayınlanmasının ardından Mayıs ayındaki blog yazısını güncelleyerek “Ekiplerimiz, alternatifleri araştırırken değerlendirmeye devam ettiğimiz bir metin filigranlama yöntemi geliştirdi.” ifadesini doğruladı.
Gönderide, filigranlamanın yerelleştirilmiş kurcalamaya karşı, örneğin parafrazlama, oldukça doğru ve etkili olduğu kanıtlanmış olsa da, çeviri sistemleri kullanma ve metni başka bir üretken model kullanarak yeniden ifade etme gibi küreselleştirilmiş kurcalamayla karşı karşıya kaldığında zorlandığı belirtiliyor. Kullanıcılar, modelden her kelimenin arasına özel bir karakter eklemesini ve ardından bu karakteri silmesini isteyerek sistemi aşabilir.
OpenAI ayrıca metin filigranlamanın bazı grupları orantısız bir şekilde etkileme potansiyeline sahip olduğunu iddia ediyor. Ana dili İngilizce olmayanlar için AI’nın bir yazma aracı olarak kullanılmasının damgalanması örneğini veriyor.
Metin filigranı, OpenAI’nin araştırdığı birkaç çözümden biridir. “Metin kökeni alanında kapsamlı araştırma”nın bir parçası olarak sınıflandırıcıları ve meta verileri incelemiştir.
TechCrunch’a yaptığı açıklamada, OpenAI sözcüsü WSJ’nin haberini doğruladı ancak “karmaşıklıklar ve OpenAI’nin ötesinde daha geniş ekosistem üzerindeki muhtemel etkisi” nedeniyle “kasıtlı bir yaklaşım” benimsendiğini söyledi.
OpenAI’nin filigranlama yöntemini yayınlamayı neden hâlâ düşündüğüne dair iddialarının ana nedeni, ankete katılan ChatGPT kullanıcılarının %30’unun filigranlama uygulanırsa chatbot’u daha az kullanacaklarını söylemesi olabilir.
Mart 2023’te Maryland Üniversitesi’nden beş bilgisayar bilimcisinin yaptığı bir çalışma, LLM’ler tarafından üretilen metnin hem teorik hem de pratik açıdan pratik senaryolarda güvenilir bir şekilde tespit edilemeyeceği sonucuna vardı. OpenAI, düşük doğruluk oranı nedeniyle geçen yılın Temmuz ayında bir metnin bir AI tarafından yazılmış olma olasılığını belirlemesi gereken AI sınıflandırıcı aracını kapatarak buna katılmış gibi görünüyordu.