Yüz avuç içi: Büyük yapay zeka şirketleri, yönetim kurulu üyeleri ve hissedarlara mali kazanç sağlamak için makine öğrenimi algoritmalarından yararlanma konusunda ne kadar sorumsuz ve acımasız olabileceklerini gösterdi. Şimdi aynı şirketler, tüm teknoloji dünyasından, gerçekten tehlikeli yapay zeka modelleri geliştirildiğinde sorumlu bir şekilde hareket edecekleri konusunda kendilerine güvenmelerini istiyor.
Yapay zeka algoritmaları ve hizmetleriyle çalışan en önemli şirketlerden bazıları, yapay zeka güvenliğini teşvik ederek operasyonlarını daha şeffaf ve güvenilir hale getirmek için yeni bir gönüllü anlaşma imzaladı. Son AI Seul Zirvesi öncesinde tanıtılan anlaşma, güvenli olmayan AI hizmetlerini kontrol etmek için uygulanabilir hiçbir önlem içermiyor, ancak Birleşik Krallık ve Güney Kore hükümetlerini memnun edecek kadar tatmin edici görünüyor.
Yeni anlaşma Microsoft, OpenAI, xAI (Elon Musk ve Grok girişimi), Google, Amazon, Meta ve Çinli şirket Zhipu AI gibi teknoloji ve yapay zeka devlerini içeriyordu. Artık tüm taraflar yapay zeka ile ilgili riskleri sınıflandırmaya yönelik planlarını ana hatlarıyla belirleyip yayınlayacak ve görünüşe göre toplum üzerinde ciddi etkileri olabilecek modeller geliştirmekten kaçınmaya istekli olacaklar.
Anlaşma, Kasım 2023’te Birleşik Krallık’ta düzenlenen Yapay Zeka Güvenliği Zirvesi sırasında uluslararası kuruluşlar ve 28 ülke tarafından onaylanan, yapay zeka güvenliğine ilişkin önceki taahhütlerin devamı niteliğindedir. Bletchley Deklarasyonu olarak bilinen bu taahhütler, yapay zeka ile ilgili riskleri ve potansiyeli yönetmek için uluslararası işbirliği çağrısında bulundu. en güçlü yapay zeka sistemlerinin (Frontier AI) düzenlenmesi.
İngiltere Başbakanı Rishi Sunak’a göre yeni taahhütler, önde gelen yapay zeka şirketlerinin güvenli yapay zeka algoritmaları oluşturma planlarında “şeffaflık ve hesap verebilirlik sağlayacağı” konusunda dünyaya güvence vermeli. Sunak, anlaşmanın yapay zeka güvenliği için yeni bir “küresel standart” görevi görebileceğini ve bu güçlü, “dönüştürücü” teknolojinin avantajlarından yararlanmanın yolunu gösterebileceğini belirtti.
Yapay zeka şirketleri artık, uygun hafifletme önlemleri uygulanmadığı sürece Frontier AI sistemlerinin risk oluşturabileceği “eşikleri” belirlemeli ve bu azaltımların nasıl uygulanacağını açıklamalıdır. Anlaşmalarda işbirliği ve şeffaflık vurgulanıyor. Birleşik Krallık temsilcilerine göre, yapay zeka ile ilgili riskleri yönetmek için uluslararası işbirliği çağrısında bulunan Bletchley Deklarasyonu şu ana kadar iyi çalışıyor ve yeni taahhütler “kar payı ödemeye” devam edecek.
Dünyayı yapay zeka risklerine karşı korumak için güvenilen şirketler, kendilerine hiç güvenilmemesi gerektiğini defalarca kanıtlamış kuruluşlarla aynı. Microsoft destekli OpenAI, en son ChatGPT botu için sesini kullanmak için Scarlett Johansson’dan izin istedi ve teklifi reddettiğinde yine de sesini kullandı. Araştırmacılar ayrıca, “Frontier AI” modelleri olmasa bile, sohbet robotlarının inanılmaz derecede güçlü, kötü amaçlı yazılım yayan makineler olduğunu gösterdi.