O NE LAN?! Amazon’un Birleşik Krallık’taki büyük transit merkezlerinde bazı sade insanları gözlemlediği ortaya çıktı. Yeni ortaya çıkan belgeler, e-ticaret devinin yapay zeka yazılımının son birkaç yılda ülkedeki binlerce demiryolu yolcusunun yüzünü tarayarak yaşlarını, cinsiyetlerini, duygularını ve daha fazlasını analiz ettiğini gösteriyor.
AI gözetim denemeleri, Londra’daki Euston ve Waterloo gibi büyük terminallerin yanı sıra Manchester Piccadilly istasyonu da dahil olmak üzere Britanya’daki sekiz tren istasyonunda gerçekleştirildi. Testler, personeli güvenlik olayları konusunda hızlı bir şekilde uyararak suçu azaltmak amacıyla Birleşik Krallık’taki demiryolu altyapısını işleten Network Rail tarafından denetlendi.
Sistemler, pistlere izinsiz giren insanları, platformlarda aşırı kalabalığı, bisiklet hırsızları gibi potansiyel suçluları ve hatta koşma, bağırma, kaykay yapma veya sigara içme gibi “antisosyal davranışları” otomatik olarak tespit edecek şekilde eğitildi. Ayrı sensör denemeleri, karışıklığa neden olabilecek kaygan zeminleri, taşan çöp kutularını ve tıkanmış kanalizasyonları araştırdı.
Tüm bunları gerçekleştirmek için Network Rail, görüntü akışlarındaki nesneleri ve hareketleri tespit edebilen akıllı kameraların yanı sıra Amazon’un Rekognition yazılımından bulut tabanlı bilgisayar görüşüne bağlanan eski CCTV’leri de bağladı. Rekognition, nesne, metin ve yüz tanıma gibi gelişmiş yeteneklerle görüntüleri ve videoları analiz etmek için derin öğrenmeyi kullanan bulut tabanlı bir bilgisayarlı görme platformudur.
Ayrıntılar, sivil özgürlükleri savunan grup Big Brother Watch’un Bilgi Edinme Özgürlüğü talebiyle elde edilen belgelerden geliyor. Dosyalarda, Nisan 2023 itibarıyla denemeler için her istasyona 5 ila 7 arasında AI kamera veya sensörün kurulduğu belirtiliyor.
Maalesef gözetimin güvenliği sağlamaktan daha fazlası vardı. Belgeler, yapay zekanın “yaş aralığı ve erkek/kadın demografisine ilişkin istatistiksel analiz” oluşturmak için insan görüntülerini kullanabileceğini ortaya koyuyor. Ayrıca yüz ifadelerini tarayarak mutluluk, üzüntü, öfke gibi duyguları da analiz edebiliyordu. Hatta bir e-tabloda yapay zeka izleme sistemleri için 50 potansiyel kullanım durumu bile listelendi, ancak hepsi mutlaka test edilmedi.
İnsanlar bilet bariyerlerinde “sanal tuzak telini” geçtiğinde görüntüler çekildi ve ardından analiz için Amazon’un Rekognition’ına gönderildi. Belgelerde işaretlenen fikirlerden biri, reklamları optimize etmek ve yolcu memnuniyetini ölçmeye dayalı olarak perakende gelirini artırmak için bu veriyi kullanmaktı.
Network Rail sözcüsü Wired’a, kurumun demiryolu güvenliğini son derece ciddiye aldığını ve “yolcuları, meslektaşlarımızı ve demiryolu altyapısını suç ve diğer tehditlerden korumak için” yapay zeka gibi ileri teknolojileri kullandığını söyledi.
Ancak gizlilik savunucuları, yapay zeka gözetim sistemlerinin toplu taşıma merkezleri gibi kamusal alanlarda uygulanması konusunda şeffaflık eksikliği olduğunu savunuyor. Reklam hedefleme için demografik ve duygusal profil oluşturma gibi kişisel verilerin kötüye kullanılma potansiyeli, özellikle büyük şirketler işin içine girdiğinde gerçek oluyor.