Yapay zekayla duygu tanıma teknolojisi denendi
BBC Panorama programının araştırmasına göre, duygu tanımı için kullanılan yapay zeka ve yüz tanıma teknolojisi Sincan'daki Uygurlar üzerinde denendi. BBC'ye konuşan bir yazılım mühendisi, bölgedeki polis merkezlerine bu sistemleri yerleştirdiğini öne sürdü.
DÜNYA , 26 Mayıs 2021 Çarşamba, 08:51
Yapay zekayla duygu tanıma teknolojisi denendi

BBC'nin araştırmasına göre, duygu tanımı için kullanılan yapay zeka ve yüz tanıma teknolojisi Sincan'daki Uygurlar üzerinde denendi.

BBC'ye konuşan bir yazılım mühendisi, bölgedeki polis merkezlerine bu sistemleri yerleştirdiğini öne sürdü.

İddiaya ilişkin kanıtları gören bir insan hakları savunucusu, uygulamanın "şok edici olduğunu" söyledi.

Londra'daki Çin Büyükelçiliği iddialara doğrudan yanıt vermedi ama tüm etnik grupların siyasi ve sosyal haklarının koruma altında olduğunu ifade etti.

Sincan'da çoğu Müslüman yaklaşık 12 milyon Uygur yaşıyor. Bölgedeki Uygurlar, her gün gözetim altında tutuluyor. Bölgede çok sayıda Çin'in 'yeniden eğitim kampları' olarak adlandırdığı tartışmalı kamplar da bulunuyor. İnsan hakları kuruluşları bu merkezleri 'ıslahevleri' olarak tanımlıyor ve buralarda bir milyondan fazla kişinin tutulduğu tahmin ediliyor.

Pekin, bölgede "kendi devletlerini kurmak isteyen ayrılıkçıların düzenledikleri terör saldırılarıyla yüzlerce kişiyi öldürdüklerini" söyleyerek gözetimin gerekli olduğunu savunuyor.

Yazılım mühendisi, güvenlik kaygıları nedeniyle kimliğini gizli tutma şartıyla BBC'nin araştırmacı gazetecilik programı Panorama'ya konuşmayı kabul etti. Mühendisin çalıştığı şirketin de adı açıklanmadı.

Sincan'da resmi olarak 'yeniden eğitim kampı' adı verilen merkez.

Mühendis, Panorama programına, duygu tanıma sisteminin yerleştirildiğini iddia ettiği, beş tutuklu Uygur'un fotoğrafını gösterdi ve "Çin hükümeti Uygurları, laboratuvarlardaki fareler gibi bazı deneyleri için denek olarak kullanıyor" dedi.

Mühendis, bölgedeki polis merkezlerine kameraları yerleştirme göreviyle ilgili de "Deneklere 3m mesafeye duygu tespit kamerası yerleştirdik. Yalan makinesine benziyor ama daha ileri bir teknoloji" dedi.

Çin genelindeki polis merkezlerinde 'yaygın olarak bulunan dizginleme sandalyelerinin' kullanıldığını ifade eden mühendis, "Bilekleriniz metal bağlarla kilitleniyor, aynısı ayak bileklerinize de yapılıyor" diye devam etti.

Mühendis, yapay zeka sistemlerinin yüz ifadeleri ve deri gözeneklerindeki dakikalık değişimleri bile tespit ve analiz edebildiğine ilişkin kanıtlar da gösterdi.

Sincan'ın dünyada en fazla 'gözetlenen şehri' olduğu düşünülüyor.

Daire grafiği

Mühendisin iddialarına göre yazılımlar daire grafikler yaratıyor ve grafikteki kırmızı alanlar zihnin olumsuz veya huzursuz hissettiği anları yansıtıyor. Mühendis, yazılımın "güvenilir kanıt olmadan hükme varılma amaçlı kullanıldığını" iddia etti.

Londra'daki Çin Büyükelçiliği, bölgede duygu tanıma yazılımının kullanılıp kullanılmadığıyla ilgili sorulara yanıt vermedi ama şu açıklamayı yaptı:

"Sincan'daki bütün etnik grupların siyasi, ekonomik, sosyal hakları ve dini özgürlükleri tamamen güvence altındadır.

"İnsanlar, etnik geçmişlerine bakmaksızın uyum içinde yaşıyor ve kişisel özgürlüklerine herhangi bir kısıtlama olmadan istikrarlı ve huzurlu bir hayatın keyfini çıkarıyor."

Kanıtlar, İnsan Hakları İzleme Örgütü'nün Çin Direktörü Sophie Richardson'a da gösterildi.

Richardson, "Bunlar çok şok edici bulgular. Daire grafiğine indirgenen insanlar, zorlayıcı şartlar, olağanüstü bir baskı altında ve tedirginlik içinde olan insanlar. Bu da suçluluk emaresi olarak değerlendiriliyor, bunun çok sorunlu olduğunu düşünüyorum" dedi.

Colorado Üniversitesi'nden Darren Byler'a göre Uygurlar, yerel bölge yetkililerine düzenli olarak DNA örnekleri vermek zorunda kalıyor, dijital taramalardan geçiriliyor ve çoğu hükümetin geliştirdiği, rehber ve mesajlar dahil birçok veriyi toplayan, cep telefonu uygulamasını indirmeye zorlanıyor.

Byler, "Uygur hayatı artık veri oluşturmaktan ibaret. Herkes cep telefonunun yanında taşınması zorunlu bir şey olduğunu biliyor. Taşımazsanız gözaltına alınabilirsiniz, takip edildiğinizi biliyorlar. Kaçış yokmuş gibi hissediyorlar" dedi.

Sistemdeki daire grafiğindeki veriler renklere göre ayrılıyor. Kırmızı, 'huzursuzluk, olumsuzluk' hissinini yansıtıyor.

Verilerin çoğu 'Entegre Ortak Operasyonlar Platformu' adı verilen bilgisayar sistemi içinde toplanıyor. İnsan Hakları İzleme Örgütü, bu sistemin şüpheli davranışları tespit ettiğini söylüyor.

Richardson sistemle ilgili şunları söyledi:

"Sistem, onlarca farklı yasal davranış türleri hakkında bilgi topluyor. Buna, ön kapı yerine arka kapıdan çıkmak, kendilerine ait olmayan bir arabaya yakıt koymak da dahil.

"Yetkililer şimdi insanların evlerinin dış kapılarına QR kodu yerleştiriyor. Böylece, evde kimin bulunması gerektiğini, kimin bulunmaması gerektiğini kolayca öğrenebiliyorlar."

'George Orwell bile hayal edememiştir'

Çinli teknoloji şirketlerinin devletle ne kadar yakın ilişkide olduğu her zaman tartışma konusu olmuştur. ABD merkezli araştırma grubu IPVM, bu şirketlerin patentlerinde, Uygurların tespiti için özel olarak tasarlanan yüz tanıma ürünlerine ilişkin kanıtlara ulaştıklarını öne sürüyor.

Huawei ve Çin Bilim Akademisi'nin Temmuz 2018'de yaptığı bir patent başvurusundaki yüz tanıma ürünü için, bireyleri etnik özelliklerine göre ayırt edebilme özelliği bulunduğu belirtiliyor.

Huawei ise grubun araştırmasına yanıt olarak "teknolojinin, toplumun herhangi bir üyesine ayrımcılık veya baskı amaçlı kullanılmasını onaylamadıklarını" söyledi ve faaliyetlerinin "hükümetten bağımsız olduğunu" ifade etti.

Araştırma grubu IPVM ayrıca, şirketin 'Bir Kişi, Bir Dosya' adlı bir teknoloji geliştirdiğine ilişkin de belgelere ulaştı.

IPVM'den Conor Healy sistemi şöyle anlattı:

"Her bir birey için hükümet kişisel bilgileri, siyasi faaliyetlerini, ilişkilerini topluyor... bu kişinin davranışlarının anlaşılması, ne tür bir tehdit oluşturabileceğinin tespit edilmesi için her türlü veriyi topluyor.

"Her türlü muhalefeti imkansız kılıyor ve hükümete vatandaşlarının davranışlarıyla ilgili gerçek tahminler yaratıyor. Bir hükümetin bu tür analizler yapma kapasitesine sahip olacağını George Orwell bile hayal edememiştir."

Huawei, 'Bir Kişi, Bir Dosya' sisteminin teknoloji gelişimine dahil olup olmadığı sorusuna doğrudan yanıt vermedi ama şirketin hükümetten bağımsız faaliyet gösterdiğini yineledi.

Çin'in Londra Büyükelçiliği ise bu programlara ilişkin "bilgi sahibi olmadığını" söyledi.

IPVM ayrıca, Çin pazarlama şirketi Hikvision'e ait, Uygurların tespit edilmesi için geliştirilen bir yapay zeka kamerasının reklam belgelerine ve bir diğer teknoloji devi Dahua'ya ait, yine Uygurları tespit eden bir yazılıma ulaştıklarını da iddia etti.

Dahua, patentlerinin Çin'de tanınan 56 etnik yapıya atıf yaptığını ve özellikle içlerinden birinin hedef alınmadığını söyledi.

Şirket, "insanların güvenliğini sağlamaya yardım etmeyi amaçlayan ürünler ve hizmetler sunduklarını" söyledi ve İngiltere dahil faaliyet gösterdikleri "her pazarın yasalarına, düzenlemelerine uyduklarını" ifade etti.

Hikvision, internet sitelerindeki ayrıntıların doğru olmadığını belirtip "uygun değerlendirme olmaksızın internet güncellemesi yapıldığını" ifade etti. Şirket, ürün yelpazelerinde "azınlık bir grubu tespit ve analiz etme teknolojisine sahip ürünler bulunmadığını veya satışı yapılmadığını" kaydetti.

BBC'ye konuşan Çin'in yapay zekadan sorumlu Ulusal Komitesi Başkanı Dr. Lan Şue, patentlerden haberdar olmadığını belirtip "Çin'in dışında bu tip suçlamalardan çok var. Çoğu doğru değil. Sincan yerel hükümetinin gerçekten Sincan halkını koruma sorumluluğu olduğunu düşünüyorum. Eğer bu bağlamda teknoloji kullanıldıysa bu da gayet anlaşılır bir durum" dedi.

Çin'in Londra Büyükelçiliği ise BBC'ye açıklamasında daha sert bir karşılık verdi ve "Uygurları analiz etme özelliği bulunan herhangi bir sözde yüz tanıma teknolojisi diye bir şey kesinlikle yoktur" dedi.

Günlük gözetim

Dünya genelindeki yaklaşık 800 milyon gözetim kamerasının yarısının Çin'de bulunduğu tahmin ediliyor.

Gazeteci Hu Liu hayatının her anının gözetlendiği hissine kapıldığını söylüyor.

Çin'in Chongqing gibi çok sayıdaki akıllı şehirlerinde ise şehir altyapısına yapay zeka yerleştirilmiş durumda.

BBC Panorama programına konuşan Chongqing merkezli araştırmacı gazeteci Hu Liu, kendi deneyimini şöyle anlattı:

"Evden çıkıp asansöre adım attığınızda sizi bir kamera görüntüler. Her yerde kamera var.

"Ben bir yere gitmek için evden çıktığımda taksi çağırıyorum, taksi şirketi verileri hükümete yüklüyor. Sonra birkaç arkadaşla buluşmak için bir kafeye gidebilirim. Orada da yetkililer kafedeki kameralarla yerimi öğrenebiliyor.

"Bazı arkadaşlarımla buluştuktan sonra hemen hükümetin benimle temasa geçtiği zamanlar olmuştu. Beni 'Bu kişiyle bir daha görüşme, bir daha şöyle yapma, böyle yapma' uyarıları yaptılar.

"Yapay zeka yüzünden saklanacak yerimiz kalmadı."

BUNLAR DA İLGİNİZİ ÇEKEBİLİR