Avrupa’nın Hangi Yapay Zeka Kullanımlarının Yasaklanması Gerektiğine İlişkin Mücadele


2019 yılında korumalar Yunanistan, Macaristan ve Letonya sınırlarında yapay zeka destekli bir yalan dedektörünü test etmeye başladı. iBorderCtrl adlı sistem, bir kişinin bir sınır görevlisine yalan söylediğini tespit etmeye çalışmak için yüz hareketlerini analiz etti. Deneme, Avrupa Birliği araştırma fonunda yaklaşık 5 milyon dolar ve neredeyse 20 yıl Araştırma İngiltere’deki Manchester Metropolitan Üniversitesi’nde.

Duruşma tartışmalara yol açtı. Fiziksel özelliklerden yalanları tespit etmek için inşa edilen yalan makineleri ve diğer teknolojiler, psikologlar tarafından geniş çapta güvenilmez ilan edildi. Yakında, iBorderCtrl’den de hatalar bildirildi. Basında çıkan haberler, onun yalan tahmin algoritması işe yaramadıve projenin kendi web sitesi kabul edildi teknolojinin “temel insan hakları için riskler doğurabileceğini” söyledi.

Bu ay, iBorderCtrl’nin altında yatan teknolojiyi oluşturan Manchester Met’ten ayrılan bir şirket olan Silent Talker feshedildi. Ama bu hikayenin sonu değil. Avukatlar, aktivistler ve milletvekilleri, göçte insan aldatmacasını tespit ettiğini iddia eden sistemleri yasaklayacak olan AI’yı düzenlemek için bir Avrupa Birliği yasası için bastırıyor – neyin yanlış gidebileceğine bir örnek olarak iBorderCtrl’yi gösteriyor. Eski Silent Talker yöneticilerine yorum için ulaşılamadı.

Sınırlarda AI yalan dedektörlerinin yasaklanması, AB ülkelerinden yetkililer ve Avrupa Parlamentosu üyeleri tarafından AI Yasasında yapılan binlerce değişiklikten biridir. Mevzuat AB vatandaşlarının korunmasını amaçlamaktadır. temel haklarAyrımcılıktan uzak yaşama veya sığınma beyan etme hakkı gibi. Bazı yapay zeka kullanım durumlarını “yüksek riskli”, bazılarını “düşük riskli” olarak etiketliyor ve diğerlerine doğrudan yasak getiriyor. AI Yasasını değiştirmek için lobi yapanlar arasında, AI Yasasının genel amaçlı AI sistemleri yapanlar ile bunları belirli kullanımlar için dağıtanlar arasında bir ayrım yapmasını isteyen insan hakları grupları, sendikalar ve Google ve Microsoft gibi şirketler yer alıyor.

Geçen ay, Avrupa Dijital Hakları ve Belgesiz Göçmenlere İlişkin Uluslararası İşbirliği Platformu dahil olmak üzere savunuculuk grupları aranan Sınırlarda göz hareketi, ses tonu veya yüz ifadesi gibi şeyleri ölçen AI yalan makinelerinin kullanımını yasaklama eylemi için. Sivil özgürlükler kar amacı gütmeyen bir kuruluş olan Statewatch, bir analiz AI Yasası’nın yazıldığı şekliyle, Avrupa’nın mevcut “kamu tarafından finanse edilen sınır AI ekosistemine” ek olarak iBorderCtrl gibi sistemlerin kullanılmasına izin vereceği konusunda uyarıda bulundu. Analiz, son yirmi yılda, göçmenlerin profilini çıkarmak gibi sınırda AI kullanımı için ayrılan 341 milyon Euro’luk (356 milyon $) fonun yaklaşık yarısının özel şirketlere gittiğini hesapladı.

Kar amacı gütmeyen Mülteci Hukuku Laboratuvarı müdür yardımcısı Petra Molnar, herkesi şüpheli olarak etiketleyerek, sınırlarda AI yalan dedektörlerinin kullanılmasının teknoloji aracılığıyla etkili bir şekilde yeni göçmenlik politikası oluşturduğunu söylüyor. “Mülteci olduğunuzu kanıtlamanız gerekiyor ve aksi kanıtlanmadıkça yalancı olduğunuz varsayılıyor” diyor. “Bu mantık her şeyin temelini oluşturur. AI yalan dedektörlerinin temelini oluşturur ve sınırlarda daha fazla gözetim ve geri bildirimi destekler.”

Göçmenlik avukatı Molnar, insanların kültür, din veya travma gibi zararsız nedenlerle sınır veya göçmenlik yetkilileriyle göz teması kurmaktan genellikle kaçındığını, ancak bunu yapmanın bazen bir kişinin bir şeyler sakladığının bir işareti olarak yanlış anlaşıldığını söylüyor. İnsanlar genellikle kültürler arası iletişimle veya travma yaşayan insanlarla konuşmakla mücadele ediyor, diyor, o halde insanlar neden bir makinenin daha iyisini yapabileceğine inansın ki?


Kaynak : https://www.wired.com/story/europe-law-outlaw-ai/

Yorum yapın