New York City, Yapay Zekanın İşe Almada Nasıl Kullanılacağını Düzenlemek İçin Hareket Ediyor

Avrupalı ​​milletvekilleri bir AI yasası üzerindeki çalışmalarını bitiriyor. Biden yönetimi ve Kongre’deki liderlerin yapay zekayı dizginleme planları var. AI sansasyonu ChatGPT’nin yapımcısı OpenAI’nin CEO’su Sam Altman, geçen hafta Senato ifadesinde gözetim ve lisanslama yetkisine sahip bir federal kurumun kurulmasını tavsiye etti. Ve konu Japonya’daki Group of 7 zirvesinde gündeme geldi.

Kapsamlı planlar ve taahhütler arasında, New York City, AI düzenlemesinde mütevazı bir öncü olarak ortaya çıktı.

Şehir yönetimi 2021’de bir yasa çıkardı ve kabul etti geçen aya özel kurallar teknolojinin yüksek riskli bir uygulaması için: işe alma ve terfi kararları. Uygulama Temmuz ayında başlar.

Belediye yasası, işe alımda yapay zeka yazılımı kullanan şirketlerin adaylara otomatik bir sistemin kullanıldığını bildirmesini şart koşuyor. Ayrıca şirketlerin bağımsız denetçilere teknolojiyi önyargı için yıllık olarak kontrol ettirmelerini gerektirir. Adaylar, hangi verilerin toplanıp analiz edildiğini talep edebilir ve kendilerine söylenebilir. Şirketler ihlaller için para cezasına çarptırılacak.

New York City’nin odaklı yaklaşımı, AI düzenlemesinde önemli bir cepheyi temsil ediyor. Uzmanlar, bir noktada hükümetler ve uluslararası kuruluşlar tarafından geliştirilen geniş kapsamlı ilkelerin ayrıntılara ve tanımlara dönüştürülmesi gerektiğini söylüyor. Teknolojiden kimler etkileniyor? Faydaları ve zararları nelerdir? Kimler, nasıl müdahale edebilir?

New York Üniversitesi’nde doçent ve Sorumlu Yapay Zeka Merkezi direktörü Julia Stoyanovich, “Somut bir kullanım durumu olmadan, bu soruları yanıtlayacak konumda değilsiniz” dedi.

Ancak daha yürürlüğe girmeden önce, New York yasası bir eleştiri mıknatısı haline geldi. Kamu yararı savunucuları bunun yeterince ileri gitmediğini söylerken, iş çevreleri bunun pratik olmadığını söylüyor.

Her iki taraftan gelen şikayetler, şiddetli bir hızla ilerleyen, bilinmeyen sonuçlara yol açan, coşku ve kaygı uyandıran yapay zekayı düzenlemenin zorluğuna işaret ediyor.

Huzursuz tavizler kaçınılmazdır.

Bayan Stoyanovich, şehir yasasında onu zayıflatabilecek boşluklar olduğundan endişe ediyor. “Ama bir yasa olmamasından çok daha iyidir,” dedi. “Ve düzenlemeye çalışana kadar, nasıl olduğunu öğrenemeyeceksin.”

Yasa, New York City’de çalışanı olan şirketler için geçerlidir, ancak çalışma uzmanları yasanın ulusal çapta uygulamaları etkilemesini beklemektedir. En az dört eyalet (California, New Jersey, New York ve Vermont) ve District of Columbia da işe alımlarda yapay zekayı düzenleyen yasalar üzerinde çalışıyor. Illinois ve Maryland, genellikle iş yeri gözetimi ve iş adaylarının taranması için belirli yapay zeka teknolojilerinin kullanımını sınırlayan yasalar çıkardı.

New York Şehri yasası, keskin bir şekilde çelişen bakış açılarının çatışmasından ortaya çıktı. Belediye Meclisi, bunu Belediye Başkanı Bill de Blasio’nun yönetiminin son günlerinde kabul etti. Daha sonra 100.000’den fazla kelimeden oluşan duruşma turları ve kamuoyu yorumları geldi – şehrin kural koyma kurumu Tüketici ve İşçi Koruma Dairesi tarafından denetlendi.

Bazı eleştirmenler, sonucun ticari çıkarlara aşırı derecede sempatik olduğunu söylüyor.

Bir politika ve sivil haklar örgütü olan Demokrasi ve Teknoloji Merkezi başkanı Alexandra Givens, “Bir dönüm noktası olabilecek yasa, etkinliğini yitirmek için sulandı” dedi.

Bunun nedeni, yasanın “otomatikleştirilmiş bir istihdam karar aracını” teknoloji olarak “ihtiyari karar vermeye büyük ölçüde yardımcı olmak veya onun yerine geçmek” olarak tanımlamasıdır, dedi. Bayan Givens, şehir tarafından benimsenen kuralların bu ifadeyi dar bir şekilde yorumladığını ve yapay zeka yazılımının yalnızca bir işe alma kararında tek başına veya birincil faktör olması veya bir insanı geçersiz kılmak için kullanılması durumunda bir denetim gerektireceğini söyledi.

Bu, otomatikleştirilmiş yazılımın kullanıldığı ana yolu dışarıda bırakıyor, dedi, her zaman son seçimi bir işe alım müdürü yapıyor. Yapay zeka güdümlü ayrımcılık potansiyeli, dedi, tipik olarak yüzlerce veya binlerce adayı bir avuç kadar taramaktan veya bir aday havuzu oluşturmak için hedefli çevrimiçi işe alımdan geliyor.

Bayan Givens, haksız muamele için ölçülen grup türlerini sınırladığı için yasayı da eleştirdi. Cinsiyet, ırk ve etnik kökene dayalı önyargıları kapsar, ancak yaşlı işçilere veya engellilere karşı ayrımcılığı kapsamaz.

Bayan Givens, “En büyük endişem, politika yapıcılarımızdan çok daha fazlasını istememiz gerektiğinde bunun ulusal olarak şablon haline gelmesidir” dedi.

Şehir yetkilileri, yasanın keskinleştirmek ve odaklanmış ve uygulanabilir olduğundan emin olmak için daraltıldığını söyledi. Konsey ve işçi koruma dairesi, kamu yararına çalışan aktivistler ve yazılım şirketleri de dahil olmak üzere birçok kişiden haber aldı. Yetkililer, amacının inovasyon ile potansiyel zarar arasındaki dengeyi tartmak olduğunu söyledi.

Yasa kabul edildiğinde Konsey teknoloji komitesinin başkanı olan ve komite üyesi olmaya devam eden Robert Holden, “Bu, AI teknolojisinin etik ve sorumlu bir şekilde kullanılmasını sağlamaya yönelik önemli bir düzenleyici başarıdır” dedi.

New York City, yeni teknolojiyi federal işyeri yasaları bağlamında, 1970’lere kadar uzanan işe alma yönergeleriyle ele almaya çalışıyor. Eşit İstihdam Fırsatı Komisyonu ana kuralı, işverenler tarafından kullanılan hiçbir uygulama veya seçim yönteminin kadınlar veya azınlıklar gibi yasal olarak korunan bir grup üzerinde “farklı bir etkiye” sahip olmaması gerektiğini belirtir.

İş dünyası yasayı eleştirdi. Microsoft, SAP ve Workday’i içeren bir ticaret grubu olan Software Alliance, bu yılki bir dosyalamada, yapay zekanın bağımsız denetimleri gerekliliğinin “uygun olmadığını” çünkü “denetim ortamının yeni ortaya çıktığını”, standartların ve profesyonel gözetim organlarının bulunmadığını söyledi.

Ancak gelişmekte olan bir alan bir pazar fırsatıdır. Uzmanlar, AI denetim işinin yalnızca büyüyeceğini söylüyor. Halihazırda hukuk firmalarını, danışmanları ve start-up’ları cezbetmektedir.

İşe alma ve terfi kararlarına yardımcı olmak için yapay zeka yazılımı satan şirketler genellikle düzenlemeleri benimsemeye başladı. Bazıları zaten dış denetimlerden geçti. Gereksinimi potansiyel bir rekabet avantajı olarak görüyorlar ve teknolojilerinin şirketler için iş adayları havuzunu genişlettiğine ve işçiler için fırsatları artırdığına dair kanıt sağlıyorlar.

İşe alım yöneticilerine yardımcı olmak için kullanılan yazılımlar üreten bir Silikon Vadisi girişimi olan Eightfold AI’ın genel danışmanı Roy Wang, “Yasaları karşılayabileceğimize ve iyi yapay zekanın neye benzediğini gösterebileceğimize inanıyoruz” dedi.

New York şehri yasası ayrıca yapay zekayı düzenlemeye yönelik bir norm haline gelebilecek bir yaklaşım benimsiyor. Yasanın temel ölçümü, bir “etki oranı” veya yazılımı kullanmanın korunan bir iş adayları grubu üzerindeki etkisinin hesaplanmasıdır. Bir algoritmanın “açıklanabilirlik” olarak bilinen bir kavram olan kararları nasıl verdiğine girmez.

Eleştirmenler, işe alma gibi yaşamı etkileyen uygulamalarda, insanların bir kararın nasıl verildiğine dair açıklama alma hakkına sahip olduğunu söylüyor. Ancak bazı uzmanlar, ChatGPT tarzı yazılımlar gibi yapay zekanın daha karmaşık hale geldiğini ve belki de açıklanabilir yapay zeka hedefini ulaşılmaz hale getirdiğini söylüyor.

AI uygulamalarının işyerinde, sağlık hizmetlerinde ve finansta güvenli kullanımı için sertifikalar geliştiren Responsible AI Institute’un yönetici direktörü Ashley Casovan, “Odak, algoritmanın çalışması değil, algoritmanın çıktısı oluyor” dedi.