Kenyalılar eskiden ChatGPT’ye rahatsız edici metinleri tanımayı öğretirdi • The Register


OpenAI’nin, ChatGPT modelini daha az toksik hale getirmeye yardımcı olmak için Kenya’da işçileri işe aldığı ve on binlerce metin örneğini cinsiyetçi, ırkçı, şiddet içeren ve pornografik içerik için taradığı bildirildi.

Geçen Kasım ayında piyasaya sürülen ChatGPT, interneti kasıp kavurdu. Bir giriş istemi verildiğinde otomatik olarak metin oluşturma yeteneği, milyonlarca kullanıcının her türden farklı görevi yerine getirmesi talimatını vermesine yol açtı – şakalar yapmak, kod yazmak, soruları yanıtlamak ve daha fazlası.

Bu talimatların tümü tamamen zararsız değildi – sonuçta biz sadece insanız. Ancak ChatGPT, önceki sürümü GPT-3’ten daha konuşkan ve daha güvenli olacak şekilde tasarlanmıştır – hataları kabul edebilir ve uygunsuz istekleri yerine getirmeyi reddedebilir.

Saldırgan ve küfürlü dilin özelliklerini öğrenmek için ChatGPT’nin güvenli ve zararlı içerik arasındaki farkı gösteren çok miktarda temiz, etiketli veri üzerinde eğitilmesi gerekiyordu.

Verileri etiketlemek zahmetli ve zaman alıcıdır. İş, genellikle işçiliğin daha ucuz olduğu ülkelerden çalışanları işe alan yüklenicilere yaptırılır. 2021’de OpenAI’nin yaklaşık 200.000 $ değerinde üç sözleşme imzaladığı bildirildi. sama – San Francisco merkezli ve gelişmekte olan ülkelerde faaliyet gösteren veri ek açıklama hizmetleri sağlayan bir girişim – bir göre ChatGPT’yi eğitmek için metni etiketlemek raporlamak içinde Zaman bu hafta.

Sama daha sonra Kenya’da üç gruba ayrılan üç düzine işçiyi işe aldı ve her biri cinsel taciz, nefret söylemi ve şiddet içeren binlerce metin örneğini taramakla görevlendirildi.

İnternetten alıntılanan metin, cinayet, intihar, işkence ve ensest dahil olmak üzere her türlü tehlikeli, yasa dışı ve ahlaksız eylemi anlatıyordu. Bazı çalışanlar, çok fazla korkunç içeriği işlemek zorunda kaldıkları için travma geçirdiklerini bildirdi. Bir adam, küçük bir çocuğun yanında bir köpekle seks yapan bir adamı anlatan bir pasajı okuduktan sonra tekrarlayan vizyonlardan muzdarip olduğunu söyledi.

“Bu bir işkenceydi” dedi. “Bütün hafta boyunca bunun gibi bir dizi açıklama okuyacaksınız. Cuma gününe gelindiğinde, o resmi düşünmekten rahatsız oluyorsunuz.”

İşçiler dokuz saatlik vardiyalara katlandılar ve saatte 163 ila 248 Kenya Şilini kazandılar. Bu, yaklaşık 1,32 ila 2 ABD Doları anlamına geliyor – 2023’te 200 milyon ABD Doları ciro yapması öngörülen OpenAI için gerçekten önemsiz meblağlar.

ChatGPT ile ilgili olmayan başka bir veri etiketleme sözleşmesi, Sama’nın çalışanlardan ölüm, tecavüz ve hayvanlarla cinsel ilişki gibi şeyleri tasvir eden müstehcen, pornografik ve şiddet içeren resimler bulmasını istemesini içeriyordu. Bazıları ABD’de yasa dışı olacak olan içeriğin, Sama’nın OpenAI ile olan sözleşmelerini başlangıçta planlanandan sekiz ay önce, Şubat 2022’ye kadar sonlandırmasına neden olduğu iddia ediliyor. Sama tarafından işe alınan çalışanlara, OpenAI ile olan çalışmalarının, girişimin Meta’nın Facebook’u ile başka bir içerik denetleme projesinde çalıştığı için sert eleştirilere maruz kalmasından sonra kapatıldığı söylendi.

“Sama, OpenAI sözleşmesini, Doğu Afrika’daki ekip istenen işten rahatsız olduğu için sonlandırdı. Meta sözleşmesinin sonu ayrı ama bağlantılı. Küresel ekibiyle görüştükten sonra Sama, yaptığı gibi tüm içerik denetleme işinden çıkma kararı aldı. şirketin vizyon ve misyonuyla uyumlu değil” dedi bir şirket sözcüsü.

Yeni girişim, Mart 2023’te içerik denetimi için tüm veri etiketleme projelerini sonlandıracak ve bize söylenene göre iş taleplerini gözden geçirecek bir grup çalışandan oluşan bir “etik loncası” kurdu.

ile paylaşılan açıklamalarda Zaman, OpenAI, ChatGPT’yi eğitmek için kullanılan verileri etiketlemek için Sama ile birlikte çalıştığını doğruladı ve toplamak istedikleri görüntü türleri hakkında bir yanlış iletişim olduğunu söyledi. Bildirildiğine göre yasadışı görüntüler istemedi ve onları görüntülemedi.

bir doların değeri

Sama’dan bir sözcü, “Açıklığa kavuşturmak için, Sama ayda 26.600 ila 40.000 Kenya Şilini (209 ila 322 $) ödüyor, bu Kenya’daki asgari ücretin iki katından fazla ve aynı zamanda yaşama ücretinin çok üzerinde” dedi. Kayıt.

“Bunu ABD’deki ücretlerle karşılaştırmak, durumu yanlış tanımlayan yanlış bir denkliktir. Karşılaştırmalı bir Batı ücreti saat başına 30 ila 45 ABD Doları arasında olacaktır. Sama, bölgedeki diğer içerik moderatörlerinin ödediğinin neredeyse iki katını ödüyor ve tam bir sosyal yardım ve emeklilik paketi sunuyor. .

“Misyonumuz, yapay genel zekanın tüm insanlığın yararına olmasını sağlamak ve önyargıyı ve zararlı içeriği sınırlayan güvenli ve kullanışlı yapay zeka sistemleri oluşturmak için çok çalışıyoruz. Zararlıları sınıflandırma ve filtreleme [text and images] eğitim verilerinde yer alan şiddet ve cinsel içerik miktarını en aza indirmek ve zararlı içeriği tespit edebilecek araçlar oluşturmak için gerekli bir adımdır.”

Sama gibi veri etiketleme şirketleri, daha fakir ülkelerdeki insanları yoksulluktan kurtarmaya yardımcı olduklarını söylüyor, ancak Zaman‘ın araştırması, yapay zeka modellerinin görünüşte sihirli olan yeteneklerinin, düşük maliyetli iş gücü üzerine inşa edildiğini kesin bir şekilde hatırlatıyor.

“Sama’nın misyonu, normalde eşit kariyer fırsatlarına sahip olamayacak yetenekli insanlara iş vererek resmi istihdamın önündeki engelleri yıkmaktır. Sama, aksi takdirde giriş seviyesi teknoloji işleri için niteliklere sahip olmayacak kişileri işe alır, sonra onları eğitir – sadece bir iş değil, bir kariyer yolu – sürekli eğitim dersleri, özgeçmiş yazma dersleri, finansal eğitim dersleri ve kuruluş içinde veya dışında ilerleme fırsatları sunarak” dedi bir sözcü bize yaptığı açıklamada.

“Sama, 60.000’den fazla kişiyi etkiledi, burs programlarımız aracılığıyla 20 kişiyi üniversiteye gönderdi ve çalışan işletmeleri ve yeni kurulan şirketler için 160.000 $ fon sağladı.”

Bu arada, yapay genel zeka yutturmaca artmaya devam ediyor. En iyi yapay zeka şirketleri bile, çok az veya hiç insan denetimi olmadan verilerden kalıpları etkili bir şekilde öğrenecek kadar gelişmiş modeller oluşturmanın sırrını henüz çözebilmiş değil.

Teknoloji ilerlemiş olabilir, ancak yine de milyonlarca dolar kazanan teknoloji şirketlerine dev yapay zeka modelleri eğitmek için bilgisayar ekranlarının önünde oturup gün boyu tekrar eden ve monoton görevleri yerine getiren gelişmekte olan ülkelerdeki işçilere güveniyor.

Kayıt OpenAI’den yorum istedi. ®


Kaynak : https://go.theregister.com/feed/www.theregister.com/2023/01/20/kenyan_workers_chatgpt/

Yorum yapın