Makine Öğreniminin Garip Olduğu Zamanın Etiği: Deadbots

Herkes bir chatbot’un ne olduğunu bilir, peki ya bir Deadbot? A ölü robot eğitim verileri – nasıl ve ne ilettiğini şekillendiren – vefat eden bir kişiye dayanan veriler olan bir sohbet robotudur. Şimdi, ölen nişanlısıyla sohbeti simüle etmek için bir sohbet robotu oluşturan Joshua Barbeau adında bir adamın durumunu ele alalım. Buna, nihayetinde projeye güç veren GPT-3 API’sinin sağlayıcıları olan OpenAI’nin, şartları (diğer şeylerin yanı sıra) “aşk” amaçlar için API’lerinin kullanımını açıkça yasakladığı için bununla ilgili bir sorunu olduğu gerçeğini ekleyin.

[Sara Suárez-Gonzalo]Doktora sonrası araştırmacı olan , bu hikayenin gerçeklerinin yeterince iyi işlendiğini gözlemledi, ancak kimse ona başka bir perspektiften bakmadı. Hepimizin, doğru ya da yanlışın hangi lezzetinin davanın farklı unsurlarını doyurduğu konusunda kesinlikle fikirleri var, ama tam olarak açıklayabilir miyiz? Niye Deadbot geliştirmek iyi mi kötü mü?

tam olarak bu [Sara] yapmak için yola koymak. Yazısı, konuyla ilgili somut rehberlik sağlayan büyüleyici ve nüanslı bir okumadır.. Zarar mümkün mü? Rıza böyle bir şeye nasıl dönüşür? Kötü sonuçların sorumluluğunu kim üstlenir? Bu tür sorularla ilgileniyorsanız, makalesine göz atmak için zaman ayırın.

[Sara] Deadbot oluşturmanın belirli koşullar altında etik olarak yapılabileceğini öne sürüyor. Kısaca, kilit noktalar, taklit edilen bir kişinin ve onu geliştiren ve onunla etkileşime giren kişinin, sistemin kapsamı, tasarımı ve amaçlanan kullanımları hakkında mümkün olduğunca ayrıntılı bir açıklama ile birlikte onay vermesi gerektiğidir. (Böyle bir ifade önemlidir, çünkü genel olarak makine öğrenimi hızla değişir. Ya sistem veya yetenekler bir gün başlangıçta hayal edilene benzemezse?) Olası olumsuz sonuçların sorumluluğu, geliştirenler ve bundan kazanç sağlayanlar tarafından paylaşılmalıdır. .

[Sara] Bu vakanın, makine öğrenimi etiğinin gerçekten neden önemli olduğunun mükemmel bir örneği olduğuna ve bu tür şeylere dikkat edilmeden, garip sorunların ortaya çıkmaya devam etmesini bekleyebileceğimize dikkat çekiyor.