Meta’nın AI internet sohbet robotu sahte haberler yaymaya başladı • The Register


Kısaca Başka bir gün, internette başka bir haydut AI sohbet robotu.

Geçen hafta Meta serbest bırakılan Blenderbot 3konuşkan bir dil modeli, web’de bir deney olarak ve beklediğiniz gibi gitti.

BlenderBot 3, Donald Trump’ın hala ABD Başkanı olduğunu ve 2024’ten sonra da ABD Başkanı olmaya devam edeceğini doğrulamak için hızlı davrandı ve tartışmalı sorular sorulduğunda anti-semetik görüşler yaydı. gösterilen Business Insider tarafından. Başka bir deyişle, BlenderBot 3, internetten kazınmış metinlerden eğitilmiş tüm dil modelleri gibi, sahte haberleri yaymaya ve ırksal klişelerden önyargılı görüşlere sahip olmaya meyillidir.

Meta, netizenleri, sohbet robotunun “doğru olmayan veya rahatsız edici ifadeler” yapabileceği konusunda uyardı ve deneyleri için daha fazla veri toplamak için canlı demoyu çevrimiçi tutuyor. İnsanlar, BlenderBot 3’ün yanıtlarını beğenmeye veya beğenmemeye ve bunun belirli bir mesajın uygunsuz, anlamsız veya kaba olduğunu düşündükleri takdirde araştırmacıları bilgilendirmeye teşvik edilir. Amaç, gelecekte daha güvenli, daha az toksik ve daha etkili bir sohbet robotu geliştirmek için bu geri bildirimi kullanmaktır.

Sahte haberlerin yayılmasını durdurmak için Google Arama snippet’leri

Arama devi, kullanıcılar Google Arama’ya soru yazarken bazen açılan metin kutularını daha doğru hale getirmeye yardımcı olmak için bir AI modeli çıkardı.

Özellik snippet’leri olarak bilinen bu açıklamalar, insanlar belirli gerçekleri arıyorsa yardımcı olabilir. Örneğin, “Güneş Sisteminde kaç gezegen var?” “sekiz gezegen” belirten bir özellik pasajı atacak. Netizenler, cevabı almak için rastgele web sayfalarına tıklamak ve bilgileri okumak zorunda değildir, özellik parçacıkları bunu otomatik olarak yapar.

Ancak Google’ın yanıtları her zaman doğru değildir ve bazen Abraham Lincoln’ün çizgi film köpeği Snoopy tarafından öldürülmesi gibi hayali bir olay için belirli bir tarih belirtir. binaen The Verge’e. Google, sisteminin, Çoklu Görev Birleşik Modeli (MUM), özellik snippet’lerinin yanlış sorulara dönüşmesini yüzde 40 oranında azaltmalıdır; çoğu zaman herhangi bir metin açıklaması bulmaz.

“En son AI modelimizi kullanarak, sistemlerimiz artık web’deki birden fazla yüksek kaliteli kaynağın aynı gerçek üzerinde hemfikir olduğu fikir birliği kavramını anlayabilir” dedi. açıkladı bir blog yazısında.

“Sistemlerimiz, kaynaklar farklı kelimeler kullansa bile, bu açıklama için genel bir fikir birliği olup olmadığını görmek için snippet açıklamalarını (öne çıkan snippet’in üzerinde daha büyük bir yazı tipinde belirtilen kelime veya kelimeler) web’deki diğer yüksek kaliteli kaynaklara karşı kontrol edebilir. ya da aynı şeyi tanımlayan kavramlar.”

OpenAI’nin DALL-E 2’si bir Heinz Ketçap reklamı yapılmasına yardımcı oldu

ABD gıda devi Heinz, en iyi bilinen ürünü olan ketçapı tanıtmak için OpenAI’nin DALL-E 2 modeli tarafından oluşturulan AI görüntülerini kullanarak bir reklam oluşturmak için yaratıcı bir ajansla işbirliği yaptı. Reklam, Heinz’in “Ketchup Çiz” kampanyasının son bölümüdür, ancak eskizleri için insanlara yönelmek yerine, Kanadalı bir reklam ajansı olan Rethink, makinelere danıştı.

Rethink’in yönetici kreatif direktörü Mike Dubrick, “Dolayısıyla, özetlerimizin çoğu gibi, görev Heinz’in günümüzün pop kültüründeki ikonik rolünü göstermekti.” söylenmiş Davul bu hafta. “Sıradaki fikri markaya sunmaktı. Brifingden sonra, harika olduğunu düşündüğümüz bir şeyi paylaştığımızda nadiren resmi sunuma kadar bekleriz.”

Sonuç, net ve basit bir mesaj içeren akıllı bir reklamdır: “ketçap” kelimesini içeren çok sayıda metin istemi verildiğinde, DALL-E 2, kesinlikle bir Heinz şişesine benzeyen bir şey üretecektir. Başka bir deyişle, şirketin sloganı “Heinz olmalı”. Aşağıdaki reklamı izleyebilirsiniz.

Youtube videosu

DALL-E 2 ayrıca yakın zamanda bir sanatçının bir Dergi kapağı Cosmopolitan için; bu, metinden görüntüye bu araçların yaratıcı endüstrilerde ticari olarak nasıl kullanılabileceğinin bir başka örneğidir. ®




Kaynak : https://go.theregister.com/feed/www.theregister.com/2022/08/14/in_brief_ai/

Yorum yapın