DeepMind’in yeni sohbet robotu, daha iyi cevaplar vermek için Google aramalarını ve insanları kullanıyor

DeepMind’de güvenlik araştırmacısı olan Geoffrey Irving, bu yaklaşım ile öncekiler arasındaki fark, DeepMind’in “güvenlik için uzun vadede diyalog kullanmayı” umduğunu söylüyor.

“Bu, bu modellerde karşılaştığımız sorunların – yanlış bilgi veya klişeler ya da her neyse – ilk bakışta bariz olmasını beklemiyoruz ve bunları ayrıntılı olarak konuşmak istiyoruz. Bu da makineler ve insanlar arasında anlamına geliyor” diyor.

Kâr amacı gütmeyen bir AI araştırma laboratuvarı olan Cohere for AI’nın başındaki Sara Hooker, DeepMind’ın bir AI modelinin öğrenme şeklini optimize etmek için insan tercihlerini kullanma fikrinin yeni olmadığını söylüyor.

Hooker, “Ancak iyileştirmeler ikna edici ve geniş dilli bir model ortamında diyalog aracılarının insan güdümlü optimizasyonuna açık faydalar gösteriyor” diyor.

Yapay zeka girişimi Hugging Face’de araştırmacı olan Douwe Kiela, Sparrow’un “büyük dilli model dağıtımlarının güvenlik yönlerini daha ciddi bir şekilde iyileştirmeye çalıştığımız yapay zekada genel bir eğilimi izleyen güzel bir sonraki adım” olduğunu söylüyor.

Ancak bu konuşma tabanlı yapay zeka modellerinin doğada konuşlandırılmasından önce yapılacak çok iş var.

Serçe hala hata yapıyor. Model bazen konunun dışına çıkıyor veya rastgele cevaplar veriyor. Kararlı katılımcılar aynı zamanda modelin kurallarını %8 oranında çiğnemeyi başardılar. (Bu, eski modellere göre hala bir gelişmedir: DeepMind’in önceki modelleri, Sparrow’dan üç kat daha sık kuralları çiğnedi.)

Hooker, “Tıbbi ve finansal tavsiye sağlamak gibi bir temsilci yanıt verdiğinde insani zararın yüksek olabileceği alanlar için, bu hala birçok kişiye kabul edilemez derecede yüksek bir başarısızlık oranı gibi gelebilir” diyor. Çalışma aynı zamanda bir İngilizce dil modeli etrafında inşa edilmiştir. , “oysa teknolojinin birçok farklı dile güvenli ve sorumlu bir şekilde hizmet etmesi gereken bir dünyada yaşıyoruz” diye ekliyor.

Kiela başka bir soruna işaret ediyor: “Bilgi arama için Google’a güvenmek, her şeyin kapalı kaynak olduğu düşünüldüğünde ortaya çıkarılması zor olan bilinmeyen önyargılara yol açar.”