İstihbarat Sorunu – O’Reilly

OpenAI’nin DALL-E’si ve DeepMind’in Gato ve LaMDA’sı gibi projeler, birçok yapay genel zeka (AGI) tartışmasını ateşledi. Bu tartışmalar, büyük ölçüde zekanın ne olduğunu gerçekten bilmediğimiz için hiçbir yere gitmiyor. Bazı fikirlerimiz var – ben zeka ve bilincin itaatsizlik etme yeteneğiyle derinden bağlantılı olduğunu öne sürdüm ve diğerleri zekanın cisimleşmenin dışında var olamayacağını öne sürdüler (zeka ve fiziksel dünya arasında bir tür bağlantı). Ama gerçekten bir tanımımız yok. Hepsi belirli bağlamlara bağlı birçok kısmi tanımımız var.

Örneğin, sık sık köpeklerin zeki olduğunu söyleriz. Ama bununla ne demek istiyoruz? Çoban köpekleri gibi bazı köpekler belirli görevleri yerine getirmede çok iyidirler. Çoğu köpek oturmak, getirmek ve başka şeyler yapmak için eğitilebilir. Ve itaatsizlik edebilirler. Aynısı çocuklar için de geçerlidir, ancak bir çocuğun zekasını asla bir köpeğin zekasıyla karşılaştırmayız. Ve kediler bunların hiçbirini yapmaz, ancak biz kedileri asla zeki olarak görmeyiz.

çok etkilendim Irene Pepperberg’in papağan zekası üzerine çalışması. Papağanlarının sayıları anlayabildiğini, dili akıllıca kullanabildiğini ve hatta yeni kelimeler icat edebildiğini gösterdi. (Elma için “banerry”, muhtemelen kuşların dudakları olmadığı ve Ps’yi çok iyi söyleyemedikleri için. Ve elmalar dev kirazlara benziyor ve tadı muz gibi, en azından papağanlara.) Ama merak ediyorum, bu bile soru yanlış. (Bence Dr. Pepperberg de aynı fikirde olacaktır.) Kuşların insanların zeki olduğu konularda zeki olmalarını istiyoruz. İnsanlardan kuşların zeki olduğu şeyler hakkında asla zeki olmalarını istemeyiz: üç boyutlu uzayda gezinmek, kış boyunca kullanmak üzere yiyecek depolamak (boreal bir bülbül 80.000 kadar tohum depolayın farklı yerlerde ve hepsinin nerede olduğunu hatırlayın), kuşların göremediğimiz birçok rengi kullanarak (görüşleri ultraviyoleye kadar uzanır). Bir kuşun “O zavallı insanlar. O tuhaf küçük kara kutuyu (aslında renkli oktarin olan) çıkarmadan evlerini bulamıyorlar.”

Benzer şekilde, sık sık yunusların ve fillerin zeki olduğunu söyleriz, ancak bununla tam olarak ne demek istediğimiz asla net değildir. Yunusların kalıpları ve kendilerini aynalarda tanıdıklarını gösterdik ve insanlarla iletişim kurmak için (sınırlı) bir yetenek gösterdiler, ancak zekaları kesinlikle çok daha ileri gidiyor. Yunuslar gibi hayvanların sözlü edebiyatları olsaydı hiç şaşırmazdım. Elleri olmadığı ve kalem tutamadığı için onları zeka ölçeğinde cezalandırıyoruz. Aynı şekilde, bazı araştırmalar gösteriyor ki filler iletişim kurar (eğer bir filseniz) kilometrelerce öteden duyulabilen düşük frekanslı gürlemeler kullanarak birbirleriyle konuşun. Bilgi teorisi, bu iletişimin hızlı olamayacağını, ancak bu, zengin olamayacağı anlamına gelmez.

İnsanlar zekidir. Sonuçta, “zeka”nın ne anlama geldiğini tanımlıyoruz. Zeka tanımını kontrol etmek her zaman kültürel ve politik bir güç kaynağı olmuştur; 19. yüzyılda Amerika’da kadınların, Asyalıların, Afrikalıların ve hatta İrlandalıların ve İtalyanların zekası hakkında yazılan her şeyi okuyun. Zekayı ölçmek için “zeka testlerimiz” var mı yoksa sadece test çözme yeteneğini mi ölçüyorlar? Ayrıca “duygusal” ve diğer zeka türlerinden de bahsediyoruz. Matematiksel, dilsel ve sanatsal yeteneğin nadiren el ele gittiğini biliyoruz. Kendi zekamızla ilgili kendi görüşümüz oldukça parçalıdır ve çoğu zaman makine öğrenimi deneylerinde bir ölçü olarak kullanabileceğimiz her şeyden çok sözde bilimle ilgilidir. (GPT-3 ve LaMDA, testlere girme konusunda şüphesiz çok iyi olsalar da.)

Son olarak, son zamanlarda diğer gezegenlerde yaşam keşfetme olasılığı hakkında da çokça konuşuluyor. Hayat bir şeydir ve kesinlikle amatör görüşüm, hayatı oldukça yaygın bulacağımızdır. Bununla birlikte, akıllı yaşamı keşfetmek için, zekanın işe yarayan bir tanımına ihtiyacımız var. Hayal edebileceğim tek faydalı tanım, “gezegen dışında alınabilen ve tartışmasız doğal olmayan sinyaller üretebilmek”tir. Ancak bu tanıma göre, insanlar radyonun ilk günlerinden bu yana sadece yaklaşık 100 yıldır zekidir. (19. yüzyılın ilk elektrik deneylerinin ve 20. yüzyılın ilk yirmi yılındaki kıvılcım tabanlı radyonun gezegen dışında tespit edilebileceğine ikna olmadım.) Satürn’ün uydusu Titan’ı kaplayan buzun altında yaşayan akıllı yaratıklar, ama oraya gitmeden onları asla tespit edemeyiz. Titan için bir ziyaret mümkün olabilir. Galaksimizin başka yerlerindeki gezegenler için, muhtemelen hayır.

Daha da önemlisi: bu tanımlar sadece farklı değildir. Tür olarak farklıdırlar. Bazı testlerde 0,3 puan alan bir papağan veya karganın zeki olduğunu söylemiyoruz (0 ile 1 arasında bir ölçekte), ancak otonom bir aracın 0,99 puan alması gerekiyor. Tanımlar uzaktan karşılaştırılabilir değildir. GPT-3’e hava akımlarında süzülmeyi sormanın ne anlama geldiğini bilmiyorum. Sorsaydık bir cevap alırdık ve büyük ihtimalle aerodinamik hakkında pek çok bilgi içeren iyi bir cevap ama bunun bir kartalın uçuş anlayışıyla bir ilgisi var mıydı? Gato’ya “otur” diyebilirdim ama uyup uymadığını nasıl bilebilirim?

Peki bu bize yapay zeka hakkında ne söylüyor? Bağlam önemlidir; Uygun bir “zeka” tanımı, sistemin yapmasını istediğimiz şeyle başlamalıdır. Bazı durumlarda, bu yayınlanabilir makaleler ve iyi bir halkla ilişkiler oluşturuyor. GPT-3 gibi doğal dil sistemlerinde, makul çıktılar elde etmek için genellikle birkaç komut istemi denemeniz gerektiği gerçeğini göz ardı etme eğilimindeyiz. (Bir soruyu yanıtlamak için 5 kez denemesi gerekseydi, bir insanı zeki olarak kabul eder miydik?) Sık sık belirtildiği gibi, GPT-3 gibi sistemler genellikle temel gerçekleri yanlış anlar. Ancak insanlar genellikle istemlere tutarsız tepki verir ve çoğu zaman gerçeklerimizi yanlış anlarız. İşleri farklı şekillerde ve farklı nedenlerle yanlış anlıyoruz; bu farklılıkları araştırmak, zekamızın nasıl çalıştığı hakkında bir şeyler ortaya çıkarabilir ve bir “yapay zekanın” ne anlama gelebileceğini daha iyi anlamamıza yol açabilir.

Ancak bu soruşturma olmadan istihbarat standardımız oldukça gevşek. Ürün önerileri yapmak için bir yapay zeka sistemi, önerilerin çoğu yanlış olsa bile başarılı olabilir; sadece Amazon’a bakın. (İronik değilim. 10 öneri varsa ve bunlardan biriyle ilgileniyorsanız, Amazon kazandı.) Otonom bir araç için bir AI sisteminin çok daha yüksek bir standartta çalışması gerekiyor. Güvenliğin sorun olmadığı birçok sistem de öyle. Ortalama bir insan oyuncuyu yenebilecek bir AI satranç motorunun “zekası” hakkında memnuniyetle konuşabiliriz, ancak sadece ortalama bir insanı yenebilecek ve dünya şampiyonası seviyesinde oynayamayacak bir satranç oyunu ürünü utanç verici olurdu.

Bu, zekanın, özellikle de yapay zekanın pek çok şey olduğunu söylemektir. eğer okursan Turing’in Taklit Oyunu hakkındaki makalesi, Turing’in sonucun doğruluğundan çok etkileşimin kalitesiyle ilgilendiğini hemen göreceksiniz. Örneklerinde, makine şiir yazmanın iyi olmadığını söylüyor; cevap vermeden önce tereddüt eder; ve hatta bazı sonuçları yanlış alır. Turing’in düşünce deneyi, bir makinenin birçok farklı disiplinde ustalaşıp ustalaşamayacağından çok, bir insan gibi davranıp davranamayacağıyla ilgilidir. “Zeka” kelimesi, makalenin gövdesinde yalnızca bir kez görünüyor ve ardından bir insan deneyciye atıfta bulunuyor.

Bu da beni şu sonuca götürüyor: Zekanın tek bir tanımı yoktur ve olmamalıdır. Zeka her zaman uygulamaya özeldir. Bir arama motoru için zeka, otonom bir araç için zeka ile aynı değildir, bir araç için zeka ile aynı değildir. robotik kuş, bir dil modeli için zeka ile aynı değildir. Ve kesinlikle insanlar veya diğer gezegenlerdeki bilinmeyen meslektaşlarımız için zeka ile aynı değildir.

Eğer bu doğruysa, neden “genel zekadan” bahsediyoruz? Genel zeka tek bir tanım varsayar. “İstihbaratın” tek bir birleştirici tanımı fikrini reddetmek bize çok pahalıya mal olmuyor ve çok şey kazandırıyor: Belirli projelere uygun “istihbarat” tanımları oluşturmakta özgürüz. Yeni bir projeye başlarken, tam olarak neyi başarmaya çalıştığınızı bilmek her zaman yardımcı olur. Bu pratik, gerçek dünya mühendisliği için harikadır. DALL-E, Gato, LaMDA ve GPT-3 gibi büyük, pahalı araştırma projeleri bile nihayetinde mühendislik projeleridir. Genel zeka, duyarlılık ve benzerleriyle ilgili bağlantı yemi iddialarının ötesine bakarsanız, bu projelerde çalışan bilgisayar bilimcileri iyi tanımlanmış kriterlere karşı çalışıyorlar. Bu kıyaslamaların “istihbarat” ile ilgisi olup olmadığı önemli değil. Yapay bir insan, hatta yapay bir köpek yaratmaya çalışmıyorlar. (Yapay köpekleri Boston Dinamikleri.) Bilgisayarların yapabileceklerinin kapsamını genişletmek için – kayda değer bir başarı ile – çalışıyorlar. 600’den fazla farklı bağlamda başarılı bir şekilde çalışabilen bir model önemli bir başarıdır. Bunun “genel zeka” (ya da hiç zeka) olup olmadığı, ihtiyacımız olmayan bir yan gösteridir.