DeepMind’ın Gato’su dünyanın ilk AGI’si mi?

Yapay genel zeka (YGY), son zamanlardaki tanıtımı sayesinde haberlere geri döndü. Gato DeepMind’dan. AGI, orijinal olarak ordu için tehdit analiz yazılımı olarak tasarlanan Skynet’in (Terminator ilminin) görüntülerini çağırıyor, ancak hızla insanlığı düşman olarak görmeye başladı. Kurgusal olsa da, özellikle dünyanın dört bir yanındaki ordular AI tabanlı silahların peşinde koşarken, bu bizi duraklatmalı.

Ancak, Gato bu endişelerin hiçbirini dile getirmiyor gibi görünüyor. Derin öğrenme dönüştürücü modeli, “genel bir aracı” olarak tanımlanır ve değişen modaliteler, gözlemler ve eylem özellikleriyle 604 farklı ve çoğunlukla sıradan görevi gerçekleştirme iddiasındadır. Olmuştur sevk AI modellerinin İsviçre Çakısı olarak. Şimdiye kadar geliştirilen diğer AI sistemlerinden açıkça çok daha geneldir ve bu açıdan YGZ’ye doğru bir adım gibi görünmektedir.

Çok modlu sinir ağları

çok modlu sistemler yeni değil – GPT-3 ve diğerleri tarafından kanıtlandığı gibi. Muhtemelen yeni olan şey niyettir. Tasarım gereği GPT-3, metin üretimi için geniş bir dil modeli olarak tasarlandı. Altyazılardan görüntüler üretebilmesi, programlama kodu oluşturabilmesi ve diğer işlevler, olaydan sonra ortaya çıkan ve çoğu zaman daha önce ortaya çıkan ek faydalardı. sürpriz AI uzmanlarından.

Karşılaştırıldığında, Gato kasıtlı olarak birçok farklı işlevi ele almak üzere tasarlanmıştır. DeepMind, “Aynı ağırlıklara sahip aynı ağ, metin, ortak torklar, düğme basmaları veya diğer belirteçlerin çıktısının alınmasına bağlamına göre karar vererek Atari’yi, resim yazılarını, sohbeti, blokları gerçek bir robot koluyla istifleyebilir ve çok daha fazlasını oynayabilir” diye açıklıyor. ”

DeepMind, Gato’nun bu görevlerin birçoğunda insanlardan daha iyi performans gösterdiğini iddia etse de, ilk yineleme çeşitli etkinliklerde etkileyici sonuçlardan daha azını verir. Gözlemciler, 604 görevi özellikle iyi yerine getirmediğini ve bir gözlemcinin özetlenmiş “Pek çok şeyde çok iyi iş çıkaran tek bir yapay zeka programı.”

Ama bu görevden alma noktayı kaçırıyor. Şimdiye kadar yalnızca “dar AI” veya “zayıf AI” vardı. tanımlanmış ‘tek amaç’ birkaç anlama gelen, yalnızca tek bir özel amaçta usta olmak:

1. Bir şeyi yapmak için tasarlanmış bir algoritma (diyelim ki, bira tarifleri geliştir) başka bir şey için kullanılamaz (örneğin bir video oyunu oynayın).
2. Bir algoritmanın “öğrendiği” herhangi bir şey, farklı bir özel amacı yerine getirmek için tasarlanmış başka bir algoritmaya etkin bir şekilde aktarılamaz.

Örneğin, AlphaGoGo oyununda insan dünya şampiyonunu geride bırakan DeepMind’in sinir ağı, bu oyunlar çok daha basit olmasına rağmen diğer oyunları oynayamıyor ve başka hiçbir ihtiyacı karşılayamıyor.

Güçlü yapay zeka

AI spektrumunun diğer ucu “güçlü AI” veya alternatif olarak AGI olarak kabul edilir. Bu, herhangi bir göreve veya soruna uygulanabilecek tek bir AI sistemi veya muhtemelen bir grup bağlantılı sistem olacaktır. Dar AI algoritmalarından farklı olarak, genel AI tarafından kazanılan bilgi, sistem bileşenleri arasında paylaşılabilir ve saklanabilir.

Genel bir AI modelinde, dünyanın en iyilerini Go’da yenebilecek algoritma, satranç veya başka herhangi bir oyunu öğrenebilecek ve ek görevler üstlenebilecektir. AGI, insanlar gibi davranabilen ve düşünebilen genel olarak akıllı bir sistem olarak tasarlanmıştır. Londra’daki Imperial College’da bilişsel robotik profesörü Murray Shanahan, Üstel Görünüm hakkında şunları söyledi: dijital ses dosyası YGZ’nin “bir anlamda insanlar kadar zeki ve insanlarla aynı düzeyde genelleme yapma yeteneğine sahip olduğu ve insanların sahip olduğu sağduyuya sahip olduğu”dur.

Her ne kadar insanlardan farklı olarak en hızlı bilgisayar sistemlerinin hızında çalışsa da.

bir ölçek meselesi

DeepMind’de araştırmacı olan Nando de Freitas, Gato’nun etkili bir AGI gösterimi, yalnızca daha fazla model iyileştirme ve ek bilgi işlem gücü ile elde edilebilecek karmaşıklık ve ölçekten yoksundur. Gato modelinin boyutu, 1,18 milyar parametrede nispeten küçüktür, esasen bir kavram kanıtıdır ve ek ölçeklendirme ile çok sayıda üstün performans bırakır.

Birinin görüş yazısı. Benim fikrim: Artık her şey ölçekle ilgili! Oyun bitti! Bu modelleri daha büyük, daha güvenli, hesaplama açısından verimli, örneklemede daha hızlı, daha akıllı bellek, daha fazla modalite, YENİLİKÇİ VERİ, çevrimiçi/çevrimdışı, … 1/N yapmakla ilgilidir. https://t.co/UJxSLZGc71

— Nando de Freitas?️‍? (@NandoDF) 14 Mayıs 2022

AI modellerini ölçeklendirmek, algoritma eğitimi için daha fazla veri ve daha fazla bilgi işlem gücü gerektirir. Veriler içinde yüzüyoruz. Geçen yıl, endüstri analist firması IDC söz konusu, “Önümüzdeki beş yıl içinde oluşturulan dijital veri miktarı, dijital depolamanın ortaya çıkışından bu yana oluşturulan veri miktarının iki katından fazla olacak.” Ayrıca, bilgi işlem gücü on yıllardır katlanarak arttı. Kanıtlar olmasına rağmen, yarı iletkenlerin fiziksel boyutundaki kısıtlamalar nedeniyle bu hız yavaşlıyor.

Bununla birlikte, Wall Street Dergisi notlar yonga üreticileri teknolojik sınırları zorlayarak daha fazla bilgi işlem gücü elde etmenin yeni yollarını buldu. Çoğunlukla bu yapılır heterojen tasarım, çok çeşitli uzman modüllerden cips oluşturma. Bu yaklaşım, en azından yakın vadede etkili olduğunu kanıtlıyor ve bu, model ölçeğini yönlendirmeye devam edecek.

Derin öğrenmenin öncüsü olan Toronto Üniversitesi profesörü Geoffrey Hinton, ölçekle konuştu bunu belirten: “Beynin bir santimetreküpünde bir trilyon sinaps vardır. Genel yapay zeka diye bir şey varsa, [the system] muhtemelen bir trilyon sinaps gerektirecektir.”

Google’ın 1,6 trilyon parametreli bir model geliştirmesiyle birlikte, bir trilyon artı parametreli (sinapsların sinir ağı eşdeğeri) AI modelleri ortaya çıkıyor. Ancak bu bir AGI örneği değildir. Birkaç kişinin fikir birliği yapay zeka uzmanlarının anketleri AGI’nin hala onlarca yıl ileride olduğunu öne sürüyor. Ya Hinton’un değerlendirmesi YGZ için sorunun yalnızca bir parçasıdır ya da uzman görüşleri tutucudur.

Belki de ölçeğin faydaları, farkın çoğunlukla daha fazla veri, daha fazla parametre – GPT-2 ile 1,5 milyar ila GPT-3 ile 175 milyar – ve daha fazla bilgi işlem gücü olduğu GPT-2’den GPT-3’e ilerleme ile en iyi şekilde gösterilir. , daha fazla ve daha hızlı işlemciler, bazıları özellikle AI işlevi için tasarlanmıştır. GPT-3 ortaya çıktığında, San Francisco merkezli bir geliştirici ve sanatçı olan Arram Sabeti, tweetlendi “GPT-3 ile oynamak geleceği görmek gibi hissettiriyor. Şarkılar, hikayeler, basın bültenleri, gitar sekmeleri, röportajlar, denemeler, teknik kılavuzlar yazmasını sağladım. Şaşırtıcı derecede iyi.”

Ancak, AI derin öğrenme şüpheci Gary Marcus inanır “Ölçeklendirme argümanında ciddi boşluklar var.” Bir cümledeki bir sonraki kelimeyi tahmin etmek gibi başkalarının baktığı ölçeklendirme önlemlerinin “gerçek yapay zekanın derin kavrayışıyla eşdeğer olmadığını” iddia ediyor. [AGI] gerektirecektir.”

Yann LeCunFacebook’un sahibi Meta’nın baş yapay zeka bilimcisi ve geçmişte kazanan Turing Ödülü AI için, son zamanlarda söyledi Blog yazısı Gato’nun yayınlanmasından sonra, şu an itibariyle AGI diye bir şey yok. Ayrıca, ölçek büyütme modellerinin bu seviyeye ulaşacağına, ek yeni konseptler gerektireceğine inanmıyor. Genelleştirilmiş kendi kendini denetleyen öğrenme gibi bu kavramlardan bazılarının “muhtemelen yakında olduğunu” kabul etse de.

MIT Yardımcı Doçent Jacob Andreas savunuyor Gato’nun aynı anda birçok şeyi yapabileceğini, ancak bu, yapmak için eğitildiğinden farklı yeni görevlere anlamlı bir şekilde uyum sağlayabilmekle aynı şey değildir.

Gato, AGI’nin bir örneği olmasa da, dar AI’nın ötesinde önemli bir adım sağladığı inkar edilemez. Dar ve genel AI arasında kötü tanımlanmış bir alan olan bir alacakaranlık kuşağına girdiğimize dair daha fazla kanıt sağlar. Shanahan ve diğerleri tarafından tartışıldığı gibi AGI, Gato zaman çizelgesini hızlandırmış olsa da, hala on yıllar içinde olabilir.

Gary Grossman, teknoloji uygulamalarının kıdemli başkan yardımcısı. Edelman ve Edelman AI Mükemmeliyet Merkezi’nin küresel lideri.