Uç bilgi işlem: Future Compute 2022’den Görünüm

Artık yerleşik bulut bilişim yöntemleriyle sınırlı işleri üstlenecek gibi göründüğü için, şimdi uç bilişim mimarisinde bir spot ışığı parlıyor.

Savunucular, uç bilişimin buluta gönderilen veri miktarını azaltacağını, gerçek zamanlı yanıt sağlayacağını ve belki de bir işletmenin bulut bilişim faturalarında görünen bazı gizemli satır öğelerinden tasarruf edeceğini umuyor.

Bazı çalışma zamanı AI işlemlerini buluttan uzağa ve uca taşımak, sık sık bahsedilen bir hedeftir. Yine de, uçta AI işleme için grafik işlemci birimlerinin (GPU’lar) kullanımı da maliyetlere neden olur.

Edge istihbarat uygulamalarına ilişkin yakın tarihli bir oturumda görüldüğü gibi, Edge hala keşfedilecek çok şey olan bir sınırdır. Gelecek Hesaplama 2022sponsorluğunda MIT Teknoloji İncelemesi.

AI’nın maliyeti nedir?

Kitlesel pazar perakendecisinin ürün mühendisliği kıdemli başkan yardımcısı Nancy King’e göre, Target Corp.’ta, COVID-19 pandemisi olağan operasyonları bozduğu için uç yöntemler kabul gördü.

Future Compute katılımcılarına, yerel IoT sensör verilerinin envanterleri yönetmeye yardımcı olmak için yeni şekillerde kullanıldığını söyledi.

“Ham verileri veri merkezimize genel buluta geri gönderiyoruz, ancak çoğu zaman onu uçta işlemeye çalışıyoruz” dedi. Orada, veriler daha anında kullanılabilir.

King, iki yıl önce, COVID-19 karantinalarının artmasıyla birlikte, Hedef yöneticileri, merkezi planlayıcılara envanter fazlalığı veya eksiklikleri konusunda rehberlik etmek için donduruculardan bazı sensör verilerini işlemeye başladı, dedi King.

“Edge bize ihtiyaç duyabileceğimiz yanıtı veriyor. Ayrıca bize ağı tıkamadan daha hızlı yanıt verme şansı veriyor” dedi.

Ancak, mağazalarda GPU yoğun AI modellerini çalıştırmanın maliyetleriyle ilgili endişelere dikkat çekti. Öyle görünüyor ki, AI işlemci maliyetleri konusu yalnızca bulutla sınırlı değil.

King, uç AI uygulamalarıyla “hesaplama maliyeti yeterince hızlı düşmüyor” dedi. Ayrıca, “bazı problemler derin yapay zeka gerektirmez” dedi.

Kenar düzenleme

Uçtaki iş akışlarının düzenlenmesi, farklı bileşenlerin koordinasyonunu gerektirecektir. İçerik dağıtım devi Akamai’nin başkan yardımcısı ve CTO’su olan oturum katılımcısı Robert Blumofe’ye göre, uç noktaya geçişin artımlı olmasının bir başka nedeni de bu.

Blumofe, VentureBeat’e verdiği demeçte, yazılım kapsayıcı teknolojilerinin artan kullanımıyla yakından ilişkili olan uç bilgi işlem yaklaşımlarının gelişeceğini söyledi.

“Konteynerler olmadan herhangi bir alım göreceğinizi sanmıyorum” dedi. Bunu, başka bir genel dağıtılmış hesaplama eğiliminin bir parçası olarak işaretledi: işlemi verilere getirmek, tersini değil.

Blumofe’nin tahmininde Edge, ikili bir kenar/bulut denklemi değildir. Şirket içi ve orta düzey işleme de karışımın bir parçası olacak.

“Sonuçta, yapmanız gereken birçok işlem şirket içinde gerçekleşebilir, ancak birdenbire değil. Olan şu ki, veriler binadan ayrılacak ve uca, ortaya ve buluta taşınacak” dedi. “Modern uygulamaları güvenli ve yüksek performansla desteklemek için tüm bu katmanların birlikte çalışması gerekiyor.”

Uçta çalışan geliştiricileri destekleme hareketi, Akamai’nin bulut hizmetleri sağlayıcısı Linode’u yakın zamanda 900 milyon dolarlık satın almasında küçük bir rol oynamamaktadır.

Akamai’nin Linode işlemi yakın zamanda yeni dağıtılmış veritabanı desteği yayınladı. Bu önemlidir, çünkü yeni uç mimariler ortaya çıktıkça veritabanları alanının değişikliğe uğraması gerekecektir. Mimarlar, uç ve bulut veritabanı seçeneklerini dengeleyecek.

Denge ve yeniden denge

Doğal olarak, uç bilgi işlem ile erken çalışma, gerçek uygulamadan daha çok prototip oluşturmaya yönelir. Moog’da havacılık ve endüstri 4.0 için hassas kontroller üreticisi olan oturum katılımcısı George Small, oturum katılımcısı George Small, bugünün uygulayıcılarının, konumlar arasında işlem türlerini dengeledikleri ve yeniden dengeledikleri bir öğrenme dönemi beklemeleri gerektiğini söyledi.

Hızla biriken zaman ölçeği verilerinin işlenmesinin gerektiği, ancak tüm verilerin veri merkezine gönderilmesinin gerekmediği bir yer örneği olarak küçük alıntı petrol teçhizatı.

“Yerel olarak son derece yoğun bir iş yapıyor olabilirsiniz,” dedi, “ve sonra yalnızca önemli bilgileri yukarı itin. [to the cloud]” Mimarlar, farklı süreçlerin farklı zaman ölçeklerinde çalıştığı fikrine dikkat etmelidir.

IoT veya Endüstriyel IoT uygulamalarında bu, uç uygulayıcıların sıkı gömülü uç gereksinimlerini daha gevşek bulut analitiği ve kayıt sistemleriyle karıştıran olay sistemleri açısından düşünmesi gerektiği anlamına gelir.

Small, “Bu iki dünyayı uzlaştırmak mimari zorluklardan biri” dedi. Uçlarda öğrenme devam ederken, “çok uzak hissettirmiyor” diye ekledi.

AI açıklayabilir

Öğrenme sürecinin çoğu, makine öğrenimini çok sayıda gerçek dünya cihazına yerleştiren Edge AI veya uç zekayı içerir.

Ama bu kenarda insanlar da var. Darwin AI CEO’su ve MIT uç ​​oturumunun moderatörü Sheldon Fernandez’e göre, bu cihazların çoğu nihayetinde sahadaki insanlar tarafından yönetiliyor ve cihazların AI kararlarına olan güvenleri çok önemli.

VentureBeat’e “Cihazlar güçlendikçe uçta önemli ölçüde daha fazla şey yapabileceğinizi öğreniyoruz” dedi.

Ancak bunlar “kara kutu” sistemleri olamaz. “Açıklanabilir yapay zeka” için “XAI”yi destekleyen alternatif yaklaşımlar izleyen Fernandez, “bu faaliyeti kendi insani anlayışlarıyla tamamlayan” işçilere açıklamalar sunmaları gerektiğini söyledi.

İşin ucunda, iş yapan insanların, sistemin bir şeyi neden sorunlu olarak sınıflandırdığını anlamaları gerekiyor. “Öyleyse,” dedi, “buna katılabilirler veya katılmayabilirler.”

Bu arada, AI işleme kullanıcılarının artık normal CPU’lardan güçlü GPU’lara ve uca özgü AI IC’lere kadar bir dizi donanım arasından seçim yapabileceğini belirtti. Ve verilerin bulunduğu noktaya yakın işlemler yapmak iyi bir genel kuraldır. Her zaman olduğu gibi, bağlıdır.

“Zor zamanlama olmadan basit video analizi yapıyorsanız, bir CPU iyi olabilir. Öğrendiğimiz şey, hayattaki her şeyde olduğu gibi, birkaç zor ve hızlı kural olduğudur,” dedi Fernandez. “Gerçekten uygulamanıza bağlı.”