邊緣與云：選擇哪種人工智能基礎(chǔ)設(shè)施？

如今，邊緣計算一直是熱門話題。被譽為近年來最令人興奮的技術(shù)轉(zhuǎn)變，關(guān)于其變革力量的討論很多！

隨著越來越強(qiáng)大的 AI/ML 算法重新定義“智能”以及更便宜、更強(qiáng)大的“邊緣”設(shè)備的可用性，這種炒作在很大程度上是真實的。但是，如果要考慮邊緣計算的歷史，它會比最近的興趣讓我們相信的更早。

事實上，計算和智能最初始于邊緣，當(dāng)時大多數(shù)應(yīng)用程序幾乎不存在高帶寬網(wǎng)絡(luò)連接。即使在 1990 年代后期，遠(yuǎn)程部署在工廠或現(xiàn)場的關(guān)鍵測量設(shè)備通常也具有處理傳入傳感器數(shù)據(jù)的專用計算能力。然而，這些設(shè)備中的算法在“智能”方面只是初級的：主要是信號處理或數(shù)據(jù)轉(zhuǎn)換。

隨著網(wǎng)絡(luò)能力的提高和連接性的提高，基于云的計算在 2000 年代后期開始受到關(guān)注。與此同時，強(qiáng)大的人工智能算法作為一種從大量結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)中解鎖有意義信息的手段而備受關(guān)注。在短短十年內(nèi)，云 AI 已成為 AI 應(yīng)用程序的首選。

但是，向云的轉(zhuǎn)變也帶來了幾個問題：數(shù)據(jù)上傳和下載成本、網(wǎng)絡(luò)可靠性和數(shù)據(jù)安全等等。與此同時，隨著價格實惠但功能強(qiáng)大的邊緣設(shè)備的興起，邊緣計算在處理能力和成本或占地面積之間的權(quán)衡正在減少。似乎我們現(xiàn)在又回到了考慮“邊緣計算”作為構(gòu)建智能應(yīng)用程序的可行且有吸引力的選擇。

隨著關(guān)于邊緣人工智能和云人工智能哪個更好的辯論越來越激烈，任何熟悉這兩個框架的人都可能會回答“這要看情況了！”。原因是邊緣和云基礎(chǔ)設(shè)施不是競爭的，而是互補的框架。

在過去的幾年里，兩者都經(jīng)歷了巨大的發(fā)展和完善，特別是作為人工智能開發(fā)和部署的基礎(chǔ)。與任何技術(shù)選擇一樣，選擇實際上可歸結(jié)為具體的應(yīng)用:目標(biāo)、價值驅(qū)動因素、經(jīng)濟(jì)性以及對功耗、尺寸和連接性的任何限制。因此，在嘗試建立正確的基礎(chǔ)設(shè)施之前，必須了解云和邊緣人工智能的利弊。

當(dāng)尋求靈活性、可擴(kuò)展性和易于部署時，基于云的人工智能是一個有吸引力的選擇。如今，大多數(shù)云服務(wù)提供商為人工智能模型的培訓(xùn)和部署提供了強(qiáng)大的框架，并提供了按需付費的包，幾乎沒有前期承諾或投資。云提供了幾乎沒有限制的計算和存儲選項，使其特別適合大型人工智能模型。

但對于需要連續(xù)評估傳感器或圖像數(shù)據(jù)的實時應(yīng)用程序來說，這可能會成為一個笨拙的選擇，因為它們必須來回傳輸數(shù)據(jù)，從而導(dǎo)致巨大的成本。這種數(shù)據(jù)傳輸也使得云在很大程度上不適合需要閉環(huán)控制或即時行動的低延遲應(yīng)用程序。

另一方面， 邊緣人工智能是自動報警或閉環(huán)控制的實時數(shù)據(jù)分析的合理選擇。雖然邊緣基礎(chǔ)設(shè)施確實需要在邊緣硬件上進(jìn)行前期投資，但運營成本與云相比要低得多。

今天，有各種各樣的邊緣人工智能硬件選項可用，包括npu(神經(jīng)處理單元)、TPU(張量處理單元)以及帶有專用人工智能加速器的SOC(片上系統(tǒng))和SoMs(模塊上系統(tǒng))。人工智能的低成本和低功耗硬件是一個活躍的研究領(lǐng)域，并有可能提供更好的選擇。另一方面，基于人工智能的消費應(yīng)用必須處理相當(dāng)多樣化的邊緣設(shè)備(手機(jī)、平板電腦、個人電腦等)，這使得邊緣部署成為一個潛在的令人生畏的前景。

因此，邊緣基礎(chǔ)設(shè)施可能不利于快速原型開發(fā)，也不容易擴(kuò)展。雖然聯(lián)合學(xué)習(xí)，AI模型的分布式訓(xùn)練的概念允許在邊緣進(jìn)行訓(xùn)練和部署，但云仍然是訓(xùn)練需要足夠計算能力的大型模型的邏輯選擇。

但解決方案不一定是非此即彼的選擇。隨著應(yīng)用程序過渡到更多基于微服務(wù)的架構(gòu)，它們可以分解為具有自己特定部署框架的更小的功能或微服務(wù)。因此，不必在云和邊緣之間進(jìn)行選擇，重點可以放在針對特定應(yīng)用程序優(yōu)化使用兩者。

例如，一個應(yīng)用程序可能從云上的快速原型開始。隨著它的發(fā)展，需要低延遲和實時決策的功能可以轉(zhuǎn)移到邊緣，而那些需要規(guī)模和靈活性的功能可以保留在云中。模型訓(xùn)練或再訓(xùn)練可以在云端集中管理，而邊緣的一些聯(lián)邦學(xué)習(xí)可以在本地提高準(zhǔn)確性。同樣，敏感數(shù)據(jù)可以在邊緣處理，更通用的數(shù)據(jù)可以轉(zhuǎn)移到云端。

組織、開發(fā)人員和從業(yè)者最好不要將云和邊緣視為不同的替代方案，而是將其視為從邊緣到云的連續(xù)統(tǒng)一體，中間有許多不同的基礎(chǔ)設(shè)施選項。這包括不同類型的邊緣——運營邊緣、網(wǎng)絡(luò)邊緣、移動端點等，以及網(wǎng)絡(luò)上不同類型的分布式處理——私有云、公共云、小云、霧計算等。

雖然復(fù)雜性可能是一個挑戰(zhàn)，但找到正確的技術(shù)組合開始為組織提供一個獨特的機(jī)會，以最大限度地提高人工智能的價值，同時最大限度地降低成本和風(fēng)險。