邊緣與云：選擇哪種人工智能基礎(chǔ)設(shè)施？

如今，邊緣計(jì)算一直是熱門話題。被譽(yù)為近年來最令人興奮的技術(shù)轉(zhuǎn)變，關(guān)于其變革力量的討論很多！

隨著越來越強(qiáng)大的 AI/ML 算法重新定義“智能”以及更便宜、更強(qiáng)大的“邊緣”設(shè)備的可用性，這種炒作在很大程度上是真實(shí)的。但是，如果要考慮邊緣計(jì)算的歷史，它會(huì)比最近的興趣讓我們相信的更早。

事實(shí)上，計(jì)算和智能最初始于邊緣，當(dāng)時(shí)大多數(shù)應(yīng)用程序幾乎不存在高帶寬網(wǎng)絡(luò)連接。即使在 1990 年代后期，遠(yuǎn)程部署在工廠或現(xiàn)場的關(guān)鍵測量設(shè)備通常也具有處理傳入傳感器數(shù)據(jù)的專用計(jì)算能力。然而，這些設(shè)備中的算法在“智能”方面只是初級(jí)的：主要是信號(hào)處理或數(shù)據(jù)轉(zhuǎn)換。

隨著網(wǎng)絡(luò)能力的提高和連接性的提高，基于云的計(jì)算在 2000 年代后期開始受到關(guān)注。與此同時(shí)，強(qiáng)大的人工智能算法作為一種從大量結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)中解鎖有意義信息的手段而備受關(guān)注。在短短十年內(nèi)，云 AI 已成為 AI 應(yīng)用程序的首選。

但是，向云的轉(zhuǎn)變也帶來了幾個(gè)問題：數(shù)據(jù)上傳和下載成本、網(wǎng)絡(luò)可靠性和數(shù)據(jù)安全等等。與此同時(shí)，隨著價(jià)格實(shí)惠但功能強(qiáng)大的邊緣設(shè)備的興起，邊緣計(jì)算在處理能力和成本或占地面積之間的權(quán)衡正在減少。似乎我們現(xiàn)在又回到了考慮“邊緣計(jì)算”作為構(gòu)建智能應(yīng)用程序的可行且有吸引力的選擇。

隨著關(guān)于邊緣人工智能和云人工智能哪個(gè)更好的辯論越來越激烈，任何熟悉這兩個(gè)框架的人都可能會(huì)回答“這要看情況了！”。原因是邊緣和云基礎(chǔ)設(shè)施不是競爭的，而是互補(bǔ)的框架。

在過去的幾年里，兩者都經(jīng)歷了巨大的發(fā)展和完善，特別是作為人工智能開發(fā)和部署的基礎(chǔ)。與任何技術(shù)選擇一樣，選擇實(shí)際上可歸結(jié)為具體的應(yīng)用:目標(biāo)、價(jià)值驅(qū)動(dòng)因素、經(jīng)濟(jì)性以及對功耗、尺寸和連接性的任何限制。因此，在嘗試建立正確的基礎(chǔ)設(shè)施之前，必須了解云和邊緣人工智能的利弊。

當(dāng)尋求靈活性、可擴(kuò)展性和易于部署時(shí)，基于云的人工智能是一個(gè)有吸引力的選擇。如今，大多數(shù)云服務(wù)提供商為人工智能模型的培訓(xùn)和部署提供了強(qiáng)大的框架，并提供了按需付費(fèi)的包，幾乎沒有前期承諾或投資。云提供了幾乎沒有限制的計(jì)算和存儲(chǔ)選項(xiàng)，使其特別適合大型人工智能模型。

但對于需要連續(xù)評估傳感器或圖像數(shù)據(jù)的實(shí)時(shí)應(yīng)用程序來說，這可能會(huì)成為一個(gè)笨拙的選擇，因?yàn)樗鼈儽仨殎砘貍鬏敂?shù)據(jù)，從而導(dǎo)致巨大的成本。這種數(shù)據(jù)傳輸也使得云在很大程度上不適合需要閉環(huán)控制或即時(shí)行動(dòng)的低延遲應(yīng)用程序。

另一方面， 邊緣人工智能是自動(dòng)報(bào)警或閉環(huán)控制的實(shí)時(shí)數(shù)據(jù)分析的合理選擇。雖然邊緣基礎(chǔ)設(shè)施確實(shí)需要在邊緣硬件上進(jìn)行前期投資，但運(yùn)營成本與云相比要低得多。

今天，有各種各樣的邊緣人工智能硬件選項(xiàng)可用，包括npu(神經(jīng)處理單元)、TPU(張量處理單元)以及帶有專用人工智能加速器的SOC(片上系統(tǒng))和SoMs(模塊上系統(tǒng))。人工智能的低成本和低功耗硬件是一個(gè)活躍的研究領(lǐng)域，并有可能提供更好的選擇。另一方面，基于人工智能的消費(fèi)應(yīng)用必須處理相當(dāng)多樣化的邊緣設(shè)備(手機(jī)、平板電腦、個(gè)人電腦等)，這使得邊緣部署成為一個(gè)潛在的令人生畏的前景。

因此，邊緣基礎(chǔ)設(shè)施可能不利于快速原型開發(fā)，也不容易擴(kuò)展。雖然聯(lián)合學(xué)習(xí)，AI模型的分布式訓(xùn)練的概念允許在邊緣進(jìn)行訓(xùn)練和部署，但云仍然是訓(xùn)練需要足夠計(jì)算能力的大型模型的邏輯選擇。

但解決方案不一定是非此即彼的選擇。隨著應(yīng)用程序過渡到更多基于微服務(wù)的架構(gòu)，它們可以分解為具有自己特定部署框架的更小的功能或微服務(wù)。因此，不必在云和邊緣之間進(jìn)行選擇，重點(diǎn)可以放在針對特定應(yīng)用程序優(yōu)化使用兩者。

例如，一個(gè)應(yīng)用程序可能從云上的快速原型開始。隨著它的發(fā)展，需要低延遲和實(shí)時(shí)決策的功能可以轉(zhuǎn)移到邊緣，而那些需要規(guī)模和靈活性的功能可以保留在云中。模型訓(xùn)練或再訓(xùn)練可以在云端集中管理，而邊緣的一些聯(lián)邦學(xué)習(xí)可以在本地提高準(zhǔn)確性。同樣，敏感數(shù)據(jù)可以在邊緣處理，更通用的數(shù)據(jù)可以轉(zhuǎn)移到云端。

組織、開發(fā)人員和從業(yè)者最好不要將云和邊緣視為不同的替代方案，而是將其視為從邊緣到云的連續(xù)統(tǒng)一體，中間有許多不同的基礎(chǔ)設(shè)施選項(xiàng)。這包括不同類型的邊緣——運(yùn)營邊緣、網(wǎng)絡(luò)邊緣、移動(dòng)端點(diǎn)等，以及網(wǎng)絡(luò)上不同類型的分布式處理——私有云、公共云、小云、霧計(jì)算等。

雖然復(fù)雜性可能是一個(gè)挑戰(zhàn)，但找到正確的技術(shù)組合開始為組織提供一個(gè)獨(dú)特的機(jī)會(huì)，以最大限度地提高人工智能的價(jià)值，同時(shí)最大限度地降低成本和風(fēng)險(xiǎn)。