嵌入式領(lǐng)域正在經(jīng)歷一場強(qiáng)大的變革。互聯(lián)設(shè)備正在發(fā)展成為能夠根據(jù)其收集的數(shù)據(jù)自行做出決策的系統(tǒng)。通過在更接近捕獲數(shù)據(jù)的位置處理數(shù)據(jù),而不是在物聯(lián)網(wǎng)網(wǎng)關(guān)或云中處理數(shù)據(jù),它有望加快決策速度,減少延遲,解決數(shù)據(jù)隱私問題,降低成本并提高能效。
工業(yè)自動(dòng)化、機(jī)器人、智能城市和家庭自動(dòng)化只是推動(dòng)提高邊緣計(jì)算性能和能力需求的幾個(gè)應(yīng)用領(lǐng)域。這些類型的系統(tǒng)中的傳感器過去非常簡單且互不相連,但人工智能和機(jī)器學(xué)習(xí)(ML)現(xiàn)在能夠提高本地智能水平,允許原生設(shè)備上的決策,這是過去簡單控制算法所無法實(shí)現(xiàn)的。
人工智能時(shí)代通用處理器的發(fā)展
幾年前,開發(fā)人員將邏輯和控制算法作為其軟件開發(fā)的核心,然而數(shù)字信號處理(DSP)算法隨后出現(xiàn),實(shí)現(xiàn)了許多增強(qiáng)的語音、視覺和音頻應(yīng)用。
應(yīng)用程序開發(fā)的這種轉(zhuǎn)變已經(jīng)進(jìn)入了一個(gè)新時(shí)代,并且正在影響計(jì)算架構(gòu)的設(shè)計(jì)。我們現(xiàn)在已經(jīng)到了一個(gè)階段,推理是算法開發(fā)的主要焦點(diǎn)。這為計(jì)算性能、能效、延遲和實(shí)時(shí)處理以及可擴(kuò)展性等帶來了新的或增強(qiáng)的要求。
我們不僅看到了對新處理器加速器的需求,還看到了對通用處理能力的改進(jìn),以便為開發(fā)人員提供必要的平衡,并支持實(shí)時(shí)視頻中的功能檢測或人物檢測等應(yīng)用。
幾年前開發(fā)噪聲消除應(yīng)用的開發(fā)人員可能會(huì)依賴基于頻率的濾波器。但是今天,開發(fā)人員可以通過將過濾與ML/AI模型和推理相結(jié)合來提高應(yīng)用程序性能和功能。這推動(dòng)了對處理器和工具的需求,使這些任務(wù)更加高效,并盡可能無縫地提供給用戶。
激發(fā)邊緣和終端設(shè)備的智能
這種演變是由ML推動(dòng)的,但它也面臨著技術(shù)挑戰(zhàn)。多年來,為物聯(lián)網(wǎng)和嵌入式設(shè)備創(chuàng)建“一刀切”方法的開始和停止以及嘗試,促使行業(yè)改變其物聯(lián)網(wǎng)開發(fā)方法,以釋放巨大的擴(kuò)展機(jī)會(huì)。
開發(fā)人員現(xiàn)在正在利用安全、性能增強(qiáng)的技術(shù)來實(shí)現(xiàn)小型、低功耗的嵌入式系統(tǒng),用于以前無法想象的語音、視覺和振動(dòng)應(yīng)用,這些應(yīng)用正在改變世界。各種版本的語言和轉(zhuǎn)換器模型將很快在具有新計(jì)算能力的物聯(lián)網(wǎng)邊緣設(shè)備中找到自己的位置。這將開啟開發(fā)者曾經(jīng)夢想不到的新的可能性。
實(shí)現(xiàn)智能邊緣功能
隨著硬件的發(fā)展,開發(fā)人員面臨著越來越復(fù)雜的軟件,這就需要新的開發(fā)流程來創(chuàng)建優(yōu)化的ML模型和高效的設(shè)備驅(qū)動(dòng)程序。至關(guān)重要的是,提供給生態(tài)系統(tǒng)的軟件開發(fā)平臺和工具要與硬件一起發(fā)展。
有各種各樣的Arm和第三方工具可用于支持最終用戶創(chuàng)建人工智能算法。一旦數(shù)據(jù)科學(xué)家離線創(chuàng)建了模型,就可以使用工具來優(yōu)化模型,以便在基于Ethos-U的npu上使用,或者在基于Cortex-M的處理器上使用氦指令。
Qeexo是第一家為邊緣設(shè)備自動(dòng)化端到端機(jī)器學(xué)習(xí)的公司,其AutoML平臺提供了一個(gè)直觀的UI,允許用戶收集、清理和可視化傳感器數(shù)據(jù),并使用不同的算法自動(dòng)構(gòu)建機(jī)器學(xué)習(xí)模型。Keil微控制器開發(fā)套件(Keil MDK)等傳統(tǒng)嵌入式工具是MLOps工具的補(bǔ)充,有助于建立驗(yàn)證復(fù)雜軟件工作負(fù)載的DevOps流程。因此,嵌入式、物聯(lián)網(wǎng)和人工智能應(yīng)用融合在一個(gè)開發(fā)流程中,這是許多軟件開發(fā)人員都知道的。
邊緣的潛力正在被釋放。對微控制器更高性能的需求不斷增長,特別是語音激活門鎖、人員檢測和識別、帶預(yù)測性維護(hù)的互聯(lián)電機(jī)控制以及無數(shù)其他高端AI和ML應(yīng)用等任務(wù)。
借助正確的技術(shù),嵌入式開發(fā)人員可以重新設(shè)計(jì)邊緣和終端設(shè)備,在成本、性能、能效和隱私之間取得適當(dāng)?shù)钠胶猓@些都是這些受限系統(tǒng)的關(guān)鍵因素。