Intelligenza Artificiale (AI), Machine Learning (ML) e Internet of Things (IoT) fanno crescere le applicazioni di edge computing, richiedendo così soluzioni sempre più efficienti dal punto di vista energetico per fornire maggiori prestazioni computazionali in spazi sempre più limitati, con fattori di forma piccoli e forti vincoli termici. Tramite la sua Smart Embedded Vision, Microchip sta rispondendo alla crescente necessità di inferenza efficiente dal punto di vista energetico nelle applicazioni Edge, rendendo più semplice per gli sviluppatori software implementare i propri algoritmi in FPGA (field-programmable gate array) PolarFire®. In particolare, con il VectorBlox Accelerator Software Development Kit (SDK), Microchip li aiuta a sfruttare gli FPGA PolarFire per creare flessibili applicazioni di reti neurali overlay-based a basso consumo senza dover apprendere i tool flow FPGA. “Affinché gli sviluppatori di software possano beneficiare dell’efficienza energetica degli FPGA, dobbiamo rimuovere la limitazione del dover apprendere nuove architetture Fpga e tool flow proprietari, offrendo loro la flessibilità necessaria per il porting di soluzioni multi framework e multi rete”, dice Bruce Weyer, Vice President of the Field Programmable Gate Array business unit di Microchip.
Programmare reti neurali senza esperienze di progettazione Fpga
Gli Fpga sono ideali per le applicazioni AI Edge, quali inferenze in ambienti di calcolo power-constrained, perché possono eseguire più giga operazioni al secondo (GOPS) con maggiore efficienza rispetto a una Cpu (central processing unit) o una Gpu (graphics processing unit), ma richiedono competenze specifiche nella progettazione hardware. L’SDK VectorBlox Accelerator di Microchip è progettato per consentire agli sviluppatori di codificare in C/C++ e programmare reti neurali ad alta efficienza energetica senza precedenti esperienze di progettazione FPGA.
Il kit di strumenti, altamente flessibile, può eseguire modelli in TensorFlow e nel formato Open Neural Network Exchange (ONNX), che offre la più ampia interoperabilità di framework. ONNX supporta molti framework, quali Caffe2, MXNet, PyTorch e MATLAB®. A differenza delle soluzioni Fpga concorrenti, il VectorBlox Accelerator SDK di Microchip è supportato dai sistemi operativi Linux® e Windows® e include anche un simulatore, accurato al bit, che offre all’utente l’opportunità di validare l’accuratezza dell’hardware restando dell’ambiente software. L’IP di rete neurale incluso nel kit supporta anche la possibilità di caricare diversi modelli di rete in fase di esecuzione.
“L’SDK VectorBlox Accelerator di Microchip e il neural network IP core offriranno agli sviluppatori sia di software che hardware un modo per implementare un’architettura di rete neurale convoluzionale estremamente flessibile su FPGA PolarFire, da cui possono quindi costruire e implementare più facilmente i loro sistemi Edge AI-enabled con i migliori fattori di forma, e le migliori caratteristiche termiche e di consumo oggi accessibili”, precisa Weyer.
Grazie all’Edge Inference, gli Fpga PolarFire offrono un consumo totale fino al 50% inferiore rispetto ai dispositivi concorrenti, offrendo allo stesso tempo blocchi matematici con capacità superiori del 25%, in grado di fornire fino a 1,5 tera operazioni al secondo (TOPS). Utilizzando Fpga, gli sviluppatori hanno anche maggiori opportunità di personalizzazione e differenziazione attraverso l’intrinseca possibilità di fare gli upgrade dei dispositivi e la capacità di integrare funzioni su un singolo chip.
Microchip e la Smart Embedded Vision
L’iniziativa Smart Embedded Vision di Microchip è stata lanciata lo scorso luglio per fornire agli sviluppatori di hardware e software strumenti, nuclei di proprietà intellettuale (IP) e schede, per soddisfare i requisiti in termini di limiti termici e fattore di forma ridotto delle applicazioni Edge. Poiché gli Fpga PolarFire offrono un consumo inferiore rispetto ad altre soluzioni, i clienti possono eliminare la necessità di sistemi di ventilazione dai loro contenitori. Inoltre, in questi Fpga, l’integrazione per i progetti personalizzati dei clienti è più funzionale: ad esempio, in una smart camera, gli Fpga PolarFire possono integrare la pipeline del segnale dell’immagine, che quindi include l’interfaccia del sensore, il DDR controller, image signal processing (ISP) IP e le interfacce di rete, il tutto integrando Machine Learning Inference.
