Advantech ha annunciato la demo Generative AI con MIC-733-AO, basato su NVIDIA® Jetson AGX Orin™. La demo mostra agli sviluppatori IA come trarre beneficio da maggiore immediatezza, sicurezza avanzata e costi di connettività ridotti rispetto all’IA generativa in cloud. I modelli Generative AI del laboratorio di intelligenza artificiale di Jetson offrono un modello di IA fondazionale gratuito, che consente la personalizzazione e riduce drasticamente i tempi di sviluppo grazie al sistema Edge Generative AI MIC-733-AO.
Intelligenza artificiale generativa su MIC-733-AO
Il sistema MIC-733-AO Edge Generative AI di Advantech, compatibile con i modelli NVIDIA Generative AI del laboratorio IA di Jetson, è ora in grado di eseguire in modo efficiente modelli linguistici di grandi dimensioni (LLM), modelli di linguaggio visivo (VLM), trasformatori di visione (ViT), generazione di immagini e Llamaspeak nell’edge, grazie a NVIDIA® Jetson AGX Orin™. Le offerte della piattaforma abbracciano diversi livelli, fra cui calcolo accelerato, software IA vitale e modelli preaddestrati, agevolando la creazione, la personalizzazione e l’implementazione di modelli di IA generativa adatti a svariati impieghi e luoghi.
Con i modelli Generative AI del Jetson AI Lab, gli sviluppatori possono sfruttare la tecnica di Retrieval-Augmented Generation (RAG) per connettere LLM e VLM al patrimonio di conoscenze di un’azienda. Questo approccio evita il ricorso al tradizionale addestramento dei modelli IA, consentendo semplici interazioni conversazionali con il sistema per ottenere inferenze IA che accorciano drasticamente i tempi di sviluppo.
MIC-733-AO di Advantech vanta prestazioni di intelligenza artificiale elevate e molteplici interfacce video, come telecamera IP, telecamere industriali USB/gigE, telecamere GMSL, LiDAR e altri sistemi, consentendo l’operatività del modello di IA generativa basata sull’edge. La progettazione termica eccezionale previene crash da surriscaldamento, anche quando NVIDIA® Jetson AGX Orin™ opera a piena capacità.
I vantaggi dell’IA generativa nell’edge
Lo spostamento della domanda dal cloud all’edge posiziona la GenAI come soluzione ideale per ambienti ad alta reattività e bassa latenza. L’IA generativa nell’edge rappresenta il futuro dell’intelligenza artificiale e il sistema Edge Generative AI MIC-733-AO, integrato con i modelli NVIDIA Generative AI del laboratorio IA Jetson, offre una soluzione immediata agli sviluppatori di intelligenza artificiale. I vantaggi offerti da questa soluzione sono diversi:
- risposta immediata | I sistemi di edge computing, integrando sorgenti di dati come telecamere e sensori, consentono risposte GenAI immediate senza i ritardi associati al caricamento dei dati sul cloud
- sicurezza informatica | I dati restano all’interno del sistema edge, evitando i rischi di sicurezza associati alla trasmissione dei dati al cloud
- Connessione di rete stabile | Funzionando senza una rete wireless, il sistema edge memorizza i dati localmente fino al ripristino della rete, a differenza dell’IA in cloud che cessa di funzionare in assenza di connettività di rete.
- Costi di trasmissione ridotti |L’Edge AI non comporta costi di trasmissione se la comunicazione backend non è necessaria ed è sufficiente una trasmissione a larghezza di banda ridotta, più economica rispetto alla banda larga richiesta dal caricamento sul cloud.
Potrebbe interessarti anche:
