Nvidia aggiunge funzionalità alla gestione dell’IA perimetrale

60

Siamo entusiasti di riportare Transform 2022 di persona il 19 luglio e virtualmente dal 20 al 28 luglio. Unisciti ai leader dell’IA e dei dati per discussioni approfondite ed entusiasmanti opportunità di networking. Registrati oggi!

Nvidia ha già una reputazione mondiale e una designazione della quota di mercato n. 1 per la realizzazione di unità di elaborazione grafica (GPU) di alto livello per il rendering di immagini, video e animazioni 2D o 3D per la visualizzazione. Ultimamente ha sfruttato il suo successo per avventurarsi nel territorio IT, ma senza produrre hardware.

Un anno dopo il lancio di Nvidia Fleet Command, un servizio basato su cloud per l’implementazione, la gestione e il ridimensionamento delle applicazioni di intelligenza artificiale all’edge, la società ha lanciato nuove funzionalità che aiutano ad affrontare la distanza tra questi server migliorando la gestione delle implementazioni di intelligenza artificiale nell’edge mondo.

L’edge computing è un sistema di elaborazione distribuito con un proprio insieme di risorse che consente di elaborare i dati più vicino alla loro origine invece di doverli trasferire su un cloud o un data center centralizzato. L’edge computing accelera l’analisi riducendo il tempo di latenza necessario per spostare i dati avanti e indietro. Fleet Command è progettato per consentire il controllo di tali implementazioni attraverso la sua interfaccia cloud.

“Nel mondo dell’IA, la distanza non è amica di molti responsabili IT”, ha scritto Troy Estes, product marketing manager di Nvidia, in un post sul blog. “A differenza dei data center, dove le risorse e il personale sono consolidati, le aziende che implementano applicazioni di intelligenza artificiale all’edge devono considerare come gestire la natura estrema degli ambienti edge”.

Eliminare la latenza nelle distribuzioni remote

Spesso, i nodi che connettono data center o cloud e un’implementazione di IA remota sono difficili da realizzare abbastanza velocemente da poter essere utilizzati in un ambiente di produzione. Con la grande quantità di dati richiesta dalle applicazioni di intelligenza artificiale, sono necessarie una rete altamente performante e una gestione dei dati per far funzionare queste implementazioni abbastanza bene da soddisfare gli accordi sul livello di servizio.

“Puoi eseguire l’IA nel cloud”, ha detto a VentureBeat Amanda Saunders, senior manager di Nvidia per i video AI. “Ma in genere la latenza necessaria per inviare materiale avanti e indietro – beh, molte di queste posizioni non hanno solide connessioni di rete; possono sembrare collegati, ma non sono sempre connessi. Fleet Command ti consente di distribuire tali applicazioni all’edge ma di mantenere comunque il controllo su di esse in modo da poter accedere in remoto non solo al sistema ma all’applicazione stessa, in modo da poter vedere tutto ciò che sta accadendo.

Con la scalabilità di alcune implementazioni di intelligenza artificiale perimetrale, le organizzazioni possono avere fino a migliaia di sedi indipendenti che devono essere gestite dall’IT. A volte questi devono funzionare in luoghi estremamente remoti, come piattaforme petrolifere, indicatori meteorologici, negozi al dettaglio distribuiti o strutture industriali. Queste connessioni non sono per i deboli di cuore in rete.

Nvidia Fleet Command offre una piattaforma gestita per l’orchestrazione dei container utilizzando la distribuzione Kubernetes che rende relativamente facile il provisioning e l’implementazione di applicazioni e sistemi di intelligenza artificiale in migliaia di ambienti distribuiti, il tutto da un’unica console basata su cloud, ha affermato Saunders.

Anche l’ottimizzazione delle connessioni fa parte del compito

La distribuzione è solo un passaggio nella gestione delle applicazioni di intelligenza artificiale all’edge. L’ottimizzazione di queste applicazioni è un processo continuo che comporta l’applicazione di patch, la distribuzione di nuove applicazioni e il riavvio dei sistemi edge, ha affermato Estes. Le nuove funzionalità di Fleet Command sono progettate per far funzionare questi flussi di lavoro in un ambiente gestito con:

  • Gestione remota avanzata: La gestione remota su Fleet Command ora ha controlli di accesso e sessioni a tempo, eliminando le vulnerabilità che derivano dalle connessioni VPN tradizionali. Gli amministratori possono monitorare in modo sicuro l’attività e risolvere i problemi nelle sedi periferiche remote comodamente dai loro uffici. Gli ambienti perimetrali sono estremamente dinamici, il che significa che gli amministratori responsabili delle implementazioni dell’IA perimetrale devono essere altrettanto dinamici per stare al passo con i cambiamenti rapidi e garantire tempi di inattività di distribuzione ridotti. Ciò rende la gestione remota una funzionalità fondamentale per ogni implementazione di IA perimetrale.
  • Provisioning GPU multi-istanza (MIG): MIG è ora disponibile su Fleet Command, consentendo agli amministratori di partizionare le GPU e assegnare applicazioni dall’interfaccia utente di Fleet Command. Consentendo alle organizzazioni di eseguire più applicazioni di intelligenza artificiale sulla stessa GPU, MIG consente alle organizzazioni di dimensionare correttamente le proprie implementazioni e ottenere il massimo dalla propria infrastruttura perimetrale.

Diverse aziende hanno utilizzato le nuove funzionalità di Fleet Command in un programma beta per questi casi d’uso:

  • Domino Data Labche fornisce una piattaforma MLops aziendale che consente ai data scientist di sperimentare, ricercare, testare e convalidare i modelli di IA prima di implementarli nella produzione;
  • fornitore di gestione video Sistemi di pietre miliari, che ha creato AI Bridge, un gateway dell’interfaccia di programmazione delle applicazioni che semplifica l’accesso delle applicazioni AI a feed video consolidati da dozzine di flussi di telecamere; e
  • IronYun AI piattaforma Vaidio, che applica l’analisi dell’IA per aiutare rivenditori, band, stadi della NFL, fabbriche e altri ad alimentare le loro telecamere esistenti con la potenza dell’IA.

Secondo le proiezioni di Astute Analytics, il mercato della gestione del software di intelligenza artificiale raggiungerà gli 8,05 miliardi di dollari entro il 2027. Nvidia è in competizione nel mercato insieme a Juniper Networks, VMWare, Cloudera, IBM e Dell Technologies, tra gli altri.

La missione di VentureBeat deve essere una piazza cittadina digitale per i decisori tecnici per acquisire conoscenze sulla tecnologia aziendale trasformativa e le transazioni. Saperne di più sull’appartenenza.