I fondatori di NeuBird, Goutham Rao e Vinod Jayaraman, provengono da Portworx, una soluzione di storage cloud-native che alla fine hanno venduto a PureStorage nel 2019 per 370 milioni di dollari. È stata la loro terza uscita di successo.

Quando sono andati alla ricerca della loro prossima sfida imprenditoriale l'anno scorso, hanno visto un'opportunità di combinare la loro conoscenza cloud-native, soprattutto intorno alle operazioni IT, con la crescente area dell'AI generativa.

Oggi NeuBird ha annunciato un investimento di 22 milioni di dollari da Mayfield per portare l'idea sul mercato. È una cifra consistente per una startup in fase iniziale, ma la società probabilmente punta sull'esperienza dei fondatori per costruire un'altra azienda di successo.

Rao, il CEO, afferma che mentre la comunità cloud-native ha fatto un buon lavoro nel risolvere molti problemi difficili, ha creato livelli crescenti di complessità lungo il cammino.

“Abbiamo fatto un lavoro incredibile come comunità negli ultimi 10 anni o più nel costruire architetture cloud-native con design orientati al servizio. Ciò ha aggiunto molti livelli, il che è positivo. Questo è il modo corretto per progettare il software, ma ha comportato anche un aumento della telemetria. Ci sono semplicemente troppi strati nello stack,” ha detto Rao a TechCrunch.

Hanno concluso che questo livello di dati stava rendendo impossibile per gli ingegneri umani trovare, diagnosticare e risolvere problemi su larga scala all'interno delle grandi organizzazioni. Allo stesso tempo, i grandi modelli di linguaggio stavano iniziando a maturare, quindi i fondatori hanno deciso di metterli al lavoro sul problema.

“Stiamo sfruttando grandi modelli di linguaggio in un modo molto unico per poter analizzare migliaia e migliaia di metriche, avvisi, log, tracce e informazioni di configurazione dell'applicazione in pochi secondi e poter diagnosticare quale sia lo stato di salute dell'ambiente, rilevare se c'è un problema e trovare una soluzione,” ha detto.

L'azienda sta essenzialmente costruendo un assistente digitale di fiducia per il team di ingegneria. “Quindi si tratta di un collega digitale che lavora insieme agli SREs e agli ingegneri di ITOps, e monitora tutti gli avvisi e i log alla ricerca di problemi,” ha detto. L'obiettivo è ridurre il tempo necessario per rispondere e risolvere un incidente da ore a minuti, e ritengono che mettendo l'AI generativa al lavoro sul problema, possano aiutare le aziende a raggiungere tale obiettivo.

I fondatori comprendono i limiti dei grandi modelli di linguaggio e stanno cercando di ridurre le risposte allucinate o non corrette utilizzando un insieme limitato di dati per addestrare i modelli e configurando altri sistemi che aiutano a fornire risposte più accurate.

“Poiché stiamo usando questo in modo molto controllato per un caso d'uso molto specifico per ambienti che conosciamo, possiamo controllare i risultati che provengono dall'AI, di nuovo attraverso un database vettoriale e vedere se ha senso e se non ne siamo soddisfatti, non lo consiglieremo all'utente.”

I clienti possono collegarsi direttamente ai loro vari sistemi cloud inserendo le loro credenziali, e senza spostare dati, NeuBird può utilizzare l'accesso per verificare i dati disponibili per trovare una soluzione, riducendo la difficoltà complessiva associata all'ottenimento dei dati specifici dell'azienda per far funzionare il modello.

NeuBird utilizza vari modelli, inclusi Llama 2 per analizzare log e metriche. Stanno utilizzando Mistral per altri tipi di analisi. L'azienda trasforma effettivamente ogni interazione in linguaggio naturale in una query SQL, trasformando essenzialmente dati non strutturati in dati strutturati. Ritengono che ciò porterà a una maggiore precisione.

La startup in fase iniziale sta lavorando con partner di design e alpha per affinare l'idea mentre lavorano per portare il prodotto sul mercato entro la fine dell'anno. Rao afferma che hanno preso una grossa fetta di denaro fin dal principio perché volevano avere la libertà di lavorare sul problema senza doversi preoccupare di cercare altri finanziamenti troppo presto.