NeuBird os fundadores Goutham Rao e Vinod Jayaraman vieram da Portworx, uma solução de armazenamento nativa em nuvem que eles eventualmente vendido para PureStorage em 2019 por US$ 370 milhões. Foi a terceira saída bem-sucedida.
Quando procuraram o próximo desafio de startup no ano passado, viram uma oportunidade de combinar o seu conhecimento nativo da nuvem, especialmente em torno de operações de TI, com a crescente área de IA generativa.
Hoje a NeuBird anunciou um investimento de US$ 22 milhões da Mayfield para levar a ideia ao mercado. É uma quantia considerável para uma startup em estágio inicial, mas a empresa provavelmente está apostando na experiência dos fundadores para construir outra empresa de sucesso.
Rao, o CEO, diz que embora a comunidade nativa da nuvem tenha feito um bom trabalho na resolução de muitos problemas difíceis, criou níveis crescentes de complexidade ao longo do caminho.
“Fizemos um trabalho incrível como comunidade nos últimos mais de 10 anos, construindo arquiteturas nativas da nuvem com designs orientados a serviços. Isso adicionou muitas camadas, o que é bom. Essa é uma maneira adequada de projetar software, mas também teve um custo de aumento da telemetria. Há muitas camadas na pilha”, disse Rao ao TechCrunch.
Eles concluíram que esse nível de dados impossibilitava que os engenheiros humanos encontrassem, diagnosticassem e resolvessem problemas em grande escala dentro de grandes organizações. Ao mesmo tempo, grandes modelos de linguagem estavam começando a amadurecer, então os fundadores decidiram colocá-los para trabalhar no problema.
“Estamos aproveitando grandes modelos de linguagem de uma maneira única para poder analisar milhares e milhares de métricas, alertas, logs, rastreamentos e informações de configuração de aplicativos em questão de segundos e poder diagnosticar qual é a integridade do ambiente. , detectar se há um problema e encontrar uma solução”, disse ele.
A empresa está essencialmente construindo um assistente digital confiável para a equipe de engenharia. “Portanto, é um colega de trabalho digital que trabalha junto com engenheiros de SREs e ITOps e monitora todos os alertas e registros em busca de problemas”, disse ele. O objetivo é reduzir o tempo necessário para responder e resolver um incidente de horas para minutos, e eles acreditam que, ao colocar a IA generativa para trabalhar no problema, podem ajudar as empresas a atingir esse objetivo.
Os fundadores entendem as limitações dos grandes modelos de linguagem e procuram reduzir respostas alucinadas ou incorretas usando um conjunto limitado de dados para treinar os modelos e estabelecendo outros sistemas que ajudem a fornecer respostas mais precisas.
“Como estamos usando isso de uma maneira muito controlada para um caso de uso muito específico para ambientes que conhecemos, podemos verificar os resultados que estão saindo da IA, novamente por meio de um banco de dados vetorial, e ver se está fazendo sentido e se não nos sentirmos confortáveis com isso, não o recomendaremos ao usuário.”
Os clientes podem se conectar diretamente aos seus vários sistemas em nuvem inserindo suas credenciais e, sem mover dados, o NeuBird pode usar o acesso para verificar outras informações disponíveis para encontrar uma solução, reduzindo a dificuldade geral associada à obtenção da informação específica da empresa. dados para o modelo trabalhar.
NeuBird usa vários modelos, incluindo Llama 2 para análise de logs e métricas. Eles estão usando o Mistral para outros tipos de análise. Na verdade, a empresa transforma cada interação de linguagem natural em uma consulta SQL, essencialmente transformando dados não estruturados em dados estruturados. Eles acreditam que isso resultará em maior precisão.
A startup em estágio inicial está trabalhando com parceiros de design e alfa agora refinando a ideia enquanto trabalham para lançar o produto no mercado ainda este ano. Rao diz que eles tiraram uma grande quantia de dinheiro porque queriam que a sala resolvesse o problema sem ter que se preocupar em procurar mais dinheiro cedo demais.
