O pessoal de operações de TI tem muita coisa acontecendo e, quando ocorre um incidente que desativa um sistema importante, o tempo sempre estará contra eles. Ao longo dos anos, as empresas têm procurado uma vantagem para avançar mais rapidamente com manuais concebidos para encontrar respostas para problemas comuns, e análises post-mortem para evitar que se repitam, mas nem todos os problemas são facilmente resolvidos, e há tantos dados e tantas possibilidades possíveis. pontos de falha.
Na verdade, é um problema perfeito para a IA generativa resolver e a inicialização do AIOps BigPanda anunciou hoje uma nova ferramenta generativa de IA chamada Biggy para ajudar a resolver alguns desses problemas com mais rapidez. Biggy foi projetado para examinar uma ampla variedade de dados relacionados a TI para aprender como a empresa opera e compará-los com o cenário do problema e outros cenários semelhantes e sugerir uma solução.
BigPanda usa IA desde os primeiros dias da empresa e projetou deliberadamente dois sistemas separados: um para a camada de dados e outro para a IA. De certa forma, isso os preparou para a mudança para a IA generativa baseada em grandes modelos de linguagem. “O mecanismo de IA antes da geração AI estava construindo muitos outros tipos de IA, mas se alimentava do mesmo mecanismo de dados que alimentará o que estamos fazendo com Biggy e o que estamos fazendo com IA generativa e conversacional ”, disse o CEO da BigPanda, Assaf Resnick, ao TechCrunch.
Como a maioria das ferramentas generativas de IA, esta disponibiliza uma caixa de aviso onde os usuários podem fazer perguntas e interagir com o bot. Nesse caso, os modelos subjacentes foram treinados em dados internos da empresa cliente, bem como em dados publicamente disponíveis sobre uma determinada peça de hardware ou software, e são ajustados para lidar com os tipos de problemas com os quais a TI lida regularmente. .
“Os LLMs prontos para uso foram treinados em uma enorme quantidade de dados e são realmente bons como generalistas em todos os campos operacionais que analisamos – infraestrutura, rede, desenvolvimento de aplicativos, tudo o que existe. E eles realmente conhecem todo o hardware muito bem”, disse Jason Walker, diretor de inovação da BigPanda. “Então, se você perguntar sobre um determinado servidor blade HP com esse código de erro, é muito bom juntar isso, e usamos isso para grande parte do tráfego de eventos.” Claro, tem que ser mais do que isso ou um engenheiro humano poderia simplesmente pesquisar isso na Pesquisa Google.
Ele combina esse conhecimento com o que é capaz de selecionar internamente em uma variedade de tipos de dados. “O BigPanda ingere os dados operacionais e contextuais do cliente de observabilidade, mudança, CDMB (o arquivo que armazena informações de configuração) e topologia, juntamente com dados históricos e contexto humano e institucional – e normaliza os dados em pares de valores-chave ou tags”, Walker disse. Isso é muito jargão técnico, mas basicamente significa que analisa informações em nível de sistema, dados organizacionais e interações humanas para fornecer uma resposta que ajude os engenheiros a resolver o problema.
Quando um usuário insere um prompt, ele analisa todos os dados para gerar uma resposta que, esperançosamente, apontará aos engenheiros a direção certa para resolver o problema. Eles reconhecem que nem sempre é perfeito porque nenhuma IA generativa é, mas informam ao usuário quando há um menor grau de certeza de que a resposta está correta.
“Para áreas onde pensamos que não temos tanta certeza, dizemos-lhes que esta é a nossa melhor informação, mas um ser humano deveria dar uma vista de olhos a isto”, disse Resnick. Para outras áreas onde há mais certeza, podem introduzir a automação, trabalhando com uma ferramenta como Red Hat Ansible para resolver o problema sem interação humana, disse ele.
A parte de ingestão de dados nem sempre será trivial para os clientes e este é o primeiro passo para fornecer um assistente de IA que pode ajudar a TI a chegar à raiz dos problemas e resolvê-los com mais rapidez. Nenhuma IA é infalível, mas ter uma ferramenta interativa de IA deve ser uma melhoria em relação às abordagens manuais atuais e mais demoradas para solução de problemas de sistemas de TI.
