Credal.aiuma startup apoiada pelo Y Combinator que oferece às empresas uma maneira de conectar seus dados internos a modelos de IA hospedados na nuvem e geradores de texto, arrecadou US$ 4,8 milhões em uma rodada inicial liderada pela Spark Capital.
A Credal foi fundada por Jack Fischer e Ravin Thambapillai, que anteriormente trabalharam na Palantir e se uniram por um interesse reciprocamente em segurança e conformidade. Ravin, um ex-funcionário do Google, aprendeu sozinho a programar depois de estudar filosofia, política e economia em Oxford.
“Percebemos que, com nossa experiência em segurança de dados corporativos e IA da Palantir, estávamos em uma posição única para edificar uma plataforma de dados de IA na qual as empresas pudessem realmente encarregar”, disse Fischer ao TechCrunch em uma entrevista por e-mail.
Fischer e Thambapillai inicialmente decidiram edificar o que descrevem uma vez que um “assistente de tomada de decisão” para empresas que usariam grandes modelos de linguagem (LLMs) – modelos nos moldes de Bate-papoGPT — para ler documentos e propor sobre decisões estratégicas em nível C Suite. Mas o projeto acabou se transformando em um pouco mais vasto: uma instrumento para conectar dados de fontes internas a LLMs externos.
Porquê a plataforma existe hoje, a Credal pode ser usada para edificar conhecimento universal ou chatbots com tecnologia de IA específicos de domínio para uma variedade de casos de uso. Por exemplo, uma empresa poderia recorrer à Credal para gerar um bot que respondesse a perguntas de segurança sobre software licenciado pela empresa, com base na documentação mais recente.
A Credal não atende LLMs em si. Em vez disso, ele fica entre os usuários que enviam solicitações (por exemplo, “Qual é a versão mais recente deste software?”) e uma API de um provedor de LLM terceirizado, uma vez que OpenAI ou Anthropic, agindo uma vez que um “copiloto” que pode ser implantado em sistemas existentes. aplicativos uma vez que o Slack.
A Credal tenta direcionar maquinalmente os prompts para o LLM “mais favorável” se uma empresa estiver usando mais de um, com base em fatores uma vez que a sensibilidade dos dados enviados, dispêndio, política da empresa e capacidades técnicas de um padrão. Em alguns casos, emprega mais de um LLM para realizar uma tarefa – por exemplo, usando Claude e GPT-4 da Anthropic para estruturar documentos da empresa.
Muitas plataformas oferecem maneiras de conectar dados da empresa a LLMs – consulte Não estruturado, Deasie e LhamaIndex. E OpenAI Expandindo sua estrutura de plug-in integrada. Mas a abordagem única da Credal sobre isso é uma possante ênfase na conformidade e na segurança – pelo menos da forma uma vez que Fischer diz.
A Credal tenta redigir, anonimizar e avisar maquinalmente quando dados confidenciais estão prestes a ser enviados para fora da rede, por exemplo, para um LLM hospedado em uma nuvem pública. E fornece logs que mostram quais dados foram compartilhados com quais LLMs.
Dados enviados para Credal é retidos por padrão e mantidos por 30 dias depois a expiração das contas – o que pode fazer algumas empresas hesitarem. Mas administradores pode altere isso e opte por limpar os dados a qualquer momento, enfatiza Fischer.
Fischer também afirma que a Credal é um dos poucos fornecedores desse tipo registrado no Data Privacy Framework, o recente negócio EUA-UE que rege a transferência de dados pessoais entre os dois países. Isso permitiu-lhe lucrar contratos com empresas europeias regulamentadas e de capital crédulo, uma vez que a Wise, diz Fischer.
“Os departamentos de TI das empresas desejam visibilidade e controle sobre uma vez que a IA está sendo usada em suas organizações”, acrescentou. “Credal dá a eles [this transparency] em um formato padrão em vários provedores de LLM, fornecendo controles de dados refinados sobre quem pode acessar quais modelos, quais dados podem ser usados por cada usuário e para quais finalidades… Ao contrário de outros sistemas de ‘IA em seus dados’, Credal espelha maquinalmente as permissões dos sistemas de origem aos quais se conecta, portanto, quando um usuário faz uma pergunta, a IA responde unicamente com base em documentos da empresa que sejam relevantes e alcançável a esse usuário.”
Desde o lançamento em abril, Fischer afirma que a Credal atendeu mais de um quarto de milhão de chamadas LLM e ingeriu muro de 100.000 documentos corporativos. A empresa tem atualmente 11 clientes, vários dos quais assinaram contratos de “seis dígitos”, segundo Fischer.
Com o capital da rodada inicial, a Credal planeja expandir seu quadro de funcionários (que atualmente é de cinco funcionários) e “expandir o resultado para estancar mais fontes de dados e realizar uma recuperação de dados mais sofisticada”, diz Fischer.
“A indústria de IA neste momento está a suportar um desequilíbrio relativo entre o enorme excitação e o número ainda relativamente pequeno de empresas que utilizam LLMs para gerar valor no mundo real”, disse Fischer. “A Credal está resolvendo isso integrando-se profundamente a um pequeno número de empresas incríveis e realmente resolvendo seus problemas de ponta a ponta.”
