Posts Recentes:

Como a Abridge se tornou uma das startups de IA em saúde mais comentadas

Peça a qualquer um dos VCs focados em...

Snap visualiza seu modelo de imagem em tempo real que pode gerar experiências de AR

Na Augmented World Expo na terça-feira, o Snap...

Unify ajuda os desenvolvedores a encontrar o melhor LLM para o trabalho


Quando os desenvolvedores têm um trabalho específico que a IA pode resolver, normalmente não é tão simples quanto apontar um LLM para os dados. Existem outras considerações, como custo, velocidade e precisão, e encontrar maneiras de equilibrar tudo isso tem sido particularmente desafiador, especialmente com tantos novos modelos sendo lançados on-line o tempo todo.

Isso e onde Unificar entra, uma startup britânica de um ex-aluno do Imperial College, que criou uma ferramenta de roteador que permite aos desenvolvedores inserir parâmetros e encontrar o melhor LLM para seus requisitos exclusivos, sejam eles quais forem. Na quarta-feira, a empresa anunciou um investimento de US$ 8 milhões.

“O principal objetivo do Unify é descobrir quais modelos de quais fornecedores são melhores para sua tarefa, usando benchmarks objetivos e painéis que permitem compará-los”, disse o fundador e CEO da empresa, Daniel Lenton, ao TechCrunch.

“O roteador é efetivamente uma extensão natural desse processo, especialmente à medida que as empresas começam a implantar em escala e a velocidade e o custo se tornam mais importantes. Então, o que estamos realmente tentando fazer é dar às pessoas muito mais controle sobre o perfil de qualidade, custo e velocidade de suas aplicações LLM”, disse Lenton.

Não é novidade que o Unify usa IA para executar o aplicativo principal do roteador. “Nosso roteador em si é uma rede neural aprendida. Assim, ele aprende quais modelos são melhores para realizar quais tarefas”, disse ele. A empresa faz isso executando benchmarks exaustivos em cada novo modelo em todas essas tarefas, usando o GPT Pro como juiz. A partir disso, o sistema aprende o quão bom esse modelo foi ao executar determinadas tarefas em seus conjuntos de treinamento.

“Então, muito rapidamente, qualquer novo modelo de provedor é suportado pelo roteador, basicamente um ou dois dias depois”, disse ele.

Lenton diz que o roteador, e como eles construíram um modelo único para treiná-lo, é em si uma forma de defender o que sua startup está fazendo da invasão dos grandes players, isso e o fato de que eles são neutros, e os hiperscaladores podem não seja.

Ele disse que normalmente os clientes estão apenas experimentando modelos diferentes e não têm uma ferramenta para rastrear qual é o melhor.

“Há pessoas que têm problemas de cabelo em chamas e estão dispostas a tentar uma solução existente. Então acho que foi assim que conseguimos colocar o pé na porta”, disse ele.

Embora existam concorrentes como Martian Router, OpenRouter e Portkey, Lenton diz que sua empresa é a única que otimiza conjuntamente qualidade, custo e velocidade.

A empresa é pequena no momento, com sete funcionários, e ele a mantém intencionalmente enxuta enquanto trabalha para colocar no mercado um produto totalmente monetizado. O plano é contratar mais três funcionários este ano.

Ele relata cerca de 3.000 inscrições até agora com algumas centenas de usuários regulares. Eles esperam ganhar dinheiro ao cobrar das empresas pela construção de seus próprios benchmarks personalizados. Cada empresa pode começar a usar a ferramenta com um crédito de US$ 50.

O investimento de US$ 8 milhões veio de uma série de investidores, incluindo SignalFire, M12, J12, Essence VC, A. Capital, Lunar VC, Y Combinator e um grupo de anjos proeminentes da indústria.

Estamos lançando um boletim informativo sobre IA! Inscrever-se aqui para começar a recebê-lo em suas caixas de entrada em 5 de junho.

Últimas

Assine

spot_img

Veja Também

spot_img

Como a Abridge se tornou uma das startups de IA em saúde mais comentadas

Peça a qualquer um dos VCs focados em saúde para nomear uma das principais startups de IA e um nome surge repetidamente: uma...

O satélite de inspeção de lixo espacial da Astroscale tira uma foto em close de um estágio de foguete descartado

Astroescala O satélite de observação de lixo espacial aproximou-se do estágio superior de um foguete descartado que está flutuando ao redor da Terra...

Snap visualiza seu modelo de imagem em tempo real que pode gerar experiências de AR

Na Augmented World Expo na terça-feira, o Snap apresentou uma versão inicial de seu modelo de difusão de imagens em tempo real no...