Posts Recentes:

Bill Weber deixa o cargo de CEO da Firefly Aerospace

Bill Weber deixou o cargo de presidente-executivo da...

26 Common SEO Myths, Debunked

SEO is a complex, vast, and sometimes mysterious...

O cenário de startups de Israel mostra resiliência apesar de nove meses de guerra

Quando a guerra entre Israel e o Hamas...

Giga ML quer ajudar empresas a implantar LLMs offline


A IA está na moda – especialmente a IA de geração de texto, também conhecida como grandes modelos de linguagem (pense em modelos nos moldes de Bate-papoGPT). Em um recente enquete de cerca de 1.000 organizações empresariais, 67,2% dizem que veem a adoção de grandes modelos de linguagem (LLMs) como uma prioridade máxima até o início de 2024.

Mas há barreiras no caminho. De acordo com a mesma pesquisa, a falta de personalização e flexibilidade, aliada à incapacidade de preservar o conhecimento e a propriedade intelectual da empresa, impediram – e estão – impedindo muitas empresas de implantar LLMs na produção.

Isso fez com que Varun Vummadi e Esha Manideep Dinne pensassem: como seria uma solução para o desafio de adoção do LLM empresarial? Em busca de um, eles fundaram GigaMLuma startup que está construindo uma plataforma que permite às empresas implantar LLMs no local – reduzindo ostensivamente custos e preservando a privacidade no processo.

“A privacidade de dados e a personalização de LLMs são alguns dos maiores desafios enfrentados pelas empresas ao adotar LLMs para resolver problemas”, disse Vummadi ao TechCrunch em uma entrevista por e-mail. “O Giga ML aborda esses dois desafios.”

Giga ML oferece seu próprio conjunto de LLMs, a “série X1”, para tarefas como gerar código e responder perguntas comuns dos clientes (por exemplo, “Quando posso esperar a chegada do meu pedido?”). A startup reivindica os modelos, construídos sobre os da Meta Lhama 2superam os LLMs populares em determinados benchmarks, particularmente o Banco MT conjunto de testes para diálogos. Mas é difícil dizer como o X1 se compara qualitativamente; este repórter experimentou Giga ML's demonstração on-line mas enfrentou problemas técnicos. (O tempo limite do aplicativo expirou, independentemente do prompt que eu digitei.)

Mesmo que os modelos do Giga ML são superiores em alguns aspectos, porém, eles podem realmente causar impacto no oceano de Código aberto, desligada LLMs?

Ao conversar com Vummadi, tive a sensação de que o Giga ML não está apenas tentando criar os LLMs de melhor desempenho, mas sim construindo ferramentas para permitir que as empresas ajustem os LLMs localmente, sem ter que depender de recursos de terceiros e plataformas.

“A missão do Giga ML é ajudar as empresas a implantar LLMs com segurança e eficiência em sua própria infraestrutura local ou nuvem privada virtual”, disse Vummadi. “O Giga ML simplifica o processo de treinamento, ajuste fino e execução de LLMs, cuidando disso por meio de uma API fácil de usar, eliminando qualquer incômodo associado.”

Vummadi enfatizou as vantagens de privacidade de executar modelos off-line – vantagens que provavelmente serão persuasivas para algumas empresas.

Predibase, a plataforma de desenvolvimento de IA de baixo código, descobriu que menos de um quarto das empresas se sente confortável em usar LLMs comerciais devido a preocupações com o compartilhamento de dados confidenciais ou proprietários com fornecedores. Quase 77% dos entrevistados disseram que não usam ou não planejam usar LLMs comerciais além de protótipos em produção – citando questões relacionadas à privacidade, custo e falta de personalização.

“Os gerentes de TI no nível C-suite consideram as ofertas do Giga ML valiosas devido à implantação segura de LLMs no local, modelos personalizáveis ​​adaptados ao seu caso de uso específico e inferência rápida, o que garante conformidade de dados e máxima eficiência,” Vummadi disse.

Giga ML, que arrecadou aproximadamente US$ 3,74 milhões em financiamento de VC até o momento da Nexus Venture Partners, Y Combinator, Liquid 2 Ventures, 8vdx e vários outros, planeja no curto prazo aumentar sua equipe de duas pessoas e aumentar a P&D de produtos. Uma parte do capital também será destinada ao apoio à base de clientes da Giga ML, Vummadi, que atualmente inclui empresas “empresariais” não identificadas nas áreas de finanças e saúde.

Últimas

Bill Weber deixa o cargo de CEO da Firefly Aerospace

Bill Weber deixou o cargo de presidente-executivo da...

26 Common SEO Myths, Debunked

SEO is a complex, vast, and sometimes mysterious...

O cenário de startups de Israel mostra resiliência apesar de nove meses de guerra

Quando a guerra entre Israel e o Hamas...

Netflix muda foco para nível suportado por anúncios à medida que o crescimento de assinantes aumenta

A Netflix está eliminando seu plano mais barato...

Assine

spot_img

Veja Também

Bill Weber deixa o cargo de CEO da Firefly Aerospace

Bill Weber deixou o cargo de presidente-executivo da...

26 Common SEO Myths, Debunked

SEO is a complex, vast, and sometimes mysterious...

O cenário de startups de Israel mostra resiliência apesar de nove meses de guerra

Quando a guerra entre Israel e o Hamas...

Netflix muda foco para nível suportado por anúncios à medida que o crescimento de assinantes aumenta

A Netflix está eliminando seu plano mais barato...

Por que grupos de anúncios de palavras-chave únicas ainda são importantes em 2024

Entreviste 10 especialistas do Google Ads e nove...
spot_img

Bill Weber deixa o cargo de CEO da Firefly Aerospace

Bill Weber deixou o cargo de presidente-executivo da Firefly Aerospace, após quase dois anos no cargo, anunciou a fabricante de veículos de lançamento,...

26 Common SEO Myths, Debunked

SEO is a complex, vast, and sometimes mysterious practice. There are a lot of aspects to SEO that can lead to confusion. Not everyone...

O cenário de startups de Israel mostra resiliência apesar de nove meses de guerra

Quando a guerra entre Israel e o Hamas eclodiu em Outubro passado, examinámos o seu potencial impacto nos ecossistemas tecnológicos em Israel e...