Posts Recentes:

Threads adiciona um recurso de bookmarking para salvar postagens favoritas

Threads, o aplicativo semelhante ao Twitter do Instagram,...

Giga ML quer ajudar empresas a implantar LLMs offline


A IA está na moda – especialmente a IA de geração de texto, também conhecida como grandes modelos de linguagem (pense em modelos nos moldes de Bate-papoGPT). Em um recente enquete de cerca de 1.000 organizações empresariais, 67,2% dizem que veem a adoção de grandes modelos de linguagem (LLMs) como uma prioridade máxima até o início de 2024.

Mas há barreiras no caminho. De acordo com a mesma pesquisa, a falta de personalização e flexibilidade, aliada à incapacidade de preservar o conhecimento e a propriedade intelectual da empresa, impediram – e estão – impedindo muitas empresas de implantar LLMs na produção.

Isso fez com que Varun Vummadi e Esha Manideep Dinne pensassem: como seria uma solução para o desafio de adoção do LLM empresarial? Em busca de um, eles fundaram GigaMLuma startup que está construindo uma plataforma que permite às empresas implantar LLMs no local – reduzindo ostensivamente custos e preservando a privacidade no processo.

“A privacidade de dados e a personalização de LLMs são alguns dos maiores desafios enfrentados pelas empresas ao adotar LLMs para resolver problemas”, disse Vummadi ao TechCrunch em uma entrevista por e-mail. “O Giga ML aborda esses dois desafios.”

Giga ML oferece seu próprio conjunto de LLMs, a “série X1”, para tarefas como gerar código e responder perguntas comuns dos clientes (por exemplo, “Quando posso esperar a chegada do meu pedido?”). A startup reivindica os modelos, construídos sobre os da Meta Lhama 2superam os LLMs populares em determinados benchmarks, particularmente o Banco MT conjunto de testes para diálogos. Mas é difícil dizer como o X1 se compara qualitativamente; este repórter experimentou Giga ML's demonstração on-line mas enfrentou problemas técnicos. (O tempo limite do aplicativo expirou, independentemente do prompt que eu digitei.)

Mesmo que os modelos do Giga ML são superiores em alguns aspectos, porém, eles podem realmente causar impacto no oceano de Código aberto, desligada LLMs?

Ao conversar com Vummadi, tive a sensação de que o Giga ML não está apenas tentando criar os LLMs de melhor desempenho, mas sim construindo ferramentas para permitir que as empresas ajustem os LLMs localmente, sem ter que depender de recursos de terceiros e plataformas.

“A missão do Giga ML é ajudar as empresas a implantar LLMs com segurança e eficiência em sua própria infraestrutura local ou nuvem privada virtual”, disse Vummadi. “O Giga ML simplifica o processo de treinamento, ajuste fino e execução de LLMs, cuidando disso por meio de uma API fácil de usar, eliminando qualquer incômodo associado.”

Vummadi enfatizou as vantagens de privacidade de executar modelos off-line – vantagens que provavelmente serão persuasivas para algumas empresas.

Predibase, a plataforma de desenvolvimento de IA de baixo código, descobriu que menos de um quarto das empresas se sente confortável em usar LLMs comerciais devido a preocupações com o compartilhamento de dados confidenciais ou proprietários com fornecedores. Quase 77% dos entrevistados disseram que não usam ou não planejam usar LLMs comerciais além de protótipos em produção – citando questões relacionadas à privacidade, custo e falta de personalização.

“Os gerentes de TI no nível C-suite consideram as ofertas do Giga ML valiosas devido à implantação segura de LLMs no local, modelos personalizáveis ​​adaptados ao seu caso de uso específico e inferência rápida, o que garante conformidade de dados e máxima eficiência,” Vummadi disse.

Giga ML, que arrecadou aproximadamente US$ 3,74 milhões em financiamento de VC até o momento da Nexus Venture Partners, Y Combinator, Liquid 2 Ventures, 8vdx e vários outros, planeja no curto prazo aumentar sua equipe de duas pessoas e aumentar a P&D de produtos. Uma parte do capital também será destinada ao apoio à base de clientes da Giga ML, Vummadi, que atualmente inclui empresas “empresariais” não identificadas nas áreas de finanças e saúde.

Últimas

Threads adiciona um recurso de bookmarking para salvar postagens favoritas

Threads, o aplicativo semelhante ao Twitter do Instagram,...

Google espera corrigir o problema histórico de diversidade de imagens de Gemini dentro de semanas

O Google está esperançoso de que em breve...

Índia estimula investimento no setor espacial com limites aumentados ao financiamento estrangeiro

A Índia atualizou as regras oficiais do setor...

Assine

spot_img

Veja Também

Threads adiciona um recurso de bookmarking para salvar postagens favoritas

Threads, o aplicativo semelhante ao Twitter do Instagram,...

Google espera corrigir o problema histórico de diversidade de imagens de Gemini dentro de semanas

O Google está esperançoso de que em breve...

Índia estimula investimento no setor espacial com limites aumentados ao financiamento estrangeiro

A Índia atualizou as regras oficiais do setor...

BLKFAM apoiado por Whoopi Goldberg é lançado com mais de 1.000 horas de programação infantil

BLKFAM é um serviço de streaming familiar gratuito,...
spot_img

Perguntas beta do Google Reviews

Agora, ao deixar...

Threads adiciona um recurso de bookmarking para salvar postagens favoritas

Threads, o aplicativo semelhante ao Twitter do Instagram, está se tornando mais parecido com seu concorrente X com os recentes lançamentos de trending...

Google espera corrigir o problema histórico de diversidade de imagens de Gemini dentro de semanas

O Google está esperançoso de que em breve será capaz de ‘retomar’ a capacidade de sua ferramenta multimodal de IA generativa, Gemini, de...