Posts Recentes:

You.com lança novas APIs para conectar LLMs à web


Quando OpenAI conectou ChatGPT à internet, ele sobrecarregou os recursos do chatbot de IA. Agora, o mecanismo de procura You.com quer fazer o mesmo para todos os grandes modelos de linguagem (LLM) existentes.

You.com anunciou hoje o lançar de um conjunto de APIs destinadas a fornecer LLMs uma vez que o Meta Lhama 2 aproximação em tempo real à web ocasião – ou a partes mais restritas dela. A partir de US$ 100 por mês, as APIs do You.com aumentam as respostas dos LLMs às perguntas dos usuários (por exemplo, “Quais são os feriados desta semana?”) com contexto atualizado da Internet.

Clientes incluindo LhamaIndex, Antrópico e Coerente já o integraram aos seus modelos.

“[We’ve] recebi muitos pedidos de uma API com esses recursos”, disse o CEO e fundador da You.com, Richard Socher, ao TechCrunch em uma entrevista por e-mail. “Quando você pergunta sobre um evento recente, uma vez que a pontuação do Super Bowl no dia do Super Bowl, nossa API pesquisará essas pontuações na web e portanto você poderá aditar essa informação, naquele momento, ao… LLM e isso pode portanto usá-lo para responder à sua pergunta com mais precisão.”

A maioria dos LLMs são treinados em dados estáticos disponíveis publicamente, extraídos de páginas públicas da web, e-books e outros lugares. Isso é suficiente para que eles executem tarefas, desde ortografar e-mails até redigir cartas de apresentação e ensaios. Mas limita o conhecimento dos LLMs ao pausa de tempo dos dados; um LLM treinado em informações antes de setembro de 2021 não estaria consciente dos eventos que aconteceram ontem, é simples.

As novas APIs do You.com permitem que os LLMs superem essa limitação criando um índice de longos trechos de sites – um ponto-chave de diferenciação em relação às APIs de pesquisa padrão fornecidas pelo Bing e pelo Google, que Socher afirma servir somente trechos muito curtos “projetados para atrair alguém para clicar em um link.” Os LLMs podem aproveitar esse índice personalizado ao responder perguntas, identificando o snippet relevante e resumindo-o para fornecer uma resposta atualizada.

“Cada LLM recebe um aviso – uma descrição de uma vez que deve se comportar e responder às perguntas”, explicou Socher. “Você pode aditar sua própria pergunta ao final desse prompt para conversar com um LLM. O que esta API permite é que você pode aditar muito contexto atualizado da web ao prompt, em seguida a pergunta ser feita.”

You.com está fornecendo três “sabores” de API no lançamento: pesquisa na Web, notícias e RAG. A pesquisa na Web dá aos LLMs aproximação ao índice mencionado de trechos longos, enquanto as notícias – uma vez que o nome indica – fornecem exclusivamente resultados de notícias. Quanto ao RAG (que significa “geração aumentada de recuperação”), ele combina os resultados de pesquisa na web do You.com com um LLM para gerar o que Socher afirma serem respostas “mais factuais”, embora o júri obviamente esteja determinado sobre isso.

Agora, um LLM com aproximação à web pode ser uma perspectiva arriscada – não importa quais APIs ele esteja utilizando. A web ao vivo tem menos curadoria do que um conjunto de dados de treinamento estático e, por implicação, é menos filtrada. Os resultados da pesquisa podem ser jogado, e também não são necessariamente representativos da totalidade da web. Porque a maioria dos algoritmos prioriza sites que usam tecnologias web modernas, uma vez que criptografia, suporte traste e seo/schema/" rel="noopener" data-mrf-link="https://www.searchenginejournal.com/technical-seo/schema/">marcação de esquemasites com teor de qualidade se perdem na confusão.

Socher admitiu que a API do You.com tem pontos fracos, mormente nas áreas de perguntas localizadas do tipo “perto de mim” (por exemplo, “Onde há um bom sushi perto de mim?”), uma vez que a API não conhece a localização dos usuários do LLM. Mas melhorias já estão sendo feitas, incluindo atualizações que permitirão que as APIs do You.com codifiquem e “produzam respostas muito mais complexas” com citações rastreáveis, diz Socher.

“Em breve fundiremos notícias e pesquisas gerais na web para tornar ainda mais fácil para as empresas que usam nossas APIs”, acrescentou. “Ao incorporar nossa API em qualquer solução criada pelos criadores, suas respostas serão mais relevantes e úteis para seus usuários finais… [The solution can turn] à web para verificar os fatos.”

As novas APIs fazem oriente jornalista se perguntar se a pesquisa é o próximo campo de guerra na frente da IA ​​generativa. À medida que os LLMs de código descerrado se aproximam do nível de alguns de seus equivalentes de código fechado, a força do mecanismo de procura que apóia esses LLMs de código fechado (Bing no caso do ChatGPT, Google no caso do Bard) se torna um ponto de venda mais possante – a menos que APIs uma vez que o do You.com efetivamente nivelar o campo de jogo.

Esse é um grande “se” – nenhuma API é perfeita, e o You.com certamente tem falhas além das mencionadas por Socher. Mas eu diria que a competição é sempre uma coisa boa.

As novas APIs do You.com custam a partir de US$ 100 por mês para 14.200 chamadas de API em seguida um teste de 60 dias que vem com 1.000 chamadas mensais gratuitas. You.com também oferece pacotes personalizados para negócios empresariais maiores que vêm com assinaturas anuais e descontos.

Últimas

Assine

spot_img

Veja Também

spot_img

Paul Graham afirma que Sam Altman não foi demitido da Y Combinator

Em um série de postagens no X na quinta-feira, Paul Graham, cofundador da aceleradora de startups Y Combinator, rejeitou as alegações de que...

A desinformação funciona, e um punhado de “supercompartilhadores” sociais enviou 80% dela em 2020

Dois estudos publicados quinta-feira na revista Science oferecem evidências não apenas de que a desinformação nas redes sociais muda as mentes, mas que...