Posts Recentes:

SoftBank adquire fabricante de chips de IA do Reino Unido Graphcore

Empresa de chips do Reino Unido Gráficooré foi...

Pesquisadores do Google alertam que a IA está destruindo a internet

Um estudo feito por pesquisadores do Google aponta...

O Google admite que suas visões gerais de IA precisam ser melhoradas, mas todos estamos ajudando no teste beta


O Google também está envergonhado com suas visões gerais de IA. Depois de um dilúvio de social-media-users-have-become-red-teams-for-half-baked-ai-features/" rel="noopener">enterradas e memes na semana passada, que atacou a má qualidade e a desinformação total que surgiu do novo recurso de pesquisa baseado em IA da gigante da tecnologia, a empresa emitiu na quinta-feira uma espécie de mea culpa. Google — uma empresa cujo nome é sinônimo de pesquisa na web — cuja marca se concentra em “organizar as informações do mundo” e colocá-las ao alcance dos usuários — na verdade google/products/search/ai-overviews-update-may-2024/" rel="noopener">escreveu em uma postagem no blog que “algumas visões gerais de IA estranhas, imprecisas ou inúteis certamente apareceram”.

Isso é para dizer o mínimo.

O google/products/search/ai-overviews-update-may-2024/" rel="noopener">admissão de fracassoescrito pela vice-presidente e chefe de pesquisa do Google, Liz Reid, parece um testemunho de como o esforço para misturar a tecnologia de IA em tudo agora de alguma forma piorou a Pesquisa do Google.

Na postagem intitulada “Sobre a semana passada” (isso ultrapassou as relações públicas?), Reid explica as muitas maneiras pelas quais suas visões gerais de IA cometem erros. Embora eles não “alucinem” ou inventem coisas da maneira que outros grandes modelos de linguagem (LLMs) fazem, ela diz, eles podem errar por “outras razões”, como “interpretar mal as consultas, interpretar mal uma nuance da linguagem no web, ou não ter muita informação disponível.”

Reid também observou que algumas das capturas de tela compartilhadas nas redes sociais na semana passada eram falsas, enquanto outras eram para perguntas absurdas, como “Quantas pedras devo comer?” – algo que ninguém realmente procurou antes. Como há poucas informações factuais sobre esse assunto, a IA do Google orientou o usuário para conteúdo satírico. (No caso das pedras, o conteúdo satírico foi Publicados no site de um fornecedor de software geológico.)

Vale ressaltar que se você tivesse pesquisado no Google “Quantas pedras devo comer?” e recebesse um conjunto de links inúteis, ou até mesmo um artigo engraçado, você não ficaria surpreso. O que as pessoas estão reagindo é à confiança com que a IA respondeu que “geólogos recomendam comer pelo menos uma pedra pequena por dia” como se fosse uma resposta factual. Pode não ser uma “alucinação”, em termos técnicos, mas o usuário final não se importa. É insano.

O que também é perturbador é que Reid afirma que o Google “testou extensivamente o recurso antes do lançamento”, inclusive com “esforços robustos de equipe vermelha”.

Ninguém no Google tem senso de humor? Ninguém pensou em avisos que gerariam resultados ruins?

Além disso, o Google minimizou a dependência do recurso de IA nos dados do usuário do Reddit como fonte de conhecimento e verdade. Embora as pessoas tenham anexado regularmente “Reddit” às suas pesquisas por tanto tempo que o Google google-perspectives-integrates-reddit-youtube-tiktok-and-more-in-search-results/" rel="noopener">finalmente fiz dele um filtro de pesquisa integrado, Reddit não é um corpo de conhecimento factual. E ainda assim a IA apontaria para postagens no fórum do Reddit para responder a perguntas, sem entender quando o conhecimento em primeira mão do Reddit é útil e quando não é – ou pior, quando é um troll.

Reddit hoje é fazendo banco oferecendo seus dados a empresas como google-sources-say-2024-02-22/#:~:text=Last%20year%2C%20Reddit%20said%20it,with%20a%20big%20AI%20company." rel="noopener">Google, OpenAI e outros para treinar seus modelos, mas isso não significa que os usuários desejam que a IA do Google decida quando pesquisar uma resposta no Reddit ou sugira que a opinião de alguém é um fato. Há nuances em aprender quando pesquisar no Reddit e a IA do Google ainda não entende isso.

Como Reid admite, “os fóruns costumam ser uma grande fonte de informações autênticas e em primeira mão, mas em alguns casos podem levar a conselhos nada úteis, como usar cola para fazer o queijo grudar na pizza”, disse ela, referindo-se a um das falhas mais espetaculares do recurso de IA na semana passada.

A visão geral da IA ​​do Google sugere adicionar cola para fazer o queijo grudar na pizza, e acontece que a fonte é um comentário do Reddit de 11 anos do usuário F * cksmith 😂 pic.twitter.com/uDPAbsAKeO

-Peter Yang (@petergyang) twitter.com/petergyang/status/1793480607198323196?ref_src=twsrc%5Etfw" rel="noopener">23 de maio de 2024

Se a semana passada foi um desastre, pelo menos o Google está interagindo rapidamente como resultado – ou pelo menos é o que diz.

A empresa diz que analisou exemplos de visões gerais de IA e identificou padrões onde poderia fazer melhor, incluindo a construção de melhores mecanismos de detecção para consultas sem sentido, limitando o usuário de conteúdo gerado pelo usuário para respostas que poderiam oferecer conselhos enganosos, adicionando restrições de acionamento para consultas onde As visões gerais de IA não foram úteis, não mostrando visões gerais de IA para tópicos de notícias importantes, “onde a atualidade e a factualidade são importantes”, e adicionando refinamentos adicionais de acionamento às suas proteções para pesquisas de saúde.

Com as empresas de IA construindo chatbots cada vez melhores todos os dias, a questão não é se algum dia eles superarão a Pesquisa Google por nos ajudar a entender as informações do mundo, mas se a Pesquisa Google será capaz de se atualizar com a IA para desafiá-las em retornar.

Por mais ridículos que sejam os erros do Google, ainda é muito cedo para excluí-lo da corrida – especialmente dada a enorme escala da equipe de testes beta do Google, que é essencialmente qualquer pessoa que usa a pesquisa.

“Não há nada como ter milhões de pessoas usando o recurso em muitas pesquisas novas”, diz Reid.



Últimas

Câmeras Waymo capturam imagens de pessoa acusada de supostos cortes de pneus de robotaxi

Um morador de Castro Valley foi acusado na...

SoftBank adquire fabricante de chips de IA do Reino Unido Graphcore

Empresa de chips do Reino Unido Gráficooré foi...

Pesquisadores do Google alertam que a IA está destruindo a internet

Um estudo feito por pesquisadores do Google aponta...

César Lattes, físico e professor brasileiro, é homenageado no Google

Hoje, o Google celebra com um Doodle animado...

Assine

spot_img

Veja Também

Câmeras Waymo capturam imagens de pessoa acusada de supostos cortes de pneus de robotaxi

Um morador de Castro Valley foi acusado na...

SoftBank adquire fabricante de chips de IA do Reino Unido Graphcore

Empresa de chips do Reino Unido Gráficooré foi...

Pesquisadores do Google alertam que a IA está destruindo a internet

Um estudo feito por pesquisadores do Google aponta...

César Lattes, físico e professor brasileiro, é homenageado no Google

Hoje, o Google celebra com um Doodle animado...

O WhatsApp agora permite que empresas enviem códigos de autenticação para usuários na Índia

O WhatsApp agora permite que empresas enviem códigos...
spot_img

Câmeras Waymo capturam imagens de pessoa acusada de supostos cortes de pneus de robotaxi

Um morador de Castro Valley foi acusado na quinta-feira por supostamente cortar os pneus de 17 robotaxis Waymo em São Francisco entre 24...

SoftBank adquire fabricante de chips de IA do Reino Unido Graphcore

Empresa de chips do Reino Unido Gráficooré foi formalmente adquirida pelo SoftBank do Japão.Rumores do acordo abundam há algum tempomas negociações prolongadas e...

Pesquisadores do Google alertam que a IA está destruindo a internet

Um estudo feito por pesquisadores do Google aponta que a IA generativa, a mesma que a gigante de Mountain View está super incentivando,...