Posts Recentes:

Threads finalmente lança sua API para desenvolvedores

Meta disse hoje que finalmente lançou sua tão...

Usando memes, os usuários de mídia social se tornaram equipes vermelhas para recursos de IA incompletos


“Correr com tesoura é um exercício cardiovascular que pode aumentar sua frequência cardíaca e exigir concentração e foco”, diz o novo relatório do Google. google-is-adding-more-ai-to-its-search-results/" rel="noopener">Recurso de pesquisa de IA. “Alguns dizem que também pode melhorar os poros e dar força.”

O recurso de IA do Google obteve esta resposta de um site chamado Comédia da Velhinha, que, como o próprio nome deixa claro, é um blog de comédia. Mas a gafe é tão ridícula que tem circulado nas redes sociais, junto com outras visões gerais de IA obviamente incorretas no Google. Efetivamente, os usuários comuns agora estão formando equipes com esses produtos nas redes sociais.

Na cibersegurança, algumas empresas contratarão “equipas vermelhas” – hackers éticos – que tentam violar os seus produtos como se fossem maus actores. Se uma equipe vermelha encontrar uma vulnerabilidade, a empresa poderá corrigi-la antes que o produto seja enviado. O Google certamente conduziu uma forma de equipe vermelha antes de lançar um produto de IA na Pesquisa Google, que é marketing/google-search-statistics" rel="noopener">estimado para processar trilhões de consultas por dia.

É surpreendente, então, que uma empresa com muitos recursos como o Google ainda forneça produtos com falhas óbvias. É por isso que agora se tornou um meme fazer palhaçadas sobre as falhas dos produtos de IA, especialmente numa época em que a IA está se tornando mais onipresente. Vimos isso com ortografia incorreta Bate-papoGPTa falha dos geradores de vídeo em entender como os humanos comem espaguetee Grok IA resumos de notícias no X que, como o Google, não entendem a sátira. Mas esses memes poderiam, na verdade, servir como feedback útil para empresas que desenvolvem e testam IA.

Apesar da natureza de destaque destas falhas, as empresas de tecnologia muitas vezes minimizam o seu impacto.

“Os exemplos que vimos são geralmente consultas muito incomuns e não representam as experiências da maioria das pessoas”, disse o Google ao TechCrunch em um comunicado enviado por e-mail. “Realizamos testes extensivos antes de lançar esta nova experiência e usaremos esses exemplos isolados à medida que continuamos a refinar nossos sistemas em geral.”

Nem todos os usuários veem os mesmos resultados de IA e, quando uma sugestão de IA particularmente ruim é divulgada, o problema geralmente já foi corrigido. Num caso mais recente que se tornou viral, o Google sugeriu que se você estiver fazendo pizza, mas o queijo não gruda, você pode adicionar cerca de um oitavo de xícara de cola ao molho para “dar mais pegajosidade”. Acontece que a IA está extraindo essa resposta de um comentário do Reddit de onze anos de um usuário chamado “f––smith”.

twitter wp-block-embed-twitter">
twitter-tweet" data-width="500" data-dnt="true">

A visão geral da IA ​​​​do Google sugere adicionar cola para fazer o queijo grudar na pizza, e acontece que a fonte é um comentário do Reddit de 11 anos do usuário F * cksmith 😂 pic.twitter.com/uDPAbsAKeO

-Peter Yang (@petergyang) twitter.com/petergyang/status/1793480607198323196?ref_src=twsrc%5Etfw" rel="noopener">23 de maio de 2024

Além de ser um erro incrível, também sinaliza que os negócios de conteúdo de IA podem estar supervalorizados. O Google tem um google-sources-say-2024-02-22/" rel="noopener">Contrato de US$ 60 milhões com o Reddit para licenciar seu conteúdo para treinamento de modelos de IA, por exemplo. Reddit assinou um acordo semelhante com OpenAI na semana passada, e as propriedades Automattic WordPress.org e Tumblr estão rumores estar em negociações para vender dados para Midjourney e OpenAI.

Para crédito do Google, muitos dos erros que circulam nas redes sociais vêm de pesquisas não convencionais destinadas a enganar a IA. Pelo menos espero que ninguém esteja procurando seriamente pelos “benefícios para a saúde de correr com uma tesoura”. Mas alguns desses erros são mais sérios. Jornalista científica Erin Ross postado em X que o Google divulgou informações incorretas sobre o que fazer se você for picado por uma cascavel.

A postagem de Ross, que teve mais de 13 mil curtidas, mostra que a IA recomendou aplicar um torniquete na ferida, cortar a ferida e sugar o veneno. De acordo com Serviço Florestal dos EUAessas são todas as coisas que você deveria não fazer, caso você seja mordido. Enquanto isso, no Bluesky, o autor T Kingfisher ampliou uma postagem que mostra o Gemini do Google social/post/3kqlvdjwn222p" rel="noopener">identificando erroneamente um cogumelo venenoso como um cogumelo de botão branco comum – as capturas de tela da postagem têm espalhar para outras plataformas como um conto de advertência.

twitter wp-block-embed-twitter">
twitter-tweet" data-width="500" data-dnt="true">

A boa e velha IA do Google: dizendo para você fazer exatamente as coisas que você *não deveria fazer* quando for picado por uma cascavel.

De cogumelos a picadas de cobra, o conteúdo de IA é genuinamente perigoso. pic.twitter.com/UZXgBjsre9

– claro. (@ErinEARoss) twitter.com/ErinEARoss/status/1792274270128894276?ref_src=twsrc%5Etfw" rel="noopener">19 de maio de 2024

Quando uma resposta ruim da IA ​​se torna viral, a IA pode ficar mais confusa com o novo conteúdo em torno do tópico que surge como resultado. Na quarta-feira, o repórter do New York Times Aric Toler postou uma captura de tela no X isso mostra uma consulta perguntando se um cachorro já jogou na NHL. A resposta da IA ​​foi sim – por algum motivo, a IA chamou o jogador do Calgary Flames, Martin Pospisil, de cachorro. Agora, quando você faz a mesma consulta, a IA puxa um artigo de google-ai-search-dog-nfl/" rel="noopener">o ponto diário sobre como a IA do Google continua pensando que os cães estão praticando esportes. A IA está sendo alimentada com seus próprios erros, envenenando-a ainda mais.

Este é o problema inerente ao treinamento desses modelos de IA em grande escala na Internet: às vezes, as pessoas mentem na Internet. Mas assim como há não há regra contra um cachorro jogando basqueteinfelizmente não há nenhuma regra contra grandes empresas de tecnologia que enviam produtos de IA ruins.

Como diz o ditado: entra lixo, sai lixo.



Últimas

Threads finalmente lança sua API para desenvolvedores

Meta disse hoje que finalmente lançou sua tão...

CuspAI levanta US$ 30 milhões para criar um mecanismo de busca baseado em Gen-AI para novos materiais

O método moderno de criar novos materiais é...

Finbourne investe US$ 70 milhões em tecnologia que transforma poeira de dados financeiros em ouro de IA

As empresas em áreas como os serviços financeiros...

TechCrunch Space: uma nova era para pesquisas de voos espaciais humanos

Olá e bem-vindo de volta ao TechCrunch Space....

Assine

spot_img

Veja Também

Threads finalmente lança sua API para desenvolvedores

Meta disse hoje que finalmente lançou sua tão...

CuspAI levanta US$ 30 milhões para criar um mecanismo de busca baseado em Gen-AI para novos materiais

O método moderno de criar novos materiais é...

Finbourne investe US$ 70 milhões em tecnologia que transforma poeira de dados financeiros em ouro de IA

As empresas em áreas como os serviços financeiros...

TechCrunch Space: uma nova era para pesquisas de voos espaciais humanos

Olá e bem-vindo de volta ao TechCrunch Space....

YouTube testa anotações de crowdsourcing para vídeos

O YouTube está testando um novo recurso experimental...
spot_img

Threads finalmente lança sua API para desenvolvedores

Meta disse hoje que finalmente lançou sua tão aguardada API para Threads para que os desenvolvedores possam construir experiências em torno dela. ...

CuspAI levanta US$ 30 milhões para criar um mecanismo de busca baseado em Gen-AI para novos materiais

O método moderno de criar novos materiais é fazer algo e depois usar um computador para descobrir se o material saiu corretamente. ...

Finbourne investe US$ 70 milhões em tecnologia que transforma poeira de dados financeiros em ouro de IA

As empresas em áreas como os serviços financeiros e os seguros vivem e morrem pelos seus dados – especificamente, até que ponto podem...