Posts Recentes:

Google nega práticas anticompetitivas em processo de US$ 2,27 bilhões

O Google está enfrentando um processo de US$...

Smartphone robusto para o mercado B2B

A Samsung anunciou o lançamento do Galaxy XCover7...

Android Auto mostrará aplicativos que só funcionam quando estacionado

O Android Auto está introduzindo um novo recurso...

Como se proteger e se beneficiar de alucinações generativas de IA


Imagem de alucinação OptimoveImagem de alucinação Optimove

À medida que os profissionais de marketing começam a usar o ChatGPT, o Bard do Google, o Bing Chat da Microsoft, o Meta AI ou seus próprios grandes modelos de linguagem (LLM), eles devem se preocupar com as “alucinações” e como evitá-las.

IBM fornece a seguinte definição para alucinações: “A alucinação de IA é um fenômeno em que um grande modelo de linguagem – geralmente um chatbot de IA generativo ou uma ferramenta de visão computacional – percebe padrões ou objetos que são inexistentes ou imperceptíveis para observadores humanos, criando resultados que são absurdos ou totalmente imprecisos .

“Geralmente, se um usuário faz uma solicitação de uma ferramenta de IA generativa, ele deseja um resultado que atenda adequadamente ao prompt (ou seja, uma resposta correta a uma pergunta). No entanto, às vezes os algoritmos de IA produzem resultados que não são baseados em dados de treinamento, são decodificados incorretamente pelo transformador ou não seguem nenhum padrão identificável. Em outras palavras, ‘alucina’ a resposta.”

Suresh Venkatasubramanian, professor da Universidade Brown que ajudou a ser coautor do Projeto da Casa Branca para uma Declaração de Direitos de IA, disse em um Postagem no blog da CNN que o problema é que os LLMs são simplesmente treinados para “produzir uma resposta que pareça plausível” às solicitações do usuário.

“Então, nesse sentido, qualquer resposta que pareça plausível, seja precisa, factual, inventada ou não, é uma resposta razoável, e é isso que produz. Não há conhecimento da verdade ali.”

Ele disse que uma analogia comportamental melhor do que alucinar ou mentir, que carrega conotações de algo errado ou mal intencionado, seria comparar esses resultados do computador com a forma como seu filho contaria histórias aos quatro anos.

“Você só precisa dizer: 'E então o que aconteceu?' e ele continuaria produzindo mais histórias”, acrescentou Venkatasubramanian. “E ele simplesmente continuava indefinidamente.”

Frequência de alucinações

Se as alucinações fossem eventos de “cisne negro” – que ocorrem raramente – seriam algo de que os profissionais de marketing deveriam estar cientes, mas não necessariamente prestar muita atenção.

Porém, segundo estudos da Vectara, os chatbots fabricam detalhes em pelo menos 3% das interações – e até 27%, apesar das medidas tomadas para evitar tais ocorrências.

“Fornecemos ao sistema de 10 a 20 fatos e pedimos um resumo desses fatos”, disse Amr Awadallah, presidente-executivo da Vectara e ex-executivo do Google, em um comunicado. Postagem do blog Investis Digital. “É um problema fundamental que o sistema ainda possa introduzir erros.”

Segundo os pesquisadores, as taxas de alucinação podem ser maiores quando os chatbots realizam outras tarefas (além da mera sumarização).

O que os profissionais de marketing devem fazer

Apesar dos potenciais desafios colocados pelas alucinações, a IA generativa oferece muitas vantagens. Para reduzir a possibilidade de alucinações, recomendamos:

  • Use IA generativa apenas como ponto de partida para escrever: A IA generativa é uma ferramenta, não um substituto para o que você faz como profissional de marketing. Use-o como ponto de partida e, em seguida, desenvolva prompts para resolver questões que o ajudarão a concluir seu trabalho. Certifique-se de que seu conteúdo esteja sempre alinhado com a voz de sua marca.
  • Verifique o conteúdo da geração LLM: A revisão por pares e o trabalho em equipe são essenciais.
  • Verifique as fontes: Os LLMs são projetados para trabalhar com grandes volumes de informações, mas algumas fontes podem não ser confiáveis.
  • Use LLMs taticamente: Execute seus rascunhos por meio de IA generativa para procurar informações ausentes. Se a IA generativa sugerir algo, verifique primeiro – não necessariamente por causa das chances de ocorrer uma alucinação, mas porque bons profissionais de marketing examinam seu trabalho, conforme mencionado acima.
  • Monitore os desenvolvimentos: Acompanhe os mais recentes desenvolvimentos em IA para melhorar continuamente a qualidade dos resultados e estar ciente de novas capacidades ou problemas emergentes com alucinações e qualquer outra coisa.

Benefícios das alucinações?

No entanto, por mais perigosas que possam ser, as alucinações podem ter algum valor, de acordo com Tim Hwang, da FiscalNote.

Em um Postagem do blog Brandtimes, Hwang disse: “LLMs são ruins em tudo o que esperamos que os computadores sejam bons”, diz ele. “E os LLMs são bons em tudo o que esperamos que os computadores sejam ruins.”

Ele explicou ainda: “Portanto, usar IA como ferramenta de pesquisa não é realmente uma boa ideia, mas 'narrativa, criatividade, estética – todas essas são coisas nas quais a tecnologia é fundamentalmente muito, muito boa'”.

Como a identidade da marca é basicamente o que as pessoas pensam sobre uma marca, as alucinações devem ser consideradas uma característica, não um bug, segundo Hwang, que acrescentou que é possível pedir à IA que alucine a sua própria interface.

Assim, um profissional de marketing pode fornecer o LLM com qualquer conjunto arbitrário de objetos e dizer-lhe para fazer coisas que você normalmente não seria capaz de medir, ou seria caro medir por outros meios – efetivamente levando o LLM a ter alucinações.

Um exemplo mencionado na postagem do blog é atribuir aos objetos uma pontuação específica com base no grau em que eles se alinham com a marca, depois atribuir uma pontuação à IA e perguntar aos consumidores que têm maior probabilidade de se tornarem consumidores vitalícios da marca com base nessa pontuação.

“As alucinações são realmente, de certa forma, o elemento fundamental do que queremos dessas tecnologias”, disse Hwang. “Acho que, em vez de rejeitá-los, em vez de temê-los, acho que é a manipulação dessas alucinações que criará o maior benefício para as pessoas no espaço publicitário e de marketing.”

Emulando as perspectivas do consumidor

Uma aplicação recente de alucinações é exemplificada pelo “Máquina de insights”, uma plataforma que capacita as marcas a criar personas de IA com base em dados demográficos detalhados do público-alvo. Essas personas de IA interagem como indivíduos genuínos, oferecendo diversas respostas e pontos de vista.

Embora as personas de IA possam ocasionalmente fornecer respostas inesperadas ou alucinatórias, elas servem principalmente como catalisadores de criatividade e inspiração entre os profissionais de marketing. A responsabilidade pela interpretação e utilização destas respostas cabe aos humanos, sublinhando o papel fundamental das alucinações nestas tecnologias transformadoras.

À medida que a IA ocupa o centro do marketing, ela está sujeita a erros de máquina. Essa falibilidade só pode ser verificada por humanos – uma ironia perpétua na era do marketing de IA.

Pini Yakuelcofundador e CEO da Optimoveescreveu este artigo.

Últimas

Google nega práticas anticompetitivas em processo de US$ 2,27 bilhões

O Google está enfrentando um processo de US$...

Smartphone robusto para o mercado B2B

A Samsung anunciou o lançamento do Galaxy XCover7...

Android Auto mostrará aplicativos que só funcionam quando estacionado

O Android Auto está introduzindo um novo recurso...

Assine

spot_img

Veja Também

Google nega práticas anticompetitivas em processo de US$ 2,27 bilhões

O Google está enfrentando um processo de US$...

Smartphone robusto para o mercado B2B

A Samsung anunciou o lançamento do Galaxy XCover7...

Android Auto mostrará aplicativos que só funcionam quando estacionado

O Android Auto está introduzindo um novo recurso...

Microsoft Copilot ganha recurso de análise de documentos com IA

A Microsoft introduziu um novo recurso ao Copilot...
spot_img

Google nega práticas anticompetitivas em processo de US$ 2,27 bilhões

O Google está enfrentando um processo de US$ 2,27 bilhões movido por 32 grupos de mídia que alegam que as práticas de publicidade...

Smartphone robusto para o mercado B2B

A Samsung anunciou o lançamento do Galaxy XCover7 no Brasil, um smartphone robusto projetado especificamente para o mercado B2B.O dispositivo oferece durabilidade,...

Android Auto mostrará aplicativos que só funcionam quando estacionado

O Android Auto está introduzindo um novo recurso para melhorar a segurança ao volante.Na última versão do sistema, os aplicativos que só podem...