Posts Recentes:

TikTok Shop expande sua oferta de moda de luxo de segunda mão para o Reino Unido

A TikTok Shop, o mercado de comércio social...

Como a United Airlines usa IA para tornar um pouco mais fácil voar em céus amigáveis

Quando você embarca Em um avião da United...

Você é mais negro que o ChatGPT? Faça este teste para descobrir


A agência de publicidade criativa McKinney desenvolveu um jogo de perguntas chamado “Você é mais negro que ChatGPT?” para esclarecer o preconceito da IA.

O jogo testa o conhecimento de uma pessoa sobre a cultura negra em relação ao que o ChatGPT foi treinado para saber sobre a comunidade negra. Ele faz perguntas como: “O que significa quando alguém diz: 'Não há muito para eles, agora?'” e “Qual é a sua resposta se você for convidado para um evento?” Quando fiz o teste, tanto ChatGPT quanto eu acertamos no primeiro – quando alguém diz “não muito para eles”, isso geralmente significa pegar leve com eles. Mas o ChatGPT falhou no segundo. Quando alguém convida você para um evento, a resposta estereotipada na comunidade negra é: “Quem mais estará lá?” Mas ChatGPT disse que era: “Obrigado pelo convite!”

“É interessante porque é anunciado como um bot que sabe tudo, e é como se, claramente, você não soubesse tudo, especialmente quando se trata de coisas que não são específicas para brancos”, Meghan Woods, redatora da McKinney e uma dos criadores do jogo, disse ao TechCrunch.

Woods disse que a ideia do questionário surgiu no ano passado, durante um brainstorm criativo na McKinney. Demorou um ano para Woods e uma equipe liderada por negros criarem este produto, com o objetivo de mostrar de forma divertida como o ChatGPT está fora de contato com os usuários negros. Ela ressaltou que um ponto cego para o ChatGPT parece resultar do fato de que muitos elementos culturais negros não estão necessariamente documentados online; eles são, em vez disso, transmitidos pessoalmente ou oralmente através de gerações. Isso significa que seu algoritmo perde muitas nuances ao vasculhar a Internet em busca de informações sobre os negros.

“Os pontos cegos podem ser bastante perturbadores”, disse Woods. “É muito perigoso.”

Você é mais negro do que a resposta do questionário Chat GPT

Um exemplo de ChatGPT recebendo uma resposta errada sobre algo estereotipadamente comum na comunidade negra.

A IA pode estar em alta, mas mulheres, construtores negros e pardos e fundadores do setor há muito falam sobre ser ignorado ou deixado de lado. O resultado é que a inovação em IA está sendo construída sem a visão cultural e complexidades que o tornariam adequado para diferentes culturas. No seu extremo, a escassez de diversidade significa que os carros são desenvolvidos usando IA que não consigo detectar pele negra, levando a um número crescente de acidentes. Por outro lado, significa simplesmente uma caixa de bate-papo que não consegue distinguir entre uma música de Whitney Houston e outra.

Gerald Carter, fundador da IA destinada, uma empresa que ajuda a detectar e mitigar preconceitos de IA, disse que o questionário McKinney faz um bom trabalho na gamificação e na conscientização sobre essas lacunas de IA. “Muitas nuances podem ser abordadas incluindo diversas perspectivas em todos os níveis”, disse ele. “Para que a IA atinja todo o seu potencial, ela precisa funcionar para todos, em qualquer lugar.”

A controladora do ChatGPT, OpenAI, tem recebeu críticas pela falta de diversidade em seu conselho. Woods disse que também não parece que o ChatGPT esteja aprendendo com o questionário, com base no fato de que ele continua recebendo as mesmas respostas erradas em muitos casos. “Nossa hipótese é que ele nunca será capaz de compreender plenamente muitas das coisas que lhe pedimos.”

Entramos em contato com a OpenAI para comentar e atualizaremos esta postagem quando recebermos resposta.

Carter disse que o ChatGPT poderia funcionar melhor para mais culturas com melhores fontes e coleta de dados mais inclusiva. Uma abordagem mais imediata é monitorar o desvio do modelo de IA e fazer melhorias usando ferramentas focadas em perspectivas culturais.

Enquanto as empresas maiores trabalham para tornar a IA útil para todos, os construtores negros e pardos no espaço resolveram o problema com as próprias mãos para garantir que esta próxima onda de IA seja diversificada.

Carter, por exemplo, trabalha com empresas para ajudá-las a obter dados mais inclusivos. Erin Reddick criou ChatBlackGPT (sem relação com OpenAI) para oferecer insights mais profundos sobre a cultura e história negra, e Tamar Huggins arrecadou US$ 1,4 milhão por sua alternativa ChatGPT, chamada Spark Plug, que traduz textos clássicos da literatura para o dialeto do inglês vernacular afro-americano (AAVE).

“Contratar, reter, garantir que as pessoas estejam presentes à mesa”, disse Woods, sobre o que mais precisa ser feito para tornar a IA mais inclusiva. “Sei que parece clichê, mas acho que isso pode começar a ter um impacto.”

Últimas

TikTok Shop expande sua oferta de moda de luxo de segunda mão para o Reino Unido

A TikTok Shop, o mercado de comércio social...

Como a United Airlines usa IA para tornar um pouco mais fácil voar em céus amigáveis

Quando você embarca Em um avião da United...

Mulheres na IA: Anna Korhonen estuda a interseção entre linguística e IA

Para dar às mulheres acadêmicas e outras pessoas...

Assine

spot_img

Veja Também

TikTok Shop expande sua oferta de moda de luxo de segunda mão para o Reino Unido

A TikTok Shop, o mercado de comércio social...

Como a United Airlines usa IA para tornar um pouco mais fácil voar em céus amigáveis

Quando você embarca Em um avião da United...

Mulheres na IA: Anna Korhonen estuda a interseção entre linguística e IA

Para dar às mulheres acadêmicas e outras pessoas...

Esta câmera troca fotos por poesia de IA

Você já parou na frente de uma sequóia...
spot_img

Novos fundos de US$ 7,2 bilhões da Andreessen Horowitz para uma ‘nova era’

Que vale US$ 11 bilhões e quer ir a Marte coletar pedras? A missão da NASA a Marte para coletar rochas que...

TikTok Shop expande sua oferta de moda de luxo de segunda mão para o Reino Unido

A TikTok Shop, o mercado de comércio social da TikTok, está lançando uma categoria de luxo de segunda mão no Reino Unido, colocando-a...

Como a United Airlines usa IA para tornar um pouco mais fácil voar em céus amigáveis

Quando você embarca Em um avião da United Airlines, os agentes de portão, os comissários de bordo e outras pessoas envolvidas em garantir...