Posts Recentes:

Nossa funcionalidade de geração de imagens por IA errou


O Google reconheceu que sua funcionalidade de geração de imagens por IA do Gemini cometeu um erro.

Em seu blog oficial, Prabhakar Raghavan Vice-presidente sênior, Conhecimento e Informação, admitiu que a tecnologia falhou em fornecer resultados precisos e adequados.

“Há três semanas, lançamos um novo recurso de geração de imagens para o aplicativo de conversação Gemini (anteriormente conhecido como Bard), que incluía a capacidade de criar imagens de pessoas.

É claro que esse recurso errou o alvo. Algumas das imagens geradas são imprecisas ou até ofensivas. Agradecemos o feedback dos usuários e lamentamos que o recurso não tenha funcionado bem.

Reconhecemos o erro e pausamos temporariamente a geração de imagens de pessoas em Gêmeos enquanto trabalhamos em uma versão melhorada”.

A empresa diz estar empenhada em corrigir essa falha e garantir que a geração de imagens por IA seja precisa, confiável e atenda às expectativas dos usuários.

“Não queríamos que Gemini se recusasse a criar imagens de qualquer grupo específico. E não queríamos que criasse imagens históricas – ou quaisquer outras – imprecisas. 

Portanto, desativamos a geração de imagens de pessoas e trabalharemos para melhorá-la significativamente antes de ativá-la novamente. Este processo incluirá testes extensivos”.

Esse incidente destaca os desafios enfrentados pelas empresas que utilizam inteligência artificial para criar conteúdo visual.

Embora a IA tenha avançado significativamente, ainda existem limitações que podem levar a resultados incorretos ou inadequados.

“Nosso ajuste para garantir que Gemini mostrasse uma gama de pessoas não levou em conta os casos que claramente não deveriam mostrar uma gama. 

E em segundo lugar, com o tempo, o modelo tornou-se muito mais cauteloso do que pretendíamos e recusou-se a responder inteiramente a certas solicitações – interpretando erroneamente algumas solicitações muito anódinas como sensíveis.

Estas duas coisas levaram o modelo a compensar excessivamente em alguns casos e a ser demasiado conservador noutros, conduzindo a imagens embaraçosas e erradas”.

O Google disse ainda que está trabalhando para aprimorar seus algoritmos e processos de geração de imagens por IA, a fim de evitar futuros equívocos.

“(…) alucinações são um desafio conhecido em todos os LLMs – há casos em que a IA simplesmente entende as coisas erradas. Isso é algo que estamos constantemente trabalhando para melhorar”.

Não posso prometer que o Gemini não gerará ocasionalmente resultados embaraçosos, imprecisos ou ofensivos — mas posso prometer que continuaremos a agir sempre que identificarmos um problema. A IA é uma tecnologia emergente que é útil de muitas maneiras, com enorme potencial, e estamos fazendo o nosso melhor para implementá-la com segurança e responsabilidade.

É importante ressaltar que o Google está comprometido em aprender com esse incidente e implementar medidas para evitar que problemas semelhantes ocorram no futuro.

Últimas

Assine

spot_img

Veja Também

Assista: Os novos modelos Llama 3 da Meta dão um impulso à IA de código aberto

Novo Os modelos de IA da Meta estão...

Webflow adquire Intellimize para adicionar personalização de páginas da web com tecnologia de IA

Fluxo da Webuma plataforma de web design e...

Comarch realiza novo webinar – Principais tendências de fidelidade: ideias específicas do setor para 2024

Estudos mostram que clientes fiéis são responsáveis ​​por...

7 maneiras de elevar seus anúncios responsivos de pesquisa

Embora os anúncios de pesquisa responsivos (RSAs) do...
spot_img

Assista: Os novos modelos Llama 3 da Meta dão um impulso à IA de código aberto

Novo Os modelos de IA da Meta estão causando sucesso nos círculos de tecnologia. Os dois novos modelos, parte da linha Llama...

Webflow adquire Intellimize para adicionar personalização de páginas da web com tecnologia de IA

Fluxo da Webuma plataforma de web design e hospedagem que arrecadou mais de US$ 330 milhões com uma avaliação de US$ 4 bilhões,...