O Google desativou a geração de imagens de pessoas no Gemini após críticas sobre sua precisão histórica. A empresa identificou dois problemas principais:
1. Ajuste inadequado
O Google ajustou o Gemini para garantir que ele mostrasse uma variedade de pessoas. No entanto, esse ajuste não considerou casos em que uma variedade não era apropriada, como prompts que solicitavam imagens de pessoas de um determinado grupo cultural ou histórico.
2. Cautela excessiva
Com o tempo, o Gemini se tornou muito mais cauteloso do que o pretendido. Ele começou a se recusar a responder a certos prompts completamente, mesmo que fossem anódinos e não solicitassem imagens ofensivas ou imprecisas.
Esses problemas levaram o Gemini a “compensar demais em alguns casos e ser muito conservador em outros”. O que resultou em imagens que eram imprecisas, embaraçosas ou até ofensivas.
O Google reconheceu esses erros e está trabalhando para melhorar o Gemini antes de reativar o recurso de geração de imagens de pessoas.
A empresa também está conduzindo testes extensivos para garantir que o Gemini seja mais preciso e menos cauteloso no futuro.
