OpenAI anunciou que está expandindo o acesso ao seu mais novo gerador de texto para imagem, DALL-E 3, permitindo que clientes ChatGPT Plus e Enterprise usem o sistema de IA dentro do aplicativo ChatGPT.
Gerador de imagens AI DALL-E 3
O DALL-E 3, revelado pela primeira vez no mês passado, aproveita os recursos de processamento de linguagem natural do ChatGPT para criar imagens a partir de instruções textuais detalhadas fornecidas pelos usuários.
O novo sistema visa melhorar o modelo anterior DALL-E 2 da OpenAI por meio de detalhes visuais aprimorados, imagens mais nítidas e capacidade de resposta a extensas descrições imediatas.
A Microsoft se tornou a primeira grande plataforma a implantar o DALL-E 3 publicamente por meio de integrações com o Bing Search e o Bing Chat no mês passado.
No entanto, alguns conteúdos problemáticos inicialmente escaparam dos filtros de conteúdo do sistema, incluindo imagens de cenários controversos do 11 de setembro.
A OpenAI afirma que desde então reforçou as mitigações de segurança e a supervisão do DALL-E 3.
OpenAI afirma em um anúncio:
“Usamos um sistema de segurança de vários níveis para limitar a capacidade do DALL·E 3 de gerar imagens potencialmente prejudiciais, incluindo conteúdo violento, adulto ou de ódio. As verificações de segurança são executadas nas solicitações do usuário e nas imagens resultantes antes de serem exibidas aos usuários.
Além disso, a empresa disse que novas medidas foram implementadas para limitar as produções que imitam estilos de artistas ou figuras públicas específicas.
Detector de imagem de IA
A OpenAI está desenvolvendo um “classificador de proveniência” interno que pode identificar se uma imagem foi gerada pelo DALL-E 3 com mais de 99% de precisão.
Sistemas de geração de texto e imagem como o DALL-E têm enfrentado desafios contínuos na reprodução de conteúdo protegido por direitos autorais, na geração de imagens íntimas não consensuais e na perpetuação de preconceitos.
A OpenAI continuará aprimorando a segurança do DALL-E 3 por meio de feedback do usuário e orientação de especialistas.
Olhando para o futuro
A implementação do DALL-E 3 para assinantes do ChatGPT representa uma grande expansão dos recursos de geração de imagens de IA disponíveis publicamente.
Embora a OpenAI afirme avanços nas práticas de segurança para este modelo mais recente, permanecem riscos relacionados a conteúdo prejudicial e violações de propriedade intelectual.
No futuro, a necessidade de colaboração em toda a indústria em matéria de ética da IA e de estabelecimento de regulamentações razoáveis só se intensificará.
Imagem em destaque: Bartek Winnicki/Shutterstock
