Em breve, os criadores do YouTube precisarão cumprir as novas políticas da plataforma relacionadas ao conteúdo gerado ou alterado com IA.
Os requisitos, detalhados nas seções a seguir, visam equilibrar as oportunidades apresentadas pela IA com a segurança do usuário.
Etiquetas e divulgações obrigatórias
Uma grande mudança exige que os criadores informem os espectadores quando o conteúdo contém alterações realistas geradas por IA ou mídia sintética retratando eventos ou discursos que não ocorreram.
Isso inclui deepfakes que mostram alguém parecendo fazer ou dizer algo que não fez.
Rótulos divulgando conteúdo alterado ou artificial serão obrigatórios no painel de descrição. O YouTube forneceu modelos demonstrando como essas descrições poderiam ser.
Para assuntos delicados como eleições, desastres, autoridades públicas e conflitos, um rótulo adicional de destaque pode ser necessário diretamente no player de vídeo.
O YouTube afirma que os criadores que não cumprem consistentemente os requisitos de divulgação podem enfrentar consequências que vão desde a remoção do vídeo até suspensões de conta ou expulsão do Programa de Parcerias do YouTube. A empresa prometeu trabalhar em estreita colaboração com os criadores antes do lançamento para garantir um entendimento completo.
Novas opções de solicitação de remoção
O YouTube permitirá que as pessoas solicitem a remoção de conteúdo gerado por IA que apresente o rosto ou a voz de um indivíduo identificável sem consentimento. Isso inclui deepfakes que imitam padrões vocais ou aparências exclusivas usando geração de IA.
Em breve, os parceiros musicais poderão solicitar a remoção de músicas de IA que imitam a voz de um artista cantando ou fazendo rap. Ao avaliar os pedidos de remoção, o YouTube afirmou que consideraria fatores como paródia, interesse público e interesse jornalístico do assunto.
Moderação de conteúdo aprimorada com IA
O YouTube divulgou que já usa IA para aumentar a moderação dos revisores humanos, inclusive aproveitando o aprendizado de máquina para identificar rapidamente abusos emergentes em grande escala.
A IA generativa ajuda a expandir os dados de treinamento, permitindo que o YouTube detecte novos tipos de ameaças com mais rapidez e reduza a exposição de conteúdo prejudicial para os revisores.
Desenvolvimento responsável de novas ferramentas de IA
O YouTube enfatizou a responsabilidade sobre a velocidade no desenvolvimento de novas ferramentas de criação de IA. Estão em andamento trabalhos sobre barreiras de proteção que impedem a geração de conteúdo que viola políticas a partir de seus sistemas de IA.
A empresa está focada em aprender e melhorar as proteções por meio de feedback dos usuários e testes adversários para lidar com tentativas de abuso inevitáveis.
Aplicação de novas políticas
Embora os detalhes sobre a aplicação não tenham sido revelados, o YouTube tem várias opções para garantir a conformidade com os novos requisitos.
A empresa provavelmente empregará uma combinação de fiscalização humana e automatizada.
Uma forma de o YouTube aplicar esta política é treinar os seus sistemas de moderação de conteúdo existentes para sinalizar vídeos com características de mídia criada por IA que não possuem divulgações adequadas.
Auditorias aleatórias de contas de parceiros que enviam conteúdo de IA também podem detectar violações.
A aplicação do crowdsourcing, permitindo a denúncia de materiais de IA não divulgados pelos utilizadores, seria outra forma de defender a política.
Independentemente de como o YouTube faça isso, a aplicação consistente será essencial para definir expectativas e normas em torno da divulgação.
Olhando para o futuro
O YouTube expressou entusiasmo com o potencial criativo da IA combinado com cautela em relação aos riscos. A empresa pretende criar um futuro de IA mutuamente benéfico com a comunidade de criadores.
A atualização completa da política fornece aos criadores detalhes adicionais sobre o que esperar. Manter-se informado sobre a evolução das regras do YouTube é vital para manter sua conta em situação regular.
Imagem em destaque: ícones gate/Shutterstock
