YouTube hoje anunciado porquê abordará o tratamento de teor criado por IA em sua plataforma com uma série de novas políticas relacionadas à divulgação responsável, muito porquê novas ferramentas para solicitar a remoção de deepfakes, entre outras coisas. A empresa afirma que, embora já tenha políticas que proíbem a manipulação de mídia, a IA exigiu a geração de novas políticas devido ao seu potencial para enganar os espectadores se eles não souberem que o vídeo foi “confuso ou criado sinteticamente”.
Uma das mudanças que serão implementadas envolve a geração de novos requisitos de divulgação para criadores do YouTube. Agora, eles terão que propalar quando criarem teor confuso ou sintético que pareça realista, incluindo vídeos feitos com ferramentas de IA. Por exemplo, esta divulgação seria utilizada se um instituidor carregasse um vídeo que parece retratar um evento do mundo real que nunca aconteceu ou mostra alguém dizendo alguma coisa que nunca disse ou fazendo alguma coisa que nunca fez.
Créditos da imagem: YouTube
Vale ressaltar que esta divulgação é limitada ao teor que “parece realista” e não é um requisito universal de divulgação para todos os vídeos sintéticos feitos por meio de IA.
“Queremos que os espectadores tenham contexto quando estiverem visualizando teor realista, inclusive quando ferramentas de IA ou outras alterações sintéticas forem usadas para gerá-lo”, disse o porta-voz do YouTube, Jack Malon, ao TechCrunch. “Isso é principalmente importante quando o teor discute temas delicados, porquê eleições ou conflitos em curso”, observou ele.
Créditos da imagem: YouTube
O teor gerado por IA é uma superfície em que o próprio YouTube está se aventurando, na verdade. A empresa anunciou em setembro que estava se preparando para lançar um novo recurso generativo de IA chamado Dream Screen no início do próximo ano, isso permitiria aos usuários do YouTube gerar um vídeo ou imagem de fundo gerado por IA, digitando o que desejam ver. Todos os produtos e recursos generativos de IA do YouTube serão involuntariamente rotulados porquê alterados ou sintéticos, fomos informados.
Créditos da imagem: YouTube
A empresa também alerta que os criadores que não divulgarem adequadamente o uso da IA de forma consistente estarão sujeitos à “remoção de teor, suspensão do Programa de Parcerias do YouTube ou outras penalidades”. O YouTube afirma que trabalhará com os criadores para prometer que eles entendam os requisitos antes de irem ao ar. Mas observa que qualquer teor de IA, mesmo que rotulado, pode ser removido se for usado para mostrar “violência realista” se o objetivo for incubar ou enojar os espectadores. Esta parece ser uma consideração oportuna, oferecido que deepfakes já foram usados para confundir as pessoas sobre a guerra Israel-Hamas.
O alerta do YouTube sobre ações punitivas, no entanto, segue uma recente abrandamento da sua política de greve. No final de agosto, a empresa anunciado estava dando aos criadores novas maneiras de expulsar seus avisos antes que se transformassem em avisos que poderiam resultar na remoção de seu conduto. As mudanças podem permitir que os criadores desconsiderem cuidadosamente as regras do YouTube, cronometrando quando postariam teor violador – já que agora eles podem concluir um curso educacional para ter seus avisos removidos. Para alguém determinado a postar teor não revalidado, agora ele sabe que pode percorrer esse risco sem perder totalmente o conduto.
Se o YouTube adotar uma postura mais branda em relação à IA, permitindo também que os criadores cometam “erros” e depois voltem a publicar mais vídeos, os danos em termos de propagação de desinformação poderão tornar-se um problema. A empresa também não tem certeza de quão “consistentemente” suas regras de divulgação de IA teriam que ser quebradas antes de tomar ações punitivas.
Outras mudanças incluem a capacidade de qualquer usuário do YouTube solicitar a remoção de teor gerado por IA ou outro teor sintético ou confuso que simule um tipo identificável – também espargido porquê deepfake – incluindo seu rosto ou voz. Mas, a empresa esclarece que nem todo teor sinalizado será removido, abrindo espaço para paródias ou sátiras. Afirma também que irá considerar se a pessoa que solicita a remoção pode ou não ser identificada de forma única ou se o vídeo apresenta um funcionário público ou outro tipo espargido, caso em que “pode ter um padrão mais proeminente”, diz o YouTube.
Juntamente com a instrumento de remoção de solicitações deepfake, a empresa está introduzindo uma novidade capacidade que permitirá aos parceiros musicais solicitar a remoção de músicas geradas por IA que imitam a voz de um artista cantando ou fazendo rap. YouTube disse isso estava desenvolvendo um sistema que eventualmente compensaria artistas e detentores de direitos pela música AI, portanto esta parece uma lanço intermediária que simplesmente permitiria a remoção de teor enquanto isso. O YouTube também fará algumas considerações cá, observando que o teor que é objeto de reportagens, análises ou críticas aos vocais sintéticos pode permanecer online. O sistema de remoção de teor também estará disponível unicamente para gravadoras e distribuidores que representam artistas participantes dos experimentos de IA do YouTube.
A IA está sendo usada em outras áreas de negócios do YouTube, inclusive aumentando o trabalho de seus 20.000 revisores de teor em todo o mundo e identificando novas formas de surgimento de abusos e ameaças, observa o proclamação. A empresa diz que entende que malfeitores tentarão contornar suas regras e evoluirá suas proteções e políticas com base no feedback dos usuários.
“Ainda estamos no início da nossa jornada para desbloquear novas formas de inovação e originalidade no YouTube com IA generativa. Estamos tremendamente entusiasmados com o potencial desta tecnologia e sabemos que o que vem a seguir repercutirá nas indústrias criativas nos próximos anos”, diz a postagem do blog do YouTube, escrita em conjunto pelas vice-presidentes de gerenciamento de produtos, Jennifer Flannery O’Connor e Emily. Moxley. “Estamos dedicando um tempo para lastrar esses benefícios com a garantia da segurança contínua de nossa comunidade neste momento crucial – e trabalharemos de mãos dadas com criadores, artistas e outros nas indústrias criativas para erigir um horizonte que beneficie nós todos.”
