À medida que a IA generativa é incorporada nas plataformas que utilizamos todos os dias, surgem debates sobre quem deve receber crédito – e ressarcimento – pelos trabalhos gerados pela IA.
O YouTube está no processo de negociar acordos de licenciamento com gravadoras para usar as vozes dos músicos para produzir novas músicas em seus estilos. Enquanto isso, algumas plataformas de IA geradoras de arte estão imaginando fora caminhos remunerar aos artistas pelas suas contribuições para os dados utilizados para treinar os modelos de IA das plataformas.
Mas e o texto? Deveria – e se sim, uma vez que deveriam – os escritores ser reconhecidos e remunerados por obras geradas por IA que imitam suas vozes?
Essas são questões que provavelmente serão levantadas por um recurso do Grammarly, o assistente de digitação fundamentado em nuvem, que está programado para ser lançado até o final do ano para assinantes do nível de negócios do Grammarly. Chamado de “Detecção e emprego de voz personalizada”, o recurso detecta maquinalmente o estilo de escrita individual de uma pessoa e cria um “perfil de voz” que pode reescrever qualquer texto no estilo da pessoa.
“Porquê o Grammarly funciona em aplicativos e ferramentas, podemos entender o estilo e as preferências únicas de um usuário nos locais onde ele se comunica para gerar um perfil personalizado”, disse Tal Oppenheimer, director de resultado dos aplicativos clientes do Grammarly, ao TechCrunch em uma entrevista por e-mail. “Geramos o perfil de uma pessoa à medida que ela usa passivamente nosso resultado.”
Oppenheimer diz que cada perfil, que vem com uma descrição gerada por IA que destaca o que a Grammarly vê uma vez que as características definidoras do estilo da pessoa (por exemplo, “positivo”, “encorajador”), pode ser personalizado até notório ponto. Os usuários podem descartar elementos uma vez que escolhas de tom e estilo – por exemplo, uma tendência a usar voz ativa e frases compostas – que eles acreditam não refletir com precisão a maneira uma vez que escrevem.
O novo recurso de perfil de voz do Grammarly, que usa IA generativa para combinar com o estilo de escrita de uma pessoa.
“Porquê oriente é o primeiro lançamento de nossos recursos de voz personalizados, continuaremos a aprimorá-los ao longo do tempo e a considerar maneiras de torná-los ainda mais personalizados de tratado com os clientes e suas necessidades”, disse Oppenheimer.
Grammarly apresenta a tecnologia uma vez que uma forma de os escritores aproveitarem o contexto para “fazer [their] redigir parece mais pessoal. Mas esse repórter se preocupa sobre uma vez que isso pode ser usado de maneiras consideravelmente menos caridosas.
Imagine uma empresa acessando um perfil de voz do Grammarly enquanto um repórter está de licença – ou depois de ter sido deposto – para publicar postagens de blog sob sua assinatura, sem sua aprovação e sem compensá-lo. Ou imagine um perfil de voz do Grammarly sendo usado para se passar por alguém em uma tentativa sofisticada de phishing.
Não é tão rebuscado quanto parece. Autora Jane Friedman descoberto em agosto, novos livros estavam sendo vendidos na Amazon em seu nome – novos livros que ela não escreveu e que pareciam ter sido gerados por IA. (A Amazon posteriormente removeu os livros falsos e disse que suas políticas proíbem tal imitação.)
Grammarly não é o primeiro a trazer à tona a questão das proteções ao repórter no que diz reverência à IA generativa, é evidente. Milhares dos autores assinaram recentemente uma missiva ensejo criticando as tecnologias generativas de IA que “imitam e regurgitam” a sua “linguagem, histórias, estilo e ideias”. Enquanto isso, escritores na Califórnia e em Novidade York deram um passo além, processando A startup de IA OpenAI – que eles dizem ter treinado IA de geração de texto em seu trabalho sem permissão – por suposto roubo de IP.
Agora, para ser justo com o Grammarly, nem qualquer pessoa pode acessar um perfil de voz do Grammarly. Pelo menos no lançamento, os usuários individuais só podem usar o perfil de voz correspondente – e não o de qualquer outra pessoa. E eles não podem ser exportados.
Eu me preocupo, porém, com a forma uma vez que os perfis de voz podem evoluir no porvir, dada a ênfase da Grammarly na economia de custos em seus materiais de marketing. É concebível que, na procura pela redução de custos, uma empresa assinada pelo Grammarly acabe desejando aproximação a todos os perfis de seus redatores. Irá Grammarly negá-los? Quem pode expor?
Por sua vez, Oppenheimer enfatizou que os perfis de voz “não são projetados para substituir ninguém”.
“Em vez de imitá-los, [voice profiles] ajuda [writers] aprenda uma vez que eles soam, crie resultados mais personalizados e escreva de uma forma mais autêntica.”
Chame-me de cético, mas sou muito cauto
A detecção e o aplicativo de voz personalizados juntam-se a outros recursos generativos de IA do Grammarly, muitos dos quais estão entrando em disponibilidade universal esta semana. A empresa, que tem mais de 30 milhões de usuários e mais de 70 milénio equipes em suas plataformas, afirma que os usuários criam mais de 12 milhões de conteúdos semanalmente com os recursos.
