Posts Recentes:

Google nega práticas anticompetitivas em processo de US$ 2,27 bilhões

O Google está enfrentando um processo de US$...

Smartphone robusto para o mercado B2B

A Samsung anunciou o lançamento do Galaxy XCover7...

Android Auto mostrará aplicativos que só funcionam quando estacionado

O Android Auto está introduzindo um novo recurso...

OpenAI: processo do New York Times baseado no uso indevido do ChatGPT


OpenAI publicou uma resposta ao processo do The New York Times alegando que o NYTimes usou técnicas de manipulação de prompts para induzir o ChatGPT a regurgitar trechos longos, afirmando que o processo é baseado no uso indevido do ChatGPT para “escolher” exemplos para o ação judicial.

O processo do New York Times contra OpenAI

O New York Times entrou com uma ação contra a OpenAI (e a Microsoft) por violação de direitos autorais, alegando que o ChatGPT “recita o conteúdo do Times literalmente”, entre outras reclamações.

O processo apresentou evidências que mostram como o GPT-4 poderia produzir grandes quantidades de conteúdo do New York Times sem atribuição como prova de que o GPT-4 infringe o conteúdo do The New York Times.

A acusação de que o GPT-4 está a produzir cópias exactas do conteúdo do New York Times é importante porque contraria a insistência da OpenAI de que a sua utilização de dados é transformadora, o que é um quadro jurídico relacionado com a doutrina do uso justo.

O escritório de direitos autorais dos Estados Unidos define o uso justo de conteúdo protegido por direitos autorais que é transformador:

“O uso justo é uma doutrina jurídica que promove a liberdade de expressão ao permitir o uso não licenciado de obras protegidas por direitos autorais em determinadas circunstâncias.

…usos “transformadores” têm maior probabilidade de serem considerados justos. Os usos transformativos são aqueles que acrescentam algo novo, com outra finalidade ou caráter diferente, e não substituem o uso original da obra.”

É por isso que é importante para o The New York Times afirmar que o uso de conteúdo pela OpenAI não é uso justo.

O processo do New York Times contra a OpenAI afirma:

“Os réus insistem que a sua conduta é protegida como “uso justo” porque o uso não licenciado de conteúdo protegido por direitos autorais para treinar modelos GenAI serve a um novo propósito “transformador”. Mas não há nada de “transformador” em usar o conteúdo do The Times…Como os resultados dos modelos GenAI dos Réus competem e imitam de perto os dados usados ​​para treiná-los, copiar os trabalhos do Times para esse fim não é uso justo.”

A captura de tela a seguir mostra evidências de como o GPT-4 gera uma cópia exata do conteúdo do Times. O conteúdo em vermelho é conteúdo original criado pelo New York Times e publicado pelo GPT-4.

OpenAI: processo do New York Times baseado no uso indevido do ChatGPTOpenAI: processo do New York Times baseado no uso indevido do ChatGPT

Resposta da OpenAI mina reivindicações de ações judiciais do NYTimes

A OpenAI ofereceu uma forte refutação das alegações feitas no processo do New York Times, alegando que a decisão do Times de ir a tribunal surpreendeu a OpenAI porque eles presumiram que as negociações estavam progredindo em direção a uma resolução.

Mais importante ainda, a OpenAI desmascarou as afirmações do The New York Times de que o GPT-4 produz conteúdo literal, explicando que o GPT-4 foi projetado para não produzir conteúdo literal e que o The New York Times usou técnicas de prompt projetadas especificamente para quebrar as barreiras de proteção do GPT-4, a fim de produzir o resultado contestado, minando a implicação do The New York Times de que a produção de conteúdo literal é um resultado comum do GPT-4.

Esse tipo de solicitação projetada para quebrar o ChatGPT a fim de gerar resultados indesejados é conhecida como Solicitação Adversarial.

Ataques de estímulo adversário

A IA generativa é sensível aos tipos de prompts (solicitações) feitas a ela e, apesar dos melhores esforços dos engenheiros para bloquear o uso indevido da IA ​​generativa, ainda existem novas maneiras de usar prompts para gerar respostas que contornam as barreiras de proteção incorporadas à tecnologia que são projetados para evitar saídas indesejadas.

As técnicas para gerar resultados não intencionais são chamadas de Adversarial Prompting e é isso que a OpenAI está acusando o The New York Times de fazer para fabricar uma base para provar que o uso de conteúdo protegido por direitos autorais pelo GPT-4 não é transformador.

A alegação da OpenAI de que o The New York Times utilizou indevidamente o GPT-4 é importante porque mina a insinuação do processo de que gerar conteúdo literalmente protegido por direitos autorais é um comportamento típico.

Esse tipo de solicitação adversária também viola os termos de uso da OpenAI, que afirmam:

O que você não pode fazer

  • Usar nossos Serviços de forma a infringir, apropriar-se indevidamente ou violar os direitos de qualquer pessoa.
  • Interferir ou interromper nossos Serviços, inclusive contornar quaisquer limites ou restrições de tarifas ou ignorar quaisquer medidas de proteção ou mitigações de segurança que colocamos em nossos Serviços.

OpenAI reivindica ação judicial com base em prompts manipulados

A refutação da OpenAI afirma que o New York Times usou prompts manipulados projetados especificamente para subverter as proteções do GPT-4, a fim de gerar conteúdo literal.

OpenAI escreve:

“Parece que eles manipularam prompts intencionalmente, muitas vezes incluindo longos trechos de artigos, para fazer nosso modelo regurgitar.

Mesmo ao usar tais instruções, nossos modelos normalmente não se comportam da maneira que o New York Times insinua, o que sugere que eles instruíram o modelo a regurgitar ou escolheram a dedo seus exemplos em muitas tentativas.”

A OpenAI também respondeu ao processo do The New York Times, dizendo que os métodos usados ​​pelo The New York Times para gerar conteúdo literal eram uma violação da atividade permitida do usuário e uso indevido.

Eles escrevem:

“Apesar de suas alegações, esse uso indevido não é uma atividade típica ou permitida do usuário.”

A OpenAI terminou afirmando que continua a construir resistência contra os tipos de ataques adversários imediatos usados ​​pelo The New York Times.

Eles escrevem:

“Independentemente disso, estamos continuamente tornando nossos sistemas mais resistentes a ataques adversários para regurgitar dados de treinamento e já fizemos muito progresso em nossos modelos recentes.”

A OpenAI apoiou sua alegação de diligência no respeito aos direitos autorais citando sua resposta de julho de 2023 aos relatos de que o ChatGPT estava gerando respostas textuais.

O New York Times versus OpenAI

Sempre há dois lados de uma história e a OpenAI acaba de lançar o seu lado que mostra que as afirmações do The New York Times são baseadas em ataques adversários e no uso indevido do ChatGPT para obter respostas textuais.

Leia a resposta do OpenAIs:

OpenAI e jornalismo:
Apoiamos o jornalismo, fazemos parcerias com organizações de notícias e acreditamos que o processo do The New York Times não tem mérito.

Imagem em destaque por Shutterstock/pizzastereo



Últimas

Google nega práticas anticompetitivas em processo de US$ 2,27 bilhões

O Google está enfrentando um processo de US$...

Smartphone robusto para o mercado B2B

A Samsung anunciou o lançamento do Galaxy XCover7...

Android Auto mostrará aplicativos que só funcionam quando estacionado

O Android Auto está introduzindo um novo recurso...

Assine

spot_img

Veja Também

Google nega práticas anticompetitivas em processo de US$ 2,27 bilhões

O Google está enfrentando um processo de US$...

Smartphone robusto para o mercado B2B

A Samsung anunciou o lançamento do Galaxy XCover7...

Android Auto mostrará aplicativos que só funcionam quando estacionado

O Android Auto está introduzindo um novo recurso...

Microsoft Copilot ganha recurso de análise de documentos com IA

A Microsoft introduziu um novo recurso ao Copilot...
spot_img

Google nega práticas anticompetitivas em processo de US$ 2,27 bilhões

O Google está enfrentando um processo de US$ 2,27 bilhões movido por 32 grupos de mídia que alegam que as práticas de publicidade...

Smartphone robusto para o mercado B2B

A Samsung anunciou o lançamento do Galaxy XCover7 no Brasil, um smartphone robusto projetado especificamente para o mercado B2B.O dispositivo oferece durabilidade,...

Android Auto mostrará aplicativos que só funcionam quando estacionado

O Android Auto está introduzindo um novo recurso para melhorar a segurança ao volante.Na última versão do sistema, os aplicativos que só podem...