Posts Recentes:

Aqui estão os melhores recursos do WWDC 2024 que você perdeu

A Apple anunciou uma série de novos recursos...

BeReal obteve sua saída no melhor cenário

Ultimamente, tem havido muitas más notícias sobre startups...

Anthropic toma medidas para evitar desinformação eleitoral


Antes das eleições presidenciais dos EUA em 2024, a Antrópica, o bem financiado A startup AI está testando uma tecnologia para detectar quando os usuários de seu chatbot GenAI perguntam sobre tópicos políticos e redireciona esses usuários para fontes “autorizadas” de informações eleitorais.

Chamada Prompt Shield, a tecnologia, que se baseia em uma combinação de modelos e regras de detecção de IA, mostra um pop-up se um usuário de Cláudio, chatbot da Anthropic, pede informações de votação. O pop-up oferece o redirecionamento do usuário para o TurboVote, um recurso da organização apartidária Democracy Works, onde eles podem encontrar informações de votação precisas e atualizadas.

A Anthropic diz que o Prompt Shield foi necessário devido às deficiências de Claude na área de informações relacionadas à política e às eleições. Claude não é treinado com frequência suficiente para fornecer informações em tempo real sobre eleições específicas, reconhece a Anthropic, e por isso é propenso a alucinando — isto é, inventando factos — sobre essas eleições.

“Temos um 'escudo imediato' em vigor desde que lançamos o Claude – ele sinaliza vários tipos diferentes de danos, com base em nossa política de usuário aceitável”, disse um porta-voz ao TechCrunch por e-mail. “Estaremos lançando nossa intervenção de proteção imediata específica para eleições nas próximas semanas e pretendemos monitorar o uso e as limitações… Conversamos com uma variedade de partes interessadas, incluindo legisladores, outras empresas, sociedade civil e agências não-governamentais e organizações específicas para eleições. consultores [in developing this].”

Aparentemente é um teste limitado no momento. Claude não apresentou o pop-up quando perguntei sobre como votar nas próximas eleições, em vez disso apresentou um guia genérico de votação. A Anthropic afirma que está ajustando o Prompt Shield enquanto se prepara para expandi-lo para mais usuários.

A Anthropic, que proíbe o uso de suas ferramentas em campanhas políticas e lobby, é o mais recente fornecedor de GenAI a implementar políticas e tecnologias para tentar evitar interferências eleitorais.

O momento não é coincidência. Este ano, a nível mundial, mais eleitores do que nunca na história irão às urnas, uma vez que pelo menos 64 países, representando uma população combinada de cerca de 49% da população mundial, deverão realizar eleições nacionais.

Em janeiro, a OpenAI disse que proibiria as pessoas de usarem o ChatGPT, seu chatbot viral baseado em IA, para criar bots que se passassem por candidatos ou governos reais, deturpassem o funcionamento da votação ou desencorajassem as pessoas de votar. Assim como a Anthropic, a OpenAI atualmente não permite que os usuários criem aplicativos usando suas ferramentas para fins de campanha política ou lobby – uma política que a empresa reiterou no mês passado.

Numa abordagem técnica semelhante ao Prompt Shield, a OpenAI também está a empregar sistemas de detecção para orientar os utilizadores do ChatGPT que fazem perguntas logísticas sobre a votação para um site apartidário, CanIVote.org, mantido pela Associação Nacional de Secretários de Estado.

Nos EUA, o Congresso ainda não aprovou legislação que procure regular o papel da indústria da IA ​​na política, apesar de algum apoio bipartidário. Entretanto, mais de um terço dos estados dos EUA aprovaram ou introduziram projetos de lei para combater os deepfakes em campanhas políticas, à medida que a legislação federal estagna.

Em vez de legislação, algumas plataformas – sob pressão de vigilantes e reguladores – estão a tomar medidas para impedir que a GenAI seja utilizada de forma abusiva para enganar ou manipular os eleitores.

Google google-limits-political-ad-targeting-and-all-demonstrably-false-claims/" rel="noopener">disse em setembro passado, que exigiria que anúncios políticos usando GenAI no YouTube e suas outras plataformas, como a Pesquisa Google, fossem acompanhados de uma divulgação proeminente se as imagens ou sons fossem alterados sinteticamente. A Meta também proibiu campanhas políticas de usar ferramentas GenAI – incluindo as suas próprias – em publicidade em suas propriedades.

Últimas

Aqui estão os melhores recursos do WWDC 2024 que você perdeu

A Apple anunciou uma série de novos recursos...

BeReal obteve sua saída no melhor cenário

Ultimamente, tem havido muitas más notícias sobre startups...

Quanto custa o ChatGPT? Tudo o que você precisa saber sobre os planos de preços da OpenAI

OpenAI's Plataforma de chatbot com tecnologia de IA...

Assine

spot_img

Veja Também

Aqui estão os melhores recursos do WWDC 2024 que você perdeu

A Apple anunciou uma série de novos recursos...

BeReal obteve sua saída no melhor cenário

Ultimamente, tem havido muitas más notícias sobre startups...

Quanto custa o ChatGPT? Tudo o que você precisa saber sobre os planos de preços da OpenAI

OpenAI's Plataforma de chatbot com tecnologia de IA...
spot_img

Aqui estão os melhores recursos do WWDC 2024 que você perdeu

A Apple anunciou uma série de novos recursos e atualizações no palco durante seu discurso principal na WWDC 2024incluindo atualizações para iOS, iPadOS,...

BeReal obteve sua saída no melhor cenário

Ultimamente, tem havido muitas más notícias sobre startups de mídia social. Várias empresas, incluindo o Post News alternativo do Twitter e a...

Presidente da FTC, Lina Khan, sobre startups, expansão e “inovações em possíveis infrações à lei”

A presidente da FTC, Lina Khan, era a pessoa mais jovem nomeada para seu cargo quando assumiu o cargo em 2021. Mas assim...