Posts Recentes:

UE publica orientações sobre segurança eleitoral para gigantes das redes sociais e outros no âmbito da DSA


A União Europeia publicou na terça-feira um projeto de diretrizes de segurança eleitoral destinadas a cerca de duas dúzias de plataformas (maiores) com mais de 45 milhões de usuários ativos mensais regionais que são regulamentadas pela Lei de Serviços Digitais (DSA) e – consequentemente – têm o dever legal de mitigar riscos sistêmicos como deepfakes políticos, ao mesmo tempo que salvaguardam direitos fundamentais como a liberdade de expressão e a privacidade.

As plataformas no escopo incluem Facebook, Google Search, Instagram, LinkedIn, TikTok, YouTube e X.

A Comissão nomeou as eleições como uma das poucas áreas prioritárias para a aplicação do DSA nas chamadas plataformas online de muito grande porte (VLOPs) e nos motores de pesquisa online de muito grande porte (VLOSEs). Este subconjunto de empresas regulamentadas pela DSA é obrigado a identificar e mitigar riscos sistémicos, tais como a manipulação de informações visando processos democráticos na região, além de cumprir o regime completo de governação online.

De acordo com as orientações de segurança eleitoral da UE, o bloco espera que os gigantes da tecnologia regulamentados melhorem o seu jogo na proteção dos votos democráticos e implementem recursos capazes de moderação de conteúdo nos vários idiomas oficiais falados em todo o bloco – garantindo que tenham pessoal suficiente disponível para responder eficazmente aos riscos decorrentes. do fluxo de informações em suas plataformas e agem com base em relatórios de verificadores de fatos terceirizados – com o risco de multas pesadas por deixar a bola cair.

Isto exigirá que as plataformas realizem um ato de equilíbrio preciso em termos de moderação de conteúdo político – sem perder a sua capacidade de distinguir entre, por exemplo, a sátira política, que deve permanecer online como liberdade de expressão protegida, e a desinformação política maliciosa, cujos criadores poderiam esperar para influenciar os eleitores e distorcer as eleições.

Neste último caso, o conteúdo enquadra-se na categorização de risco sistémico da DSA que se espera que as plataformas identifiquem e mitiguem rapidamente. A norma da UE exige aqui que sejam implementadas medidas de mitigação “razoáveis, proporcionais e eficazes” para os riscos relacionados com os processos eleitorais, bem como que respeitem outras disposições relevantes da ampla regulação de moderação de conteúdo e governação.

A Comissão tem trabalhado rapidamente nas orientações eleitorais, lançando uma consulta sobre uma versão preliminar no mês passado. O sentido de urgência em Bruxelas decorre das próximas eleições para o Parlamento Europeu, em Junho. As autoridades disseram que vão enfatizar a preparação das plataformas de teste no próximo mês. Portanto, a UE não parece disposta a deixar a conformidade das plataformas ao acaso, mesmo com uma lei rígida em vigor que significa que os gigantes da tecnologia estão a arriscar grandes multas se não conseguirem cumprir as expectativas da Comissão desta vez.

Controles de usuário para feeds algorítmicos

Entre as principais orientações eleitorais da UE destinadas às principais empresas de redes sociais e outras plataformas importantes, está a de que devem dar aos seus utilizadores uma escolha significativa em relação aos sistemas de recomendação algorítmicos e alimentados por IA – para que possam exercer algum controlo sobre o tipo de conteúdo que veem. .

“Os sistemas de recomendação podem desempenhar um papel significativo na formação do panorama da informação e da opinião pública”, observa a orientação. “Para mitigar o risco que tais sistemas podem representar em relação aos processos eleitorais, [platform] os fornecedores… devem considerar: (i.) Garantir que os sistemas de recomendação sejam concebidos e ajustados de uma forma que proporcione aos utilizadores escolhas e controlos significativos sobre os seus feeds, tendo em devida conta a diversidade e o pluralismo dos meios de comunicação social.”

Os sistemas de recomendação de plataformas também devem ter medidas para rebaixar a desinformação direcionada às eleições, com base no que a orientação descreve como “métodos claros e transparentes”, como conteúdo enganoso que foi verificado como falso; e/ou postagens provenientes de contas repetidamente consideradas espalhadoras de desinformação.

As plataformas também devem implementar mitigações para evitar o risco de os seus sistemas de recomendação espalharem desinformação generativa baseada em IA (também conhecidos como deepfakes políticos). Devem também avaliar proactivamente os seus motores de recomendação relativamente aos riscos relacionados com os processos eleitorais e lançar actualizações para reduzir os riscos. A UE também recomenda transparência em torno da concepção e funcionamento de feeds baseados em IA; e insta as plataformas a participarem em testes adversários, red-teaming, etc., para aumentar a sua capacidade de detectar e anular riscos.

No que diz respeito à GenAI, o conselho da UE também recomenda a utilização de marcas de água nos meios de comunicação sintéticos – ao mesmo tempo que observa os limites da viabilidade técnica aqui.

As medidas de mitigação recomendadas e as melhores práticas para plataformas maiores nas 25 páginas do projeto de orientação publicado hoje também estabelecem a expectativa de que as plataformas reúnam recursos internos para se concentrarem em ameaças eleitorais específicas, como em torno de eventos eleitorais futuros, e na implementação de processos para compartilhar informações relevantes e análises de risco.

Os recursos devem ter experiência local

A orientação enfatiza a necessidade de análise de “riscos específicos do contexto local”, além da recolha de informações específicas dos Estados-Membros/nacionais e regionais para alimentar o trabalho das entidades responsáveis ​​pela concepção e calibração de medidas de mitigação de riscos. E por “recursos adequados de moderação de conteúdos”, com capacidade linguística local e conhecimento dos contextos e especificidades nacionais e/ou regionais – uma queixa de longa data da UE quando se trata dos esforços das plataformas para reduzir os riscos de desinformação.

Outra recomendação é que reforcem os processos e recursos internos em torno de cada evento eleitoral, criando “uma equipa interna dedicada e claramente identificável”, antes do período eleitoral – com recursos proporcionais aos riscos identificados para a eleição em questão.

A orientação da UE também recomenda explicitamente a contratação de pessoal com conhecimentos locais, incluindo conhecimentos linguísticos. Considerando que as plataformas têm frequentemente procurado redirecionar um recurso centralizado – sem sempre procurarem conhecimentos locais dedicados.

“A equipe deve abranger todos os conhecimentos relevantes, inclusive em áreas como moderação de conteúdo, verificação de fatos, interrupção de ameaças, ameaças híbridas, segurança cibernética, desinformação e FIMI. [foreign information manipulation and interference]direitos fundamentais e participação pública e cooperar com especialistas externos relevantes, por exemplo, com os centros do Observatório Europeu dos Meios de Comunicação Digitais (EDMO) e organizações independentes de verificação de factos”, escreve também a UE.

A orientação permite que as plataformas aumentem potencialmente os recursos em torno de eventos eleitorais específicos e desmobilizem as equipes após o término da votação.

Observa que os períodos em que podem ser necessárias medidas adicionais de mitigação de riscos variam provavelmente, dependendo do nível de riscos e de quaisquer regras específicas dos Estados-Membros da UE em matéria de eleições (que podem variar). Mas a Comissão recomenda que as plataformas tenham medidas de mitigação implementadas e em funcionamento pelo menos um a seis meses antes do período eleitoral, e que continuem pelo menos um mês após as eleições.

Não é de surpreender que a maior intensidade de mitigações seja esperada no período anterior à data das eleições, para abordar riscos como a desinformação dirigida aos procedimentos de votação.

Discurso de ódio no quadro

A UE aconselha geralmente as plataformas a basearem-se noutras orientações existentes, incluindo o Código de Conduta sobre Desinformação e o Código de Conduta sobre a Luta contra o Discurso de Ódio, para identificar as melhores práticas para medidas de mitigação. Mas estipula que devem garantir que os utilizadores tenham acesso a informações oficiais sobre processos eleitorais, tais como banners, links e pop-ups concebidos para orientar os utilizadores a fontes de informação autorizadas para as eleições.

“Ao atenuar os riscos sistémicos para a integridade eleitoral, a Comissão recomenda que seja também dada a devida atenção ao impacto das medidas destinadas a combater os conteúdos ilegais, como o incitamento público à violência e ao ódio, na medida em que esses conteúdos ilegais possam inibir ou silenciar vozes no mundo democrático. debate, em particular aqueles que representam grupos vulneráveis ​​ou minorias”, escreve a Comissão.

“Por exemplo, formas de racismo, ou desinformação de género e violência baseada no género online, incluindo no contexto de ideologia extremista ou terrorista violenta ou FIMI dirigida à comunidade LGBTIQ+, podem minar o diálogo e o debate abertos e democráticos, e aumentar ainda mais a divisão social e a polarização. A este respeito, o Código de Conduta relativo à luta contra o discurso ilegal de ódio em linha pode ser usado como inspiração ao considerar medidas apropriadas.»

Também recomenda que realizem campanhas de literacia mediática e implementem medidas destinadas a fornecer aos utilizadores informações mais contextuais – tais como rótulos de verificação de factos; avisos e cutucadas; indicações claras das contas oficiais; rotulagem clara e não enganosa das contas geridas pelos Estados-Membros, países terceiros e entidades controladas ou financiadas por países terceiros; ferramentas e informações para ajudar os usuários a avaliar a confiabilidade das fontes de informação; ferramentas para avaliar a proveniência; e estabelecer processos para combater o uso indevido de qualquer um desses procedimentos e ferramentas – o que parece uma lista de coisas que Elon Musk desmantelou desde que assumiu o Twitter (agora X).

Notavelmente, Musk também foi acusado de permitir que o discurso de ódio florescesse na plataforma sob sua supervisão. E no momento em que este artigo foi escrito, X continuava sob investigação da UE por uma série de suspeitas de violações de DSA, inclusive em relação aos requisitos de moderação de conteúdo.

Transparência para aumentar a responsabilidade

No que diz respeito à publicidade política, as orientações apontam as plataformas para as novas regras de transparência nesta área – aconselhando-as a prepararem-se para a regulamentação juridicamente vinculativa, tomando medidas para se alinharem agora com os requisitos. (Por exemplo, rotulando claramente os anúncios políticos, fornecendo informações sobre o patrocinador por trás dessas mensagens políticas pagas, mantendo um repositório público de anúncios políticos e tendo sistemas em funcionamento para verificar a identidade dos anunciantes políticos.)

Noutras partes, as orientações também estabelecem como lidar com os riscos eleitorais relacionados com os influenciadores.

As plataformas também devem ter sistemas implementados que lhes permitam desmonetizar a desinformação, de acordo com as orientações, e são instadas a fornecer acesso a dados “estáveis ​​e fiáveis” a terceiros que realizam o escrutínio e a investigação dos riscos eleitorais. O acesso aos dados para estudar os riscos eleitorais também deve ser fornecido gratuitamente, estipula o conselho.

De um modo mais geral, as orientações incentivam as plataformas a cooperar com órgãos de supervisão, especialistas da sociedade civil e entre si quando se trata de partilhar informações sobre riscos de segurança eleitoral – instando-as a estabelecer canais de comunicação para dicas e relatórios de riscos durante as eleições.

Para lidar com incidentes de alto risco, o conselho recomenda que as plataformas estabeleçam um mecanismo interno de resposta a incidentes que envolva a liderança sênior e mapeie outras partes interessadas relevantes dentro da organização para impulsionar a responsabilização em torno de suas respostas a eventos eleitorais e evitar o risco de transferência de responsabilidade.

Após as eleições, a UE sugere que as plataformas conduzam e publiquem uma análise do seu desempenho, tendo em conta avaliações de terceiros (ou seja, em vez de apenas procurarem corrigir os seus próprios trabalhos de casa, como historicamente preferiram, tentando colocar um brilho de relações públicas no topo da plataforma em curso). riscos manipulados).

As directrizes de segurança eleitoral não são obrigatórias, como tal, mas se as plataformas optarem por outra abordagem diferente da recomendada para enfrentar ameaças nesta área, têm de ser capazes de demonstrar que a sua abordagem alternativa cumpre os padrões do bloco, de acordo com a Comissão.

Se não o fizerem, correm o risco de serem considerados infratores da DSA, que permite sanções de até 6% do volume de negócios anual global para violações confirmadas. Portanto, há um incentivo para as plataformas aderirem ao programa do bloco de aumentar os recursos para abordar a desinformação política e outros riscos de informação nas eleições, como forma de reduzir o seu risco regulatório. Mas eles ainda precisarão seguir o conselho.

Outras recomendações específicas para as próximas eleições para o Parlamento Europeu, que decorrerão de 6 a 9 de junho, também são estabelecidas nas orientações da UE.

Numa nota técnica, as directrizes de segurança eleitoral permanecem em projecto nesta fase. Mas a Comissão disse que a adoção formal é esperada em abril, quando todas as versões linguísticas das orientações estiverem disponíveis.

Últimas

Assine

spot_img

Veja Também

Assista: Os novos modelos Llama 3 da Meta dão um impulso à IA de código aberto

Novo Os modelos de IA da Meta estão...

Webflow adquire Intellimize para adicionar personalização de páginas da web com tecnologia de IA

Fluxo da Webuma plataforma de web design e...

Comarch realiza novo webinar – Principais tendências de fidelidade: ideias específicas do setor para 2024

Estudos mostram que clientes fiéis são responsáveis ​​por...

7 maneiras de elevar seus anúncios responsivos de pesquisa

Embora os anúncios de pesquisa responsivos (RSAs) do...
spot_img

Assista: Os novos modelos Llama 3 da Meta dão um impulso à IA de código aberto

Novo Os modelos de IA da Meta estão causando sucesso nos círculos de tecnologia. Os dois novos modelos, parte da linha Llama...

Webflow adquire Intellimize para adicionar personalização de páginas da web com tecnologia de IA

Fluxo da Webuma plataforma de web design e hospedagem que arrecadou mais de US$ 330 milhões com uma avaliação de US$ 4 bilhões,...