Posts Recentes:

Você é mais negro que o ChatGPT? Faça este teste para descobrir

A agência de publicidade criativa McKinney desenvolveu um...

Google anuncia Gemma: IA de código aberto compatível com laptop

O Google lançou um modelo de linguagem grande...

Amazon lançará ‘loja especial’ de moda de valor na Índia

A Amazon está se preparando para fazer outra...

Rite Aid foi proibida de usar software de reconhecimento facial após identificar falsamente ladrões de lojas


GettyImages 1644666359 e1703063162803

Ritual de ajuda foi banido do uso de software de reconhecimento facial por cinco anos, depois que a Federal Trade Commission (FTC) descobriu que o “uso imprudente de sistemas de vigilância facial” pela gigante das drogarias dos EUA deixou os clientes humilhados e colocou suas “informações confidenciais em risco”.

A FTC Ordemque está sujeito à aprovação do Tribunal de Falências dos EUA após a Rite Aid entrou com pedido de proteção contra falência, Capítulo 11 em outubro, também instrui a Rite Aid a excluir todas as imagens coletadas como parte da implementação do sistema de reconhecimento facial, bem como quaisquer produtos que foram construídos a partir dessas imagens. A empresa também deve implementar um programa robusto de segurança de dados para proteger quaisquer dados pessoais que coletar.

Uma agência de notícias relatório de 2020 detalhou como a rede de drogarias introduziu secretamente sistemas de reconhecimento facial em cerca de 200 lojas nos EUA durante um período de oito anos, começando em 2012, com “bairros em grande parte de baixa renda e não-brancos” servindo como teste de tecnologia.

Com o aumento da FTC foco no uso indevido da vigilância biométrica, a Rite Aid caiu firmemente na mira da agência governamental. Entre suas alegações estão que a Rite Aid – em parceria com duas empresas contratadas – criou um “banco de dados de listas de observação” contendo imagens de clientes que a empresa disse terem se envolvido em atividades criminosas em uma de suas lojas. Essas imagens, muitas vezes de baixa qualidade, foram capturadas por câmeras de CFTV ou de celulares dos funcionários.

Quando um cliente entrava em uma loja que supostamente correspondia a uma imagem existente em seu banco de dados, os funcionários recebiam um alerta automático instruindo-os a agir – e na maioria das vezes essa instrução era para “abordar e identificar”, ou seja, verificar a identidade do cliente e pedindo-lhes que saíssem. Muitas vezes, essas “correspondências” eram falsos positivos que levavam os funcionários a acusar incorretamente os clientes de irregularidades, criando “constrangimento, assédio e outros danos”, de acordo com a FTC.

“Os funcionários, agindo com base em alertas falsos positivos, seguiram os consumidores nas lojas, revistaram-nos, ordenaram-lhes que saíssem, chamaram a polícia para confrontar ou remover os consumidores e acusaram-nos publicamente, por vezes na frente de amigos ou familiares, de furto em lojas ou outras irregularidades. ”, diz a reclamação.

Além disso, a FTC disse que a Rite Aid não informou aos clientes que a tecnologia de reconhecimento facial estava em uso, ao mesmo tempo que instruiu os funcionários a especificamente não revelar essas informações aos clientes.

Se enfrentam

O software de reconhecimento facial emergiu como uma das facetas mais controversas da era da vigilância alimentada por IA. Nos últimos anos, vimos cidades emitirem proibições expansivas da tecnologiaenquanto os políticos lutaram para regular como a polícia o utiliza. E empresas como a Clearview AI, entretanto, têm sido atingido por ações judiciais e multas em todo o mundo para grandes violações de privacidade de dados em torno da tecnologia de reconhecimento facial.

As últimas descobertas da FTC sobre a Rite Aid também esclarecem os preconceitos inerentes aos sistemas de IA. Por exemplo, a FTC afirma que a Rite Aid não conseguiu mitigar os riscos para certos consumidores devido à sua raça – a sua tecnologia era “mais propensa a gerar falsos positivos em lojas localizadas em comunidades de pluralidade negra e asiática do que em comunidades de pluralidade branca”, o nota de resultados.

Além disso, a FTC disse que a Rite Aid não conseguiu testar ou medir a precisão de seu sistema de reconhecimento facial antes ou depois da implantação.

Em um Comunicado de imprensaa Rite Aid disse que estava “satisfeita em chegar a um acordo com a FTC”, mas que discordava do cerne das alegações.

“As alegações referem-se a um programa piloto de tecnologia de reconhecimento facial que a empresa implantou em um número limitado de lojas”, disse a Rite Aid em seu comunicado. “A Rite Aid parou de usar a tecnologia neste pequeno grupo de lojas há mais de três anos, antes do início da investigação da FTC sobre o uso da tecnologia pela empresa.”

Últimas

Você é mais negro que o ChatGPT? Faça este teste para descobrir

A agência de publicidade criativa McKinney desenvolveu um...

Google anuncia Gemma: IA de código aberto compatível com laptop

O Google lançou um modelo de linguagem grande...

Amazon lançará ‘loja especial’ de moda de valor na Índia

A Amazon está se preparando para fazer outra...

WhatsApp adiciona suporte de formatação para listas, citações em bloco e código embutido

O WhatsApp disse hoje que está lançando uma...

Assine

spot_img

Veja Também

Você é mais negro que o ChatGPT? Faça este teste para descobrir

A agência de publicidade criativa McKinney desenvolveu um...

Google anuncia Gemma: IA de código aberto compatível com laptop

O Google lançou um modelo de linguagem grande...

Amazon lançará ‘loja especial’ de moda de valor na Índia

A Amazon está se preparando para fazer outra...

WhatsApp adiciona suporte de formatação para listas, citações em bloco e código embutido

O WhatsApp disse hoje que está lançando uma...
spot_img

Você é mais negro que o ChatGPT? Faça este teste para descobrir

A agência de publicidade criativa McKinney desenvolveu um jogo de perguntas chamado “Você é mais negro que ChatGPT?” para esclarecer o preconceito...

Google anuncia Gemma: IA de código aberto compatível com laptop

O Google lançou um modelo de linguagem grande de código aberto baseado na tecnologia usada para criar o Gemini que é poderoso, porém...

Amazon lançará ‘loja especial’ de moda de valor na Índia

A Amazon está se preparando para fazer outra tentativa de entrar no setor de rápido crescimento do comércio eletrônico de moda e estilo...