A Microsoft mudou seu política proibir os departamentos de polícia dos EUA de usar IA generativa por meio do Serviço OpenAI do Azureo wrapper totalmente gerenciado e focado na empresa da empresa em torno das tecnologias OpenAI.
O texto adicionado na quarta-feira aos termos de serviço do Azure OpenAI Service proíbe integrações com o Azure OpenAI Service de serem usadas “por ou para” departamentos de polícia nos EUA, incluindo integrações com modelos de análise de texto e fala da OpenAI.
Um novo item separado cobre “qualquer aplicação da lei em todo o mundo” e proíbe explicitamente o uso de “tecnologia de reconhecimento facial em tempo real” em câmeras móveis, como câmeras corporais e câmeras de painel, para tentar identificar uma pessoa em “de forma não controlada, no -selvagens”.
As mudanças nos termos ocorrem uma semana depois que a Axon, fabricante de produtos de tecnologia e armas para militares e policiais, anunciou um novo produto que aproveita o OpenAI GPT-4 modelo de texto generativo para resumir o áudio das câmeras corporais. Os críticos foram rápidos em apontar as armadilhas potenciais, como alucinações (mesmo os melhores modelos generativos de IA hoje inventam fatos) e preconceitos raciais introduzido a partir dos dados de treinamento (o que é especialmente preocupante, dado que pessoas de cor são muito mais probabilidade de ser parado pela polícia do que seus pares brancos).
Não está claro se a Axon estava usando GPT-4 por meio do Azure OpenAI Service e, em caso afirmativo, se a política atualizada foi em resposta ao lançamento do produto Axon. OpenAI tinha anteriormente restrito a utilização de seus modelos para reconhecimento facial por meio de suas APIs. Entramos em contato com Axon, Microsoft e OpenAI e atualizaremos esta postagem se recebermos resposta.
Os novos termos deixam margem de manobra para a Microsoft.
A proibição total do uso do serviço Azure OpenAI refere-se apenas aos EUA, não internacional, polícia. E não cobre o reconhecimento facial realizado com estacionário câmeras em controlada ambientes, como um back office (embora os termos proíbam qualquer uso de reconhecimento facial pela polícia dos EUA).
Isso acompanha a abordagem recente da Microsoft e do parceiro próximo OpenAI aos contratos de aplicação da lei e defesa relacionados à IA.
Em janeiro, reportagem da Bloomberg revelado que a OpenAI está trabalhando com o Pentágono em uma série de projetos, incluindo capacidades de segurança cibernética – um desvio da startup proibição anterior em fornecer sua IA aos militares. Em outros lugares, a Microsoft lançou o uso da ferramenta de geração de imagens da OpenAI, DALL-E, para ajudar o Departamento de Defesa (DoD) a construir software para executar operações militares, por A interceptação.
O Azure OpenAI Service foi disponibilizado no produto Azure Government da Microsoft em fevereiro, adicionando recursos adicionais de conformidade e gerenciamento voltados para agências governamentais, incluindo autoridades policiais. Em um postagem no blogCandice Ling, vice-presidente sênior da divisão governamental da Microsoft, Microsoft Federal, prometeu que o Azure OpenAI Service seria “submetido para autorização adicional” ao DoD para cargas de trabalho que apoiam missões do DoD.
A Microsoft e a OpenAI não retornaram imediatamente pedidos de comentários.
