O chatbot de IA do Snap colocou a empresa no radar do órgão de vigilância de proteção de dados do Reino Unificado, que levantou preocupações de que a utensílio possa ser um risco para a privacidade das crianças.
O Information Commissioner’s Office (ICO) anunciou hoje que emitiu um notificação preliminar de execução no Snap sobre o que descreveu porquê “nequice potencial em estimar adequadamente os riscos de privacidade representados por seu chatbot de IA generativo ‘My AI’”.
A ação da ICO não é uma invenção de violação. Mas o aviso indica que o regulador do Reino Unificado teme que o Snap possa não ter tomado medidas para prometer que o resultado esteja em conformidade com as regras de proteção de dados, que – desde 2021 – foram ajustadas para incluir o Código de Design Infantil.
“A investigação da OIC concluiu provisoriamente que a avaliação de risco que o Snap conduziu antes de lançar ‘My AI’ não avaliou adequadamente os riscos de proteção de dados apresentados pela tecnologia de IA generativa, mormente para crianças”, escreveu o regulador em um enviado. Comunicado de imprensa. “A avaliação do risco de proteção de dados é particularmente importante neste contexto que envolve a utilização de tecnologia inovadora e o tratamento de dados pessoais de crianças dos 13 aos 17 anos.”
A Snap agora terá a chance de responder às preocupações do regulador antes que a ICO tome uma decisão final sobre se a empresa violou as regras.
“As conclusões provisórias da nossa investigação sugerem uma nequice preocupante da Snap em identificar e estimar adequadamente os riscos de privacidade para crianças e outros utilizadores antes de lançar o ‘My AI’”, acrescentou o comissário de informação, John Edwards, num enviado. “Fomos claros que as organizações devem considerar os riscos associados à IA, juntamente com os benefícios. O aviso preparatório de emprego de hoje mostra que tomaremos medidas para proteger os direitos de privacidade dos consumidores do Reino Unificado.”
Snap lançou o chatbot generativo de IA de volta em fevereiro – embora não tenha chegado ao Reino Unificado até abril – aproveitando a tecnologia de protótipo de linguagem grande ChatGPT da OpenAI para cevar um bot que foi fixado no topo do feed dos usuários para atuar porquê um camarada virtual que poderia receber conselhos ou enviar instantâneos.
Inicialmente o recurso estava disponível somente para assinantes do Snapchat+, versão premium da plataforma de mensagens efêmeras. Mas muito rapidamente Snap abriu o acesso de “My AI” também para usuários gratuitos – também adicionando a capacidade da IA de enviar snaps de volta aos usuários que interagiram com ela (esses snaps são criado com IA generativa).
A empresa afirmou que o chatbot foi desenvolvido com recursos adicionais de moderação e proteção, incluindo consideração de idade porquê padrão – com o objetivo de prometer que o teor gerado seja tempestivo para o usuário. O bot também está programado para evitar respostas violentas, odiosas, sexualmente explícitas ou ofensivas de outra forma. Outrossim, as ferramentas de proteção parental do Snap permitem que os pais saibam se seus filhos se comunicaram com o bot nos últimos sete dias – por meio do recurso Family Center.
Mas, apesar das alegadas proteções, houve relatos de que o bot saiu dos trilhos. Em uma avaliação inicial em março, O Washington Post relatou que o chatbot havia recomendado maneiras de mascarar o cheiro de álcool depois que foi informado que o usuário tinha 15 anos. Em outro caso, quando foi informado que o usuário tinha 13 anos e perguntou porquê deveria se preparar para fazer sexo pela primeira vez, o bot respondeu com sugestões para “torná-lo peculiar” criando o clima com velas e música.
Os usuários do Snapchat também foram relatou intimidar o bot – com alguns também frustrado porque uma IA foi injetada em seus feeds em primeiro lugar.
Procurado para comentar o aviso da ICO, um porta-voz do Snap disse ao TechCrunch:
Estamos analisando atentamente a decisão provisória da OIC. Tal porquê a ICO, estamos empenhados em proteger a privacidade dos nossos utilizadores. Em traço com a nossa abordagem padrão para o desenvolvimento de produtos, o My AI passou por um processo robusto de revisão jurídica e de privacidade antes de ser disponibilizado publicamente. Continuaremos a trabalhar de forma construtiva com a OIC para prometer que eles se sintam confortáveis com os nossos procedimentos de avaliação de risco.
Não é a primeira vez que um chatbot de IA chega ao radar dos reguladores de privacidade europeus. Em Fevereiro da Itália Prometer ordenou ao trabalhador do “serviço de amizade virtual” Replika, com sede em São Francisco, uma ordem para interromper o processamento de dados de usuários locais – também citando preocupações sobre riscos para menores.
A mando italiana também colocou uma ordem de interrupção de processamento semelhante na utensílio ChatGPT da OpenAI o mês seguinte. O conjunto foi logo levantado em abril mas somente depois que a OpenAI adicionou divulgações de privacidade mais detalhadas e alguns novos controles de usuário – incluindo permitir que os usuários pedir que seus dados não sejam usados para treinar suas IAs e/ou a ser excluído.
O lançamento regional do chatbot Bard do Google também foi delongado depois que preocupações foram levantadas pelo seu principal regulador regional de privacidade, a Percentagem de Proteção de Dados da Irlanda. Posteriormente, foi lançado na UE em Julhotambém depois de juntar mais divulgações e controles – mas uma força-tarefa regulatória criado no contextura do Juízo Europeu de Proteção de Dados continua focado em estimar porquê infligir o Regulamento Universal de Proteção de Dados (GDPR) do conjunto em chatbots de IA generativos, incluindo ChatGPT e Bard.
A mando de proteção de dados da Polónia também confirmou mês passado que está investigando uma reclamação contra o ChatGPT.
