O Google está visando aplicativos generativos de IA potencialmente problemáticos com uma novidade política, a ser aplicada a partir do início do próximo ano, que exigirá que os desenvolvedores de aplicativos Android publicados em sua Play Store ofereçam a capacidade de denunciar ou sinalizar teor ofensivo gerado por IA. A novidade política insistirá que a sinalização e os relatórios podem ser feitos no aplicativo e os desenvolvedores devem usar o relatório para informar suas próprias abordagens de filtragem e moderação, diz a empresa.
A mudança na política segue uma explosão de aplicativos gerados por IA, alguns dos quais onde os usuários enganaram os aplicativos para fabricar imagens NSFW, como aconteceu com Lensa no ano passado. Outros, entretanto, têm questões mais sutis. Por exemplo, um aplicativo que se tornou viral neste verão por fotos de cabeça de IARemini, foi considerado aumentando muito o tamanho dos seios de algumas mulheres ou decote e afinando-os. Depois, houve os problemas mais recentes com as ferramentas de IA da Microsoft e da Meta, onde as pessoas encontraram maneiras de contornar as grades de proteção para fazer imagens porquê Sonic the Hedgehog grávidas ou personagens fictícios fazendo o 11 de setembro.
É evidente que existem preocupações ainda mais sérias em torno do uso de geradores de imagens de IA, uma vez que os pedófilos eram descoberto usando ferramentas de IA de código aberto para criar material de abuso sexual infantil (CSAM) em graduação. E com as próximas eleições, também existem preocupações quanto ao uso da IA para fabricar imagens falsas, também conhecidas porquê deepfakes, para enganar ou desinformar o público votante.
Créditos da imagem: Google
O texto da novidade política indica que exemplos de teor gerado por IA incluem “chatbots de IA generativos de conversação texto-para-texto, nos quais a interação com o chatbot é um recurso médio do aplicativo”, que abrange aplicativos porquê ChatGPT, muito porquê aplicativos onde as imagens são “geradas por IA com base em texto, imagem ou comandos de voz”.
O Google, em seu anúnciolembrou aos desenvolvedores que todos os aplicativos, incluindo geradores de teor de IA, devem executar as políticas de desenvolvedor existentes, que proíbem restrito teor porquê CSAM e outros que permitir comportamento enganoso.
Além de modificar sua política para reprimir aplicativos de teor de IA, o Google diz que algumas permissões de aplicativos também receberão uma revisão suplementar pela equipe do Google Play, incluindo aqueles aplicativos que solicitam permissões amplas de fotos e vídeos. De convenção com a novidade política, os aplicativos só poderão acessar fotos e vídeos se isso estiver diretamente relacionado à sua funcionalidade. Se eles tiverem uma urgência única ou pouco frequente – porquê aplicativos de IA que pedem aos usuários para fazer upload de um conjunto de selfies, talvez – os aplicativos precisam usar um seletor de sistema, porquê o novo Seletor de fotos Android.
Créditos da imagem: Google
A novidade política também limitará notificações perturbadoras em tela enxurrada somente aos momentos em que houver uma urgência de subida prioridade. A capacidade de exibir notificações em tela enxurrada tem sido abusada por muitos aplicativos na tentativa de vender aos usuários assinaturas pagas ou outras ofertas, quando na verdade a funcionalidade deveria ser limitada a casos de uso prioritários do mundo real, porquê receber uma chamada telefônica ou vídeo invocar. O Google afirma que agora mudará as limitações e exigirá uma permissão peculiar de entrada ao aplicativo. Esta “permissão de intenção de tela inteira” só será concedida a aplicativos direcionados ao Android 14 e superior que realmente exijam a funcionalidade de tela inteira.
É surpreendente ver que o Google é o primeiro a lançar uma política sobre aplicativos de IA e chatbots, já que, historicamente, tem sido a Apple quem emite novas regras para reprimir o comportamento indesejado de aplicativos, que o Google logo imita. Mas a maçã não tem uma política formal de IA ou chatbot em suas Diretrizes da App Store até o momento, embora tenha sido mais rígido em outras áreas, como solicitações de dados de aplicativos com a finalidade de identificar o usuário ou dispositivoum método divulgado porquê “sentimento do dedo”, muito porquê em aplicativos que tentam copiar outros.
As atualizações da política do Google Play estão sendo lançadas hoje, embora os desenvolvedores de aplicativos de IA tenham até o início de 2024 para implementar a sinalização e relatar alterações em seus aplicativos.
