Posts Recentes:

SoftBank adquire fabricante de chips de IA do Reino Unido Graphcore

Empresa de chips do Reino Unido Gráficooré foi...

Pesquisadores do Google alertam que a IA está destruindo a internet

Um estudo feito por pesquisadores do Google aponta...

Google Play reprime aplicativos de IA após circulação de aplicativos para fazer nus deepfake


O Google está emitindo na quinta-feira novas orientações para desenvolvedores que criam aplicativos de IA distribuídos por meio do Google Play, na esperança de reduzir conteúdo impróprio e de outra forma proibido. A empresa afirma que os aplicativos que oferecem recursos de IA terão que impedir a geração de conteúdo restrito – que inclui conteúdo sexual, violência e muito mais – e oferecer uma maneira para os usuários sinalizarem o conteúdo ofensivo que encontrarem. Além disso, o Google diz que os desenvolvedores precisam “testar rigorosamente” suas ferramentas e modelos de IA, para garantir que respeitem a segurança e a privacidade do usuário.

Também está reprimindo aplicativos cujos materiais de marketing promovem casos de uso inadequados, como aplicativos que despem pessoas ou criam imagens de nudez não consensuais. Se o texto do anúncio disser que o aplicativo é capaz de fazer esse tipo de coisa, ele poderá ser banido do Google Play, independentemente de o aplicativo ser realmente capaz de fazer isso ou não.

As diretrizes seguem um flagelo crescente de aplicativos de despir de IA que têm se comercializado nas redes sociais nos últimos meses. Um relatório de abril da 404 Media, por exemplo, descobriu que o Instagram hospedava anúncios para aplicativos que alegavam usar IA para gerar nudes deepfake. Um aplicativo se comercializou usando uma foto de Kim Kardashian e o slogan “Tire a roupa de qualquer garota de graça”. A Apple e o Google retiraram os aplicativos de suas respectivas lojas de aplicativos, mas o problema ainda é generalizado.

Escolas em todos os EUA estão relatando problemas com estudantes passagem em volta AI deepfake nus de outros alunos (e às vezes professores) por intimidação e assédio, juntamente com outros tipos de google.com/googleplay/android-developer/answer/9878810?sjid=7620414853943169535-NC" rel="noreferrer noopener">inapropriado Conteúdo de IA. No mês passado, um deepfake racista de IA de um diretor de escola levou para uma prisão em Baltimore. Pior ainda, o problema é mesmo afetando alunos do ensino médioem alguns casos.

O Google afirma que suas políticas ajudarão a impedir a entrada de aplicativos do Google Play que apresentem conteúdo gerado por IA que pode ser impróprio ou prejudicial aos usuários. Ele aponta para sua Política de Conteúdo Gerado por IA existente como um local para verificar seus requisitos para aprovação de aplicativos no Google Play. A empresa afirma que os aplicativos de IA não podem permitir a geração de qualquer conteúdo restrito e também devem fornecer aos usuários uma maneira de google.com/googleplay/android-developer/answer/13985936#:~:text=Apps%20that%20generate%20content%20using%20AI%20must%20contain%20in%2Dapp%20user%20reporting%20or%20flagging%20features%20that%20allow%20users%20to%20report%20or%20flag%20offensive%20content%20to%20developers%20without%20needing%20to%20exit%20the%20app.%20Developers%20should%20utilize%20user%20reports%20to%20inform%20content%20filtering%20and%20moderation%20in%20their%20apps." rel="noopener">sinalizar conteúdo ofensivo e impróprio, bem como monitorar e priorizar esse feedback. Este último é particularmente importante em aplicativos onde as interações dos usuários “moldam o conteúdo e a experiência”, diz o Google, como aplicativos onde modelos populares obtêm classificações mais altas ou de maior destaque, talvez.

Os desenvolvedores também não podem anunciar que seu aplicativo viola alguma regra do Google Play, de acordo com o Google Play. google.com/googleplay/android-developer/answer/9899004#zippy=%2Cexamples-of-common-violations" rel="noreferrer noopener">Requisitos de promoção de aplicativos. Se anunciar um caso de uso inadequado, o aplicativo poderá ser inicializado na app store.

Além disso, os desenvolvedores são responsáveis ​​por proteger seus aplicativos contra solicitações que possam manipular seus recursos de IA para criar conteúdo prejudicial e ofensivo. O Google diz que os desenvolvedores podem usar seu google.com/console/about/closed-testing/" rel="noreferrer noopener">teste fechado recurso para compartilhar versões anteriores de seus aplicativos com os usuários para obter feedback. A empresa sugere fortemente que os desenvolvedores não apenas testem antes do lançamento, mas também documentem esses testes, já que o Google pode solicitar uma revisão no futuro.

A empresa também está publicando outros recursos e melhores práticas, como seu Guia Pessoas + IAque visa apoiar desenvolvedores na criação de aplicativos de IA.

Últimas

Câmeras Waymo capturam imagens de pessoa acusada de supostos cortes de pneus de robotaxi

Um morador de Castro Valley foi acusado na...

SoftBank adquire fabricante de chips de IA do Reino Unido Graphcore

Empresa de chips do Reino Unido Gráficooré foi...

Pesquisadores do Google alertam que a IA está destruindo a internet

Um estudo feito por pesquisadores do Google aponta...

César Lattes, físico e professor brasileiro, é homenageado no Google

Hoje, o Google celebra com um Doodle animado...

Assine

spot_img

Veja Também

Câmeras Waymo capturam imagens de pessoa acusada de supostos cortes de pneus de robotaxi

Um morador de Castro Valley foi acusado na...

SoftBank adquire fabricante de chips de IA do Reino Unido Graphcore

Empresa de chips do Reino Unido Gráficooré foi...

Pesquisadores do Google alertam que a IA está destruindo a internet

Um estudo feito por pesquisadores do Google aponta...

César Lattes, físico e professor brasileiro, é homenageado no Google

Hoje, o Google celebra com um Doodle animado...

O WhatsApp agora permite que empresas enviem códigos de autenticação para usuários na Índia

O WhatsApp agora permite que empresas enviem códigos...
spot_img

Câmeras Waymo capturam imagens de pessoa acusada de supostos cortes de pneus de robotaxi

Um morador de Castro Valley foi acusado na quinta-feira por supostamente cortar os pneus de 17 robotaxis Waymo em São Francisco entre 24...

SoftBank adquire fabricante de chips de IA do Reino Unido Graphcore

Empresa de chips do Reino Unido Gráficooré foi formalmente adquirida pelo SoftBank do Japão.Rumores do acordo abundam há algum tempomas negociações prolongadas e...

Pesquisadores do Google alertam que a IA está destruindo a internet

Um estudo feito por pesquisadores do Google aponta que a IA generativa, a mesma que a gigante de Mountain View está super incentivando,...