Posts Recentes:

Legisladores da UE fecham acordo noturno sobre regras de IA 'global first'


Depois da maratona de conversações “finais” que se estenderam por quase três dias, os legisladores da União Europeia fecharam esta noite um acordo político sobre uma estrutura baseada no risco para regular a inteligência artificial. O arquivo foi originalmente proposto em abril de 2021, mas foram necessários meses de negociações complicadas entre três partes para que um acordo ultrapassasse os limites. Este desenvolvimento significa que uma lei pan-UE sobre IA está definitivamente a caminho.

Dando uma conferência de imprensa triunfante, mas exaustiva, na madrugada de sexta-feira à noite/sábado de manhã, hora local, os principais representantes do Parlamento Europeu, do Conselho e da Comissão – os co-legisladores do bloco – saudaram o acordo como uma conquista árdua, um marco histórico e histórico, respectivamente.

Levando para X para twittar a notíciaa presidente da UE, Ursula von der Leyen – que fez da elaboração de uma lei sobre IA uma prioridade fundamental do seu mandato quando assumiu o cargo no final de 2019 – também elogiou o acordo político como uma “inovação global”.

Todos os detalhes do que foi acordado não serão totalmente confirmados até que um texto final seja compilado e tornado público, o que pode levar algumas semanas. Mas um Comunicado de imprensa divulgado pelo Parlamento Europeu confirma que o acordo alcançado com o Conselho inclui uma proibição total da utilização de IA para:

  • sistemas de categorização biométrica que utilizam características sensíveis (por exemplo, crenças políticas, religiosas, filosóficas, orientação sexual, raça);
  • extração não direcionada de imagens faciais da Internet ou imagens de CCTV para criar bancos de dados de reconhecimento facial;
  • reconhecimento de emoções no local de trabalho e nas instituições de ensino;
  • pontuação social baseada no comportamento social ou características pessoais;
  • Sistemas de IA que manipulam o comportamento humano para contornar o seu livre arbítrio;
  • A IA é utilizada para explorar as vulnerabilidades das pessoas (devido à sua idade, deficiência, situação social ou económica).

O uso de tecnologia de identificação biométrica remota em locais públicos pelas autoridades policiais não foi completamente proibido – mas o parlamento disse que os negociadores concordaram com uma série de salvaguardas e exceções restritas para limitar o uso de tecnologias como o reconhecimento facial. Isto inclui a exigência de autorização judicial prévia – e com usos limitados a listas de crimes “estritamente definidas”.

O uso retrospectivo (não em tempo real) de IAs de identificação biométrica remota será limitado à “busca direcionada de uma pessoa condenada ou suspeita de ter cometido um crime grave”. Embora o uso em tempo real desta tecnologia intrusiva de IA seja limitado em tempo e localização, e só pode ser usado para os seguintes propósitos:

  • buscas direcionadas de vítimas (sequestro, tráfico, exploração sexual),
  • prevenção de uma ameaça terrorista específica e atual, ou
  • a localização ou identificação de uma pessoa suspeita de ter cometido um dos crimes específicos mencionados no regulamento (por exemplo, terrorismo, tráfico, exploração sexual, homicídio, rapto, violação, assalto à mão armada, participação numa organização criminosa, crime ambiental).

O pacote acordado também inclui obrigações para sistemas de IA classificados como de “alto risco” devido a terem “danos potenciais significativos para a saúde, a segurança, os direitos fundamentais, o ambiente, a democracia e o Estado de direito”.

“Os eurodeputados conseguiram incluir com sucesso uma avaliação obrigatória do impacto nos direitos fundamentais, entre outros requisitos, aplicáveis ​​também aos setores segurador e bancário. Os sistemas de IA utilizados para influenciar o resultado das eleições e o comportamento dos eleitores também são classificados como de alto risco”, escreveu o parlamento. “Os cidadãos terão o direito de apresentar reclamações sobre sistemas de IA e receber explicações sobre decisões baseadas em sistemas de IA de alto risco que afetem os seus direitos.”

Houve também acordo sobre um sistema de proteção de “dois níveis” a ser aplicado a sistemas de IA “gerais”, como os chamados modelos fundamentais que sustentam o boom viral em aplicações de IA generativas como o ChatGPT.

Como informamos anteriormente o acordo alcançado sobre modelos fundamentais/IAs de uso geral (GPAIs) inclui alguns requisitos de transparência para o que os colegisladores chamam de IAs de “nível inferior” – o que significa que os criadores de modelos devem elaborar documentação técnica e produzir (e publicar) resumos detalhados sobre o conteúdo utilizados para formação, a fim de apoiar o cumprimento da legislação de direitos de autor da UE.

Para GPAIs de “alto impacto” (definidos como a quantidade cumulativa de computação usada para seu treinamento medida em operações de ponto flutuante é maior que 10^25) com o chamado “risco sistêmico”, existem obrigações mais rigorosas.

“Se estes modelos cumprirem determinados critérios, terão de realizar avaliações de modelos, avaliar e mitigar riscos sistémicos, realizar testes contraditórios, reportar à Comissão sobre incidentes graves, garantir a segurança cibernética e reportar sobre a sua eficiência energética”, escreveu o parlamento. “Os eurodeputados também insistiram que, até que as normas harmonizadas da UE sejam publicadas, os GPAI com risco sistémico podem basear-se em códigos de prática para cumprir o regulamento.”

A Comissão tem trabalhado com a indústria no um pacto provisório de IA por alguns meses – e confirmou hoje que o objetivo é colmatar a lacuna prática até que a Lei da IA ​​entre em vigor.

Embora os modelos/GPAIs fundamentais que foram comercializados enfrentem regulamentação sob a Lei, a P&D não se destina a estar no escopo da lei – e os modelos de código totalmente aberto terão requisitos regulatórios mais leves do que os de código fechado, de acordo com os pronunciamentos de hoje.

O pacote acordado também promove ambientes de teste regulamentares e testes em condições reais a serem estabelecidos pelas autoridades nacionais para apoiar startups e PME no desenvolvimento e formação de IA antes da colocação no mercado.

As sanções por incumprimento podem levar a multas que variam entre 35 milhões de euros ou 7% do volume de negócios global e 7,5 milhões de euros ou 1,5% do volume de negócios, dependendo da infração e da dimensão da empresa.

O acordo hoje acordado também permite uma entrada em vigor faseada após a adoção da lei – com seis meses permitidos até que as regras sobre casos de utilização proibidas entrem em vigor; 12 meses para requisitos de transparência e governação; e 24 meses para todos os outros requisitos. Portanto, toda a força da Lei da IA ​​da UE poderá não ser sentida até 2026.

Carme Artigas, secretária de Estado espanhola para questões digitais e de IA, que liderou as negociações do Conselho sobre o dossiê, uma vez que o país ocupa a presidência rotativa do Conselho desde o verão, saudou o acordo sobre o dossiê fortemente contestado como “o maior marco na história da informação digital na Europa”; tanto para o mercado único digital do bloco – mas também, sugeriu ela, “para o mundo”.

“Alcançamos a primeira regulamentação internacional para inteligência artificial no mundo”, anunciou ela durante uma conferência de imprensa após a meia-noite para confirmar o acordo político, acrescentando: “Estamos muito orgulhosos”.

A lei apoiará os promotores europeus, as startups e as futuras expansões, dando-lhes “segurança jurídica com segurança técnica”, previu ela.

Falando em nome do Parlamento Europeu, os co-relatores Dragoș Tudorache e Brando Benifei afirmaram que o seu objectivo era apresentar legislação sobre IA que garantisse o desenvolvimento do ecossistema com uma “abordagem centrada no ser humano” que respeite os direitos fundamentais e os valores europeus. A sua avaliação do resultado foi igualmente optimista – citando a inclusão no texto acordado de uma proibição total da utilização de IA para o policiamento preditivo e para a categorização biométrica como grandes vitórias.

“Finalmente entramos no caminho certo, defendendo os direitos fundamentais face à necessidade que existe para as nossas democracias suportarem mudanças tão incríveis”, disse Benifei. “Somos os primeiros no mundo a ter uma legislação horizontal que tenha esse direcionamento sobre os direitos fundamentais, que apoie o desenvolvimento da IA ​​no nosso continente, e que esteja atualizada até a fronteira da inteligência artificial com os modelos mais poderosos sob obrigação clara. Então acho que entregamos.”

“Sempre fomos questionados se há proteção suficiente, se há estímulo suficiente para a inovação neste texto, e posso dizer que esse equilíbrio está aí”, acrescentou Tudorache. “Temos salvaguardas, temos todas as disposições de que necessitamos, a reparação de que necessitamos para dar confiança aos nossos cidadãos na interação com a IA, nos produtos e nos serviços com os quais irão interagir a partir de agora.

“Temos agora de utilizar este modelo para procurar a convergência global porque este é um desafio global para todos. E acho que com o trabalho que fizemos, por mais difícil que tenha sido – e foi difícil, esta foi uma negociação maratona para todos os padrões, olhando para todos os precedentes até agora – mas acho que entregamos.”

O comissário do mercado interno da UE, Thierry Breton, também contribuiu com os seus dois cêntimos de euro – descrevendo o acordo alcançado pouco antes da meia-noite, hora de Bruxelas, como “histórico”. “É um pacote completo. É um negócio completo. E é por isso que passamos tanto tempo”, entoou. «Isto equilibra a segurança dos utilizadores e a inovação para as startups, respeitando ao mesmo tempo… os nossos direitos fundamentais e os nossos valores europeus.»

Apesar de a UE se ter congratulado muito visivelmente esta noite por garantir um acordo sobre regras de IA “pioneiras no mundo”, ainda não é o fim do caminho para o processo legislativo do bloco, uma vez que ainda há alguns passos formais a percorrer – nomeadamente o texto final enfrentará votações no parlamento e no Conselho para adotá-lo. Mas dada a quantidade de divisão e desacordo que tem havido sobre como (ou mesmo se) regular a IA, os maiores obstáculos foram desmantelados com este acordo político e o caminho para a aprovação da Lei da IA ​​da UE nos próximos meses parece claro.

A Comissão está certamente a projectar confiança. Segundo Breton, o trabalho para implementar o acordo começa imediatamente com a criação de um Gabinete de IA dentro do executivo da UE – que terá a função de coordenar com os órgãos de supervisão dos Estados-Membros que precisarão de aplicar as regras sobre as empresas de IA. “Acolheremos novos colegas… muitos deles”, disse ele. “Trabalharemos – a partir de amanhã – para nos prepararmos.”



Últimas

Assine

spot_img

Veja Também

spot_img

Mulheres na IA: Chinasa T. Okolo pesquisa o impacto da IA ​​no Sul Global

Para dar às mulheres acadêmicas e outras pessoas focadas em IA o merecido - e devido - tempo de destaque, o TechCrunch publicou...

ESA se prepara para a era pós-ISS, seleciona The Exploration Company, Thales Alenia para desenvolver espaçonaves de carga

A Agência Espacial Europeia selecionou duas empresas na quarta-feira para desenvolver projetos de uma espaçonave de carga que poderia estabelecer o primeiro acesso...