Posts Recentes:

Google Workspace é turbinado com inteligência artificial

Durante o Next ’24, evento que aconteceu em...

Ai Pin lançado com integração do Google Fotos

A Humane está lançando o Ai Pin, um...

Google Chrome muda a forma de acessar Favoritos, Lista de Leitura e Histórico

Surfando na onda da personalização, o Google Chrome...

Mulheres na IA: Sandra Watcher, professora de ética de dados em Oxford


Para dar às mulheres acadêmicas e outras pessoas focadas em IA o merecido – e devido – tempo de destaque, o TechCrunch está lançando um série de entrevistas focando em mulheres notáveis ​​que contribuíram para a revolução da IA. Publicaremos vários artigos ao longo do ano à medida que o boom da IA ​​continua, destacando trabalhos importantes que muitas vezes passam despercebidos. Leia mais perfis aqui.

Sandra Wachter é professora e pesquisadora sênior em ética de dados, IA, robótica, algoritmos e regulamentação no Oxford Internet Institute. Ela também foi ex-bolsista do Alan Turing Institute, o instituto nacional de ciência de dados e IA do Reino Unido.

Enquanto estava no Turing Institute, Watcher avaliou os aspectos éticos e legais da ciência de dados, destacando casos em que algoritmos opacos se tornaram racistas e sexistas. Ela também analisou formas de auditar a IA para combater a desinformação e promover a justiça.

Perguntas e respostas

Resumidamente, como você começou na IA? O que te atraiu para a área?

Não me lembro de uma época da minha vida em que não pensasse que a inovação e a tecnologia tivessem um potencial incrível para melhorar a vida das pessoas. No entanto, também sei que a tecnologia pode ter consequências devastadoras na vida das pessoas. E por isso sempre fui motivado – principalmente devido ao meu forte senso de justiça – a encontrar uma maneira de garantir esse meio-termo perfeito. Permitir a inovação ao mesmo tempo que protege os direitos humanos.

Sempre senti que o direito tem um papel muito importante a desempenhar. A lei pode ser aquele meio-termo que permite proteger as pessoas, mas permite a inovação. O direito como disciplina surgiu muito naturalmente para mim. Gosto de desafios, gosto de entender como funciona um sistema, de ver como posso jogá-lo, encontrar brechas e posteriormente fechá-las.

A IA é uma força incrivelmente transformadora. É implementado em finanças, emprego, justiça criminal, imigração, saúde e arte. Isso pode ser bom e ruim. E se isso é bom ou ruim é uma questão de design e de política. Senti-me naturalmente atraído por esta iniciativa porque senti que a lei pode dar um contributo significativo para garantir que a inovação beneficie o maior número de pessoas possível.

De qual trabalho você mais se orgulha (na área de IA)?

Acho que o trabalho do qual mais me orgulho atualmente é um artigo em coautoria com Brent Mittelstadt (um filósofo), Chris Russell (um cientista da computação) e eu como advogado.

Nosso último trabalho sobre preconceito e justiça, “A injustiça do aprendizado de máquina justo”, revelou o impacto prejudicial da aplicação de muitas medidas de “justiça de grupo” na prática. Especificamente, a justiça é alcançada através do “nivelamento por baixo”, ou piorando a situação de todos, em vez de ajudar os grupos desfavorecidos. Esta abordagem é muito problemática no contexto da legislação antidiscriminação da UE e do Reino Unido, além de ser eticamente preocupante. Em um peça em Wired discutimos como o nivelamento por baixo pode ser prejudicial na prática – na saúde, por exemplo, impor a justiça do grupo pode significar perder mais casos de câncer do que o estritamente necessário, ao mesmo tempo que torna o sistema menos preciso em geral.

Para nós, isso foi assustador e algo que é importante saber para as pessoas da área de tecnologia, política e, na verdade, para todos os seres humanos. Na verdade, colaboramos com os reguladores do Reino Unido e da UE e partilhámos com eles os nossos resultados alarmantes. Espero profundamente que isto dê aos decisores políticos a alavancagem necessária para implementar novas políticas que impeçam a IA de causar danos tão graves.

Como você enfrenta os desafios da indústria de tecnologia dominada pelos homens e, por extensão, da indústria de IA dominada pelos homens

O interessante é que nunca vi a tecnologia como algo que “pertence” ao homem. Foi só quando comecei a escola que a sociedade me disse que a tecnologia não tem espaço para pessoas como eu. Ainda me lembro que quando eu tinha 10 anos o currículo determinava que as meninas tivessem que fazer tricô e costura enquanto os meninos construíam casinhas de passarinho. Eu também queria construir uma casa de passarinho e pedi para ser transferido para a turma dos meninos, mas meus professores me disseram que “as meninas não fazem isso”. Cheguei até a procurar o diretor da escola tentando reverter a decisão, mas infelizmente não consegui naquele momento.

É muito difícil lutar contra um estereótipo que diz que você não deveria fazer parte desta comunidade. Eu gostaria de poder dizer que coisas assim não acontecem mais, mas infelizmente isso não é verdade.

No entanto, tive muita sorte de trabalhar com aliados como Brent Mittelstadt e Chris Russell. Tive o privilégio de mentores incríveis, como meu Ph.D. supervisor e eu temos uma rede crescente de pessoas de todos os gêneros com ideias semelhantes que estão fazendo o melhor que podem para orientar o caminho a seguir e melhorar a situação de todos os interessados ​​em tecnologia.

Que conselho você daria às mulheres que desejam ingressar na área de IA?

Acima de tudo, tente encontrar pessoas e aliados que pensam como você. Encontrar seu pessoal e apoiar uns aos outros é crucial. Meu trabalho mais impactante sempre resultou de conversas com pessoas de mente aberta, de outras origens e disciplinas, para resolver problemas comuns que enfrentamos. A sabedoria aceite por si só não pode resolver novos problemas, por isso as mulheres e outros grupos que historicamente enfrentaram barreiras à entrada na IA e noutros campos tecnológicos detêm as ferramentas para realmente inovar e oferecer algo novo.

Quais são algumas das questões mais urgentes que a IA enfrenta à medida que ela evolui?

Penso que há uma vasta gama de questões que necessitam de séria consideração jurídica e política. Para citar alguns, a IA é atormentada por dados tendenciosos que levam a resultados discriminatórios e injustos. A IA é inerentemente opaca e difícil de compreender, mas tem a tarefa de decidir quem recebe um empréstimo, quem consegue o emprego, quem tem de ir para a prisão e quem tem permissão para ir para a universidade.

A IA generativa tem problemas relacionados, mas também contribui para a desinformação, está repleta de alucinações, viola a protecção de dados e os direitos de propriedade intelectual, coloca os empregos das pessoas em risco e contribui mais para as alterações climáticas do que a indústria da aviação.

Não temos tempo a perder; precisamos ter abordado essas questões ontem.

Quais são alguns problemas dos quais os usuários de IA devem estar cientes?

Acho que há uma tendência a acreditar em uma certa narrativa do tipo “A IA está aqui e veio para ficar, embarcar ou ser deixada para trás”. Penso que é importante pensar em quem está a promover esta narrativa e quem lucra com ela. É importante lembrar onde reside o verdadeiro poder. O poder não está com quem inova, está com quem compra e implementa IA.

Portanto, os consumidores e as empresas devem perguntar-se: “Esta tecnologia ajuda-me realmente e em que sentido?” As escovas de dente elétricas agora possuem “IA” incorporada. Para quem é isso? Quem precisa disso? O que está sendo melhorado aqui?

Em outras palavras, pergunte-se o que está quebrado e o que precisa ser consertado e se a IA pode realmente consertar.

Este tipo de pensamento mudará o poder de mercado e a inovação irá, esperançosamente, orientar-se para uma direcção que se concentre na utilidade para uma comunidade e não simplesmente no lucro.

Qual é a melhor maneira de construir IA com responsabilidade?

Ter leis em vigor que exijam IA responsável. Também aqui tende a dominar uma narrativa muito inútil e falsa: a de que a regulamentação sufoca a inovação. Isso não é verdade. Regulamento sufoca prejudicial inovação. Boas leis promovem e nutrem a inovação ética; é por isso que temos carros, aviões, trens e pontes seguros. A sociedade não perde se a regulamentação impedir a
criação de IA que viola os direitos humanos.

As regulamentações de trânsito e segurança para automóveis também “sufocam a inovação” e “limitam a autonomia”. Essas leis impedem que pessoas dirijam sem habilitação, impedem a entrada no mercado de carros que não possuem cintos de segurança e airbags e punem quem não dirige dentro do limite de velocidade. Imagine como seria o histórico de segurança da indústria automotiva se não tivéssemos leis para regular veículos e motoristas. A IA está atualmente num ponto de inflexão semelhante, e o forte lobby da indústria e a pressão política significam que ainda não está claro qual o caminho que irá seguir.

Como podem os investidores promover melhor uma IA responsável?

Escrevi um artigo há alguns anos chamado “Como a IA justa pode nos tornar mais ricos.” Acredito profundamente que a IA que respeita os direitos humanos e é imparcial, explicável e sustentável não é apenas a coisa legal, ética e moralmente certa a fazer, mas também pode ser lucrativa.

Espero realmente que os investidores compreendam que, se promoverem investigação e inovação responsáveis, também obterão produtos melhores. Dados ruins, algoritmos ruins e escolhas de design ruins levam a produtos piores. Mesmo que eu não consiga convencê-lo de que você deve fazer a coisa ética porque é a coisa certa a fazer, espero que você veja que a coisa ética também é mais lucrativa. A ética deve ser vista como um investimento e não como um obstáculo a superar.

Últimas

Google Workspace é turbinado com inteligência artificial

Durante o Next ’24, evento que aconteceu em...

Ai Pin lançado com integração do Google Fotos

A Humane está lançando o Ai Pin, um...

Google Chrome muda a forma de acessar Favoritos, Lista de Leitura e Histórico

Surfando na onda da personalização, o Google Chrome...

IA da Samsung chegará ao Galaxy S21 e outros modelos em breve

Depois de lançar seus novos recursos de inteligência...

Assine

spot_img

Veja Também

Google Workspace é turbinado com inteligência artificial

Durante o Next ’24, evento que aconteceu em...

Ai Pin lançado com integração do Google Fotos

A Humane está lançando o Ai Pin, um...

Google Chrome muda a forma de acessar Favoritos, Lista de Leitura e Histórico

Surfando na onda da personalização, o Google Chrome...

IA da Samsung chegará ao Galaxy S21 e outros modelos em breve

Depois de lançar seus novos recursos de inteligência...

Gmail prepara ‘Assinaturas’ para dar fim à bagunça na caixa de entrada

Cansado de ter a caixa de entrada do...
spot_img

Google Workspace é turbinado com inteligência artificial

Durante o Next ’24, evento que aconteceu em Las Vegas, Estados Unidos, o Google Workspace trouxe novidades interessantes para quem usa as ferramentas...

Ai Pin lançado com integração do Google Fotos

A Humane está lançando o Ai Pin, um dispositivo vestível que promete ser o seu assistente pessoal discreto e cheio de recursos incríveis....

Google Chrome muda a forma de acessar Favoritos, Lista de Leitura e Histórico

Surfando na onda da personalização, o Google Chrome está mudando a forma como acessamos funções como Favoritos, Lista de Leitura e Histórico....