Para dar às mulheres acadêmicas e outras pessoas focadas em IA o merecido – e devido – tempo de destaque, o TechCrunch está lançando um série de entrevistas focando em mulheres notáveis que contribuíram para a revolução da IA. Publicaremos vários artigos ao longo do ano à medida que o boom da IA continua, destacando trabalhos importantes que muitas vezes passam despercebidos. Leia mais perfis aqui.
Rashida Richardson é consultora sênior da Mastercard, onde sua competência reside em questões jurídicas relacionadas à privacidade e proteção de dados, além de IA.
Anteriormente diretor de pesquisa política do AI Now Institute, o instituto de pesquisa que estuda as implicações sociais da IA, e consultor político sênior para dados e democracia no Escritório de Política Científica e Tecnológica da Casa Branca, Richardson foi professor assistente de direito e ciências políticas na Northeastern University desde 2021. Lá, ela se especializou em raça e tecnologias emergentes.
Rashida Richardson, conselheira sênior de IA da Mastercard
Resumidamente, como você começou na IA? O que te atraiu para a área?
Minha experiência é como advogado de direitos civis, onde trabalhei em uma série de questões, incluindo privacidade, vigilância, dessegregação escolar, habitação justa e reforma da justiça criminal. Enquanto trabalhava nessas questões, testemunhei os estágios iniciais da adoção e experimentação governamental de tecnologias baseadas em IA. Em alguns casos, os riscos e preocupações eram evidentes e ajudei a liderar uma série de esforços de política tecnológica no Estado e na cidade de Nova Iorque para criar maior supervisão, avaliação ou outras salvaguardas. Noutros casos, fui inerentemente céptico em relação aos benefícios ou às alegações de eficácia das soluções relacionadas com a IA, especialmente aquelas comercializadas para resolver ou mitigar problemas estruturais como a dessegregação escolar ou habitação justa.
Minha experiência anterior também me deixou hiperconsciente das lacunas políticas e regulatórias existentes. Rapidamente percebi que havia poucas pessoas no espaço da IA com a minha formação e experiência, ou oferecendo a análise e potenciais intervenções que eu estava desenvolvendo na minha defesa de políticas e no meu trabalho acadêmico. Então percebi que este era um campo e espaço onde eu poderia fazer contribuições significativas e também desenvolver minha experiência anterior de maneiras únicas.
Decidi concentrar a minha prática jurídica e o meu trabalho académico na IA, especificamente em questões políticas e jurídicas relativas ao seu desenvolvimento e utilização.
De qual trabalho você mais se orgulha na área de IA?
Estou feliz por a questão estar finalmente a receber mais atenção de todas as partes interessadas, mas especialmente dos decisores políticos. Há uma longa história nos Estados Unidos de a lei tentar se atualizar ou nunca abordar adequadamente as questões de política tecnológica, e há cinco ou seis anos, parecia que esse poderia ser o destino da IA, porque me lembro de ter interagido com os formuladores de políticas, tanto em ambientes formais, como audiências no Senado dos EUA ou fóruns educacionais, e a maioria dos legisladores tratou a questão como misteriosa ou algo que não exigia urgência, apesar da rápida adoção da IA em todos os setores. No entanto, no último ano, houve uma mudança significativa de tal forma que a IA é uma característica constante do discurso público e os decisores políticos apreciam melhor os riscos e a necessidade de uma acção informada. Penso também que as partes interessadas de todos os sectores, incluindo a indústria, reconhecem que a IA apresenta benefícios e riscos únicos que podem não ser resolvidos através de práticas convencionais, pelo que há mais reconhecimento — ou pelo menos apreciação — pelas intervenções políticas.
Como você enfrenta os desafios da indústria de tecnologia dominada pelos homens e, por extensão, da indústria de IA dominada pelos homens?
Como mulher negra, estou habituada a ser uma minoria em muitos espaços e, embora as indústrias da IA e da tecnologia sejam campos extremamente homogéneos, não são novas ou tão diferentes de outros campos de imenso poder e riqueza, como as finanças e a economia. profissão legalizada. Portanto, acho que meu trabalho anterior e minha experiência vivida ajudaram a me preparar para esse setor, porque estou hiperconsciente dos preconceitos que posso ter que superar e das dinâmicas desafiadoras que provavelmente encontrarei. Confio na minha experiência para navegar, porque tenho uma formação e uma perspectiva únicas, tendo trabalhado com IA em todos os setores – academia, indústria, governo e sociedade civil.
Quais são alguns problemas dos quais os usuários de IA devem estar cientes?
Duas questões principais das quais os usuários de IA devem estar cientes são: (1) maior compreensão das capacidades e limitações de diferentes aplicações e modelos de IA e (2) como há uma grande incerteza em relação à capacidade das leis atuais e futuras de resolver conflitos ou certas preocupações. em relação ao uso de IA.
Quanto ao primeiro ponto, existe um desequilíbrio no discurso público e na compreensão relativamente aos benefícios e potencial das aplicações de IA e às suas reais capacidades e limitações. Este problema é agravado pelo facto de os utilizadores de IA poderem não apreciar a diferença entre aplicações e modelos de IA. A consciência pública sobre a IA cresceu com o lançamento de Bate-papoGPT e outros sistemas generativos de IA disponíveis comercialmente, mas esses modelos de IA são distintos de outros tipos de modelos de IA com os quais os consumidores se envolvem há anos, como sistemas de recomendação. Quando a conversa sobre IA é confusa – onde a tecnologia é tratada como monolítica – tende a distorcer a compreensão pública sobre o que cada tipo de aplicação ou modelo pode realmente fazer, e os riscos associados às suas limitações ou deficiências.
Quanto ao segundo ponto, a legislação e a política relativas ao desenvolvimento e utilização da IA estão a evoluir. Embora exista uma variedade de leis (por exemplo, direitos civis, protecção do consumidor, concorrência, empréstimos justos) que já se aplicam à utilização da IA, estamos nas fases iniciais de ver como estas leis serão aplicadas e interpretadas. Também estamos nos estágios iniciais do desenvolvimento de políticas especificamente adaptadas para IA – mas o que percebi tanto na prática jurídica quanto em minha pesquisa é que há áreas que permanecem sem solução por essa colcha de retalhos jurídica e só serão resolvidas quando houver mais litígios envolvendo desenvolvimento e uso de IA. Geralmente, não creio que haja uma grande compreensão do estado atual da lei e da IA, e como a incerteza jurídica em relação a questões-chave como a responsabilidade pode significar que certos riscos, danos e disputas podem permanecer sem solução até anos de litígio entre empresas ou entre reguladores. e as empresas produzem precedentes legais que podem fornecer alguma clareza.
Qual é a melhor maneira de construir IA com responsabilidade?
O desafio de construir IA de forma responsável é que muitos dos pilares subjacentes da IA responsável, como a justiça e a segurança, baseiam-se em valores normativos — dos quais não existem definições partilhadas ou compreensão destes conceitos. Assim, pode-se presumidamente agir de forma responsável e ainda assim causar danos, ou pode-se agir maliciosamente e confiar no facto de não existirem normas partilhadas destes conceitos para reivindicar uma acção de boa-fé. Até que existam normas globais ou algum quadro partilhado sobre o que se pretende construir de forma responsável na IA, a melhor forma de alcançar este objetivo é ter princípios, políticas, orientações e normas claras para o desenvolvimento e utilização responsável da IA, que sejam aplicados através de supervisão interna. benchmarking e outras práticas de governança.
Como podem os investidores promover melhor uma IA responsável?
Os investidores podem fazer um trabalho melhor ao definir ou pelo menos esclarecer o que constitui o desenvolvimento ou utilização responsável da IA, e tomar medidas quando as práticas dos intervenientes na IA não estiverem alinhadas. Atualmente, IA “responsável” ou “confiável” são efetivamente termos de marketing porque não existem padrões claros para avaliar as práticas dos atores de IA. Embora algumas regulamentações emergentes, como a Lei da UE sobre IA estabelecerá alguns requisitos de governação e supervisão, ainda existem áreas onde os intervenientes na IA podem ser incentivados pelos investidores a desenvolver melhores práticas que centrem os valores humanos ou o bem social. Contudo, se os investidores não estiverem dispostos a agir quando houver desalinhamento ou evidência de maus intervenientes, então haverá pouco incentivo para ajustar comportamentos ou práticas.
