Posts Recentes:

Amba Kak cria recomendações políticas para abordar preocupações de IA


Para dar às mulheres acadêmicas e outras pessoas focadas em IA o merecido – e devido – tempo de destaque, o TechCrunch está lançando um série de entrevistas focando em mulheres notáveis ​​que contribuíram para a revolução da IA. Publicaremos vários artigos ao longo do ano à medida que o boom da IA ​​continua, destacando trabalhos importantes que muitas vezes passam despercebidos. Leia mais perfis aqui.

Amba Kak é diretora executiva do AI Now Institute, onde ajuda a criar recomendações políticas para abordar questões de IA. Ela também foi consultora sênior de IA na Federal Trade Commission e anteriormente trabalhou como consultora de política global na Mozilla e consultora jurídica do regulador de telecomunicações da Índia sobre netralidade da rede.

Resumidamente, como você começou na IA? O que te atraiu para a área?

Não é uma questão simples porque “IA” é um termo que está em voga para descrever práticas e sistemas que têm evoluído há muito tempo; Trabalho em política tecnológica há mais de uma década e em várias partes do mundo e testemunhei quando tudo girava em torno de “big data” e então tudo passou a ser “IA”. Mas as questões centrais que nos preocupavam — como as tecnologias e as economias baseadas em dados impactam a sociedade — permanecem as mesmas.

Fui atraído por essas questões logo no início da faculdade de direito na Índia, onde, em meio a um mar de décadas, às vezes de precedentes centenários, achei motivador trabalhar em uma área onde as questões “pré-políticas”, as questões normativas sobre o que é o mundo que queremos? Qual o papel que a tecnologia deve desempenhar nisso? Permaneça aberto e contestável. Globalmente, na altura, o grande debate era se a Internet poderia ser regulamentada a nível nacional (o que agora parece muito óbvio, sim!), e na Índia, houve debates acalorados sobre se uma base de dados de identificação biométrica de toda a população estava criando um perigoso vetor de controle social. Face às narrativas de inevitabilidade em torno da IA ​​e da tecnologia, penso que a regulamentação e a defesa podem ser uma ferramenta poderosa para moldar as trajetórias da tecnologia para servir os interesses públicos, em vez dos resultados financeiros das empresas ou apenas dos interesses daqueles que detêm o poder na sociedade. . É claro que, ao longo dos anos, também aprendi que a regulamentação é muitas vezes inteiramente cooptada por estes interesses e pode muitas vezes funcionar para manter o status quo em vez de o desafiar. Então esse é o trabalho!

De qual trabalho você mais se orgulha (na área de IA)?

Nosso relatório de cenário de IA de 2023 foi lançado em abril em meio a um crescente burburinho sobre IA alimentado pelo chatGPT – era em parte um diagnóstico do que deveria nos manter acordados à noite sobre a economia da IA, em parte um manifesto voltado para a ação voltado para a comunidade mais ampla da sociedade civil . Chegou ao momento – um momento em que faltavam tanto o diagnóstico como o que fazer a respeito, e em seu lugar estavam narrativas sobre a onisciência e a inevitabilidade da IA. Ressaltamos que o boom da IA ​​estava consolidando ainda mais a concentração de poder dentro de uma seção muito restrita da indústria tecnológica, e acho que conseguimos superar o hype para reorientar a atenção para os impactos da IA ​​na sociedade e na economia… e não assumir qualquer um dos isso era inevitável.

No final do ano, conseguimos levar este argumento a uma sala repleta de líderes governamentais e altos executivos da IA ​​na Cimeira de Segurança da IA ​​do Reino Unido, onde fui uma das três únicas vozes da sociedade civil que representam o interesse público. Tem sido uma lição sobre como perceber o poder de uma contranarrativa convincente que redireciona a atenção quando é fácil se deixar levar por narrativas selecionadas e muitas vezes egoístas da indústria de tecnologia.

Também estou muito orgulhoso do trabalho que realizei durante meu mandato como Conselheiro Sênior da Comissão Federal de Comércio em IA, trabalhando em questões de tecnologia emergente e em algumas das principais ações de fiscalização nesse domínio. Era uma equipe incrível da qual fazer parte, e também aprendi a lição crucial de que mesmo uma pessoa na sala certa, na hora certa, pode realmente fazer a diferença ao influenciar a formulação de políticas.

Como você enfrenta os desafios da indústria de tecnologia dominada pelos homens e, por extensão, da indústria de IA dominada pelos homens?

A indústria tecnológica, e a IA em particular, continuam a ser esmagadoramente brancas e masculinas e geograficamente concentradas em bolhas urbanas muito ricas. Mas gosto de me afastar do problema do cara branco da IA, não apenas porque agora é bem conhecido, mas também porque às vezes pode criar a ilusão de soluções rápidas ou teatro de diversidade que por si só não resolverão as desigualdades estruturais e os desequilíbrios de poder incorporados na forma como a indústria de tecnologia opera atualmente. Não resolve o “solucionismo” profundamente enraizado que é responsável por muitas utilizações prejudiciais ou exploradoras da tecnologia.

A verdadeira questão que precisamos enfrentar é a criação de um pequeno grupo de empresas e, dentro delas, um punhado de indivíduos que acumularam acesso sem precedentes a capital, redes e poder, colhendo os frutos do modelo de negócios de vigilância que impulsionou o última década da internet. E essa concentração de poder tende a ficar muito, muito pior com a IA. Estes indivíduos agem com impunidade, apesar de as plataformas e infraestruturas que controlam terem enormes impactos sociais e económicos.

Como navegamos nisso? Expondo a dinâmica de poder que a indústria tecnológica tenta arduamente esconder. Falamos sobre os incentivos, as infra-estruturas, os mercados de trabalho e o ambiente que impulsionam estas ondas de tecnologia e moldam a direcção que irão tomar. Isto é o que temos feito na AI Now há quase uma década e, quando o fazemos bem, achamos difícil para os decisores políticos e o público desviar o olhar – criando contra-narrativas e imaginações alternativas para o papel apropriado da tecnologia dentro da sociedade.

Que conselho você daria às mulheres que desejam ingressar na área de IA?

Para as mulheres, mas também para outras identidades ou perspectivas minoritárias que procuram fazer críticas de fora da indústria da IA, o melhor conselho que posso dar é defender a sua posição. Este é um campo que rotineira e sistematicamente tentará desacreditar a crítica, especialmente quando ela vem de origens não tradicionalmente STEM – e é fácil de fazer, dado que a IA é uma indústria tão opaca que pode fazer você sentir que está sempre tentando empurrar de volta do lado de fora. Mesmo quando você está na área há décadas como eu, vozes poderosas na indústria tentarão minar você e sua crítica válida simplesmente porque você está desafiando o status quo.

Você e eu temos tanto a dizer sobre o futuro da IA ​​quanto Sam Altman, uma vez que as tecnologias impactarão a todos nós e potencialmente impactarão desproporcionalmente as pessoas de identidades minorizadas de maneiras prejudiciais. Neste momento, estamos numa luta para saber quem pode reivindicar conhecimentos e autoridade em questões de tecnologia dentro da sociedade… por isso precisamos realmente de reivindicar esse espaço e manter a nossa posição.

Últimas

Assine

spot_img

Veja Também

spot_img

Paul Graham afirma que Sam Altman não foi demitido da Y Combinator

Em um série de postagens no X na quinta-feira, Paul Graham, cofundador da aceleradora de startups Y Combinator, rejeitou as alegações de que...

A desinformação funciona, e um punhado de “supercompartilhadores” sociais enviou 80% dela em 2020

Dois estudos publicados quinta-feira na revista Science oferecem evidências não apenas de que a desinformação nas redes sociais muda as mentes, mas que...